Come ottengo l'ID record del record con la data minima per ciascuna chiave esterna?

Uno dei modi per farlo è

select A.ForeignKeyID, R.recordID
from (select distinct t.ForeignKeyID from table as t) as A
    outer apply
    (
        select top 1 t.recordID
        from table as t where t.ForeignKeyID = A.ForeignKeyID
        order by t.createdDate asc
    ) as R

ESEMPIO SQL FIDDLE

Un altro modo per farlo è

select top 1 with ties
    t.recordID, t.ForeignKeyID
from table as t
order by row_number() over (partition by t.ForeignKeyID order by t.createdDate)

ESEMPIO SQL FIDDLE

E in un altro modo

select A.recordID, A.ForeignKeyID
from
(
    select
        t.recordID, t.ForeignKeyID,
        row_number() over (partition by t.ForeignKeyID order by t.createdDate) as RowNum
    from table1 as t
) as A
where A.RowNum = 1

ESEMPIO SQL FIDDLE

Mi piace il secondo più degli altri per la brevità del codice