FW de Klerk se narodil v roce 1936 v Johannesburgu. Je synem Johannese de Klerka (1903-1979) a Hendriny Cornelie de Klerk (1904-2001), která zemřela jen čtyři měsíce před smrtí jeho bývalé dcery Marike Willemse, a bratrem Wimpieho de Klerka (1928-2009). Jeho rodina, jejíž jméno pochází z francouzského příjmení "Le Clerc", "Le Clercq" nebo "de Clercq", je hugenotského původu. V zemi se usadil v roce 1686, několik měsíců po zrušení nantského ediktu, a podílel se na různých událostech v dějinách Afrikánců. Jejich předkové se účastnili Velkého tažení vlakem, který vedl Piet Retief, aby se zbavili britské nadvlády. V roce 1838 byli spolu s Retiefem zabiti také tři členové rodiny Klerků v kraji krále Zuluů v Dingane. Později, během druhé búrské války (1899-1902), byl Klerkův dědeček FW dvakrát zajat Brity, než se v roce 1914 stal spolu s Jamesem Barrym Hertzogem zakládajícím členem Národní strany. Podle genealoga Keitha Meintjiese a potvrzeného FW od Klerka je tento také ve shodě s Krotoou (Evou), ženou Khoi, která sloužila jako tlumočnice nizozemským kolonistům při zakládání kolonie Hlava.
Člen reformované holandské církve, FW Klerk, je nejmladší syn, Jan Klerk, vedoucí školy a ministr s různými portfolii (1954-1969) a předseda Senátu (1969-1976), synovec JG Strijdom, hlava jihoafrické vlády 1954 až 1958. Jeho starší bratr Wimpie de Klerk je politický analytik a spoluzakladatel Demokratické strany v roce 1989.
Střední škola v Krugersdorpu, předměstí Johannesburgu, FW by Klerk má titul s vyznamenáním na univerzitě v Potchefstroomu v roce 1958. V roce 1959 se oženil s Marike Willemseovou (1937-2001), s níž vychová tři adoptované děti ). Manželé F. W. a Marike de Klerk se rozvedli v roce 1998.
Během vysokoškolských studií vstoupil do Národní strany a stal se členem Broderbondu.
Právník z Vereenigingu na jihu Transvaalu odmítl v roce 1972 místo veřejného právníka na univerzitě v Potchefstroomu a kandidoval ve všeobecných volbách.