Klub byl založen v roce 1895 jako Pine Villa Football Club, ale v roce 1899 se přejmenoval na současný název. Téměř okamžitě se Oldham stal profesionálním týmem a v roce 1907 vstoupil do fotbalové ligy. Po problémech v období mezi první a druhou světovou válkou se v roce 1969 stabilizoval - tehdy jej převzal legendární manažer Jimmy Frizzell. Pod Frizzellovým vedením klub vyhrál 200 z 544 soutěžních zápasů a dvakrát postoupil do vyšší soutěže.
Po jeho odchodu v létě 1982 převzal vedení klubu Joe Royle, který v té době opět zažil úspěšné období. Pod Roylem klub vyhrál 225 zápasů z 608 - o něco vyšší procento vítězství než za Frizzella. Na začátku 90. let se Oldham pod Roylem dostal do semifinále FA Cupu a do finále Football League Cupu, pokaždé však prohrál. V sezóně 1990-91 však klub vyhrál Football League Second Division a poprvé po více než 70 letech postoupil do First Division. V sezóně 1992-93 patřil Oldham do skupiny 24 týmů, které byly zakládajícími členy Premier League - nejvyšší anglické fotbalové divize. Po Royleově odchodu do Evertonu F.C. , se Oldham potýkal s problémy a během čtyř sezón dvakrát sestoupil.
Na začátku roku 2000 Oldham Athletic téměř zkrachoval. Podnikatel Chris Moore se rozhodl klub koupit a slíbil, že se do pěti let vrátí do Premier League. Ještě v téže sezóně však z klubu odešel, což za sebou zanechalo i velké dluhy a slabý tým. V roce 2004 však klub koupil jiný podnikatel, který jej zachránil před likvidací. V sezóně 2006-07 pod vedením současného manažera Johna Sheridana Oldham málem postoupil do Football Championship, ale prohrál v semifinále play-off.