Podrobnosti o objevení ostrova Gough jsou nejasné, ale nejpravděpodobnější je červenec 1505, kdy ostrov objevil portugalský badatel Gonçalo Álvares. Mapy v následujících třech stoletích pojmenovávaly ostrov po něm. Na některých pozdějších mapách byl chybně uveden jako Diego Alvarez.
Podle některých historiků přistál na ostrově jako první britský obchodník Anthony de la Roché na podzim roku 1675.
Charles Gough ostrov znovu objevil 3. března 1732. Domníval se, že jde o nový nález. Od roku 1505 se jmenoval Gonçalo Álvares podle kapitána vlajkové lodi Vasca da Gamy na jeho epické cestě na východ. Pod tímto jménem byla v následujících zhruba 230 letech s dostatečnou přesností vyznačena na mapách jižního Atlantiku.
V roce 1732 pak kapitán Gough z britské lodi Richmond ohlásil objev nového ostrova. Nacházel se 400 mil východně od Gonçala Álvarese. O padesát let později kartografové zjistili, že se jedná o dva stejné ostrovy. Navzdory tomu, že Portugalci měli přednost při objevování ostrova a jejich poloha byla přesnější, byl přijat název "Goughův ostrov".
Na počátku 19. století ostrov krátce obývali lovci tuleňů. Nejstarším známým příkladem je tulení tlupa z americké lodi Rambler (kapitán Joseph Bowditch), která na ostrově zůstala v sezóně 1804-1805. Období lovu tuleňů trvalo od roku 1804 do roku 1910, během něhož ostrov navštívilo 34 tuleních lodí, z nichž jedna se ztratila na moři.
Skotská národní antarktická expedice na lodi Scotia uskutečnila první návštěvu ostrova vědeckou skupinou 21. dubna 1904, kdy William Speirs Bruce a další sbírali vzorky. V roce 1922 se na ostrově zastavila také Shackletonova-Rowettova expedice.
Ostrov Gough byl oficiálně prohlášen za britský v roce 1938 během návštěvy lodi HMS Milford Královského námořnictva. V roce 1995 byl ostrov zapsán na seznam světového dědictví UNESCO. V roce 2004 byla lokalita rozšířena o nepřístupný ostrov a přejmenována na Goughův a nepřístupný ostrov.
Ostrov Gough je jediným místem mimo Jižní Ameriku, odkud bude zatmění Slunce 12. září 2034 viditelné; střed dráhy totality prochází přes ostrov.