Hopetounovým prvním úkolem bylo vybrat premiéra, který by sestavil vládu, jež by začala fungovat 1. ledna 1901. První volby se měly konat až v březnu, takže si nemohl vybrat vůdce největší politické strany ve Sněmovně reprezentantů. Místo toho požádal sira Williama Lynea, premiéra největšího státu, Nového Jižního Walesu, aby se stal předsedou vlády.
I když to byla rozumná volba, Lyne byl proti federaci a mezi předními federalistickými politiky byl neoblíbený. Alfred Deakin a další významní politici Hopetounovi řekli, že s Lynem spolupracovat nebudou. Hopetoun tedy požádal Edmunda Bartona, vůdce federálního hnutí a muže, o němž si všichni mysleli, že by se měl stát premiérem. To se stalo známým jako "Hopetounův omyl".
Brzy se objevily další problémy. Hopetoun si s sebou přivedl vlastního úředního tajemníka, kapitána Edwarda Williama Wallingtona. Australané nechtěli, aby úřední záležitosti vedl Angličan. Nelíbila se jim také královská okázalost a ceremoniál, které Hopetoun ve své funkci používal, a peníze, které to stálo. Choval se, jako by Austrálii vládl s ministerským předsedou. To nebylo to, co si přáli autoři ústavy.
Hopetoun se spřátelil s melbournským anarchistou a odborovým průkopníkem Johnem "Chummy" Flemingem. V květnu 1901 Fleming protestoval proti nezaměstnanosti v Melbourne tím, že se vrhl na Prince's Bridge, aby zastavil kočár generálního guvernéra. Hopetoun naslouchal Flemingovým řečem o problémech nezaměstnaných. Podle některých zpráv Hopetoun přiměl vládu, aby urychlila pracovní projekty.
Nakonec se objevil problém s tím, kolik by měl generální guvernér dostávat za to, že má dům v největším městě Sydney i v Melbourne, kde sídlí australská vláda. Parlamenty Commonwealthu a Victorie nechtěly Hopetounovi platit více peněz. V květnu 1902 Hopetoun rezignoval. Austrálii opustil i s rodinou (z Brisbane) 17. července 1902. Věděl, že v historické roli selhal. Dne 27. října 1902, ještě jako generální guvernér, byl jmenován 1. markýzem z Linlithgow. Jeho funkční období oficiálně skončilo 9. ledna 1903. V roce 1905 byl jmenován ministrem pro Skotsko.
Zemřel náhle 29. února 1908 v Pau, Pyrénées-Atlantiques, Francie.
