Höss se narodil 25. listopadu 1900 v německém Baden-Badenu. Jeho rodiče byli Franz Xaver Höss a Lina Hössová. Byl nejstarším ze tří dětí a jediným synem. Hössova rodina byla velmi katolická.
Ve své autobiografii Höss uvedl, že byl v dětství krátce unesen Cikány.
Hössův otec byl bývalý důstojník německé armády, který sloužil v Německé východní Africe (německá kolonie, která zahrnovala dnešní Burundi, Rwandu a část Tanzanie). Po odchodu z armády vedl obchod s čajem a kávou. Svého syna vychovával na základě přísné katolické víry a vojenské disciplíny. Rozhodl se, že se Höss stane katolickým knězem. Během Hössova raného dětství mu neustále vyprávěl o hříchu, vině a nutnosti činit pokání.
Höss se začal obracet proti náboženství již v mládí. Stalo se tak poté, co se vyzpovídal knězi (řekl mu, co udělal špatně). V katolicismu má být "zpovědní pečeť" neporušitelná. To znamená, že kněz nemá nikdy nikomu říkat, co kdo řekl ve zpovědi. Höss řekl, že se mu náboženství začalo nelíbit, když kněz řekl Hössovu otci o něčem, co Höss řekl ve zpovědi. Brzy poté Hössův otec zemřel a Höss začal směřovat k vojenskému životu.
Když začala první světová válka, sloužil Höss krátce ve vojenské nemocnici. Ve 14 letech pak mohl vstoupit do starého pluku svého otce a dědečka, 21. dragounského pluku německé armády. V patnácti letech bojoval s osmanskou šestou armádou u Bagdádu, Kut-el-Amary a v Palestině. Během svého působení v Turecku dosáhl hodnosti seržanta (Feldwebel). Ve svých 17 letech byl nejmladším poddůstojníkem německé armády. Během služby v armádě byl třikrát zraněn a dostal malárii. Byl vyznamenán Gallipolskou hvězdou Osmanské říše, Železným křížem první a druhé třídy a dalšími vyznamenáními.
Kariéra nacisty
Po kapitulaci Německa v listopadu 1918 Höss dokončil střední školu. Brzy se připojil k formujícím se nacionalistickým polovojenským skupinám. Nejprve vstoupil do Východopruského dobrovolnického sboru. Poté vstoupil do Freikorpsu Rossbach v zemích kolem Baltského moře, ve Slezsku a Porúří. Höss se účastnil ozbrojených teroristických útoků na Poláky během slezských povstání (když se Poláci snažili vymanit z německé nadvlády). Podílel se také na teroristických útocích na francouzské občany během okupace Porúří (když bylo Porúří v Německu obsazeno Francií a Belgií).
Höss vstoupil do nacistické strany v roce 1922 poté, co vyslechl projev Adolfa Hitlera v Mnichově. Höss vedl nejméně jeden politický atentát a strávil za to šest let ve vězení.
31. května 1923 v německém Meklenbursku Höss a příslušníci Freikorpsu (německých dobrovolníků) ubili k smrti místního učitele Walthera Kadowa. Udělali to, protože si to přál Martin Bormann. Bormann se později stal Hitlerovým osobním tajemníkem. Bormann se domníval, že Kadow prozradil francouzské okupační vládě, že nacistický voják Albert Leo Schlageter sabotuje francouzské zásobovací linie. Schlageter byl zatčen a 26. května 1923 popraven. Brzy poté Höss a několik jeho kompliců, včetně Bormanna, Kadowa z pomsty zabili. Poté, co se jeden z vrahů v roce 1923 přiznal místním novinám, byl Höss zatčen a souzen jako vedoucí vraždy. Později Höss uvedl, že ve skutečnosti vraždu řídil jiný muž, ale v té době Höss přijal vinu jako vůdce skupiny. Byl usvědčen a odsouzen (15. nebo 17. května 1924). Byl odsouzen na 10 let do braniborské trestnice (vězení). Bormann byl odsouzen k jednomu roku vězení.
Höss byl propuštěn v červenci 1928 v rámci všeobecné amnestie. Připojil se k hnutí Völkisch ("Artamanská liga"), nacionalistickému hnutí "zpět k půdě", které podporovalo čistý, zemědělský život.
Dne 17. srpna 1929 se Höss oženil s Hedwigou Henselovou (3. března 1908 - 1989), s níž se seznámil v Artamanské lize. V letech 1930-1943 se jim narodilo pět dětí: dva synové (Klaus a Hans-Rudolf) a tři dcery (Ingebrigitt, Heidetraut a Annegret).
Vstup do SS
Höss se stal členem SS 1. dubna 1934, kdy Heinrich Himmler vyzval všechny nacistické muže, aby vstoupili do SS. V témže roce Höss vstoupil do jednotek SS-Totenkopfverbände (Jednotky hlavy smrti). Začal Himmlera obdivovat natolik, že cokoli Himmler řekl, považoval za "evangelium". Dokonce si ve své kanceláři raději vystavoval Himmlerovu fotografii než Hitlerovu.
V prosinci 1934 byl Höss přidělen do koncentračního tábora Dachau. Zde zastával funkci Blockführera ("vedoucího bloku"), což znamenalo, že měl na starosti jeden barák vězňů. V roce 1938 byl Höss povýšen na SS-Hauptsturmführera (kapitána) a stal se asistentem Hermanna Baranowského v koncentračním táboře Sachsenhausen.
Höss vstoupil do Waffen-SS v roce 1939 po napadení Polska nacistickým Německem. Höss byl ve své práci dobrý a jeho nadřízení mu navrhli, aby byl povýšen (dostal lepší práci). Na konci své služby tam měl Höss na starosti věci vězňů.
Osvětimské velitelství
1. května 1940 byl Höss jmenován velitelem Osvětimi, která byla kombinací koncentračního a vyhlazovacího tábora. Höss velel táboru tři a půl roku. Během této doby změnil původní tábor na obrovský komplex (skupinu táborů) nazvaný Auschwitz-Birkenau. Höss odjel do Osvětimi s odhodláním "dělat věci jinak" a vytvořit efektivnější tábor, než byly tábory v Dachau a Sachsenhausenu, kde pracoval předtím. Höss žil v Osvětimi ve vile se svou ženou a pěti dětmi.
Prvními vězni v Osvětimi byli sovětští váleční zajatci a polští vězni, včetně rolníků a intelektuálů. Asi 700 těchto vězňů přišlo do Osvětimi v červnu 1940; nacistické stráže jim řekly, že nepřežijí déle než tři měsíce.
Osvětim zahrnovala v největší míře tři velké tábory:
- Osvětim I: Administrativní centrum celého komplexu
- Osvětim II (Auschwitz-Birkenau): Vyhlazovací tábor, kam byli lidé posíláni k okamžitému usmrcení
- Osvětim III (Monowitz): Farben a později i pro další německé společnosti.
V okolí se nacházelo také mnoho menších "vedlejších táborů". Osvětimský komplex byl vybudován na ploše asi 8 000 hektarů, která byla vyklizena od všech obyvatel.
V červnu 1941 se Höss v Berlíně setkal s velitelem SS Heinrichem Himmlerem. Himmler Hössovi sdělil, že Hitler vydal rozkaz ke konečnému řešení - vyvraždění všech Židů. Himmler vybral Osvětim jako místo, kde budou evropští Židé vyhlazeni. Osvětim si vybral "[kvůli] snadnému přístupu po železnici [vlakem] a také proto, že rozsáhlý areál nabízel prostor pro opatření zajišťující izolaci". To znamenalo, že Osvětim byla dostatečně velká, aby genocida Židů mohla být utajena. Himmler tento projekt označil za "tajnou říšskou záležitost". Höss později uvedl, že "nikdo nesměl o těchto záležitostech s nikým mluvit a že každý slíbil na svůj život zachovat co největší mlčenlivost".
Höss začal 3. září 1941 testovat a zdokonalovat techniky masového vraždění. Díky jeho experimentům se Osvětim stala táborem, který během holocaustu zabil nejvíce vězňů. Höss později uvedl, že během běžného dne do Osvětimi přijížděly denně dva až tři vlaky, každý s dvěma tisíci vězni, a to po dobu čtyř až šesti týdnů. Vězni byli vyloženi ve vyhlazovacím táboře Birkenau. Vězni, kteří byli silní, zdraví a schopní pracovat, byli převezeni do baráků buď v Birkenau, nebo v některém z dalších osvětimských táborů. Vězni, kteří byli starší, velmi mladí, nemocní nebo neschopní nucených prací, byli zabíjeni v plynových komorách, které byly maskovány jako sprchy. Zpočátku byly malé plynové bunkry umístěny hluboko v lesích, aby zůstaly utajeny. Později byly v Birkenau postaveny čtyři velké plynové komory a krematoria, aby nacisté mohli snáze a rychleji zabíjet více lidí.
Technicky [to] nebylo tak těžké - nebylo by těžké vyhladit i větší počet..... Samotné zabíjení zabralo nejméně času. Dva tisíce [lidí] jste mohli zlikvidovat za půl hodiny, ale veškerý čas zabralo upalování. Zabíjení bylo snadné, nepotřebovali jste ani stráže, aby je nahnaly do komor; prostě šli dovnitř v očekávání, že se osprchují, a místo vody jsme pustili jedovatý plyn. Celé to šlo velmi rychle.
Höss experimentoval s různými jedovatými plyny. Nejprve používal bavlněné filtry namočené v kyselině sírové. Později začal Höss používat kyanovodík (kyselinu pruskou), vyrobený z pesticidu Cyklon B, poté, co jej jeho zástupce Karl Fritzsch v roce 1941 vyzkoušel na skupině ruských vězňů. Höss uvedl, že když použil cyklon B, trvalo 3-15 minut, než vězni zemřeli, a že "jsme poznali, kdy jsou lidé mrtví, protože přestali křičet".
Po Osvětimi
10. listopadu 1943 se Arthur Liebehenschel stal velitelem Osvětimi. Höss převzal Liebehenschelovo poslední místo předsedy Amt D I v Amtsgruppe D SS-Wirtschafts-Verwaltungshauptamt (WVHA), která řídila koncentrační tábory. Höss se také stal zástupcem (asistentem) Richarda Glückse, inspektora všech koncentračních táborů.
Dne 8. května 1944 se Höss vrátil do Osvětimi, aby dohlížel na operaci Aktion Höss. V rámci Akce Höss bylo do Osvětimi posláno 430 000 maďarských Židů, kteří byli během 56 dnů zabiti. Ani obrovské zařízení, které Höss nechal vybudovat, nedokázalo pojmout obrovské množství těl obětí. Zaměstnanci tábora museli tisíce těl spálit v otevřených ohništích.