Ve 30. letech 19. století se otroctví stalo ve Spojených státech stále více polarizujícím tématem. Adams, který byl dlouholetým odpůrcem otroctví, využil své nové role v Kongresu k boji proti němu a stal se nejvýznamnějším celonárodním vůdcem vystupujícím proti otroctví. Po jednom ze svých volebních vítězství prohlásil, že musí "nastolit prorokovaný den, kdy otroctví a válka budou vymýceny z povrchu země". V roce 1820 si zapsal do svého soukromého deníku:
Diskuse o této missourské otázce prozradila tajemství jejich duší. Abstraktně připouštějí, že otroctví je zlo, zříkají se ho a vše házejí na bedra... Velké Británie. Když jsou však na tuto otázku dotázáni do hloubky, ukáže se, že na dně jejich duší je pýcha a domýšlivost na jejich panský stav. Na prostotu Yankeeových mravů pohlížejí svrchu, protože nemá panovačné návyky jako oni a nemůže se k černochům chovat jako ke psům. Mezi zlo otroctví patří to, že poskvrňuje samotné zdroje morálních zásad. Zavádí falešné odhady ctností a neřestí: neboť co může být falešnějšího a bezcitnějšího než toto učení, které činí první a nejsvětější práva lidstva závislými na barvě pleti?
V roce 1836, částečně v reakci na Adamsovo důsledné předkládání petic občanů požadujících zrušení otroctví v District of Columbia, zavedla Sněmovna reprezentantů "pravidlo roubíku", které okamžitě odložilo všechny petice týkající se otroctví. Toto pravidlo podporovali demokraté a jižanští whigové, ale severní whigové, jako byl Adams, byli většinou proti.
Koncem roku 1836 zahájil Adams kampaň, v níž zesměšňoval otrokáře a pravidlo roubíku. Často se pokoušel předkládat petice proti otroctví, často způsobem, který vyvolával silné reakce zástupců Jihu. Ačkoli pravidlo roubíku zůstalo v platnosti, diskuse, kterou svými činy rozpoutal, a pokusy ostatních o jeho utišení vyvolaly otázky týkající se práva na petici, práva na zákonodárnou diskusi a morálky otroctví. Adams aktivně bojoval proti pravidlu mlčení dalších sedm let a nakonec navrhl rezoluci, která vedla k jeho zrušení v roce 1844.
V roce 1841 se Adams na žádost Lewise Tappana a Ellise Graye Loringa připojil k případu Spojené státy v. Amistad. Adams předstoupil před Nejvyšší soud ve prospěch afrických otroků, kteří se vzbouřili a zmocnili se španělské lodi Amistad. Adams vystoupil 24. února 1841 a mluvil čtyři hodiny. Jeho argumentace byla úspěšná; soud rozhodl ve prospěch Afričanů, kteří byli prohlášeni za svobodné a vrátili se do svých domovů.
