Příběh se odehrává v době, kdy Španělsko právě končí válku s Francií. Mezi oběma zeměmi bylo dohodnuto, že se Don Carlos, následník španělského trůnu, ožení s Alžbětou, dcerou francouzského krále.
První dějství
Don Carlos chce vidět dívku, kterou si má vzít. Odjíždí do Francie a tajně se připojuje ke královskému honu, kterého se účastní i Alžběta. Alžběta a její pážata jsou odděleni od ostatních. Carlos s ní promluví a nabídne jí, že ji odvede domů. Princezna se ho ptá na prince, kterého si má vzít. Carlos říká, že si nemusí dělat starosti, protože princ je hodný a je do ní zamilovaný. Pak ukáže Alžbětě princovu fotografii a Alžběta si samozřejmě uvědomí, že mluví právě s princem. Zazpívají si milostný duet.
Pak přijdou španělští úředníci a oznámí Alžbětě, že bylo rozhodnuto, že si prince nevezme: má si vzít jeho otce, španělského krále. Oba milenci jsou touto zprávou zděšeni. Dav lidí prosí Alžbětu, aby souhlasila se sňatkem se španělským králem, aby válka přestala. Nakonec souhlasí.
Druhé dějství
Don Carlos odešel do kláštera, aby měl klid ve své bídě. Jeho dědeček Karel V. v tomto klášteře strávil své poslední dny. Mnich k němu promlouvá. Carlos si myslí, že mnich vypadá jako jeho dědeček.
Carlos má radost, když přijde jeho přítel Rodrigue. Právě se vrátil z Flander, kde se stále bojuje. Carlos mu prozradí tajemství: že je zamilovaný do Alžběty, která se nyní provdala za jeho otce, a je tedy španělskou královnou. Rodrigue mu řekne, že by měl svůj čas věnovat pomoci chudým lidem ve Flandrech. Král a královna procházejí kolem hrobky.
Když královna vyjde z kostela, jde do zahrady, kde na ni čekají její dámy. Posel jí předá dopis od její matky z Paříže, ale zároveň jí tajně předá dopis od Carlose. Zatímco královna čte dopisy, Rodrigue tiše hovoří s Eboli, královninou dvorní dámou. Rodrigue požádá královnu, aby se pokusila přesvědčit krále, aby s Carlosem promluvil. Eboli je do Carlose zamilovaná. Všimla si, jak je Carlos rozrušený, když je v přítomnosti královny, a myslí si, že je to proto, že ji (Eboli) Carlos miluje.
Carlos má možnost setkat se s Elisabeth v soukromí. Klidně se jí zeptá, zda by mohla krále přesvědčit, aby ho poslal do Flander. Ve skutečnosti však klidný není a brzy se na ni začne zlobit, že k němu neprojevuje žádné milostné city. Ona mu řekne, že je to její povinnost, když je teď královnou. Carlos to chápe, ale je do ní stále zamilovaný. Padne jí k nohám. Chytí ji a vyzná jí lásku, ale královna se od něj odtrhne a on se zoufale rozprchne.
Králové vycházejí z kostela. Je velmi rozzlobený, že jeho žena zůstala sama. Řekne dvorní dámě, aby odešla. Královna ji utěšuje. Pak ona a její dámy odcházejí.
Rodrigue žádá krále, aby přestal bojovat s flanderským lidem, který stále umírá a hladoví. Král říká, že nebyli věrní a zaslouží si trest. Říká Rodrigueovi, že se bojí toho, co se děje mezi Alžbětou a Carlosem. Říká mu, aby si uvědomil inkvizici.
Třetí dějství
V madridském paláci se koná maškarní ples. Carlos čeká v královnině zahradě. Do zahrady přichází dáma, která má na sobě masku jako všichni ostatní. Myslí si, že je to královna, a říká jí, jak ji miluje. Když si dáma sundá masku, uvědomí si, že je to Eboni. Ta ho obviní, že královnu miluje. V tu chvíli přichází Rodrigue. Říká Eboni, že Carlosovi není dobře a že nechápe, o čem mluví. Eboni se však nenechá oklamat a hodlá jejich milostný vztah zničit.
Druhá scéna se odehrává na náměstí v Madridu. Připravuje se auto-da-fé. V době španělské inkvizice se jednalo o obřad, při němž byl upálen každý, kdo nesouhlasil s římskokatolickou církví. Vcházejí mniši a za nimi nešťastníci, kteří mají být upáleni. Lidé zpívají o slávě Španělska. Objeví se král Filip a opakuje, jak bude bojovat proti každému, kdo je nepřítelem římskokatolické církve. Objeví se šest lidí včetně Carlose, kteří se mu vrhají k nohám a prosí ho, aby zastavil své vojsko před zabíjením Vlámů. Král o tom nechce ani slyšet. Někteří z davu krále podporují, ale jiní ho prosí, aby se smiloval. Carlos pak žádá svého otce, aby mu dovolil vládnout Flandrům za něj. Král to nedovolí, protože si uvědomuje, že by to pro Carlose a vlámský lid mohla být příležitost povstat proti němu. Carlos je zoufalý. Tasí meč a říká, že Flandry zachrání. Dav je zděšen, když ho vidí, jak se před králem takto chová. Král přikáže svým vojákům, aby Carlosovi meč odebrali, ale nikdo ho neposlechne. Nakonec situaci zachrání Rodrigue (který si uvědomuje, že to pro něj dopadne špatně), který klidně požádá Carlose o meč. Ten mu ho předá a Rodrigue ho předá králi. Mniši postupují dál a hlas z nebe slibuje mír v budoucím světě.
ActIV
Král je v kostele sám. V nádherné árii zpívá o svém smutku, že ho jeho žena zřejmě nemiluje. Přichází Velký inkvizitor. Je velmi starý a slepý. Král mu vypráví o svém synovi a ptá se inkvizitora, zda má Carlosovi odpustit, nebo ho odsoudit k smrti. Inkvizitor odpoví, že by měl být zabit Rodrigue. Král se odváží nesouhlasit. Inkvizitor králi řekne, že nedává své srdce Bohu. Inkvizitor odchází.
Královna přiběhne a požádá krále, aby jí pomohl hledat truhličku se šperky, která zmizela z jejího pokoje. Král jí ukáže, že leží na stole. Řekne jí, že ji musí otevřít. Ona tak učiní. Nahoře je Carlosův portrét. Král se velmi rozzlobí a obviní ji z nevěry. Ona omdlí. Král zavolá na pomoc Eboliho a Rodriga. Král lituje svého podezření, ale Eboli to mrzí ještě víc, protože to byla ona, kdo vzal rakev, protože žárlila na Carlose a Alžbětu. Byla to ona, kdo králi navrhl, aby se do skříňky se šperky podíval. Rodrigue cítí, že svého přítele může zachránit jedině tak, že se nabídne k zabití místo Carlose. Král a Rodrigue odcházejí. Eboni se vrhá k nohám královny, která nyní ožila, a přiznává, že je sama vinna z cizoložství, protože spala s králem. Alžběta zůstává klidná, ale řekne Eboni, aby od ní navždy odešla a žila v klášteře. Když Eboni zůstane sama, vyjádří své pocity strašlivého utrpení. Než odejde do kláštera, musí udělat ještě jednu věc: pokusit se zachránit Carlose před smrtí.
Druhá scéna dějství ukazuje Carlose ve vězení. Přichází za ním Rodrigue. Ví, že u něj byly nalezeny vlámské dopisy adresované Carlosovi. Někdo přijde a Rodriga zabije. Když umírá, řekne Carlosovi, že královna na něj bude čekat druhý den před klášterem a naposledy ho uvidí. Umírá.
Někdy zde IV. dějství končí, ale v některých představeních se ještě objevuje scéna, v níž se král snaží vrátit meč svému synovi, ale Carlos ho obviní, že zavraždil jeho přítele. Do vězení vstoupí skupina lidí včetně Eboli a volá na krále, aby Carlose osvobodil. Objeví se inkvizitor. Rozzlobeně davu říká, že jsou bezbožní, když se staví proti Boží vůli. Říká jim, aby všichni padli na kolena a činili pokání.
Zákon V
Alžběta klečí před hrobem Karla V. Zpívá o svém ztraceném mládí ve Francii (vrací se sem část hudby z prvního dějství). Modlí se za mír. Alžběta a Carlos se pak naposledy setkávají (jejich třetí duet v opeře) a přejí si šťastnější časy. Král a inkvizitor se skrývají. Nyní se objeví a chytí Carlose. Stráže mají za úkol ho chytit, ale Carlos se brání. Náhle se ozve hlas Karla V. (nebo převlečeného mnicha). Odvádí svého vnuka do bezpečí kláštera.
