Historie města sahá až do dob Římské říše. Římané zde založili vojenský tábor s názvem Vindobona. Tábor se nacházel v dnešní první čtvrti na Dunaji. Název pochází od Keltů, takže zde pravděpodobně existovalo keltské osídlení ještě před římským vpádem. Římané zde zůstali až do 5. století. Ve středověku byla osada stále využívána. Současný název je zmiňován v roce 881 v Salzburských análech, kde se uvádí bitva ad weniam.
V roce 976 se vládcem oblasti stal rod Babenberků. V roce 1155 se jejich hlavním městem stala Vídeň. Vídeň byla již tehdy významným městem. V roce 1156 se Rakousko stalo vévodstvím a ve Vídni sídlil vévoda, který vévodství vládl. V roce 1221 získala Vídeň městská práva. Je druhým nejstarším městem v Rakousku (nejstarší je Enns v Horních Rakousích).
V roce 1278 připadlo vévodství Habsburkům. Rudolf IV. založil v roce 1365 univerzitu a v době jeho vévodství byla postavena loď gotické katedrály svatého Štěpána. Hádky uvnitř habsburského rodu způsobily hospodářský úpadek Vídně. V roce 1438 se Vídeň stala sídlem císaře Svaté říše římské.
V době reformace byla Vídeň protestantským městem, ale v době protireformace byly Rakousko a Vídeň převážně římskokatolické.
V roce 1529 Vídeň poprvé obléhala armáda Osmanské říše, která měla hranice jen 150 km východně od Vídně. To Vídeň hospodářsky poškodilo, ale vedlo k tomu, že lidé město opevnili (čímž se stalo silnějším). Po druhém obléhání se Osmanské říši nepodařilo Vídeň dobýt a město se začalo rozrůstat.
Během barokní éry byla Vídeň přestavěna. Bylo postaveno mnoho šlechtických sídel. Významným vídeňským architektem byl Johann Bernhard Fischer von Erlach.
Koncem 18. a počátkem 19. století byla Vídeň domovem významných skladatelů, jako byli Haydn, Mozart, Beethoven a Schubert.
Po revoluci v roce 1848 se František Josef I. stal císařem Rakouského císařství, které vzniklo v roce 1806 po zániku Svaté říše římské. Vládl až do roku 1916. Vídeň se stala centrem umění, kultury a architektury. Město se rozrůstalo, protože předměstí se stala jeho součástí. Po roce 1858 byly městské hradby zničeny a nahradila je Ringstraße. Podél této ulice byly postaveny domy bohatých měšťanů a veřejné budovy jako radnice a divadlo Burg. Na počátku století začala industrializace, díky níž zde žilo více lidí. V roce 1870 měla Vídeň jeden milion obyvatel a v roce 1910 dva miliony. Se vznikem početné dělnické třídy a chudoby ve Vídni posílila Dělnická strana (Sozialdemokratische Arbeiterpartei).
Karl Lueger byl nejvýznamnějším starostou v době císaře Františka Josefa. Za jeho působení byly realizovány významné komunální plány, které z Vídně učinily moderní město. Lueger byl však radikální antisemita. Obdivoval ho mladý Adolf Hitler, který ve Vídni strávil několik let před první světovou válkou. V této době byla Vídeň významným místem pro umění. Pro rozvoj moderní hudby byli důležití skladatelé jako Arnold Schönberg, Anton Webern, Alban Berg a Ernst Krenek. Ve Vídni byla také založena psychoanalýza Sigmundem Freudem. Také takzvaný Jugendstil v umění byl součástí vídeňské moderní umělecké scény. Ve Vídni v této době žili a tvořili také zakladatelé moderní architektury (Otto Wagner, Adolf Loos).
Po skončení první světové války bylo Rakousko-Uhersko rozpuštěno a Vídeň se stala hlavním městem Rakouské republiky. V roce 1938 bylo Rakousko okupováno Německem. Ve Vídni začalo utrpení židovských obyvatel. Mnoho jejich majetku bylo předáno Rakušanům (Arisierung).
Po druhé světové válce, která zničila 20 % vídeňské zástavby, byla Vídeň rozdělena na čtyři části. Město bylo stejně jako ostatní části Rakouska pod kontrolou spojenců. V roce 1955 byla ve vídeňském Belvederu podepsána státní smlouva mezi spojenci a Rakouskem. Poté se Vídeň stala důležitým městem pro mezinárodní organizace. První z nich byla v roce 1957 Mezinárodní organizace pro atomovou energii (IAEO) a v roce 1965 následovala organizace OPEC. V roce 1980 bylo otevřeno Vídeňské mezinárodní centrum a Vídeň je nyní spolu s New Yorkem a Ženevou třetím městem OSN.
· 
Zbytky topného systému v římském domě ve Vídni
· .JPG)
· 
· 
Ringstraße a parlament kolem roku 1900
· 
Karl-Marx-Hof je jedním z nejznámějších vídeňských městských nájemních domů.