Raná historie
Již na konci 12. století mocný vůdce Taira no Kiyomori přesunul hlavní město Japonska z Kjóta do Fukuwary, dnešního japonského okresu Fukuwara. Plánoval, že bude sloužit jako obchodní a politické centrum Japonska. Kijomori svůj politický vliv opíral o obchod mezi Japonskem a Čínou. Jeho plán však nevyšel a Kóbe zůstalo po dlouhou dobu malou vesnicí.
Pozdější historie
Oblast Kóbe byla rozšířena a dnes zahrnuje horu Maya, park Sumaura, park Sumaike s dobrými lázněmi a slavné lázně Arima. Lázně Arima jsou jedny z nejstarších lázní v Japonsku, jejichž nejstarší záznam se nachází již v Nihonšoki. Kóbe je také proslulé svým hovězím masem Kóbe, velmi drahou masovou pochoutkou.
Moderní základ
Kóbe bylo založeno v roce 1868 jako přístav pro obsluhu zahraničních lodí. V té době byla většina japonských přístavů pro cizince uzavřena. V Kóbe žilo mnoho cizinců, včetně západních obyvatel, Číňanů, Židů a Indů. Kóbe má jednu z nejvýznamnějších čínských čtvrtí v Japonsku. Lidé zde najdou také synagogu a mnoho křesťanských kostelů. Kóbe je podobně jako Jokohama místem, odkud se do Japonska dostala moderní mezinárodní kultura.
Zemětřesení
Dne 17. ledna 1995 zasáhlo město velmi silné zemětřesení. Zemětřesení jsou častější v jiných částech Japonska, ale ne v Kansai, takže toto zemětřesení bylo pro všechny překvapením. V Kóbe a okolních městech zahynulo 6 434 lidí a mnoho dalších bylo zraněno. Mnoho budov bylo zničeno.