Hildesheim je jedním z nejstarších měst v severním Německu. Město bylo pravděpodobně založeno v době, kdy se biskup přestěhoval z Elze k brodu Innerste, kde bylo důležitým tržištěm na obchodní stezce Hellweg. Osada se brzy rozrostla v město, kterému král Ota III. v roce 983 udělil tržní práva. Původně se trh konal na ulici zvané Starý trh (Alter Markt), která existuje dodnes. První tržiště se rozkládalo kolem kostela svatého Ondřeje. Jak se město rozrůstalo, nabývalo na významu větší tržiště. Současné tržiště v Hildesheimu vzniklo na počátku 13. století, kdy mělo město asi 5 000 obyvatel. Když Hildesheim v roce 1249 získal městská práva, patřil k největším městům v severním Německu. Po čtyři století vládlo Hildesheimu duchovenstvo, než byla postavena radnice a občané získali určitý vliv a nezávislost. Stavba současné radnice byla zahájena v roce 1268 a v roce 1367 se Hildesheim stal členem hanzy. Válka mezi měšťany a jejich biskupem přišla draho v letech 1519-1523, kdy se dostali do sporu. V roce 1542 se Hildesheim stal protestantským a v císařských (římskokatolických) rukou zůstala pouze katedrála a několik dalších budov. Římskokatolickými zůstalo i několik vesnic v okolí města. V roce 1813, po napoleonských válkách, se město stalo součástí Hannoverského království, které bylo po prusko-rakouské válce v roce 1866 připojeno k Pruskému království jako provincie.
Město bylo za druhé světové války bombardováno, ale pro průběh války mělo bombardování jen malý význam. Zničeno bylo 28,5 % domů a 44,7 % bylo poškozeno. Bez poškození bylo 26,8 % domů. Centrum, které mělo do té doby ještě středověký ráz, bylo téměř srovnáno se zemí. Stejně jako v mnoha jiných městech byla dána přednost rychlé výstavbě nezbytně nutných bytů a na místě zničených budov vznikly betonové stavby. Naštěstí byla většina významných kostelů, z nichž dva jsou dnes na seznamu světového dědictví UNESCO, brzy po válce obnovena v původním stylu. Během války byly ve sklepení městských hradeb ukryty cenné materiály světového dědictví. V roce 1978 byla založena Hildesheimská univerzita. V 80. letech 20. století byla zahájena rekonstrukce historického centra. Některé z nových betonových budov v blízkosti tržiště byly zbourány. Na jejich místě byly postaveny repliky původních budov.