Oorspronkelijk stond op deze plaats een complex van de graven van Holland.

Vermoedelijk is dit complex door een stadsbrand in 1347 of 1351 verwoest en was dit de aanleiding om de overblijfselen aan de stad te schenken.

Op deze plaats verrees in ieder geval het stadhuis, dat in 1370 gereed kwam.

De stadhuistoren werd tussen 1465 en 1468 gebouwd, maar moest wegens bouwvalligheid in 1772 worden afgebroken.

In 1913 werd de stadhuistoren op initiatief van de Historische Vereniging Haerlem herbouwd.

De stadhuisgevel werd in de periode 1630-1633 in Classicistische stijl vernieuwd.

In 1983-1985 werden de kap en voorgevels van het stadhuis gerestaureerd.