Héraklion est la cinquième plus grande ville en Grèce. Dans la région de la ville d'Héraklion, il y a des colonies de l'Epoque Néolithique. Bien que dans la ville il ont trouvé très peu de découvertes qui le prouve, ils croyent que c'était le port de Knossos. Les Sarakinis ont conquis la ville en 824 après JC et l'ont renommé El Khandak (Forteresse du Fossé) quand ils ont construit le grand fossé autour d'elle. La ville d'Héraklion a été ré-occupée par l'Empire Byzantin en 961 après JC, après de nombreuses tentatives infructueuses. Deux cent années plus tard l'Empire a été dissous par les Croisés qui ont entrepris sa gouvernance et la gouvernance de Crète a été cédé aux Vénitiens pour 1000 pièces en argent.

Pendant la durée de la domination Vénitienne, les arts fleurissent et la "Kandia", ainsi renommé par les Vénitiens, est devenu le centre de la littérature et les arts. De nombreux intellectuels et artistes y ont trouvé refuge après la chute de Constantinople en 1453.

Les Vénitiens ont commencé la construction de la forteresse de la ville en 1462 et leurs a pris plus d'un siècle pour la terminé. Ses murailles avaient une longueur de plus de 4 kilomètres. Sa forme était triangulaire et avaient sept bastions. Les Vénitiens ont construit le port et de nombreux bâtiments à l'architecture magnifique.

L'importance stratégique des fortifications a été prouvé lorsque la ville fut assiégée. L'asiègement par les Turcs a duré 21 années et a été l'une des plus grande de l'histoire. La livraison finale a été faite en 1669 après qu'avaient été tuée 100 000 Turcs et 30 000 Vénitiens.

L'occupation turque, a beaucoup été ressenti par les Crétois en raison du prosélytisme forcée à l'islam. À partir de 1820 et après,continue a exercée la guérilla contre les Turcs.

En 1898, les Grandes Puissances ont déclaré l'île de Crète comme indépendante "Etat Crétois" sous la souveraineté du Sultan. Cependant, les arbitrages du Commissaire Prince George, ont provoqué la rage des Crétois, qui, en 1905, et se révoltèrent contre lui en réalisant la fameuse "Révolution de Thèrissos". Le résultat était qu'il fut contraint que soit obligé de démissioner l'ancien commissaire et que soit désigné un jeune Alexandros Zaïmis.

La population d'Heraklion a augmenté après 1913,ou fut réalisé l'Union de la Crète avec la Grèce.En raison de sa position stratégique,elle est devenu une cible pour les forces d'invasion allemande en 1941. Le bombardement allemand pendant la Bataille de Crète a causé de grandes destructions et après la guerre, la ville a été reconstruite sur une grande étendue.

Initialement, la capitale de la Crète était Chania. Le centre administratif de la Crète a été transféré à Héraklion en 1971.