Ritrovamenti nella Grotta Andron indicano che l'area era abitata in epoca preistorica. La città di Rethymnon risale a dopo il periodo minoico, come mostrano le tombe trovate nella zona del borgo Mastabas a sud della città. Questa stessa area si è sviluppata durante il IV-III secolo aC, come antica Rithymia, uno stato indipendente con la sua moneta, ma nel periodo tardo-romano era solo un piccolo villaggio che ha continuato ad esistere nel primo periodo bizantino (395-824 dC) e il secondo periodo bizantino (961-1204) senza diventare la sede arcivescovile.

L'insediamento ha guadagnato importanza nel corso del periodo veneziano, a partire dal 1210, quando il suo porto divenne un porto commerciale importante per i mercanti veneziani. Rettimo, come i Veneziani lo chiamavano, è diventata la sede del Rettore Governatore.

Nel 1538, l'invasione da parte della flotta ottomana guidata dal pirata Barbarossa Heratin ha avuto luogo sulla costa settentrionale di Creta. Ciò costrinse i Veneziani a fortificare la città con i piani di Michel Sanikleli, che furono poi semplificati a causa del costo elevato. Nel 1571 un nuovo attacco sulla città fu lanciato da Ouloutz-Ali. La distruzione rimarcò la necessità di rafforzare le fortificazioni, lavoro iniziato nel 1573 sulla collina Paleokastro a nord della città. Anche queste fortificazioni non furono in grado di resistere all'invasione ottomana del 1646 dopo un assedio di 22 giorni. I Veneziani e Cretesi si rifugiarono nella nuova Fortezza. Fu stipulato un trattato con il Pascià Hussein, cui seguirono però uccisioni di massa della popolazione. Nel 1821 e nel 1824, vi furono saccheggi e uccisioni di massa dei cristiani. La città fu liberata nel 1897 con l'aiuto di soldati russi, parte di una forza di protezione, che rimase fino al 1909. Nel 1913, l'intero complesso di Creta è stato unificato alla Grecia.

Durante la seconda guerra mondiale la città di Rethymnon ha subito gravi danni dai bombardamenti. La battaglia di Creta, nel 1941, ha portato alla occupazione tedesca. Il clou della resistenza cretese ai nazisti è stata il rapimento del Governatore tedesco Kraipe e il suo trasferimento alla Caserma Militare mediorientale in Egitto, ancora una volta una testimonianza dei valorosi guerrieri dell'isola.

Dopo la guerra la gente di Rethymnon riparò i danni delle bombe e iniziò a ricostruire la loro comunità. Il turismo si è sviluppato a partire dal 1970 : i visitatori ammiravano le bellezze dell'ambiente e la calda ospitalità della sua gente.