Fin dal 1149 il nome di Castelfiorentino fu dato al Castelvecchio edificato sulla via Francigena nel luogo di un insediamento di origine romana: Timignano. Il castello fortificato racchiudeva, sul colle, la pieve di S. Ippolito (l’antica S. Biagio) e con una seconda cerchia di mura, Borgo d’Elsa e Borgo Nuovo. Cinque erano le porte (Porta Fiorentina, Porta Pisana, Porta al Vento, Porta Senese e Porta di Borgo), e due sole strade si incrociavano sull’unica piazza (oggi piazza del Popolo). Feudo dei Cadolingi e poi dei Conti Alberti, acquisito progressivamente dal Vescovo di Firenze nel XII secolo, subì le vicende dei conflitti fra Chiesa ed Impero, Guelfi e Ghibellini e tra Siena e la stessa Firenze (di cui era un avamposto importante, e quindi ottenne la sede del podestà, il privilegio del giglio rosso sul gonfalone bianco e l’integrazione ufficiale del nome Castelfiorentino).

Qui nel 1260, dopo la battaglia di Montaperti, si firmò la pace tra le due città rivali. Ma fu ancora teatro, nei secoli, di battaglie e scorrerie militari, fin quando, nel 1521, subì un duro assedio e fu devastato dalle truppe imperiali. Venne poi riconquistato da Francesco Ferrucci. Con la peste e la morte del Ferrucci, Firenze dovette arrendersi alle truppe di Carlo V ed accettare il ritorno dei Medici e con essa anche Castelfiorentino. La Valdelsa rimase in uno stato di profonda desolazione per via degli eventi bellici, tanto è che il governo di Firenze sollevò da ogni spesa quelle popolazioni. Per risparmiare furono anche fuse le due podesterie di Castelfiorentino e Barbialla (oggi parte di Montaione).

Venuta meno la sua importanza strategica, anche quella amministrativa risultava limitata, per la dipendenza dal vicariato di Certaldo. Ma nel Settecento, con il Granducato di Lorena, progredì nuovamente e fu Cancelleria e Podesteria, con guardia civica e ampia giurisdizione anche su Certaldo e Montaione.

Accettò l’annessione al Regno d’Italia e divenne nel 1868 capoluogo di mandamento. Fu uno dei primi comuni italiani a darsi nel 1902 un’amministrazione guidata dal Partito Socialista Italiano. Dal dopoguerra ad oggi è sempre stato governato da sindaci aderenti al Partito Comunista Italiano prima ed al PDS/DS/PD poi.

Nel 1998, in località Monte Maggiore, sono riemersi i resti fossili di una balena vissuta nella zona oltre tre milioni di anni fa, in un periodo in cui le attuali campagne lasciavano il posto alle calde acque del mare tirrenico. Lo scheletro, di grande interesse scientifico, è considerato dagli studiosi il più completo fossile di balena mai scoperto in Europa.