Il Castello di Castiglioni è una delle più importanti testimonianze storiche del territorio di Rufina. Dell'antico complesso, che fu fortezza e residenza dei Vescovi di Fiesole, rimane l'imponente edificio quadrangolare ancora oggi ben riconoscibile.
Sul lato orientale si conserva una torre semicircolare che ingloba l'abside di una cappella romanica, probabilmente identificabile con l'antica chiesa di San Donato del Castiglione, ricordata nei documenti medievali. Sono inoltre visibili alcuni elementi rinascimentali dell'antico palazzo vescovile.