El municipio de San Rafael fue fundado el 5 de agosto de 1864 por mineros que venían de las comarcas paisas de Santa Rosa de Osos y San Carlos atraídos por la abundancia de oro en el lugar. A la naciente población se le conoció primero con el nombre de La Cuchilla.
En 1871, el distrito es erigido municipio con el nombre de San Rafael, por la fe que sus fundadores tenían en el Arcángel San Rafael que fuese su médico y guía.
En 1905 el distrito es trasladado de La Cuchilla al lugar donde nació, el valle que actualmente ocupa. Esta hazaña fue realizada por el presbítero de Rionegro, José de Jesús Correa Jaramillo, hombre visionario quien previó que este lugar era el más adecuado para el desarrollo de la población.
Fue fundado en definitiva en 1864 por algunos mineros, quienes lo llamaron primero El Abra y luego El Sueldo. A fines del siglo XIX el pueblo fue trasladado al lugar denominado "Paso de Totumito", origen del actual San Rafael; fue erigido municipio en1871.
Ubicado en la zona mayor de los embalses hidroeléctricos del departamento de Antioquia, es un municipio rico en fuentes de agua. que le ha dado el apelativo de "embrujo de aguas cristalinas". Quebradas y charcos en abundancia son su principal referente, y son famosas sus Fiestas del Río, que se celebran cada enero. Varios trapiches se asientan cerca de su casco urbano y es posible conocer en ellos la elaboración de la panela.
En la actualidad, ha comenzado una inversión económica con el fin de aumentar el turismo, que ha consistido entre otros en mejora de algunos hoteles.