Antiguamente, el territorio estaba ocupado por aborígenes tahamíes y caribes. Los primeros pobladores estables de la zona en estas montañas fueron mineros provenientes de Santa Fe de Antioquia, muchos devotos de la Virgen de la Inmaculada Concepción; en honor a ella pusieron su nombre a algunas de las minas.
Se cree que la parroquia fue creada el 6 de noviembre de 1770 por decreto del Dr Juan Salvador de Villa y Castañeda, cura de Medellín y Vicario Superintendente de la Provincia de Antioquia, por comisión confiada al Obispo de Popayán, Don Jerónimo Antonio de Obregón y Mena.3 La población fue elevada a la categoría de municipio en 1773, y desde 1885 sus habitantes empezaron a dedicarse a la ganadería y la agricultura.
Son hijos ilustres de este municipio los generales de la independencia José María Córdova, nacido el 8 de septiembre de 1799, y su hermano José Salvador Córdova, quien nació el 17 de mayo de 1801.
El municipio fue declarado "Patrimonio cultural e histórico de la nación" en el año de 1999, por sus calles empedradas y su estado de conservación y belleza.