Nace como parte del acto de predicar, de gran importancia para ganar seguidores religiosos; esta actividad era reservada para sólo los obispos, aunque algunos hombres de menor rango en la jerarquía podía, con previos arreglos, predicar públicamente. Antiguamente, el sermón era pronunciado en el latín culto; sin embargo, tiempo después, el pueblo era incapaz de comprender las palabras utilizadas por los sacerdotes, por lo que estos fueron trasladados a la lengua vernácula. Algunos investigadores sospechan que es esta la razón por la que distintas historias cultas, aparecieron de pronto en la lengua vulgar, dando el origen a la literatura folclórica. Se considera que uno de los sermone más antiguos, fue el dado por Jesús en lo alto de una montaña, conocido tradicionalmente como el sermón de la montaña.
El sermón se desarrolló en los siglos subsiguientes, hasta decaer en el XVIII, especialmente en España. Es recuperado hacia el siglo XX, por la acción de los papas Juan XXIII y Jan Pablo II. Los cristianos protestantes, por su parte, citan entre sus sermones el de otros hombres, como Lutero, Calvino y Melanchton.