Existen muchas leyendas acerca del origen de su nombre, algunas de ellas son: Aristóteles sostiene que las columnas que llevan por nombre “de Hércules”, antes tenían otra denominación, eran llamadas Briareo, pero una vez que Heracles limpia la tierra y el mar, este se transformó en el protector de los hombres y estos lo enaltecieron quitándole el nombre de Briareo y colocándolos las columnas de Heracles.
Otro mito, indica que Heracles, navego en busca de los Bueyes de Geriòn, sin embargo, al navegar por mucho tiempo llegó a un punto donde todo era tinieblas, en donde no pudo visualizar nada más, por lo que construyó dos columnas que servían de señal para advertir a los demás navegantes que allí era el fin del mar y que más allá de las columnas no era posible transitar. Según la geografía de estrabòn en esa zona se encontraban dos pilares de bronce que formaban parte del templo Gaditano dedicado a Heracles. Siendo considerado un lugar en donde muchos peregrinos ofrecían sacrificios en agradecimiento por una travesía llena de tranquilidad y de feliz término.
El rey Carlos l de España quiso incorporar el símbolo de las columnas como elemento externo en su escudo de armas con el lema “Plus Ultra”. Este elemento heráldico ha persistido en algunas ocasiones con mayor o menor aparición en la trayectoria monárquica de España. Sin embargo, en la actualidad el símbolo de las columnas no aparece en el escudo del rey de España, aunque todavía permanece en el escudo.