A pesar de que ha heredado el apellido de romano, solo conserva algún sillar interno de dicha época.
Se cree que antes del siglo I d.C. hubo un puente en este punto del río, probablemente de madera. Hasta el siglo I d.C., en la época de Augusto, no se construye en piedra. Tantos años de historia, casi tantos como Córdoba, han dejado múltiples transformaciones en este icono de la ciudad. Fue modificado y reforzado durante el Emirato, el Califato de Alhaken II, en la Edad Media cristiana, en la Edad Moderna y en 1876. En 2008 finalizó la más ambiciosa reforma hasta la fecha a cargo del arquitecto Juan Cuenca, que pretendió devolver al puente un aspecto lo más fiel posible al original. Se peatonalizó y recuperó para el paseo público.
A pesar de tantas transformaciones, su trazado, estructura y aspecto se han conservado bastante bien hasta la actualidad. Por el puente discurría la Vía Augusta que unía Roma con Cádiz.
Esta función de principal vía de acceso a Córdoba desde el sur la mantuvo durante nada más y nada menos que veinte siglos, pues hasta mediados del sigo XX, el Puente Romano fue la única vía que comunicó la zona sur con el resto de la ciudad.
A medio camino del puente, el caminante encontrará la imagen del San Rafael más antigua de Córdoba, realizada en 1651 y restaurada en la misma fecha que el puente.