Dies änderte sich erst unter Marcus Vipsanius Agrippa, der von seinem Freund Oktavian, dem späteren Kaiser Augustus, 39 v.Chr. zum Statthalter für ganz Gallien eingesetzt wurde. Dazu gehörte auch das von Caesar eroberte linksrheinische Germanien. 38 v.Chr. kam Agrippa ins Rheinland und veranlaßte hier den Aufbau von dem, was man heute als Infrastruktur bezeichnen würde. Es wurden Rodungen durchgeführt, Straßen gebaut, Kastelle und Poststationen errichtet und schließlich Siedlungen und Gehöfte angelegt. Dies konnte das römische Heer alleine nicht leisten. Man brauchte Menschen, die sich dauerhaft niederließen, das Land urbar machten und verteidigten. Besonders geeignet erschien ein römerfreundlicher Germanenstamm, der auf der anderen Rheinseite lebte und bereits für Caesar Kundschafterdienste geleistet hatte - die Ubier. Diese waren an dem Angebot, das fruchtbare Rheinland zu besiedeln, stark interessiert, zumal sie von den nach Westen strebenden Sueben bedrängt wurden.
Die Ursprünge der Stadt Köln finden sich in römischer Zeit. Die Geschichte der Römer im Rheinland beginnt mit keinem Geringeren als Gaius Julius Caesar, der sich 58 v.Chr. vornahm, ganz Gallien zu erobern. Auf seinem Eroberungsfeldzug kam Caesar auch durch die Rheinlande, wo damals der keltisch-germanische Stamm der Eburonen lebte. Zunächst unterwarfen sich die Eburonen den Römern, aber im Winter 55/54 v.Chr. erhoben sie sich plötzlich zusammen mit ihren Nachbarstämmen zu einem Aufstand unter der Führung ihres Häuptlings Ambiorix. Die Eburonen löschten ein ganzes römisches Winterlager mit anderthalb Legionen (ca. 9.000 Mann) an der unteren Maas aus. Caesar war außer sich vor Wut. Er hob in Norditalien neue Legionen aus und kehrte mit insgesamt 10 Legionen in die Rheinlande zurück, wo er einen Vernichtungsfeldzug gegen die Eburonen führte. Die Reste des zerschlagenen Stammes gab er der Beutegier der Nachbarstämme preis. Danach war der Stamm der Eburonen aus der Geschichte verschwunden und das Rheinland weitgehend entvölkert; Urwald und Sümpfe beherrschten die Landschaft.
Die Ubier spielten eine bedeutende Rolle in der Geschichte Kölns. Ursprünglich lebten sie auf der rechten Rheinseite, aber auf Anraten von Julius Caesar siedelten sie auf die linke Rheinseite über, um sich vor feindlichen Germanenstämmen zu schützen. Diese Umsiedlung führte zur Gründung des "Oppidum Ubiorum", einer befestigten Siedlung, die später zur römischen Stadt "Colonia Claudia Ara Agrippinensium" (C.C.A.A.) wurde.
Die Ubier waren somit die ersten Siedler in dem Gebiet, das später zu Köln wurde. Ihre enge Zusammenarbeit mit den Römern sicherte ihnen Schutz und ermöglichte die Entwicklung der Stadt zu einem wichtigen wirtschaftlichen und kulturellen Zentrum.