Sept tombes à incinération datant des IIe et Ier siècles av. J.-C. ont été découvertes sur le territoire de la commune.
La commune actuelle se trouve sur l'ancienne voie romaine menant de Boulogne, via Arras, à Reims.

Proche de Cambrai et de la frontière entre la France et l'Empire, les paroisses de Sainte-Olle et de Raillencourt subissent les conséquences des sièges et invasions, notamment du siège de Cambrai par Édouard III d'Angleterre en 1339...

(source wikipedia)