La collégiale Saint-Gangulphe fut construite vers l'an 1002 par Arnould de Rumigny-Florennes et consacrée par Notger, évêque de Liège;

A peine ouvert au service du culte, en 1006, l'oratoire eut a souffrir de la bataille mettant aux prises le comte Lambert de Louvain et le comte Godefroid II d'Andenne, oncle maternel de Godefroid de Florennes

quant au chapitre, il fut fondé vers l'an 1029 par l'abbé du monastère des Saint-Jean et Saint-Maur de Florennes. 
Au début, l'oratoire Saint-Gangulphe avait pour superficie celle de la grand-nef actuelle, le maître-autel étant placé sous le jubé actuel et la sacristie sous la tour; il fut agrandi par Wéric, troisième abbé du monastère (1022-1038).
L'édifice primitif, d'époque romane, se trahit, à l'intérieur, par le rythme des cinq premières ...