De tout temps, les enfants des villages de l'Entre-Sambre-et-Meuse dans lesquels une marche folklorique annuelle était organisée, marchaient dans le même peloton que leurs père, frère ou oncle. Cette situation comportait cependant un gros problème : ils voyaient leurs aînés s'adonner plus que de raison à la boisson.

En 1964 sous l'impulsion de l'Adjudant-Major Fernand Ernotte, un petit peloton d'une douzaine de petits Voltigeurs vit le jour à WALCOURT. Il regroupait des jeunes de 10 à 14 ans commandés par Robert Servotte.

Dès 1965, trois membres du Syndicat d'Initiative (Marius Dermine, Paul Duchateau et Pierre Magain) proposent la création d'un groupe de jeunes au comité de la Marche qui accepte : la Compagnie de la Jeune garde de Walcourt est née. Lors de leur première Trinité, ils sont 69 à défiler et à rendre les honneurs à Notre-Dame. Surmontant les brimades de certains et devant le succès rencontré, la nouvelle compagnie sous les ordres de Pierre Magain, évoluera dorénavant avec sa propre batterie.

N'ayant pas la possibilité de louer autant de costumes "Deuxième Empire (fin 19è siècle)", le choix se porta donc tout naturellement vers les costumes "Premier Empire".

Mais bientôt, l'idée de confectionner ses propres uniformes vit le jour. Possédant une documentation importante sur les uniformes des Pupilles, la décision fut prise de reconstituer fidèlement ce régiment de la Jeune Garde qui elle compta à partir du 30 août 1811, jusqu'à 8.000 orphelins et enfants de troupe venus de toute l'Europe. Le costume vert à passepoils jaunes fut choisi étant donné que les enfants provenaient de Belgique tout comme ceux de France, la couleur rouge étant celle des jeunes hollandais.