Le FC Ailly-sur-Somme trouve ses origines à la fin du XIXe siècle, avec une fondation généralement datée de 1899. Installé à Ailly-sur-Somme, dans la Somme, le club s’est progressivement imposé comme l’une des équipes importantes du football départemental et régional picard. Durant une grande partie de son histoire, l’équipe évolue dans les championnats régionaux de la Ligue de Picardie, avant de connaître une progression notable au début des années 2010.
En 2012, Ailly-sur-Somme franchit pour la première fois les échelons régionaux en accédant au Championnat de France Amateur 2 (CFA 2), alors cinquième niveau du football français. Cette accession intervient après le titre de champion de Division d’Honneur de Picardie remporté lors de la saison 2011-2012. Pour sa première saison au niveau national, le club évolue dans le groupe A du CFA 2 et termine à la 14e place, avec une victoire, onze matchs nuls et quatorze défaites, ce qui entraîne sa relégation immédiate en Division d'Honneur.
Après ce premier passage au niveau national, le club retrouve le CFA 2 en 2015, grâce à un nouveau titre de champion de Division d'Honneur de Picardie. Sacré dès le mois d'avril 2015, Ailly-sur-Somme confirme alors son retour parmi les équipes du championnat national. Cette deuxième période en CFA 2 est plus durable : le club termine notamment 7e de son groupe en 2015-2016, puis 11e en 2016-2017. Lors de la réforme des compétitions nationales, Ailly-sur-Somme participe ensuite au National 3 2017-2018, mais termine dernier de son groupe et retrouve les championnats régionaux à l'issue de la saison.