Fondé en 1932 sous le nom de Football Club Rumilly, le club rumillien s'inscrit rapidement dans le paysage sportif de la Haute-Savoie. En 1939, le football, l'athlétisme, le basket-ball et le rugby sont réunis au sein d'une même structure, qui prend alors le nom de Football Club Sportif de Rumilly (FCS Rumilly). Cette nouvelle entité poursuit son développement et s'impose progressivement comme l'un des clubs sportifs majeurs de Rumilly.
Après plusieurs décennies passées dans les championnats régionaux, le FCS Rumilly connaît un tournant majeur en 1989. Champion de Division d'Honneur Rhône-Alpes, le club décroche pour la première fois de son histoire son accession au niveau national en rejoignant la Division 4. Cette progression se confirme rapidement puisque, deux ans plus tard, en 1991, Rumilly termine deuxième de son groupe et accède à la Division 3. L'aventure à ce niveau ne dure toutefois qu'une saison, le club étant relégué en Division 4 en 1992, avant de connaître les réorganisations successives des championnats amateurs.
Le FCS Rumilly poursuit ensuite son parcours entre les différents échelons nationaux et régionaux. Après une nouvelle accession en quatrième division en 1994, le club retrouve le cinquième niveau national jusqu'en 2001, puis effectue un nouveau passage en CFA2 entre 2003 et 2005. Cette période est suivie d'une série de difficultés sportives qui ramène progressivement le club dans les divisions régionales. Après avoir continué à gravir les échelons, le FCS Rumilly retrouve le niveau national en 2018, année qui marque également une profonde transformation de son identité.
En 2018, le FCS Rumilly fusionne avec l'ES Vallières, alors promue en National 3, ainsi qu'avec plusieurs clubs voisins dans le cadre d'un projet destiné à renforcer le football du territoire. Cette fusion donne naissance au Groupement Football Albanais Rumilly-Vallières (GFA Rumilly-Vallières), dont l'équipe première évolue immédiatement en National 3.
