Le Stade Olympique Millavois (SO Millau) est fondé en 1927 à Millau, dans l'Aveyron. Le club s'inscrit progressivement dans le paysage du football régional et atteint la Division d'Honneur, où il évolue pendant plusieurs décennies. Cette présence régulière au plus haut niveau régional permet au SO Millau de construire une équipe compétitive et de se rapprocher progressivement des championnats nationaux.
L'âge d'or du club intervient à la fin des années 1970. En 1978, le SO Millau accède pour la première fois au championnat de France de Division 4, alors quatrième niveau de la hiérarchie nationale. Dès sa première saison, les Millavois réalisent une performance remarquable en terminant premiers du groupe G avec 37 points, devant notamment Montauban FC, et décrochent ainsi leur accession en Division 3. Le club est alors l'un des représentants du football aveyronnais au niveau national.
La saison 1979-1980 constitue le sommet de cette période. Promu en Division 3, le SO Millau évolue dans le groupe Sud aux côtés de réserves professionnelles et de clubs comme l'OGC Nice, l'Olympique de Marseille ou le FC Sète. L'expérience est difficile : Millau termine à la 16e et dernière place avec 18 points et retrouve la Division 4 la saison suivante.
De retour en Division 4 en 1980-1981, le SO Millau termine 13e de son groupe et est finalement relégué en Division d'Honneur. Cette saison met un terme à une période de trois années consécutives dans les championnats nationaux, dont une en Division 3. Le club retrouve ensuite durablement les compétitions régionales, même s'il continue à porter les couleurs de Millau dans les différentes coupes nationales. Son meilleur parcours en Coupe de France intervient beaucoup plus tard, lors de la saison 2001-2002, avec une qualification pour les 32es de finale face à l'AC Ajaccio.