Op 20 juli 1920 is de voetbalclub opgericht onder de naam ‘Athleta’. Deze naam was van korte duur want een jaar later, in het seizoen 1921-1922 werd de naam gewijzigd in Spartaan. Ook deze naam werd niet lang gedragen door de vereniging, want in oktober 1922 werd de naam wederom gewijzigd. De club kreeg de naam v.v. Heerenveen.

Dit gebeurde op aandringen van de NVB (Nederlandse Voetbalbond). Het was zeer waarschijnlijk dat er toen al een vereniging bestond die ook Spartaan heette. Bovendien stond in de boeken v.v. Heerenveen in plaats van Spartaan vermeld. De naamswijziging werd overigens zonder al teveel problemen aanvaard door Heerenveen.

V.v. Heerenveen speelde in het begin vierde klasse maar sloeg al snel de weg omhoog in. In het seizoen 1922-1923 promoveerde de club naar de derde klasse en een seizoen later al metteen naar de tweede klasse.

Het seizoen 1927-1928 verliep dramatisch, er werd in de hele competitie slechts één puntje verzameld door Heerenveen. Normaal gesproken zou dat degradatie betekenen maar dankzij de problemen van de KNVB ging dit niet door. De problemen bij de KNVB hadden vooral te maken met de moeilijke economische situatie waarin de wereld zich toen bevond.

Ondanks het slechte seizoen kreeg Heerenveen wel een nieuw stadion: Sportpark Noord. Het stadion was gelegen aan de JH Kruisstraat en zou maar liefst 66 jaar fungeren als de thuishaven van de Friese trots.

In het seizoen 1931-1932 kon Heerenveen voor het eerst de Noordelijke Titel pakken maar er werd verloren van Sneek. Vier jaar later ( 1935-1936) was het alsnog raak. In het seizoen wat hierop volgde slaagden de Friezen er opnieuw in de Noordelijke Titel te prolongeren. Het seizoen 1936-1937 was sowieso al een memorabel seizoen want Heerenveen wist ook nog eens te promoveren naar de Eerste Klasse door WVV Winschoten te verslaan.