Le club restera six ans dans cette D2 à deux groupes qui oblige à terminer à la première place pour être certain de la montée. Ce qu'il convient d'appeler les "années noires" d'un Olympique lyonnais jamais très loin de la montée directe, mais toujours battu lors des barrages de fin de saison. Deux fois troisième (1984 et 1986), deux fois deuxième (1987 et 1988), l'OL ne retrouve l'élite qu'à l'issue de la saison 1988-89, avec deux petits points d'avance sur Nîmes.

Entre-temps, le président Charles Mighirian a cédé son fauteuil à un chef d'entreprise de la région, supporter de l'OL quand il était petit, et peu disposé à voir plus longtemps le club de la deuxième métropole française végéter en D2. Jean-Michel Aulas, le nouveau patron, lance un plan "OL-Europe" qui promet la remontée en D1 et une qualification euréopenne sous quatre ans.

Il remet de l'ordre dans la maison, profite d'un 1-7 encaissé à Gerland contre Sochaux pour se débarrasser de l'entraîneur Robert Nouzaret et rappelle au club deux jeunes retraités qui avaient su faire vibrer Gerland dans les années 70 : Raymond Domenech, qui devient entraîneur, et Bernard Lacombe, directeur sportif.

Sans doute le petit plus qui manquait. Puisque à l'issue de leur première année d'exercice, les deux hommes hissent l'équipe en D1 en lui faisant pratiquer un football offensif qui ramène du public à Gerland, et en lançant dans le grand bain des jeunes joueurs qui assureront sans souffrir la continuité en D1 (NGotty, Garde, Durix, Fugier, Breton, Genesio...) encadrés par un buteur providentiel, Eugène Kabongo.