Cresce nelle giovanili giallorosse. Il suo ruolo è quello di fluidificante di sinistra, un tipo di giocatore da sempre molto ricercato ed appetito sul mercato.
Grossi si segnala subito come fra i talenti più fulgidi del vivaio giallorosso e per maturare al meglio viene mandato a fare esperienza a Lecce, a 20 anni, in Serie B.
Il giallorosso è il colore preferito di Gabriele che in Salento si mette subito in mostra disputando un ottimo campionato nel quale colleziona 32 presenze ed 1 gol, segnalandosi come uno dei rampolli più interessanti della serie cadetta.
Nell’estate del 93 la Roma lo riporta a casa, giusto per dargli il tempo di esordire in A, prima di cederlo in prestito al Bari, sempre in Serie A, nel mercato autunnale. Grossi a Bari non è un titolare inamovibile, ma colleziona comunque altre 15 presenze in A con la maglia dei galletti.
Nell’estate del 1994, nell’ambito dell’affare che porta Daniel Fonseca alla Roma, Grossi passa al Napoli.
Da qui in avanti il giocatore si perde un po' forse per i tanti trasferimenti, forse perché alla Roma non c'è più fiducia in lui. E continua il suo girovagare per l'Italia.