Cresciuto calcisticamente nella Fiorentina, fa il suo esordio al termine della stagione 1995-1996.
Trovando poco spazio nei viola, viene dirottato in serie B prima al Venezia e poi alla Reggiana dove trova decisamente più spazio e riesce a mettersi in mostra.
L'Inter lo nota, ma lo gira al Cagliari dove riesce a trovare una certa continuità anche in serie A.
La squadra nerazzurra lo riscatta dal Cagliari ma lo inserisce nello scambio con la Roma per arrivare a Di Biagio, centrocampista sicuramente più affermato rispetto al giovane di Carrara.
Certo, Zanetti è un giovane di sicuro avvenire, ma scambiarlo perdendo un titolare della Nazionale, è un bell'azzardo.
Invece nel cambio ci guadagna la Roma.
Nonostante una prima stagione dove Zanetti non maschera la sua insofferenza nel restare nella Capitale (una sciagurata intervista lo vede dire di essere contento di stare alla Roma solo perché "più vicino alla caserma dove espletare il servizio militare"), l'anno successivo è un titolare nella formazione che vince il terzo scudetto della storia della Roma.