Soprannominato "Maghin" dai compagni di squadra, Mario Acerbi è molto sfortunato nel corso della sua esperienza romana.
È cresciuto nel Fanfulla, la squadra della cittadina in cui è nato, dove si mette ben presto in mostra come difensore estremamente roccioso e determinato.
Entrato in prima squadra, si segnala presto come una delle maggiori promesse del campionato cadetto, facendo appuntare sulla sua persona gli sguardi degli osservatori di molte società della massima serie.
Viene provato nella Roma già in amichevole contro la Fiorentina e nella tournée in Germanie e Olanda al termine della stagione 1938-39 e fa un'ottima impressione.
Acquistato dalla Roma, arriva nella capitale proprio mentre sta per entrare nel pieno della maturità agonistica. Nelle prime due annate, si conquista subito il posto da titolare, proprio grazie alla decisione con la quale usa puntare il suo avversario e conquistare il pallone, usando prevalentemente il sinistro, il suo piede naturale. L'intensità del suo gioco, si sposa alla perfezione con la calma che invece caratterizza il gioco del suo compagno di reparto, Brunella, dando corpo ad una coppia di terzini estremamente affidabile, che dona ampie garanzie all'allenatore. Nel torneo 1941-42 comincia ancora una volta da titolare, e sempre col consueto ottimo rendimento, che ne fa presagire una ulteriore crescita tecnica, ma dopo sole nove giornate si infortuna e deve lasciare il posto al giovane Andreoli, un altro che in quanto a determinazione ed esuberanza fisica non scherza. Come del resto dimostra, con una spavalderia che rende presto chiaro che per il povero Acerbi sta per cominciare un periodo difficile. Da quel momento non rientra più in squadra e anche nell'anno successivo è costretto a fungere da riserva per la coppia ormai inamovibile formata da Brunella ed Andreoli. Il momento migliore della sua carriera può dirsi ormai passato e Acerbi, dopo la fine della guerra, decide di tornare dove era cresciuto, al Fanfulla, per dispensare gli ultimi scampoli della sua aggressività.