Antes de ficar famoso arbitrando jogos de futebol, Mário trabalhou como engraxate em sua infância e também de operário numa fábrica de velas. Algum tempo depois, passou a fazer parte da Polícia Especial do Estado Novo, formada por Getúlio Vargas, ex-Presidente do Brasil, chegando a ser oficial. Ali, começou apitar jogos de futebol que os policiais faziam e acabou sendo convidado para entrar no quadro de árbitros da Federação Carioca.

Como árbitro ficou marcado por sua maneira severa e polêmica. Assim, alcançou fama no âmbito nacional e chegou a arbitrar jogos de Copa do Mundo. No Mundial de 50,Mário apitou a vitória da Espanha sobre os Estados Unidos por 3 a 1, e na Copa de 54, o triunfo da Suíça para cima da Itália pelo placar de 2 a 1. No mesmo ano, fez críticas à respeito de corrupção e acabou sendo expulso da FIFA.

Em 1957, Vianna deixou de ser árbitro e recebeu a oportunidade de comandar o Palmeiras. Após 14 jogos à frente do Verdão e acumular oito derrotas, abandonou a carreira de técnico.

No fim da década de 60, foi contratado pela Rádio Globo para ser comentarista de arbitragem, e exerceu tal função por mais de 20 anos. Fez parte  de equipes de transmissão compostas pelos renomados Waldir Amaral, Jorge Curi e João Saldanha. Criou bordões como "Mário Vianna com dois enes" e "Gol Le...gal", e os usava depois de grande parte dos gols que o locutor narrava durante as jornadas esportivas.

Mário Vianna veio a falecer no dia 16 de outubro de 1989 aos 87 anos de idade. Ele foi vítima de uma pneumonia, no Rio de Janeiro.