Em 1993, com 16 anos, Gilberto Silva teve a oportunidade de fazer um teste no Atlético Mineiro, mas não passou. Alguns meses depois fez um teste no América Mineiro,  foi aprovado, mas ficou por apenas cinco meses.

No ano de 1997, com 21 anos, o jogador assumiu a titularidade do América Mineiro e ajudou a equipe a conquistar o título da série B.

Em 2000, com 23 anos, o jogador se transferiu para o Atlético Mineiro e foi campeão mineiro.

Em 2001, sua carreira decolou de forma rápida e definitiva. Gilberto passou de zagueiro-central para volante e foi considerado a revelação do campeonato mineiro. O desempenho do jogador chamou a atenção do técnico Luiz Felipe Scolari, que o convocou para a Seleção Brasileira para as duas últimas partidas eliminatórias da Copa do Mundo.

Na véspera da estreia da seleção brasileira na Copa do Mundo do Japão-Coreia, o titular Emerson sofreu uma lesão no ombro e Gilberto Silva foi o escolhido para substituir o capitão. O mineiro foi titular em todos os jogos da campanha do pentacampeonato sendo o responsável pelo passe que resultou no gol de Ronaldo contra a Turquia classificando o Brasil para a final.

Por ter se destacado no Mundial, Gilberto chamou a atenção do Arsenal, da Inglaterra, para onde foi transferido em 2002. Ao chegar em Londres, ganhou o respeito dos Gunners, torcida local, por se recusar a vestir a camisa número 6 que pertenceu a Tony Adams, eterno ídolo do time. O mineiro foi um dos grandes destaques do clube, onde permaneceu por seis temporadas.

Em 2006, Gilberto Silva foi novamente convocado para a Copa do Mundo, na Alemanha. O Brasil foi eliminado nas quartas-de-final pela França. Após a Copa, no dia 19 de agosto do mesmo ano, o volante marcou o primeiro gol do Arsenal em jogos oficiais no recém-construído Emirates Stadium, no empate em 1-1 com o Aston Villa, válido pela Premier League 2006-07.

Em 2008, Gilberto foi transferido para o Panathinaikos, da Grécia, onde permaneceu por três temporadas e conquistou o campeonato grego e a Copa da Grécia de 2010.

Em 2010 foi convocado para a sua terceira Copa do Mundo, na África do Sul, onde foi titular em todos os jogos do Brasil.  A seleção  foi eliminada  nas quartas-de-final, desta vez pela Holanda.

Em 2011, Gilberto Silva  voltou ao futebol brasileiro vestindo a camisa do Grêmio, de Porto Alegre, onde ficou por um ano e meio.

Em 2013, o atleta retornou ao clube que o projetou nacionalmente, o Atlético Mineiro. Foi novamente campeão mineiro e desempenhou um papel fundamental na conquista do inédito título da história do clube, a Taça Libertadores da América.

Logo após a conquista da Libertadores o jogador sofreu uma lesão no joelho direito em partida válida pelo campeonato brasileiro contra o Cruzeiro. Depois de se submeter a cirurgias, Gilberto está se recuperando com sessões de fisioterapia e pretende voltar em breve aos gramados.