Gonçalves limita-se com os municípios de Paraisópolis a oeste e norte, São Bento do Sapucaí (este em São Paulo) a leste, Sapucaí-Mirim a sul e Camanducaia a sudoeste. Como na maioria dos municípios da Mantiqueira, seu relevo é fortemente acidentado, com raríssimas áreas planas. Montanhas altas, vales profundos, aflorações rochosas de grande porte e muitos córregos e ribeirões compõem a paisagem que tanto atrai turistas.
Além das áreas de cultivo de banana, hortaliças e pastagens para o gado, a vegetação do município apresenta trechos de replantio, bosques, concentrações de eucaliptos e pinheiros, mas o que mais chama a atenção são os fragmentos florestais com mata nativa, remanescentes da Mata Atlântica, porém com espécies típicas de altitude. Entre elas, a Araucária, ou pinheiro-do-paraná (araucaria angustifolia), árvore que antigamente era encontrada continuamente desde o Paraná e Santa Catarina até o sul de Minas. Por essa razão, é de se notar que os fragmentos florestais de Gonçalves e regiões próximas são considerados como Floresta Ombrófila Mista ou Floresta com Araucárias, formação que hoje praticamente só é encontrada no Sul do Brasil.
O principal rio é o Capivari, que nasce no município, recebe vários ribeirões e córregos, atravessa a pequena área urbana (apenas 1,2 km²), passa por Paraisópolis e deságua no Sapucaí Mirim, já no município de Conceição dos Ouros. O rio Sapucaí Mirim também cruza pequena parte do território de Gonçalves, próximo à rodovia MG-173. Ainda nas imediações dessa rodovia, fica a Barra do Lambari, bairro que tem esse nome por ser o local onde desemboca no Sapucaí Mirim outro importante curso d’água de Gonçalves, que é o ribeirão Lambari. Esse ribeirão dá nome à maior região do município, a do Lambari, que agrega os bairros Lambari de Cima, Lambari do Meio, Lambari de Baixo, Barra do Lambari, Serrinha, Três Barras, Atrás da Pedra, Ribeirãozinho, Remédios e Piquiras.
A população é basicamente rural, com apenas 25% dela vivendo na zona urbana. Há uma ligeira predominância de homens sobre o número de mulheres, motivada pelo fato de ser mais comum que mulheres saiam para estudar fora e acabem não retornando. Apesar da redução na velocidade de crescimento populacional, Gonçalves não sofreu redução em 2007 comparado com o censo de 2000, como aconteceu em outras cidades. Isso se deve ao crescimento do turismo, que tem oferecido vagas de trabalho, mas também tem atraído pessoas que antes eram turistas e acabaram fixando moradia.
Além dos já citados bairros rurais da região do Lambari, há vários outros espalhados pelo município. Entre eles, Sertão do Cantagalo, São Sebastião das Três Orelhas, Retiro, Venâncios, Campestre, Terra Fria, Dona Luciana, Henriques e Mundo Novo. Seu acesso principal é a estrada, recentemente asfaltada, que liga a sede do município à MG-173, rodovia que dá acesso, ao sul, ao Vale do Paraíba, Via Dutra e São Paulo e, ao norte, a Itajubá e Pouso Alegre pela BR-459 (que liga a Via Dutra a Poços de Caldas), e a São Paulo e Belo Horizonte pela BR-381 (Fernão Dias). Outro acesso alternativo é a estrada que sai da Fernão Dias em Cambuí, passa por Córrego do Bom Jesus e daí segue por terra durante 22 km até Gonçalves, subindo a serra. Este caminho reduz a distância para quem vem da capital paulista ou da região de Campinas. Todas as rodovias possuem sinalização indicativa para Gonçalves.