El territorio josefino forma parte del litoral sur de Uruguay, junto a los departamentos de Colonia, Montevideo, Canelones, Maldonado y Rocha. Junto a los cuatro primeros comprende la cuenca del Plata, por lo que dispone de playas frescas y de un clima continental caracterizado por la escasez de lluvias. Su límite oriental con la capital nacional le sirve de residencia pasiva a cientos de trabajadores que laboran en el campo montevideano. Por este motivo es, además, un departamento industrial en donde la proximidad al mercado y al puerto capitalino le ofrece una buena fuente de ingresos y genera mayores posibilidades de empleo que otros puntos del interior.

Orografía
San José se divide en cuatro regiones geográficas bien diferenciadas: los llanos cristalinos del sur, ricos y constituidos a partir de limos eólicos; las sierras bañadas del noroeste, abundantes en granito y de terminación ahuecada como se aprecia en las Sierras de Mahoma (punto más alto del departamento, con 180 metros de altura sobre el nivel del mar); el oriente arcilloso, circundado por los ríos de Santa Lucía y San José; y el litoral platense, también predominantemente llano y arenoso (como en el Rincón de la Bolsa), pero accidentado en lugares como Mauricio o San Gregorio.

Hidrografía
Un anexo de la Cuchilla Grande, conocido como la Cuchilla de San José, representa el límite fluvial más importante a nivel departamental. Éste intersecta con el río Santa Lucía y recibe a los afluentes del Plata, entre ellos, los arroyos Pereira, Pavón y Cufré próximo a Colonia. Finalmente, el río San José (que nace en el departamento de Flores) alberga a numerosos bañados y arroyos tales como el Chamizo, el Carreta Quemada y el Cagancha.

El río Santa Lucía sirve de límite natural con Canelones, Florida y Montevideo, y recibe al arroyo de la Virgen, uno de sus tantos tributarios.