Nació en Letnany, cerca de Praga. Cerrajero de profesión, ingresó muy joven al partido comunista y en 1935, como delegado, viajó a Moscú para asistir a las sesiones del Komintern. Durante la segunda guerra mundial y con motivo de la ocupación de su patria por las tropas de Hitler en 1939, desempeñó importantes actividades políticas en la clandestinidad. En 1941 fue detenido por la Gestapo e internado en el campo de concentración de Mauthausen. Permaneció en prisión hasta 1945, fecha en que las tropas estadounidenses lograron liberarlo junto con sus compañeros de cautiverio.
A partir de entonces inició una rápida y ascendente carrera política como dirigente del comunismo checoslovaco: en 1946 fue nombrado miembro del Comité Central; dos años después diputado del Parlamento; y en 1951 Secretario del Comité Central del Partido Comunista. En 1957 sucedió a Zapotocky en la presidencia de la República, sin abandonar por ello las funciones de Secretario General del Partido.
En su largo y despótico desempeño como autoridad máxima del país acató siempre la línea dura dictada por Moscú, con lo que engendró un gran descontento en el pueblo. En 1967, acusado de dirigir el país a graves dificultades económicas y repudiándosele la práctica frecuente de métodos estalinistas, fue excluido del Comité Central del Partido Comunista y separado de la Primera Magistratura.
Después de que las tropas del Pacto de Varsovia ocuparon Checoslovaquia y pusieron fin a la llamada "Primavera de Praga", no se le rehabilitó. "Vería los cambios que llegaron en los años siguientes con la tristeza de quien, por encima de sus convicciones y viejas lealtades, nada tenia que hacer en el futuro de Checoslovaquia", dice su biógrafo. Falleció en Praga.