Apasionado viajero, consideraba que la causa principal del mal de la sociedad moderna consiste en las costumbres sedentarias; por ello, impulsaba el nomadismo como el medio para alcanzar la paz y la libertad de cada individuo. Profundo conocedor de la lengua de su patria y gran innovador estilístico, ha sido comparado incluso con autores tan importantes como Strindberg. Su esposa fue la famosa novelista sueca de temas proletarios Moa Martinson.
Nació en Jamshog, en familia humilde; el padre, que era marinero, murió cuando Harry tenía 6 años. Este, a la edad de 7 años abandonó el hogar para llevar una existencia vagabunda. Fue obrero y a los 14 años embarcó como fogonero en un navío mercante, donde después se desempeñó como cocinero; así viajó por todo el mundo; posteriormente, a pie, recorrió países de Europa, América y Asia, interesándose en adquirir conocimientos botánicos, zoológicos y físicos.
De formación autodidacta , su pasión por la lectura le abrió el camino de la literatura, a la que enriqueció con las múltiples y variadas experiencias de su vida de observador sagaz. Formó parte del grupo literario Fem Unga y en 1931 publicó un libro de poemas Nómada , seguido por Naturaleza y por los relatos Viajes sin rumbo, Cabo Farwell, Las ortigas florecen y La partida.
Un grave ataque de tuberculosis le hizo abandonar los barcos y establecerse en tierra firme. Cuando mejoró, se trasladó a Brasil y luego, para conocer las doctrinas orientales, a la India. Allí escribió en 1956 Aniara , un largo poema épico considerado por muchos su obra maestra. En él narra la persecución de una gigantesca nave espacial durante un viaje sin regreso, lo que se ha interpretado como una alegoría del hombre en la era tecnológica; en esta obra se basa la ópera homónima del compositor sueco Karl Birger Blomdahl.
Miembro de la Academia desde 1949, después de varios años de silencio en 1971 publicó Poemas de la luz y la oscuridad, seguido por Tuvor . Su obra póstuma se titula A lo largo de los senderos del eco. Falleció en Estocolmo. Era doctor honoris causa por la Universidad de Gotemburgo desde 1954.