Perutz nació en Viena, en familia de manufactureros textiles. Estudió química en su ciudad natal y en 1936, con la finalidad de preparar su tesis doctoral sobre cristalografía con el doctor J. D. Bernal, viajó a Gran Bretaña e ingresó a la Universidad de Cambridge, donde inició estudios referentes a la determinación de la estructura de las proteínas.
Durante la Segunda Guerra Mundial hubo de abandonar sus trabajos en este campo, ya que dio su contribución al esfuerzo militar como experto en investigaciones sobre el desplazamiento de los glaciares; las retomó en 1947 cuando aceptó la dirección de una unidad del Medical Research Council de Cambridge, unidad, en ese entonces muy limitada, en la que únicamente contaba con un ayudante, su discípulo J. C. Kendrew. Ambos, en 1953 lograron demostrar que la estructura de la hemoglobina podía resolverse mediante la comparación de dos o más patrones de difracción. Los métodos utilizados a lo largo de estos experimentos han venido siendo adoptados y ampliados a cientos de proteínas, enzimas, anticuerpos o virus.
La unidad del Medical Research Council de Cambridge se convirtió en un Laboratorio de Biología Molecular, cuya presidencia estuvo en manos de Perutz durante muchos años. Dicha centro pasó a ser un importante foco de atención para los científicos más importantes del mundo, y logró atraer a personalidades de la talla de Brenner, Crick, H. E. Huxley y Sanger, entre otros.
Después de recibir el Nobel, Perutz continuó con el estudio de la hemoglobina, concentrándose en las alteraciones estructurales que aparecen cuando capta el oxígeno y en sus formas mutantes, características de ciertas enfermedades hereditarias. Desde 1954 es miembro de la Real Sociedad. En 1988 ingresó en la Orden del Mérito.