Nombrado comandante en jefe de la Armada Imperial Japonesa, en 1941 preparó el ataque sobre Pearl Harbor -la base naval estadounidense más importante del Pacífico -, acción que tuvo como consecuencia la entrada de Estados Unidos a la segunda guerra mundial. Los acontecimientos se desarrollaron así: Japón aprovechó el conflicto bélico en que se debatía Europa para avanzar hacia sus objetivos de dominio en Asia, y firmó un tratado de apoyo mutuo con Alemania e Italia; sus ejércitos presionaron sobre China y, al caer Francia en poder de los nazis, ocupó militarmente la Indochina.
En la madrugada del 7 de diciembre de 1941, mientras una embajada de Japón se hallaba en Washington negociando la paz, más de 300 aviones japoneses atacaron por sorpresa la base naval de Pearl Harbor, situada en la isla Oahu de Hawai. En menos de dos horas, los torpedos japoneses hundieron o dejaron fuera de combate a 19 barcos (incluidos cinco acorazados), destruyeron 188 aviones (solo un reducido número de ellos logró levantarse y presentar combate) y produjeron la muerte a 3.077 soldados y civiles estadounidenses. Las fuerzas aéreas de la base fueron prácticamente barridas.
Algunos historiadores sostienen que Yamamoto se opuso al alevoso ataque -el que indudablemente dio una ventaja inicial a la fuerza marítima japonesa-, y que, concluido este, dijo: "Me temo que lo único que hemos conseguido es debilitar a un gigante dormido, y que su reacción será terrible".
Dos años después, cuando Yamamoto y su estado mayor viajaban en el bombardero Mitsubishi a las islas Salomón, el aparato fue derribado por una escuadrilla de cazas de Estados Unidos que partió de Guadalcanal; el avión cayó en la selva y todos los pasajeros murieron. Los americanos habían logrado descifrar las señales de radio que emitía el Mitsubishi, y así pudieron localizarlo y destruirlo.