Fue galardonado con el premio Nobel de Literatura en 1965, "por la fuerza artística e integridad con que ha expresado una fase histórica dentro de la historia del pueblo ruso". Había recibido, en 1960, el premio Lenin. Fue miembro de la Academia de Ciencias de Moscú desde 1939, y miembro del Comité Central del Partido Comunista Soviético. Condecorado con la Orden de Lenin y la Orden de la Guerra Patria.
Nació en Veshenskaya, a orillas del río Don, y allí pasó la infancia. Concluida la enseñanza primaria, recorrió el país realizando diversos trabajos y tomó parte en la revolución de 1917. Se inició en las letras hacia 1922, como colaborador de diarios y revistas del Komsomal de la Unión Juvenil Comunista.
En 1925 publicó su primera colección de relatos, Cuentos del Don. Un año después comenzó El Don apacible, cuyas dos primeras partes aparecieron en 1928, el tercer volúmen en 1934, y el cuarto y último en 1940, cuando el autor gozaba ya de renombre mundial. Algo exageradamente, al serle concedido el premio Nobel de Literatura se dijo de la novela que era casi tan importante como Guerra y Paz, de Tolstoi. Ha sido traducida a cerca de 50 idiomas y trasladada al cine por el director S. Guerasimov, quien aprovecha el texto para dar una versión cinematográfica de la transformación del pueblo cosaco desde la Primera Guerra Mundial hasta la lucha civil que siguió a la revolución rusa.
Otra novela de Sholojov, Campos roturados , escrita en los años 30, ha sido objeto de dos versiones cinematográficas; en ella describe la colectivización agraria, la introducción del socialismo en el campo, las luchas y las resistencias de los campesinos, y narra el triunfo final de los soviets . Entre los relatos cortos de Sholojov sobresalen La mujer con dos maridos, El corazón de Alioche, La ciencia del odio, Lucharon por la patria y El destino de un hombre.
Falleció en Veshenkaya.