Nació en Quimper, Bretaña, en familia judía. En su juventud marchó a París, donde trabajómodestamente en un almacén comercial y vivió junto a una joven la única relación amorosa de que se tiene noticia en su existencia. Estudiante de leyes y pintura, publicó algunos artículos sobre temas artísticos e hizo amistad con Apollinaire y Picasso; este último le dio el siguiente consejo: "Vive como poeta", y Jacob abandonó el empleo y se dedicó a escribir, pintar, visitar Montparnasse y ayunar frecuentemente, al tiempo que teorizaba sobre el "poema en prosa" e investigaba acerca de espiritismo y astrología.
En Montmatre se relacionó con los pintores cubistas y los poetas del dadaísmo, mientras esperaba a su Dios. Y un buen día -el 7 de octubre de 1909- "Dios vino a su mísero y oscuro aposento". Preparado, a partir de entonces, para su conversión total, recibió el bautismo en 1915, siendo Picasso su padrino. Los volúmenes poéticosque publicó seguidamente, El cubilete de los dados, El laboratorio central, Visiones infernales y Los penitentes en maillot rosa,constituyen lo mejor de su producción. Además publicó obras en prosa: Defensa de Tartufo, "meditaciones de un judío converso"; cuentos, novelas y textos diversos en tres libros dedicados a San Matorel; acentuadas sus inclinaciones pictóricas, realizó numerosas aguadas neoimpresionistas.
En 1921 se retiró a vivir en Saint-Benoit del Loira, cerca de un convento. Solo dejó el amable refugio para realizar un viaje al extranjero y una breve visita a París. Los últimos siete años de su vida los pasó en un convento benedictino, entregado al trabajo y la oración. Hasta su retiro llegaron las fuerzas invasoras nazis y lo detuvieron para ingresarlo, por su origen judío, en el campo de concentración de Draney, donde pronto murió a causa de una pulmonía. En las últimas páginasque escribió y que fueron publicadas póstumamente, "no es ya sino una criatura humillada y ofendida, que realiza según Cristo, y sublimándola, su propia humanidad", indica Veronesi.