Nació en Pella, en hogar acomodado; fue educado, como la mayoría de sus conciudadanos, en prácticas de equitación, caza y ejercicios militares. De los 14 a los 17 años fue enviado como rehén a Tebas, lo cual contribuyó en gran medida a su formación; aunque allí no recibió directamente instrucción, sí pudo apreciar las mejores enseñanzas del helenismo, aprovechando las lecciones y el ejemplo de aquellos militares que habían derrotado a Esparta. Hacia 365 regresó a Macedonia, donde, asistido por muchos partidarios se apoderó del trono; luchó contra tres de sus hermanos, y a uno le dio muerte. Otras batallas internas tuvo que pelear, pero, superadas, su empresa principal pasó a ser el sometimiento de Grecia, para lograr lo cual utilizó todos los recursos de la estrategia y la astucia. En sus triunfos para conseguir tal objetivo solo encontró como obstáculo memorable la oposición a su paso de la Termópilas por parte del ejército ateniense.
Los griegos habían desoído los clamores de Demóstenes, expresados en las célebres Filípicas, y solo convinieron con este orador en la gravedad decisiva del peligro macedónico cuando ya no había remedio. Organizaron entonces apresuradamente la coalición de estados griegos, pero Filipo, unas veces por medio de batallas y otras con tratados de paz, acabó sometiendo a Grecia en la batalla de Queronea, en 338. Posteriormente, los propios ateniense erigieron a Filipo jefe de todos los ejércitos para guerrear contra los persas, y éste, ya vencedor, formó con la península helénica una poderosa confederación, la Liga de Corinto.
Filipo murió asesinado por uno de sus capitanes, cuando se disponía a conducir a los griegos contra Persia. Los contactos que había mantenido con la corte y con preclaros representantes del helenismo habían enriquecido su intelecto. Su personalidad se había fraguado en el medio heleno, rodeado de funcionarios, artistas y poetas griegos. Pero, a pesar de ello, no dejó en ningún momento de ser macedonio. Pasó gran parte de su vida en campaña, compartiendo privaciones con los soldados; mezclado con ellos, en el fragor de la lucha, ocupó los puestos de mayor peligro. De su valor eran testigo las numerosas cicatrices en su cuerpo. Hombre dado con exceso al lujo y los placeres, y en ocasiones a la crueldad, la historia le considera uno de los grandes genios de la guerra. Creó la famosa falange macedónica o cuadros de dieciséis filas de hombres con escudos casi de su estatura, que avanzaban protegidos por grandes escuadrones de caballería pesada.