syn Jamajských přistěhovalců, Powell vyrůstal v Harlemu a Jižním Bronxu, části New Yorku a navštěvoval City College of New York (B. S., 1958), sloužící v Reserve Officers‘ Training Corps (ROTC). Po maturitě vstoupil do armády, v letech 1962-63 a 1968-69 sloužil ve Vietnamu a poté studoval na George Washington University ve Washingtonu, D. C., V roce 1972, on vzal jeho první politickou pozici, jako Bílý Dům kolegy, a brzy se stal asistentem Franka Carlucciho, pak zástupce ředitele Úřadu pro Řízení a Rozpočet (OMB). Zastával různé pracovních míst v průběhu příštích několika let, v Pentagonu a jinde, a v roce 1983 se stal senior vojenského asistenta Ministra Obrany Caspar Weinberger. V roce 1987 nastoupil do štábu Národní bezpečnostní rady jako náměstek Carlucci, poté asistent prezidenta pro záležitosti národní bezpečnosti. Koncem roku 1987 Pres. Ronald Reagan jmenoval Powella nástupcem Carlucciho., Začátkem roku 1989 převzal velení armádních sil Powell.
V dubnu 1989 se Powell stal čtyřhvězdičkovým generálem a v srpnu Pres. George Bush ho nominoval na předsedu Sboru náčelníků štábů. Jako předseda, on hrál hlavní roli v plánování invaze do Panamy (1989) a Pouštní Štít a Pouštní Bouře, operace v perském Zálivu a války (srpen 1990–Březen 1991; viz Války v perském Zálivu). V roce 1993 odešel z armády, což vyvolalo spekulace, že vstoupí do politiky., Přestože se v roce 1996 rozhodl nekandidovat na prezidenta, vstoupil do republikánské strany a hovořil o národních otázkách.
V roce 2001 byl jmenován státní tajemník podle Pres. George W. Powell neúspěšně usiloval o širší mezinárodní podporu války v Iráku., Jeho kontroverzní projev před OSN (únor 2003) byl později odhalen na základě chybné inteligence. Za politické středně správy dominují zastánci tvrdé linie, Powell viděl, že jeho vliv v Bílém Domě ubývat, a oznámil, že jeho odstoupení v roce 2004, krátce po Bushově znovuzvolení; on byl následován Condoleezza Riceová v roce 2005. Powell knihy patří autobiografie Moje Americká Cesta (1995; psáno s Joseph E. Persico) a To Fungovalo pro Mě: V Životě a Vedení (2012; psáno s Tony Kolt:).,