syn jamajskich imigrantów, Powell dorastał w sekcjach Harlemu i Południowego Bronksu w Nowym Jorku i uczęszczał do City College of New York (B. S., 1958), służąc w Reserve Officers' Training Corps (ROTC). Po ukończeniu studiów wstąpił do armii, służył w Wietnamie w latach 1962-63 i 1968-69, a następnie studiował na George Washington University w Waszyngtonie., W 1972 objął pierwsze stanowisko polityczne, jako członek Białego Domu, a wkrótce został asystentem Franka Carlucciego, ówczesnego wicedyrektora Biura Zarządzania i budżetu (OMB). Przez następne kilka lat zajmował różne stanowiska, w Pentagonie i w innych miejscach, a w 1983 został starszym asystentem wojskowym Sekretarza Obrony Caspara Weinbergera. W 1987 dołączył do sztabu Rady Bezpieczeństwa Narodowego jako zastępca Carlucciego, następnie asystent prezydenta ds. bezpieczeństwa narodowego. Pod koniec 1987 Pres. Ronald Reagan mianował Powella następcą Carlucciego., Na początku 1989 Powell przejął dowództwo Sił Zbrojnych.
w kwietniu 1989 Powell został czterogwiazdkowym generałem, a w sierpniu Pres. George Bush mianował go przewodniczącym Połączonych Szefów Sztabów. Jako przewodniczący odegrał wiodącą rolę w planowaniu inwazji na Panamę (1989) oraz operacji Desert Shield i Desert Storm kryzysu i wojny w Zatoce Perskiej (sierpień 1990 – marzec 1991; zob. wojna w Zatoce Perskiej). Odszedł z wojska w 1993, wywołując spekulacje, że wejdzie do polityki., Mimo że w 1996 zdecydował się nie kandydować na prezydenta, wstąpił do Partii Republikańskiej i wypowiadał się na tematy narodowe.
w 2001 został mianowany sekretarzem stanu przez Pres. George W. Bush. Powell bezskutecznie starał się o szersze międzynarodowe poparcie dla wojny w Iraku., Jego kontrowersyjne przemówienie przed ONZ (luty 2003) okazało się później oparte na błędnym wywiadzie. Uważany za umiarkowanego politycznie w administracji zdominowanej przez hard-linerów, Powell widział, jak jego wpływy w Białym Domu słabną i ogłosił swoją rezygnację w 2004 roku, krótko po reelekcji Busha; zastąpił go Condoleezza Rice w 2005 roku. Książki Powella obejmują autobiografię My American Journey (1995; napisana z Josephem E. Persico) i it Worked for Me: in Life and Leadership (2012; napisana z Tonym Koltzem).,