Ukończył gimnazjum i liceum w Warszawie. Karierę wojskową rozpoczął od obowiązkowej służby wojskowej w carskiej Rosji. W latach 1911-1914 studiował mechanikę na Politechnice Ryskiej, był aktywnym członkiem bractwa studenckiego „Arkonia” i podziemnej organizacji polskiej „Sokół”. Od 1910 r. służył w armii imperium rosyjskiego i wziął udział w I wojnie światowej. Podczas działań bojowych wyróżnił się jako dzielny i zdolny żołnierz.

Był kilkakrotnie ranny i kontuzjowany, z racji swych zdolności został skierowany na kurs Akademii Sztabu Generalnego. Służbę w armii carskiej zakończył w stopniu sztabskapitana. Następnie służył w I Korpusie Polskim, przedostał się do Polski i zgłosił się do służby w odrodzonym już Wojsku Polskim. Został przydzielony do Armii Wielkopolskiej na stanowisko szefa sztabu, następnie jako dowódca 15. pułku ułanów wziął udział w wojnie polsko-bolszewickiej. Po zakończeniu walk został skierowany na szkolenie i staż do Francji. Po jego ukończeniu powrócił do Polski i służył jako oficer sztabowy. Po przewrocie majowym dowodził dużymi jednostkami kawalerii Wojska Polskiego.

W czasie II wojny światowej dowodził Nowogródzką Brygadą Kawalerii. Został wzięty do niewoli przez oddziały Armii Czerwonej i był więziony we Lwowie, następnie w Moskwie. Podczas 22-miesięcznego pobytu w więzieniu wielokrotnie go przesłuchiwano i bezskutecznie namawiano (jeszcze w lwowskim szpitalu) do wstąpienia do Armii Czerwonej. Dopiero na mocy układu Sikorski-Majski został zwolniony z więzienia. W efekcie premier i Naczelny Wódz gen. Władysław Sikorski powierzył mu zadanie utworzenia i dowodzenia Polskimi Siłami Zbrojnymi w ZSRS. Mimo problemów zdrowotnych natychmiast przystąpił do gromadzenia wojska: 22 sierpnia 1941 r. wydał rozkaz nr 1, w którym wezwał „wszystkich zdolnych do pracy obywateli polskich do spełnienia obowiązku wobec Ojczyzny i wstąpienia pod sztandar Orła Białego”.

Dzięki jego działaniom utworzono regularne jednostki Wojska Polskiego spośród osób zwolnionych z więzień i obozów pracy oraz ludności cywilnej zesłanej na Syberię. Sprzeciwił się angażowaniu części sił na froncie wschodnim i podjął decyzję o ewakuacji polskich żołnierzy oraz ludności cywilnej na Bliski Wschód. Gen. Anders zadbał o to, aby polska ludność cywilna mogła opuścić „nieludzką ziemię” wraz z wojskiem. W dwóch ewakuacjach, które odbyły się między marcem a listopadem 1942 r., do Iraku wyjechało ponad 120 tys. osób - 78,5 tys. żołnierzy i 37 tys. cywilów, w tym ok. 18 tys. dzieci. Tzw. „armia nadziei” przemierzyła trzy kontynenty.

Po przeorganizowaniu, zaopatrzeniu i przeszkoleniu w Iraku i Palestynie utworzono jednostki 2 Korpusu Polskiego, które wzięły udział w kampanii włoskiej, wyróżniając się podczas walk o Monte Cassino, wyzwalania Ankony i Bolonii. W lutym 1945 r. Andersowi powierzono pełnienie obowiązków Naczelnego Wodza. Pełnił tę funkcję do 27 maja tego roku.

Po wojnie pozostał w Wielkiej Brytanii i uczestniczył w życiu politycznym polskiej diaspory. Pełnił m.in. funkcję Generalnego Inspektora Sił Zbrojnych oraz prezesa Polskiej Fundacji Kulturalnej. Komuniści uważali go jednak za jednego ze swoich największych wrogów. W konsekwencji 26 września 1946 r. komunistyczny Tymczasowy Rząd Jedności Narodowej pozbawił Andersa obywatelstwa i stopnia wojskowego.

Pomimo tego pozostał niekwestionowanym autorytetem dla swoich podwładnych, symbolem patriotyzmu i bezkompromisowej postawy wobec komunizmu.

Zmarł w Londynie 12 maja 1970 roku. Został pochowany, zgodnie ze swoim życzeniem, wśród poległych żołnierzy 2 Korpusu Polskiego na Polskim Cmentarzu Wojennym na Monte Cassino we Włoszech.