Rođen je 28. novembra 1909. u selu Draževcu, kod Obrenovca, Srbija. Potiče iz siromašne seljačke porodice. Osnovnu školu završio je u rodnom mjestu, a abadžijski zanat u Beogradu (1922-1925).

U ranoj mladosti, kao 16-godišnjak uključio se u revolucionarni radnički pokret. Član je Saveza radničke omladine Jugoslavije i nezavisnih sindikata od 1924.

godine. Sekretar je Sekcije abadžijskih radnika od 1926. i član Izvršnog odbora Sekcije krojačkih i tekstilnih radnika u Beogradu od 1927. godine. U SKOJ je primljen 1927, a u KPJ1928. Za sekretara MK SKOJ-a za Beograd izabran je krajem 1927, a za sekretara PK SKOJ-a za Srbiju septembra 1928. godine. Pripadao je onoj grupi rukovodećeg jezgra u SKOJ-u koje se, 1927—1928, nepomirljivo borilo protiv frakcionaštva u KPJ. Organizira i rukovodi političkim akcijama omladinskog pokreta u Beogradu i Srbiji, od kojih se posebno ističu velike demonstracije u Beogradu (2. septembra 1928). Zbog revolucionarne aktivnosti u sindikatima i omladinskom pokretu, hapšen je 1927. godine jednom, i 1928. dva puta, mučen u policijskom zatvoru i protjerivan u rodno mjesto. Da bi nastavio revolucionarni rad, morao je da pređe u ilegalnost.

S grupom članova Partije i SKOJ-a, organizirao je, 11. januara 1929, štampanje i rasturanje Proglasa PK KPJ i PK SKOJ-a za Srbiju, s pozivom na borbu protiv diktature. Većina organizatora ove akcije je pohapšena, među njima i Aleksandar Ranković. U zatvoru je bio izložen zlostavljanju, ali policija nije mogla da ga slomi. Sud za zaštitu države 25. maja 1929. osudio ga je na 6 godina robije, koju je izdržao u Sremskoj Mitrovici i Lepoglavi. Na robiji je nastavio revolucionarni rad. Član je Kažnjeničkog komiteta KPJ u Sremskoj Mitrovici, učestvuje u organiziranju i vođenju štrajka glađu za prava političkih zatvorenika, oktobra 1933, u organiziranju partijskih organizacija u kaznionicama i uspostavljanju veza s komunistima u Beogradu. Kao i drugi komunisti, na robiji je upotpunio znanje iz teorije marksizma i lenjinizma.

Poslije izlaska s robije, 11. marta 1935, protjeran je u rodno mjesto, odakle brzo dolazi u Beograd i nastavlja rad u sindikatima i na obnavljanju partijskih organizacija, a zatim odlazi na odsluženje vojnog roka u Skoplje.

Januara 1937. vraća se u Beograd i radi na organiziranju i jačanju partijskih organizacija i rukovodstva u Beogradu i Srbiji, koje su bile teško pogođene u velikim provalama 1935, i 1936. godine.

U martu 1937. godine formirao je MK KPJ za Beograd, sredinom 1937. izabran je za sekretara PK KPJ za Srbiju, a 1938. za člana CK KPJ. Poslije hapšenja 2. maja 1938, prešao je u potpunu ilegalnost i nastavio politički rad kao profesionalni partijski radnik. Juna 1939. učestvuje na savjetovanju rukovodećeg aktiva KPJ, pod Šmarnom gorom, u Sloveniji, Pod njegovim rukovodstvom organizirane su brojne akcije radničke klase u Beogradu i Srbiji uoči rata. Na V pokrajinskoj konferenciji KPJ za Srbiju, juna 1940, izabran je za političkog

sekretara PK KPJ. Učestvuje u pripremama i radu V zemaljske konferencije KPJ, oktobra 1940. u Zagrebu, na kojoj je podnio referat o sindikalnom pitanju i izabran u CK, Politbiro . CK i njegov sekretarijat. Od tada do jula 1966. aktivno učestvuje u donošenju i realiziranju najvažnijih odluka CK KPJ.

Po odluci Politbiroa CK KPJ, zbog razmjene iskustava i rada u CK, Aleksandar Ranković je, januara 1941, došao na privremeni partijski rad u Hrvatsku, a u Srbiju je upućen Rade Končar, sekretar CK KP Hrvatske.

Rat ga je zatekao u Zagrebu, gdje je, 10. aprila 1941, učestvovao u radu sjednice Politbiroa CK KPJ na kojoj je odlučeno da se pristupi pripremama za oružanu borbu. Po odluci Politbiroa CK KPJ, vratio se u Beograd 17. aprila 1941. godine, i odmah nastavio rad na sređivanju partijskih organizacija u Srbiji i povezivanju njihovih rukovodstava s PK KPJ, zbog provođenja odluka CK o pripremama za oružanu borbu.

Sudjelovao je na historijskim sjednicama Politbiroa CK KPJ, 22. juna i 4. jula 1941, kada je odlučeno da se uputi poziv narodima Jugoslavije na oružani ustanak za borbu protiv neprijatelja.

Radeći na organiziranju borbe protiv okupatora, pao je u ruke Gestapa, 27. jula 1941. godine. Poslije zvjerskog mučenja u Gestapu, ponijet je u besvjesnom stanju u zatvoreničko odjeljenje bolnice u Vidinskoj ulici.

Odatle je, 29. jula, oslobođen oružanom akcijom beogradskih komunista, koje su predvodili članovi MK KPJ za Beograd i PK KPJ za Srbiju.

Od tada je, zajedno s drugim članovima Glavnog štaba NOPOJ, čiji je član od njegovog osnivanja, radio na organiziranju i vođenju oružane borbe naroda Jugoslavije. Kao organizacioni sekretar CK KPJ, najviše je radio na organiziranju i jačanju Partije u jedinicama NOV i POJ i na terenu, na kadrovskim pitanjima, a kasnije i na osnivanju i izgradnji Odjeljenja za zaštitu naroda (OZN-e).

Na II zasjedanju AVNOJ-a izabran je za člana njegovog Predsjedništva, a na I zasjedanju ASNOS-a (10. novembra 1944) za potpredsjednika ASNOS-a. Iz rata je izašao u činu general-lajtnanta, a penzioniran je u činu general-pukovnika JNA.

Poslije oslobođenja obavljao je visoke državne funkcije: član Predsjedništva Privremene narodne skupštine DFJ (1945), Predsjedništvu Ustavotvorne skupštine (1945—1946), Prezidijuma Narodne Skupštine FNRJ (1946—1953), ministar unutrašnjih poslova u Vladi FNRJ (1946-1948), potpredsjednik Vlade FNRJ i ministar unutrašnjih poslova (1948—1953), potpredsjednik Saveznog izvršnog veća (1953--1963), predsjednik Savezne komisije za nuklearnu energiju (1955—1962), potpredsjednik Republike (1963-1966) i član Savjeta Federacije (1963-1966).

Biran je za poslanika Savezne i Republičke skupštine od 1945—1963.

Od V do VII kongresa KPJ, odnosno SKJ, biran je za člana Politbiroa CK KPJ, odnosno Izvršnog komiteta SKJ. Od VII kongresa obavljao je dužnost sekretara CK SKJ do IV plenuma CK SKJ (1966).

Od osnivanja Narodnog fronta Jugoslavije, odnosno SSRNJ, biran je za člana Predsjedništva i generalnog sekretara SSRNJ (1960— 1963). Od l kongresa Saveza boraca NOR biran je za sekretara Glavnog odbora (1947— 1951), a zatim predsjednik Centralnog i Izvršnog odbora Centralnog odbora SUBNOR (1951—1961) i predsjednika Saveznog odbora SUBNOR-a (1961-1966). Zbog birokratsko-dogmatskog suprotstavljanja razvitku socijalističkog samoupravljanja i zloupotrebe svojih pozicija u Službi državne sigurnosti, na IV plenumu CKSKJ (jula 1966.) lišen funkcija, a na sjednici CK SK Srbije (septembra iste godine) isključen iz SKJ i penzioniran.

Narodnim herojem proglašen je 4. jula 1945. godine.