Rođen je 14. decembra 1914. godine u selu Prkosi kod Bosanskog Petrovca, Bosna i Hercegovina. Potiče iz zemljoradničke porodice. Osnovnu školu završio je u Kulen Vakufu, 1927. godine. Do 1929. godine bavio se zemljoradnjom, a potom je otišao u Podoficirsku školu, koju je završio 1931. godine, i od tada bio podoficir u bivšoj jugoslovenskoj vojsci.

Rat ga je zatekao u Sloveniji, na dužnosti komandira voda mitraljeske čete. Razočaran neuspjehom na frontu, nije dozvolio da ode u zarobljeništvo, već se vratio u rodni kraj. Vojna znanja i iskustva koja je stekao u školi i službi nije imao kad da primijeni u aprilskom ratu.

U prvim danima ustanka postao je komandant odreda Čovka. Ističe se hrabrošću, smjelim i energičnim poduhvatima, uvijek na čelu najhrabrijih boraca. Stoga je brzo stekao popularnost među borcima i u narodu i postao omiljeni partizanski komandant. Odlučno se opredijelio za oslobodilačku borbu i revoluciju, pa je, decembra 1941. godine, primljen u KPJ.

Septembra 1941. godine postavljen je za zamjenika komandanta Bosansko-petrovačkog bataljona. U aprilu 1942. godine na dužnosti je komandanta 5. krajiškog odreda, a augusta 1942. godine postao je prvi komandant 3. krajiške proleterske brigade, koju je vodio uspješno u mnogim najtežim borbama i iskušenjima, do augusta 1943. godine, kada odlazi na dužnost komandanta 10. krajiške divizije. Januara 1944. godine stupa na dužnost zamjenika komandanta 5. korpusa, a krajem godine postaje komandant istog korpusa.

Karanović se odlikovao izuzetnom hrabrošću. U januaru 1942, u Medenom Polju, po dubokom snijegu poveo je u juriš svoje Petrovčane protiv mnogo nadmoćnijih Talijanskih snaga. U tom jurišu ranjen je rafalom puškomitraljeza, ali je smogao snage da uzdignutom pesnicom kod osvojenih topova objavi pobjedu nad fašistima, koji su ovdje pali poraženi. Iako pogođen s nekoliko metaka, brzo se oporavio i vratio u borbeni stroj.

Za ime Nikole Karanovića vezane su mnoge pobjede 3. krajiške brigade u borbama u toku IV i V neprijateljske ofanzive. Za heroizam u višednevnim neravnopravnim borbama za obranu ranjenika u bici na Neretvi, brigada je dobila jednu od najdražih pohvala — od Vrhovnog komandanta. Za Karanovića i njegove borce nije bilo prepreka. Prenj, Drina, Ifsar, Sutjeska, Ilijaš i mnoga druga mjesta, poprišta su teških borbi koje je brigada vodila u toku svih ofanziva. Uvijek kad je situacija bila teška, Nikola je bio na najtežem mjestu. A nekad, kad je vlastitim primjerom trebalo da se pokaže, znao je da prvi krene u juriš. Tako je bilo i kod Konjskih voda, kada je njemačka prethodnica naišla na štab brigade. Karanović se nije zbunio — pokupio je kurire, kuhare i sve koji su se našli oko Štaba, krenuo u juriš i u borbi odbacio Nijemce.

Poslije rata bio je komandant divizije, korpusa i armije i na drugim visokim dužnostima. Završio je Višu vojnu akademiju. Bio je generalpukovnik u rezervi.

Narodnim herojem proglašen je 20. decembra 1951. godine.