Rođen je 10. kolovoza 1919. u Otkopima, Daruvar, Hrvatska.

Poslije završene osnovne škole u Končenici, Josip Ružička se zaposlio kao sezonski najamni radnik u Ribnjačarstvu Končenica. Iako mu je tada bilo samo dvanaest godina, mladi Ružička je već tih dana uvidio da je za rješavanje osnovnih pitanja radničke klase neophodna radnička organizacija, koja će okupiti sve radnike u borbi za njihova prava.

Radnička organizacija stvorena je 1929. godine, ozbiljnije je počela djelovati 1936. Te godine radnici su, petodnevnim štrajkovima, uspjeli od poslodavaca izboriti skraćenje radnog vremena od 12 na 10 sati, i povećanje nadnice za 50 para. Ružička se u ovom štrajku posebno istakao. Sprečavao je novu radnu snagu, koju su poslodavci iz susjednih sela htjeli dovesti na posao.

Listopada 1941, Ružička je pozvan u domobransku vojsku. Najprije je bio u Slavonskoj Požegi, a zatim dobiva prekomandu u Zagreb, gdje se povezuje sa simpatizerima NOP-a. Veljače 1942, odlazi na dopust u rodno mjesto Otkope, gdje je već bio formiran NOO Ružička, kao simpatizer NOP-a, predaje svoje oružje, pištolj i uniformu NOO-u, i u civilnom odijelu se vraća u Zagreb. U Zagrebu su ga ustaše uhvate i zatvore. Ružička uspijeva, ožujka 1942, iz zatvora pobjeći, pa se prebacuje na sektor Garića, gdje se povezuje s partizanima.

Prvo je bio borac, kasnije vodnik, pa komandir čete. Isticao se snalažljivošću i hladnokrvnošću. S grupom drugova razoružavao je mnoge domobrane i ustaše. Ujesen 1942, prelazi s grupom drugova na sektor Daruvara, vodeći, uz put, borbe s raznim neprijateljskim jedinicama. Tada je i ranjen, pa je izvjesno vrijeme morao ostati u Otkopima na liječenju, gdje pomaže radu NOO. Kad je ozdravio, vratio se u jedinicu. Početkom 1943, kao dobar borac i rukovodilac, Ružička postaje član Komunističke partije, a malo zatim odlazi na srednji partijski kurs, kojeg s uspjehom završava.

Trećeg svibnja 1943, Ružička postaje komandant novoformiranog Čehoslovačkog bataljona, koji je bio pod neposrednom komandom Treće operativne zone. U sastavu 17. brigade, bataljon prelazi s Javornika. preko Psunja, na Baniju. Tada Ružička izvodi uspješnu akciju protiv neprijatelja kod Zelenika. U akciji je ranjen, pa se opet vraća u Otkope, i nastavlja rad u NOO-u. Poslije oporavka, odlazi u Štab 12. divizije, a veljače 1944. postaje komandant Čehoslovačke brigade "Jan Žiška", osnovane 26. listopada 1943, u Bučju.

U borbama brigade u Moslavini, Slavoniji, Požeškoj kotlini i Posavini bio je više puta ranjen. Zbog vojnog usavršavanja, u zimu 1944. godine, napušta jedinicu. Završio je vojno-politički kurs u Štabu VI korpusa. Veljače 1945, ponovo se vraća u Brigadu "Jan Žiška", na dužnost komandanta brigade. Na toj dužnosti ostao je do pogibije. Poginuo je kao major Jugoslovenske narodne armije, 7. veljače 1945, kod Orahovice, u borbi protiv Nijemaca.

Narodnim herojem proglašen je 24. srpnja 1953. godine.