Rođen je 24. novembra 1916, u Stični, Grosuplje, Slovenija. Roditelji su mu bili zemljoradnici. Završio je sedam razreda osnovne škole u Stični kao vrlo dobar učenik ali, pošto nije imao sredstava za školovanje, otišao je u Kamnik i radio kao šegrt u gvožđarskoj radnji. Mnogo se bavio sportom, bio je nogometaš i planinar, a svoje obrazovanje je dopunjavao radom u kulturno-prosvjetnim društvima.

U vrijeme šegrtovanja teško se razbolio od tuberkuloze i vratio kući. Kada se izliječio, nije mogao da nade posao pa je pješice, dva mjeseca, obilazio Sloveniju tražeći službu. Izvjesno vrijeme bio je zastupnik fabrike plugova u Lescama.

Iako bolestan, bio je član "Sokola" i bavio se fiskulturom. U zaostaloj sredini, pod jakim utjecajem katoličke crkve, članstvo u "Sokolu" bilo je tada sinonim naprednosti. Klerikalci su ga jednom čak i fizički napali.

Neposredno pred rat, pozvan je u vojsku, u vazduhoplovstvo, ali je poslije kratkog vremena poslat kući kao stalno nesposoban. U to vrijeme bio je član "Društva kmečkih fantovin deklet", koje je bilo legalna forma rada komunista. Jože Kovačič, veoma cijenjen kao pošten i trezven momak, postao je i radnički povjerenik za rajon Višnja gora.

Poslije aprilskog sloma, Jože, zajedno s braćom i drugovima, samoinicijativno skuplja i skriva oružje i municiju.

Uskoro je primljen u Partiju, i odmah postaje i Član Okružnog komiteta KP Grosuplje. Radi na stvaranju Osvobodilne fronte na tom području i na organizaciji partizanskih četa. Kad mu je brat Slavko, zbog cijepanja talijanskih novčanica na javnom mjestu, osuđen na više godina zatvora, Jože je živio već upola ilegalno.

Krajem oktobra 1941, potkazali su ga domaći reakcionari i vojnici su ga opkolili u dućanu u Stični. Pod kaputom je imao više paketa letaka ilegalne štampe. Odgurnuo je vojnike, i dok je bježao razbacivao je po ulicama letke i novine — iako su gonioci pucali za njim.

Stupio je, iako bolestan, u Stisku partizansku Četu, na brdu Kremenjk. kad je, u decembru 1941, ova četa trebalo da uđe u sastav 2. štajerskog bataljona, neki su se borci tome usprotivili, jer su htjeli da ostanu u blizini svojih sela. Jože je tada dao snažnu podršku komesaru bataljona, Dušanu Kvederu Tomažu, uvjeravao je kolebljive i na kraju se Odred uključio u bataljon. Poslije toga učestvuje u borbama kod Litije, prilikom prvog pokušaja proboja u Štajersku.

U zimskom logoru bataljona, na brdu Pugled kod Ljubljane, radi na političkom i vojnom uzdizanju boraca i postaje vodnik, a zatim komandir čete.

Kao komandir čete ističe se u više napada na Talijanske motorizirane kolone, naročito u borbi kod Medveđeka, gdje su Talijani pretrpali osjetne gubitke u ljudstvu i materijalu. Tada su Talijani za odmazdu zapalili Kovačičevu kuću. Istakao se i u borbama kod Muljave.

Kad je, 19. maja 1942, 2. grupa odreda krenula preko Talijansko-njemačke demarkacione linije da pokuša da se, pored Litije, ponovo prebaci preko Save i dalje za Štajersku, Jože je bio imenovan za komandanta bataljona, ali tu dužnost nikad nije primio.

Kod sela Tuji grm, grupa odreda imala je, 21. maja, žestok sukob s jakim njemačkim snagama. U presudnom trenutku, među novim borcima došlo je do kolebanja, iako već ranjen, Jože je i dalje komandirao četom i uspio da uspostavi disciplinu, kad je poginuo puškomitraljezac, prihvatio je njegov puškomitraljez i nastavio da puca. Tada je drugi put ranjen. Kad se grupa povukla, s namjerom da se probije preko demarkacione linije natrag, na Talijansko okupacione područje, drugovi su ga skrili u šipražje kod sela Vnajnarji. Dalje nisu mogli da ga nose, jer su ih Nijemci gonili. Obećali su da će doći po njega, ali, kako je narednih dana demarkaciona linija bila blokirana, nisu mogli da ispune obećanje.

Jožeta je, 24. maja, našao dječak koji je lovio divljač. Nije mogao ni da se pokrene, zamolio je dječaka da preda njegov sat roditeljima, da mu skine cipelu s desne noge, da zaveže na nožni palac i na oroz puške vrpcu, i da se udalji. Kad je dječak, prestravljen, otrčao, Jože Kovačič se ubio.

Narodnim herojem proglašen je 27. novembra 1953.