Urodził się 9 września 1923 r. we Lwowie. Studia rozpoczął na Politechnice Lwowskiej w 1942 r., a ukończył w 1948 r. na Wydziale Mechanicznym Politechniki śląskiej. Doktorat nauk technicznych uzyskał w 1955 r., stanowisko docenta w 1957 r., tytuł profesora nadzwyczajnego w 1962 r., tytuł profesora zwyczajnego w 1969 r.; członkiem korespondentem PAN został w 1976 r., członkiem rzeczywistym PAN został w 1989 r.

Na Politechnice Śląskiej pracuje od 1946 r. W latach 1957-69 był kierownikiem Katedry Energetyki Cieplnej. W 1969 r. po reorganizacji Politechniki Śląskiej objął kierownictwo Katedry Podstaw Techniki Cieplnej. Od 1971 r. jest dyrektorem Instytutu Techniki Cieplnej. W latach 1984-85 odbył roczny staż naukowy w Kanadzie (University of New Brunswick).

Główne kierunki jego działalności naukowej to:

• analiza egzergetyczna procesów cieplnych (2 monografie: pierwsza tłumaczona na j. rosyjski, druga wydana w USA),
• bilanse energii w procesach chemicznych,
• zastosowanie rachunku wyrównawczego do uzgadniania bilansów substancji i energii w przypadkach występowania nadmiaru informacji pomiarowych (1 monografia),
• podstawy teoretyczne energetyki przemysłowej (1 monografia),
• teoria wykorzystywania energii odpadowej,
• metody numeryczne obliczeń przepływu ciepła (1 monografia, druga w druku).

Opublikował łącznie 208 artykułów naukowych (w tym 45 za granicą), 27 artykułów popularnych, przeglądowych i dyskusyjnych, 14 książek (w tym 6 podręczników akademickich, 8 skryptów), 5 monografii, ponadto 15 wznowień. Dwie książki oraz dwa tłumaczenia książek ukazały się za granicą.

Był promotorem 28 zakończonych prac doktorskich. Spośród promowanych doktorów dziewięciu uzyskało tytuły profesora, a ponadto pięciu uzyskało stopień naukowy doktora habilitowanego.

Odznaczony Krzyżem Kawalerskim i Krzyżem Oficerskim Orderu Odrodzenia Polski, Medalem Komisji Edukacji Narodowej. Był 8-krotnie wyróżniony nagrodą I stopnia i 2-krotnie nagrodą II stopnia Ministra Nauki i Szkolnictwa Wyższego.

Jest przewodniczącym Komisji Energetyki Oddziału PAN w Katowicach, przewodniczącym Rady Redakcyjnej Archiwum Energetyki, członkiem Rady Redakcyjnej czasopisma Gospodarka Paliwami i Energią, członkiem Komitetu Termodynamiki i Spalania.

W 1992 r. w uznaniu zasług Senat Politechniki Częstochowskiej nadał prof. J. Szargutowi godność doktora honoris causa.