'Hocaların hocası' ve 'Tarihçilerin Kutbu' olarak anılan Halil İnalcık, 7 Eylül 1916 tarihinde İstanbul'da dünyaya geldi. Kırım göçmeni bir aileye mensuptur. Eğitim hayatına Numune-i İrfan Mektebi'nde başladı. Ailesi Ankara'ya yerleşince burada Ankara Gazi Mektebi'ne kaydoldu. Kısa bir süre Sivas Muallim Mektebi'nde öğrenim gördükten sonra Gazi Muallim Mektebi'nde öğrenim hayatını sürdürdü. Lise öğrenimini Necati Bey Muallim Mektebi'nde tamamladı. Yüksek öğrenimini ise Ankara Üniversitesi Dil, Tarih ve Coğrafya Fakültesi'nde tamamladı.
Üniversite eğitimini tamamladıktan sonra Ankara Üniversitesi'nde asistanlık yapmaya başladı. 1942'de Tanzimat ve Bulgar Meselesi adlı tezi ile doktor unvanını aldı. 15 Aralık 1943'te Viyana’dan Büyük Ricat’e Osmanlı İmparatorluğu ve Kırım Hanlığı adlı tezi ile de doçentliğe atandı. 1949 yılında üniversitesi tarafından İngiltere'ye gönderildi. Burada Osmanlı İmparatorluğu ile ilgili araştırmalarda bulundu. 1951 yılında Türkiye'ye döndü. 1952 yılında Viyana Bozgun Yıllarında Osmanlı-Kırım Hanlığı İşbirliği teziyle profesör oldu. 20 yıl boyunca Ankara Üniversitesi'nde dersler veren İnalcık, dünyadaki önemli üniversitelerde de misafir profesör olarak dersler verdi.
1972 yılında Ankara Üniversitesi'nden emekli olduktan sonra 15 yıl Chicago Üniversitesi'nde görev yaptı. Burada Osmanlı Tarihi Kürsüsü'nü kurdu. 1986 yılında Chicago Üniversitesi'nden emekliye ayrıldı. 1993 yılında Türkiye'ye döndü ve Bilkent Üniversitesi'nde Tarih Bölümünü kurdu.
Günümüzde Osmanlı tarihine ışık tutan çalışmaların büyük bir kısmı İnalcık'a aittir. İnalcık, Osmanlıca dahil 7 dil biliyordu. 25 Temmuz 2016 tarihinde vefat etti.