Demirel, Isparta’nın Atabey ilçesine bağlı İslamköy’de “Paşa Dayı” Yahya Bey ile Ümmühan Hanım’ın ikinci çocuğu olarak 1 Kasım 1924 yılında doğdu. İlköğrenimini 1930-35 yıllarında doğduğu köyde, ortaokul ve liseyi Isparta ve Afyon’da bitirdi. Afyon Lisesi’nden 1941 yılında mezun olan Demirel, daha sonraki yıllarda İstanbul Teknik Üniversitesi adını alacak olan Mühendis Mektebi sınavlarını kazandı.

İstanbul Teknik Üniversitesi İnşaat Fakültesi’nden 1949’da mezun olan Demirel, aynı yıl Elektrik İşleri Etüd İdaresinde göreve başladı. Sulama ve elektrik konularında araştırma yapmak üzere ABD’ye gönderilen Demirel, yurda dönmesinin ardından, kendisine “barajlar kralı” unvanını getirecek Devlet Su İşleri’ne atandı. Barajlar Dairesi başkanlığından sonra 1955’te Devlet Su İşleri Genel Müdürlüğü’ne getirilen Demirel, genel müdür olarak, çok sayıda baraj ve sulama projesini hayata geçirdi. Eisenhower Vakfı’nın bursiyerini alarak bir kez daha ABD’ye giden Demirel, askerlik görevi için 1960’ta genel müdürlükten ayrıldı. 

27 Mayıs’tan sonra bir süre serbest mühendislik ve müteahhitlik yapan Demirel, ODTÜ’de öğretim görevlisi olarak çalıştı. Boğaz Köprüsü’nün ilk projesini hazırlayan ABD’nin uluslararası mühendislik ve müteahhitlik firması Morrison Knudsen Inc.’in Türkiye temsilciliğini üstlenen Demirel, bu görevinden dolayı bir dönem “Morrison Süleyman” olarak da anıldı