Murat Karayalçın, 1943 yılında Samsun’da dünyaya geldi. İlk ve orta öğrenimini Ankara’da tamamlayan Karayalçın, gittiği Ankara Üniversitesi Siyasal Bilgiler Fakültesi İktisat Maliye Bölümü’nden 1968 yılında mezun oldu.

Devlet Planlama Teşkilatı’nda (DPT) uzman yardımcısı ve uzman olarak çalıştı. İngiltere’de kalkınma ekonomisi üzerine lisans derecesi alarak 1978-1979 yıllarında “Köy İşleri Bakanlığında Müsteşar Yardımcılığı” görevine getirildi.

Karayalçın, 1986 yılında İngiltere’de Dünya Konut Yılı Ödülü’nü aldı. Aynı yıl Nokta Dergisi tarafından “Yılın İşadamı” seçildi. 1987 ve 1991 yıllarında Türkiye’nin dış tanıtımına yaptığı katkılardan ötürü “Türk Tanıtma Vakfı Ödülü”ne, 1993 yılında da Fransız Hükümeti tarafından “Légion d’honneur Nişanı”na layık görüldü.

26 Mart 1989 tarihinde yapılan yerel seçimlerde “Sosyaldemokrat Halkçı Parti’den (SHP) Ankara Büyükşehir Belediye Başkanı” oldu. Bu görevi SHP’nin 11 Eylül 1993’te yapılan 4. Olağan Kurultayında Genel Başkanlığa seçilmesine kadar sürdü. Genel başkanlığa seçilmesiyle, DYP-SHP Koalisyon Hükümeti’nde “Başbakan Yardımcısı, Devlet Bakanı ve Dışişleri Bakanı” olarak görev yaptı.

Genel başkanlığından, 1995 yılında SHP’nin CHP ile birleşmesiyle ayrıldı. Deniz Baykal’a karşı, 9-10 Eylül 1995 tarihlerinde yapılan CHP 27. Olağan Kurultayı’nda genel başkanlığa adaylığını koydu, ancak yenildi. 1995 genel seçimlerinde CHP listesinden “Samsun Milletvekili” olarak meclise girdi.

18 Nisan 1999 yerel seçimlerinde CHP’den Ankara Büyükşehir Belediye Başkanlığı’na adaylığını koydu ancak kazanamadı. 22 Mayıs 1999’da toplanan CHP 9. Olağanüstü Kurultayı’nda genel başkanlığa adaylığını koydu fakat yine kazanamadı. 2001 yılında CHP’den istifa etti ve Fikri Sağlar ile birlikte sola yeni bir oluşum kazandırmak istedi. Bunu Mayıs 2002’de Sosyaldemokrat Halk Partisi adında yeni bir partiyle sağladı. 2004 Yerel Seçimlerinde Sosyaldemokrat Halk Partisi’nden Ankara Büyükşehir Belediye Başkanlığına tekrar aday oldu ancak yine kazanamadı.

2009 Yerel Seçimlerinde CHP’den Ankara Büyükşehir Belediye Başkanlığına aday oldu. Bu seçimleri de kazanamadı. 2012-2014 yılları arasında CHP Parti Meclisi Üyeliği yaptı.

17 Aralık 2014 tarihinde “Cumhuriyet Halk Partisi İstanbul İl Başkanı” oldu.

Neşe Karayalçın ile evli olup bir erkek çocuk babasıdır.