Adıyaman'ın isim kökeniyle ilgili farklı rivayetler bulunuyor. İlk rivayet, antik Perre şehrinde geçtiği öne sürülen bir olaya dayanıyor. Bu şehirde bir putperest babanın yedi oğlu, babaları evde yokken tüm putları imha edip monoteizmi (Hz. İsa'nın da belirttiği gibi) kabul ettiklerini ilan etmişler. Bu durumu öğrenen putperest baba, yedi oğlunu da öldürmüş. Bu trajik olay anısına, Perre'de (Farrin veya Pirin olarak da bilinir) bir manastır inşa edilmiş ve şehre 'Yedi Yaman' adı verilmiş. Zamanla bu isim, kullanımla birlikte 'Adıyaman' formuna dönüşmüş.
İkinci rivayet ise Adıyaman şehrinin merkezinde bulunan bir kale ile ilgili. Bu kale, Mansur'un Kalesi olarak bilinir ve halk tarafından 'Hısn-ı Mansur' (Mansur'un Kalesi) adı verilmiştir. Hısn-ı Mansur isminin kökeni hakkında ise kendi içerisinde iki farklı rivayet mevcuttur. Birincisine göre, 7. yüzyılda buraya gelen Emevi komutanlarından ve Kays kabilesi üyesi Mansur'un adından geliyor. İkinci rivayete göre ise, bu isim Abbasi Halifesi Ebu Cafer El-Mansur'un adından türetilmiştir. Zamanla halk arasında telaffuzun değişmesi sonucu şehrin ismi 'Hüsnü Mansur' şekline dönüştürülmüştür.
Üçüncü ve son rivayet, Adıyaman'ın coğrafi konumuna işaret ediyor. Şehri doğu, batı ve güney yönlerinden derin vadiler çevreliyor. Bu vadilerin yamaçları ve şehrin çevresi meyve ağaçlarıyla kaplı olmasından dolayı, 'güzel vadi' anlamına gelen 'Vadi-i Leman' kelimesi kullanılmış. Ancak zaman içinde bu isim de halk arasında 'Adıyaman' şekline dönüşmüş. Ancak belirtilmesi gerekir ki, 'Hısn-ı Mansur' ya da 'Hüsnü Mansur' ismi, 1926 yılına kadar resmi ad olarak kalmıştır. 1926'dan itibaren ise, Bakanlar Kurulu kararları ile şehrin ismi tekrar 'Adıyaman' olarak değiştirilmiştir.
