İlçenin kuruluş tarihi kesin olarak bilinmemektedir. Önceleri Norşin adı verilen bir
yerleşim merkezi bulunduğu, bilahare büyüyerek Güroymak İlçesine dönüştüğü bilinmektedir.
Norşin yerleşim birimine hayli uzakta yer alan Kümbet ve Selçuklu Mezarlığından daha önce ovada 11. yüzyılda bir yerleşim olduğu anlaşılmaktadır. Aşağıkolbaşı, Kuştaşı ve Budaklı Köylerinde Selçuklu Mezarlıklarına rastlanılmaktadır.
Bölgenin genel tarihinden anlaşılan İlçenin bulunduğu toprakların Hititler, Urartular, Persler, Mekedonya Krallığı, Selefke Krıllığı, Nesati Devleti, Roma İmparatorluğu, Mervaniler, Dilmaçoğlu Beyliği, Sökmeniler Beyliği, Şerefhanlar, Osmanlılar ve Rusları ve tekrar Osmanlıların elinde kaldığıdır.
Güroymak İlçesi 04.07.1987 gün ve tarih 19507 Sayılı Resmi Gazete’de yayınlanan 19.06.1987 gün ve 3329 sayılı kanunla resmiyet ve İlçe Kaymakamının 14.10.1988 tarihinde göreve başlamasıyla İlçe olmuştur. Güroymak yeni ve gelişmekte olan bir İlçedir.
İl Merkezine 30 km. mesafededir.