İlçe sınırları içerisinde bulunan Terçil ve Mehrani kalesinin kalıntıları yöre tarihinin çok eskilere dayandığını göstermektedir. Asurlular zamanında yörede kurulan 'HATARO' adlı Tercil Kalesi'nden adını alan Hazro, ilk çağlardan buyana sırasıyla Perslerin, Makedonya Krallığını, Roma ve Bizans İmparatorluklarının idaresinde bulunmuştur.

Cumhuriyet Döneminin başlarında küçük bir bucak olan Hazro'da 1943'te belediye teşkilatı kurulmuş, ardından ilçe Haziran 1954 tarihinde Silvan'dan ayrılarak Diyarbakır iline bağlı bir ilçe olmuştur.