Hani ilçesinin bugünkü adının nereden geldiği ile ilgili bilgilerin tümü birtakım efsanelere dayanmaktadır. Bu efsanelerden en mantıklı olanı, ilçenin, bu adı bölgede bulunan ve yerel dilde “yenı” olarak tabir edilen “Ayn-ı Kebir” su kaynağından aldığıdır.

Kuruluş tarihi kesin olarak bilinmeyen Hani’nin tarihteki ilk yerleşimcilerinin Subaru2 ahalisinden olan Hurri ve Nirbiler olduğu kabul edilmiştir. Uzunca bir dönem Hurri egemenliğinde kalan bölge, yine aynı soydan gelen Mitanniler’in egemenliğinde kaldıktan sonra Asurlar ve Urartular’ın egemenliğine girmiştir.

Hani ile ilgili ilk yazılı bilgiler M.Ö.VIII. yüzyıldan kalma Asur kaynaklarında geçmektedir. Bu kaynaklarda yer alan bilgilere göre, Amidi gayesi ile Urartular ve Asurlar arasındaki savaşların bir bölümü Hani bölgesinde cereyan etmiştir . O tarihten bu yana Diyarbakır şehrine egemen olan devletler Hani’ye de egemen olmuştur.

Urartular’dan sonra ilçenin idaresi altına girdiği devletler sırasıyla İskitler,Medler, Persler, Makedonyalılar, Romalılar, Sasaniler, Bizanslılar, Emevi ve Abbasi devletleridir. Malazgirt Zaferi (1071) ile birlikte Türkler’in idaresi altına girmeye başlayan bölge, bu tarihten sonra da Selçuklu , Artuklu, Akkoyunlu ve Safevi egemenliğinde kalmıştır. Bölge, Yavuz Sultan Selim ile Şah İsmail arasında 23 Ağustos 1514’te yapılan Çaldıran Savaşı’ndan sonra da Osmanlı hakimiyetine girmiştir. Ancak bazı kaynaklarda şehrin 23 Ağustos 1514’te değil, 19 Eylül 1515’te alındığı belirtilmiştir.

1875’te Palu’ya bağlı bir bucak olan Hani , sonraları Lice’ye bağlanmıştır. 1958 yılında ise Diyarbakır İline bağlanan Hani, bu tarihten sonra ilçe statüsünü kazanmış ve bu statünün getirisi ile de birçok kamu kurum ve kuruluşunu bünyesine katarak bugün yepyeni bir kimlik kazanmıştır.