Der Name von Haarhausen leitet sich vom althochdeutschen hora (= Sumpf) ab, was auf die feuchten Niederungen nördlich des heutigen Dorfes hinweist. Zu Beginn des 9. Jahrhundert wird Haarhausen in einem Güterverzeichnis des Klosters Hersfeld erstmals urkundlich als Horhusun erwähnt. In der Umgebung lassen sich aber noch frühere Siedlungen aus dem 4. oder 5. Jahrhundert nachweisen. Ausgrabungen im historischen Untergrund  trugen zur Hypothese einer römischen Siedlung auf freigermanischem Boden im 3. Jahrhundert Wichtiges bei.

Die Kirche St.Nikolaus in ihrer heutigen Form wurde Anfang des 17. Jahrhunderts erbaut, ihre Ursprünge gehen aber auf das Ende des 12. Jahrhunderts zurück. Sie war einstmals befestigt und bot den Bürgen bei einem Angriff von Feinden Schutz. Man legte bei Ausgrabungen vor einigen Jahren Fundamente frei, die darauf schließen lassen, dass es an der Mauer Vorratskeller gegeben hat.
Über das Entstehungsjahr der Kirche ist nichts Genaues bekannt. Sie soll ursprünglich eine Kapelle gewesen sein, an die man später ein Kirchenschiff anbaute. Dieses war jedoch schon 1684 so baufällig, dass man die Hälfte zum Turm hin abreißen musste und bis 1703 neu erbaute. Der Turm ist vermutlich auch der älteste Teil der Kirche. Somit stellt sich das durch ein Kreuzgewölbe überspannte Turmerdgeschoss als ältester Raum der Kirche dar.
Im Jahr1972 wurde die Kirche durch einen Brand sehr beschädigt. Ihm fiel die wertvollen Orgel von 1785 zum Opfer. Der kostbare Kanzelaltar blieb glücklicherweise erhalten. Im Juli 1983 wurde eine neue Orgel eingeweiht.