Der Ortsname Grafenschlag bedeutet sinngemäß "Holzschlag eines Grafen ", wobei an Graf Burkhart von Maidburg - Hardegg zu denken ist, der 1287 Burggraf zu Weitra war und als erster nachweisbarer Patronatsherr der Pfarre Grafenschlag gilt. Die älteste Nennung des Ortes findet sich in einem der Grundstücksverzeichnisse des Stiftes Zwettl im Jahre 1321 mit dem Vermerk "In Champ ein Lehen bei Gravenschlag bei der „Marktmuel" (Marktmühle). Der Ort kann somit als einer der ältesten Marktorte in der weiteren Umgebung gelten. Die Anfänge der bewegten Ortsgeschichte sind freilich an die Herrschaft Guttenberg gebunden.
1171 wird in einer Urkunde Herzog Heinrichs II. Jasomirgott ein "Gozwinus de Gutenberch" genannt, ein kuenringischer Lehensritter, der auf dem Guttenberg eine strategisch wichtige Festung erbauen ließ. Gegen Ende des 13. Jhdts. saß da die ritterliche Familie der Tehler. Später verfiel die Burg. Auf ihren Resten ließ Zdenko von Sternberg einen Tabor (Schanze) errichten. Zdenko bekriegte 1467 Gratzen in Böhmen, wogegen das Gebiet von Grafenschlag 1478 und 1480 im Gegenzug von den Böhmen verwüstet wurde. Der Weiße Sonntag des Jahres 1480 gilt seither in der Gemeinde und Pfarre als einer der geschichtlichen Schreckenstage. Zu dieser Zeit bestand hier schon ein eigenes Marktgericht. 1566 war das "Freihaus zu Gräffenschlag" bereits mit der Herrschaft von Ottenschlag vereint. 1597 trat Grafenschlag in das Licht der Geschichte des Landes NÖ.
Am 19. Februar 1597 versammelten sich hier 30.000 aufständische Bauern, um den Abgesandten des Landesherrn ihre Forderungen nach Linderung der bäuerlichen Not vorzutragen. Andreas Schrembser aus Dobersberg führte die Verhandlungen nahe dem heutigen Haushof, freilich ohne Erfolg. Bald darauf entbrannten im Waldviertel die blutigen Bauernkriege, die mit dem Sieg der kaiserlichen Truppen über die Bauern bei Neukirchen am Ostrong und einem schrecklichen Strafgericht endeten.
1619 geriet Grafenschlag in den Strudel des Dreißigjährigen Krieges. Kirche, Pfarrhof und Markt dienten "Mann und Ross als Quartier". 1667 gelangte Ferdinand Ernst Graf von Herberstein in den Besitz von Grafenschlag. Er musste den völlig verarmten Bewohnern die schuldige Landessteuer erlassen. Nun folgte eine längere Periode der ruhigen Entwicklung.
Erst die Napoleonischen Kriege trugen wieder Unruhe ins Land. Nach der bedeutsamen Schlacht bei Loiben 1805 erschien eine Abteilung Franzosen auch in Grafenschlag. Einquartierungen verursachten beachtliche Kosten. Selbst das Revolutionsjahr 1848 blieb nicht ohne Auswirkungen auf die weit von Wien entfernte Gegend.
Große Angst litt die Bevölkerung auch 1866 im Krieg zwischen Österreich und Preußen. 1905 erlebte der Ort die friedliche Einquartierung des k.k. lnfanterieregiments Nr. 4 während der Manövertage. Erzherzog Leopold Salvator bezog den Pfarrhof, Generalmajor Paul Puhallo die Schule als Quartier.
Am 15. 0ktober 1905 fuhr der erste Zug in den Bahnhof Grafenschlag ein.
Die folgenschweren Schüsse von Sarajevo 1914 beendeten auch die mehrere Jahrzehnte währende friedliche Entwicklung der Gegend. Der Erste Weltkrieg forderte auch von der Gemeinde Grafenschlag große Opfer.
Am 18.März 1921, dem "Schmerzhaften Freitag" des Jahres, brannte der Ort fast zur Gänze nieder. 6 von 52 Häusern blieben stehen, und die Not war besonders groß. 1939 wurde Grafenschlag dem Verwaltungsbezirk Zwettl angegliedert, Pöggstall wurde dagegen Expositur der Bezirksverwaltung Melk.
Die weiteren Jahre der Zwischenkriegszeit vergingen ohne bedeutsamere Ereignisse. Im zweiten Weltkrieg mussten 87 Männer und Burschen ihr Leben lassen. Am 9.Mai 1945 rückten die Russen in Grafenschlag ein. Nach der ersten Ordnung der Verhältnisse begann in der Gemeinde eine umfassende Aufbauarbeit.
Diese gipfelte am 24. September 1978 im Fest der Segnung der neuen Volksschule und der Übergabe des Marktwappens durch Landeshauptmann Andreas Maurer an den tatkräftigen Bürgermeister Rudolf Adensam.
Die Ortsgemeinden Grafenschlag und Kleinnondorf hatten sich zuvor mit 1. Jänner 1967 zur Großgemeinde vereinigt, die KG Langschlag wurde zum 1. Jänner 1970 angegliedert. Auf einer Fläche von 34,50 km² leben nunmehr 893 Einwohner (Volkszählung zum 1. Jänner 2001)
Aus „Kleine Heimatkunde“ von Othmar Zaubek und Alois Mitterauer