Der Ort liegt am Fuße des 448 m hohen Hülfensberges, der bedeutendsten Wallfahrtsstätte des Eichsfelds.
Die früheste urkundliche Erwähnung ist datiert vom 22.10.1357 und sagt aus, dass der Erzbischof Gerlach von Mainz dem Kloster Anrode die Pfarrkirche zu Geismar und die Kapelle S. Salvatoris auf dem Staufenberg (Hülfensberg) übergibt.
Der Name Geismar gehört zu althochdeutsch „gisan“ und bedeutet „Blasen werfen“. Dazu kommt althochdeutsch „mari“ oder „meri“, was soviel wie „See, Sumpf, Wasserteich“ bedeutet. Es handelt sich also um eine sumpfige Gegend, die reich an Quellen ist, aus denen Blasen aufsteigen.
In mitten des Dorfes liegt die Kirche St. Ursula. In den Kirchenunterlagen von Geismar wird über den Bau der Kirche 1735 und den Neubau 1827 berichtet. 1907 erhielt die Kirche einen Glockenturm. Bis zu diesem Zeitpunkt hingen die Glocken an einem Gerüst außerhalb der Kirche. 1950 bis 1952 erfolgte nochmals ein Erweiterungsbau.
1949 wurde in Geismar das erste ländliche Kulturhaus in der damaligen DDR gebaut.
Mit der Öffnung der Grenzen begann auch für Geismar eine neue Zeit. Am 10.11.1989 kam der Ort, wie auch die ihm heute angegliederten Ortsteile, aus dem Sperrgebiet.
Im Rahmen des 1991 begonnenen Dorferneuerungsprogramms wurde auf eine dorftypische Erhaltung und Gestaltung der Fachwerkhäuser, öffentlichen Plätze und Straßenräume großen Wert gelegt.
Seit 1993 gehören die Orte Großtöpfer und seit 1994 Bebendorf und Döringsdorf zu Geismar. Mit diesen Ortsteilen zusammen hat Geismar heute 1310 Einwohner.