A község a XVI. század közepétől a török hódoltság része volt. (A határ egyik részét a XX. század elején Klára-bércnek nevezték. Hajdan erdőség volt, ahonnan az ott vadászó Tercsy Klárát, Tercsy Gáspár leányát a szécsényi törökök elrabolták.) Az 1553-54. évi adóösszeírás szerint a községnek a Nagypatak partján lévő részét Kis-Szalmatercsnek, (később Pusztatercsnek), a jobb partján lévőt pedig Nagy-Szalmatercsnek nevezték. Az előbbi a nemesek, az utóbbi a jobbágyok fészke volt. 1562-63-ban a falu két portáján öt adóköteles házat írtak össze. 1598-ban Tercsy György volt a település földbirtokosa. A Kis-Szalmatercsen élő nemesség és a (karancs)sági jobbágyok között állandóak voltak a határvillongások, míg végül Bosnyák Tamás füleki főkapitány 1610. augusztus 7-én megállapította azt a határt, ami évszázadokon keresztül érvényes maradt. A Nagypatakot akkor „Dobra Vodá”-nak nevezték, ami régi szlovák településre enged következtetni. 1616-ban a falu, mint puszta, Uhorszkához (Ipolymagyari) tartozott és Kosztolányi Jánosné, született Majtényi Anna volt itt a birtokos. 1670-ben a falu gróf Koháry István tulajdonába került. Az 1715-ös vármegyei adóösszeírás 6 (öt jobbágy és egy zsellér) háztartást említett.

1720-ban pedig már nemes községként szerepelt az összeírásban. Egy része a XVIII. század második felében ismét jobbágyfalu lett. Másik része, amely a Sági-völgy túloldalán feküdt, 1864-ig külön községet alkotott. 1770-ben a Pongrácz család, továbbá Komjáthy Ábrahám, Szilassy Ádám, 1826-ban Plachy László és Ruttkay László voltak a földesurai. Az 1863-as tagosítást a községben per útján fejezték be. A parasztok igyekeztek minél több szántóterületet biztosítani maguknak, a rétek rovására is. Szalmatercsen 911 hold szántó mellett csak 84 hold volt a rét, ami akadályozta az állattenyésztés fejlődését.

A községbeli két kúria közül az egyiket Ruttkay Károly a XVIII. század második felében építette, a másikat pedig a XIX. század 30-as éveiben Ruttkay János. Az utóbbi kastély többször volt átépítve. Eredetileg fordított T alakú volt, majd a T szárai mentén falakat emeltek és mai szóhasználattal élve privatizációs folyamatában többször cserélt gazdát. Igazából azonban gazdátlan, ami meglátszik mind az épületen, mint a környezetén. A település középkori plébániája a török hódoltság idején elpusztult, azóta nincs a községben templom. Az egykori iskolában ma imaház működik, a pap Karancsságról jár át. Az épület falán két emléktábla van: az egyiket az eucharisztikus világkongresszus tiszteletére állították, a másikat pedig a II. világháború községi áldozatai emlékére.
A község 1996-tól önálló Polgármesteri Hivatallal rendelkezik.

A község jelképei címere és zászlaja.

Címer: „Álló, négy osztatú függőleges vonallal elválasztott csücskös talpú pajzs, mely pajzs heraldikai bal felső kék mezejében arany színű kereszt, jobb felső kék mezőben arany színű szarvas, bal alsó kék mezejében három búzakalász, jobb alsó zöld mezőben három dombhalmaz. A kereszt a kereszténységet, a hitet s egyben a község első lakott települését jelképezi. A bal felső kék és a bal alsó kék mezőt kettéválasztó ezüst sáv a Ménes-patak, mely régen a községet "pusztára" és "falura" osztotta. A búzakalászok az élet és termékenység jelképei. A szarvas újkori történelmünkre - az azóta elhunyt Borbás Tibor szobrászművész alkotására, míg az alatta lévő három domb a községet körülvevő "várhegy-kobak", valamint a kavicsos tetőn áthúzódó "nagyszőlő-magashegy-bulgárerdő" vonulatát szimbolizálja.
A címerpajzs alatt, íves formában egy aranyszínű szalag található, melyben fekete betűkkel a SZALMATERCS felirat olvasható.
Zászló: A zászló alap 150 x 90 cm téglalap alakú, anyaga fehér selyem, a két hosszanti oldalán arany zsinórral, a nyéllel párhuzamos rövid oldalán arany rojttal. A zászló első oldalának közepén 50 x 32 cm nagyságú hímzett címer található.