A község első ízben az 1332-37. évi pápai tizedjegyzékben fordul elő Tarnócz néven, ami azt bizonyítja, hogy volt plébániája. A XIV-XV. században Tasnoch, Tamulch, Tarnouk és Tharnócz névalakban szerepel a régi iratokban, dokumentumokban.
1492-ig a Dicsőszentmártoni, a Kizdi és a Tarnóczi családok birtokolták. 1499-ben a Tarnócz család tagjai osztoztak rajta.
1558-ban Berényi András, Zerdahelyi István, Pelinyi Bálint és Muraközy Mátyás nyerték adományul Ferdinánd királytól. Ekkor 11 összeírt házzal Pilinyi Ferenc szolgabíró járásához tartozott, de 4-5 év múlva már a szécsényi szandzsák területéhez sorolták, és török hódoltsági faluként adózott Tarnofcse néven. A XVII. század elején 20-24 magyar család élt a faluban. Ebben az időszakban épültek a legrégebbi kúriák, amelyek közül a legnevezetesebbek a Baán, a Jankovich, a Woxith-Horváth házak voltak. A Jankovich- kúriában működött a falu régi iskolája még a XX. század első évtizedében is.
A török kiűzése, Rákóczi kurucvilága után a XVIII. század 20-30-as éveiben Tarnócz már újratelepül, virágzó falu, ahol 24 magyar háztartást írtak össze. Hírneves is, mert a vármegyei közigazgatás ebben az időben különböző helyeken megtartott vármegyei közgyűlései közül egyet 1727-ben Tarnóczon tartott meg.
Az 1747-ben épült templomot a II. világháború idején – 1944. december végén – a visszavonuló német csapatok felrobbantották. 1948-49-ben a község lakosainak összefogásával egy év leforgása alatt felépült az új templom.
1896-ban, az Aszódtól Gyarmatig 1892-ben meghosszabbított vasútvonal az Ipoly völgyén, Szécsényen, Tarnócon át Losoncig vitte az utasokat, teherárukat.
A falu az 1873-as község törvénytől 1950-ig kisközség. 1950-től 1973-ig Litke társközsége, 1990-től közigazgatásilag önálló település.
Ipolytarnóc természeti nevezetessége az óriási megkövült fenyőfatörzs, melyet Kubinyi Ferenc a Magyar Nemzeti Múzeum igazgatója ásatott ki 1837-ben. A palócok csak „kőlócának” nevezték, mely egy patakon volt átdőlve.
A következtetések alapján kb. 20-22 millió évvel ezelőtt e térségben szubtrópusi tengerpart élővilága létezett. A terület ma már
1995-ben az összeurópai természeti örökség részének nyilvánították és Európa Diplomával tüntették ki. Évente mintegy 20-25 ezer látogató tekinti meg. A közelmúltban átalakított fogadóépület szimbolikus építészeti megoldásaival, újszerű megjelenésével egyedi látványosságot kínál a turistáknak. Az átalakításra a Bükki Nemzeti Park Igazgatósága pályázott „Az ipolytarnóci ősvilági Pompeji turisztikai fejlesztése” címen, így 500,6 millió Ft támogatással, 513,6 millió Ft összköltséggel megépült az új fogadóépület. A megvalósult projekt keretében szimulációs terem, - 4D Motion Theatre - kiállító tér, konferencia terem, ajándékbolt, valamint önállóan kezelhető információs portál áll a turisták rendelkezésére. A Tasnádi Kubacska András csarnokban kiépített vizuáltechnikai rendszer 3 dimenziós formában lehetővé teszi az ősvilági élőhely bemutatását.