Herby były niewielką miejscowością graniczną, powstałą pomiędzy dawnym  zaborem pruskim i rosyjskim. Część miejscowości, nazywana Herby Polskie (Herby Stare – tak jak dawna stacja kolejowa), należała do parafii w Blachowni (obecnie archidiecezja częstochowska), a druga część, zwana Herby Śląskie (Herby Nowe), należała do parafii w Kochanowicach, później zaś  do  parafii  w  Olszynie.  Pierwszymi budynkami nadgranicznymi były: drewniana gospoda z 1866 roku oraz budynki celne powstałe po pruskiej stronie w 1887 roku. W 1913 roku w Herbach Śląskich wystawiono pomnik upamiętniający 100-lecie Bitwy  Narodów  pod  Lipskiem, w 1925 roku przebudowano go na pomnik poświęcony Powstańcom Śląskim. W 1954 roku obie miejscowości połączono ze sobą. W latach 1958–1972 Herby posiadały status osiedla, a w 1973 roku nadano im status gminy.

W latach międzywojennych zaadaptowano na małą kaplicę i salkę katechetyczną niewielki dom przy obecnej ul. Lublinieckiej. W 1927 roku w części budynku przyległego do dworca kolejowego w Herbach Polskich powstała druga kaplica    z ołtarzem Pana Jezusa Ukrzyżowanego. Na przełomie 1940 i 1941 roku kaplicę zamknięto, a ołtarz zdemontowano, przenosząc go na miejsce bocznego ołtarza w kościele św. Michała w Blachowni.

W listopadzie 1936 roku z inicjatywy ks. proboszcza Franciszka Hyli z Olszyny   oraz miejscowych kolejarzy i społeczników zawiązał się w Herbach Komitet Budowy Kościoła. Pod koniec 1937 roku  na  terenie  położonym  obok  dworca PKP Herby Śląskie rozpoczęto budowę obecnej świątyni wg projektu architekta Karola Przybyły z Katowic. Budowę w stanie surowym ukończono przed wybuchem II wojny światowej. Dekretem wikariusza generalnego diecezji katowickiej z 17 września 1942 roku kapelanem w Herbach został mianowany Jerzy Joniec OMI. Kościół pw. Najświętszego Serca Pana Jezusa pobłogosławił 23 maja 1943 roku wikariusz generalny z Katowic – ks. prałat Franz Wosnitza, a 1 czerwca tego samego roku wydał dekret ustanawiający Herby lokalią. Do 1945 roku opiekę duszpasterską sprawowali oblaci z Lublińca, którzy częściowo odnowili kościół po zniszczeniach wojennych. W czerwcu 1961 roku ustanowiono w Herbach samodzielnego duszpasterza – ks. Bogusława Ochwała, który wybudował plebanię i zorganizował duszpasterstwo. Parafię erygowano 1 lutego 1976 roku, a jej pierwszym proboszczem został ks. Piotr Jasiok. Każdorazowy proboszcz parafii Herby Śląskie, mianowany przez biskupa katowickiego, otrzymywał równocześnie dekret od biskupa częstochowskiego, powierzający opiece duszpasterskiej wiernych z Herbów  Starych,  którzy  należeli  do  parafii w Blachowni. Od 25 marca 1992 roku, po nowym podziale administracyjnym Kościoła w Polsce, obie części miejscowości stanowią parafię Najświętszego Serca Pana Jezusa w Herbach w diecezji gliwickiej. Uroczystość poświęcenia kościoła przez biskupa Jana Wieczorka miała miejsce 20 czerwca 1993 roku. W 2002 roku, po szczegółowej ekspertyzie budowlanej, skotwiono pęknięte ściany wieży kościoła. Zmieniono wówczas jej zwieńczenie sześciometrowym krzyżem, a także naprawiono konstrukcję dachu nawy kościoła, który pokryto miedzianą blachą.

W następnych latach wykonano nową elewację kościoła, zmieniono oświetlenie, a w latach 2008–2011 wymieniono okna na aluminiowe z witrażami. Całość zmiany wystroju dopełniły nowe ławki, dwa dębowe konfesjonały i elektroniczne organy. Dwóch  kapłanów  mieszkających  na  miejscu  obejmuje  troską  duszpasterską i katechetyczną parafię, miejscowy Zakład Karny oraz Młodzieżowy Ośrodek Wychowawczy.