Początek naszej placówki datuje się na 1 września 1980 kiedy to w Rybnickiej Kuźni oddano do użytku nowy, duży budynek Szkoły Podstawowej nr 15, do którego przeniesiono szkołę z Orzepowic. Przez pięć lat trwała budowa szkoły, którą już wtedy nazywano półżartem półserio „kuźnią wiedzy i talentów”. Pierwszym jej dyrektorem był Stanisław Misterkiewicz, od 1991 funkcję tę pełniła pani Henryka Tomsia. W wyniku reformy systemu szkolnictwa we wrześniu 1999 roku Szkoła Podstawowa nr 15 zmieniła lokum a w budynku swą siedzibę znalazło Gimnazjum nr 4 im. Jana Kochanowskiego. Pierwszym dyrektorem gimnazjum została pani Henryka Tomsia, obecnie od 2007 roku stanowiskto to objęłą pani Krystyna Fizia.
Jesteśmy szkołą otwartą na Europę i Świat, od 1999 roku uczestniczymy w programie Unii Europejskiej „Socrates Comenius” realizowany w naszym gimnazjum kolejno w latach 1999 – 2002 i 2005 – 2008. W ramach projektu współpracujemy ze szkołami z Austrii, Grecji, Anglii i Włoch. Dzięki wymianie doświadczeń, licznym spotkaniom z młodzieżą i nauczycielami możemy poznać kulturę i zwyczaje innych krajów.
Szkole nadano imię i ustalono datę święta szkoły – na wniosek Rady Uczniów, Rady Pedagogicznej i Rady Rodziców, 27 kwietnia 2005 na sesji Rady Miasta ustanowiono, iż Gimnazjum nr 4 w Rybniku będzie nadane imię Jana Kochanowskiego. Uroczystość nadania imienia odbyła się 27 października 2005 roku. Ten dzień stał się dniem naszego patrona i jednocześnie świętem naszej szkoły.Od tej pory pierwszoklasiści składają uroczyste ślubowanie wg ustalonej roty – odbywa się to w dzień święta naszej szkoły – 27 października każdego roku, w tym dniu pierwszoklasiści zostają pasowani na uczniów i stają się pełnoprawnymi członkami naszej gimnazjalnej społeczności
Corocznie jeden z uczniów klas trzecich ma szansę otrzymać tytuł Primus Inter Pares za całokształt dokonań i osiągnięć w czasie trzyletniej nauki – do tej pory ten zaszczytny tytuł otrzymały w kolejnych latach zdobywali:
- 2005/2006 – Magdalena Jonderko
- 2006/2007 – Wojciech Nowak
- 2008/2009 – Magdalena Suda
- 2009/2010 – Monika Paprotny
- 2010/2011 – Alicja Grzesik
- 2011/2012 – Agata Sura
Od roku 2008 nadajemy tytuł Przyjaciela Szkoły – otrzymują go osoby fizyczne lub prawne, które swą działalnością wybitnie przysłużyły się naszej szkole i jej wizerunkowi:
- w roku 2007 – tytuł ten otrzymał ksiądz Waldemar Pawlik
- w roku 2008 – tytuł otrzymała Rada Dzielnicy Rybnicka Kuźnia
- w roku 2009 – tytuł otrzymali pani Ewa Hoppe Polak i pan Grzegorz Polak
- w roku 2010 – tytuł otrzymał Prezydent Miasta Rybnik Adam Fudali
- w roku 2011 – tytuł otrzymał Kazimierz Berger, dyrektor Zarządu Transportu Zbiorowego w Rybniku
- w roku 2012 – tytuł otrzymała Rada Rodziców Gimnazjum nr 4 im. Jana Kochanowskiego w Rybniku
