Decyzją ówczesnych władz na terenie budowanego Osiedla Młodych Rąbin w 1988 roku powstał pierwszy segment nowej szkoły, ze względu na panujący wówczas wyż demograficzny. Dyrektorem szkoły została Marianna Czajkowska. Początkowo w 26 oddziałach naukę pobierało 670 uczniów a rada pedagogiczna składała się z 39 nauczycieli i pracowników szkoły.

W 1991 roku nastąpiło oficjalne przekazanie wszystkich pięciu segmentów szkoły wraz z dwoma łącznikami i trzema betonowymi boiskami. Następnie mury szkoły opuścili pierwsi absolwenci. Ze względu na wielką liczbę uczniów zajęcia odbywały się także w piwnicach oraz wynajętych pomieszczeniach przy Parafii pod wezwaniem Świętej Jadwigi. Na swoje dziesięciolecie placówka przyjęła imię lekarza, społecznika i patrioty, pierwszego polskiego prezydenta miasta dra Józefa Krzymińskiego. Szkoła do dzisiaj utrzymuje kontakty z rodziną patrona, rada rodziców ufundowała szkole sztandar.

W 1999 roku w związku z reformą oświaty szkoła zmieniła nazwę na Zespół Szkół nr 2 a następnie Gimnazjum nr 2 z nowym sztandarem. Od początku istnienia placówki uczniowie i nauczyciele odnosili liczne sukcesy w konkursach, olimpiadach, turniejach i zawodach sportowych. Przez minione lata placówka dochowała się 173 laureatów konkursów przedmiotowych. Również w 2012 roku w szkole zakończyła się kompleksowa termomodernizacja a budynki otrzymały nową elewację. Laury zdobywały chór i teatr szkolny. Placówka współpracowała i współpracuje z wieloma instytucjami, szkołami, wyższymi uczelniami i organizacjami.

W wyniku reformy w 2017 roku placówka ponownie funkcjonuje jako Szkoła Podstawowa nr 5. Szkoła posiada 40 sal lekcyjnych, 3 sale gimnastyczne, świetlicę, bibliotekę, gabinet pielęgniarski i stomatologiczny, centrum informacji multimedialnej, 3 sale komputerowe, salę językową, aulę, kino szkolne, izbę tradycji, siłownię, strzelnicę, salę rekreacyjną dla uczniów a przy szkole od 2012 roku funkcjonuje zespół boisk "Orlik". Jak informuje dyrekcja placówki, dzięki funduszom przekazywanych przez władze miasta oraz możliwości prowadzenia wynajmu pomieszczeń szkoła zakupuje nowoczesne pomoce dydaktyczne i wyposażenie sal.

Za swoją działalność humanitarną, prozdrowotną, proekologiczną i prospołeczną szkoła otrzymała wiele tytułów i dyplomów gromadzonych w izbie tradycji. Szkoła kultywuje wartości i tradycje, jest organizatorem uroczystości i imprez nawiązujących do wartości patriotycznych. Szkoła prowadzi zajęcia pozalekcyjne, wyjścia, wycieczki, zimowiska. Obecnie szkoła ponownie przystosowywana jest do przyjmowania najmłodszych uczniów (klasy I i II szkoły podstawowej) i przygotowuje się do wprowadzenia dziennika elektronicznego.

W szkole pobiera naukę 591 uczniów w 23 oddziałach; uczy 47 nauczycieli oraz pracuje 15 pracowników administracji i obsługi. Dyrektorami szkoły byli: Marianna Czajkowska, Irena Olszanowska, Barbara Eska, a od 2004 roku dyrektorem szkoły jest Ireneusz Zieliński. Uroczystości związane z jubileuszem odbędą się 9 października 2018 r. w Teatrze Miejskim.