Szkoła założona w 1863 roku jako III Szkoła Ludowa Czteroklasowa w Krakowie. Mieściła się w tzw. Szarej Kamienicy w Rynku Głównym. Lecz lokal był nieodpowiedni pod względem pedagogicznym jak i sanitarnym. W 1864 roku 280 uczniów rozpoczęło naukę przy ul. Św. Jana, lecz już w 1872 roku przenieśli się na ul. Gołębią. Trzy lata później szkoła ponownie zmieniła adres na ul. Św. Krzyża 20. Dysponowała wówczas czterema dużymi salami i małym pokoikiem na kancelarię. Wówczas nazwa szkoły brzmiała: III Szkoła Czteroklasowa Pospolita. W 1882 znów przyszedł czas na przeprowadzki. Szkoła przeniosła się do gmachu poszpitalnego Św. Ducha. Po 10 latach znów zmieniła lokalizację. Nowy rok szkolny uczniowie rozpoczęli w barokowym budynku w "Ogrodzie Angielskim" przy ul. Lubicz. Szkoła wówczas miała 6 klas i kancelarię. Dzięki temu uruchomiła dwa oddziały klas pierwszych: chłopców i dziewcząt. W sumie liczba uczniów wzrosła do 380. 7 maja 1896 roku nadano szkole nazwę: Szkoła Pospolita. 3 października 1904 roku szkoła wprowadza się, już na stałe, do budynków: przy ul. Lubomirskiego (dziewięć klas chłopców) oraz przy ul. Topolowej (jedenaście klas dziewcząt). Szkoła żeńska nosiła nr 18 oraz imię Św. Anny.
Wybuch I Wojny Światowej spowodował, początkowo, że cały budynek przy ul. Lubomirskiego zajęło wojsko. Natępnie zarekwirowano również gmach na ul. Topolowej. Lekcje wówczas odbywały się w wynajętych pomieszczeniach. Po 13 miesiącach uczniowie pworócili do normalnej nauki. W 1927 roku zmieniono nazwę szkoły na III Szkoła Powszechna 8-Klasowa Męska im. Św. Mikołaja. Wojsko ponownie zajęło szkołę w 1939 roku. Po II Wojnie Światowej szkoła funkcjonuje w budynku na ul. Lubomirskiego. 1 września 1962 roku zyskała imię Andrzeja Frycza Modrzewskiego.
Od dnia 1 września 1971 roku szkoła mieści się, po dzień dzisiejszy, w budynku przy ul. Topolowej 22.