Knjižnica je od svog osnivanja djelovala na više lokacija. Povećanjem knjižničnog fonda i broja korisnika svaki prostor tijekom godina postaje pretijesan što nameće traženje kvalitetnog i dugotrajnijeg rješenja. Krajem šezdesetih godina razmatraju se različita rješenja i kao najbolje se nameće ideja o izgradnji nove zgrade za potrebe knjižnice. U suradnji s Nacionalnom i sveučilišnom knjižnicom izrađen je 1970. godine građevinski program (autor Matko Rojnić). Na natječaju 1972. godine izabran je projekt arhitekta Mladena Vodičke koji predviđa zgradu knjižnice ukupne površine 3600m². Godine 1976. završena je prva etapa i knjižnica useljava u novi prostor od 1600m². Bila je to prva namjenski građena narodna knjižnica u Hrvatskoj, a i u ovom dijelu Europe. Preostale dvije etape nisu izgrađene, ali 2003. godine Grad Karlovac donosi odluku o nastavku gradnje uz male izmjene prvobitnog projekta. Dograđeni dio knjižnice (2000m² na dvije etaže) svečano je otvoren 15.10.2007. godine povodom nacionalne manifestacije Mjesec hrvatske knjige. U prizemlju je prostor za Informativno-posudbeni odjel, višenamjenska dvorana („Ilirska dvorana“), prostor za djelatnike Bibliobusne službe, garaža za bibliobus i mali kafić za potrebe korisnika knjižnice. Na katu su Odjel za djecu i mladež, Odjel za djecu predškolskog uzrasta i Glazbeni odjel. Novi dio je, u skladu sa starim, modernog arhitektonskog oblika i vedrih boja, a stari i novi dio kvalitetno su povezani u jedinstveni prostor. Dodatni prostor omogućava kvalitetniji rad i veći broj događanja različitog sadržaja na zadovoljstvo naših korisnika.
