История Научной библиотеки неразрывно связана с историей Казахского национального женского педагогического университета, основанного как Казахский государственный женский педагогический институт (КазЖенПИ) в 1944 году. Первым директором КазЖенПИ Курмангали Оспановым был подписан Приказ №4 о создании библиотеки. Первой заведующей библиотеки была назначена Калила Исмагулова. В инвентарной книге на 20 июня 1945 года было зарегистрировано 3,190 книг. Фонд библиотеки формировался благодаря как закупке литературы, так и книжным дарам от сотрудников института. Калила Исмагулова проработала заведующей библиотеки до 1948 года, и после нее заведующими библиотекой были Ольга Коханова (с 1948 по 1956гг.) и Наталья Васильевна Горелова (с 1956 по 1962 гг.).
С 1967 по 2013гг. директором библиотеки работала Раушан Бахытовна Айтиева. В 1950-1960-е годы КазЖенПИ значительно расширился: появились новые факультеты, увеличилось число студентов и, соответственно, вырос библиотечный фонд. Был открыт новый читальный зал на 160 мест. В 1980 году, когда ректором института была Жамиля Токтарбековна Елемесова, началось строительство нового библиотечного здания на пересечении улиц Айтеке би и Масанчи, которое было открыто для читателей в 1984 году.
Следует отметить значительный вклад Р.Б. Айтиевой в строительство новой библиотеки, поскольку она лично привезла из Москвы проектную документацию по новому библиотечному зданию, которое можно считать уменьшенной копией Государственной библиотеки имени В.И. Ленина. Председатель Госплана КазССР Т.Г. Мухамед-Рахимов лично контролировал строительство библиотеки. Новая библиотека быстро стала известной не только в Казахстане, но и за его пределами. Фонд библиотеки превысил 1 млн. экземпляров, и претерпела значительные изменения организационная структура библиотеки: были созданы отделы научной и учебной литературы, литературы по общественным наукам, отдел редких книг и отдел научно-методической работы.
Следует отметить большую роль в становлении библиотеки Турсын Мырзабековой, работавшей директором КазЖенПИ с 1945 по 1959 годы и лично привозившей книги, включая редкие издания и старопечатные книги, для библиотеки из Москвы, Ленинграда и других городов СССР.
С 2013 по 2023 годы директором Научной библиотеки работала Бакытжамал Тельмановна Багашарова. При ней были созданы Электронная библиотека, содержащая оцифрованные труды сотрудников вуза и веб-сайт библиотеки.