18 maja 1935 r. zebrała się w Ostrołęce Rada Miejska na Nadzwyczajnym Uroczystym Posiedzeniu, zwołanym „dla uczczenia pamięci i wyrażenia Czci i Hołdu Pamięci Zmarłego Wodza Narodu, Wskrzesiciela Wolności Pierwszego Marszałka Polski Józefa Piłsudskiego”. W przyjętej przez Radę Uchwalę Nr 20 w punkcie 2 zapisano: „Stworzyć w   Ostrołęce Miejską Bibliotekę Publiczną im. Marszałka Józefa Piłsudskiego i na ten cel przeznaczyć złotych 500 – z tem, że i nadal co roku w budżecie miejskim przeznaczana będzie odpowiednia kwota”.

Na podstawie ocalałych dokumentów - w tym głównie protokółów z posiedzeń Rady Miejskiej IV kadencji - ustalono, że Biblioteka Miejska w Ostrołęce rozpoczęła działalność dopiero jesienią 1936 r. (najprawdopodobniej między 24 października a 17 listopada). Pierwszą siedzibą Biblioteki był – jak donosił Przegląd Ostrołęcki (Nr 35 z 1936 r.) -„efektowny budynek przy ul. Kościuszki, opróżniony niedawno po przeniesieniu Urzędu Skarbowego” [obecnie w tym budynku mieści się Meditrans].  Pierwszym bibliotekarzem, pracującym społecznie był nauczyciel Mieczysław Wojciechowski, a od 1938 r. Bibliotekę prowadziła  p. Stefania Gretkowicz, już na płatnym ryczałcie. Zofia Niedziałkowska w monografii Ostrołęki wspomina, że  „była to dobrze zaopatrzona biblioteka”. Również z wystąpień radnych (m.in. Alojzego Fronczaka) podczas wystąpień na posiedzeniach Rady Miejskiej (IV kadencji) wynika, że była to bardzo pożyteczna instytucja. W dniu 15 lutego 1939 r. w uchwalonym budżecie miasta radni przyznali Bibliotece na rok 1939/1940 kwotę 1740 zł (wzrost o ponad 100%), uzasadniając swą decyzję: „za słuszne uważa się popieranie Biblioteki Miejskiej, z której wszyscy mają prawo korzystać i cały wysiłek w tym celu winien być skierowany”.