上虞图书馆的前身为上虞通俗图书馆。按1990版《上虞县志》记载:“其始创于民国6年(1917年)。是年,在丰惠镇建成县立通俗图书馆,是县立图书馆之始。”
清末,政府在教育方面进行一系列改革,如建立学校,派员留学,废除科举等,但面向广大群众的开启民智的教育却着力甚少。民国初年,蔡元培任教育总长,希望培养出健全的国民,特设社会教育司,推动通俗教育,并设置通俗图书馆,为普通民众服务。民国四年(1915年)十月二十三日民国政府教育部公布《通俗图书馆规程》,要求各省治、县治应设通俗图书馆,储集各种通俗图书,供公众之阅览。
1916年10月6日第1641号《浙江公报》收录《浙江民政厅指令第一千八百二十八号「令上虞县知事张应铭:呈一件呈报公立通俗图书馆成立日期并送规则由」》。有如下之记载:“呈及规则均悉。仰即遵照通俗图书馆规程第三、第四、第六各条之规定,开具事项清册暨履历及任职日期,连同预算表各三份,呈候核办。规则发还。此令(九月二十八日)。计发还规则一本。”
又据1917年4月18日第1826号《浙江公报》有《浙江省长公署指令第五千二百四十三号》「令上虞县知事:呈一件为呈复公立通俗图书馆于五年七月成立应填入五年度表由」 》:“呈悉。查学年度以八月一日开始,至次年七月末日终了。该馆既于五年七月成立,自应归入四年度第二、三学期,填报以清年度。仰即查明,补填送核。此令(四月十一日)。”
《浙江公报》是旧政府传达和宣传政令的刊物,主要刊布旧政权的中央文件、本省文件和各省来往文电,凡经《公报》刊布的文电分发到各县之日即发生效力。上述《浙江公报》刊登的民国浙江省政府指令表明,上虞县公立通俗图书馆成立于民国5年(1916年)7月。《上虞县志》所载民国6年(1917年)误,县立图书馆创始年当以1916年为确。
通俗图书馆在民国初年受到很多有识之士的认可和支持,也得到民众的喜欢和关注。从某种程度上看,对开启民智,增广知识,扭转社会风气,都有一定的影响。二十世纪三十年代,通俗图书馆取消,或并入各公立图书馆,但其在普及教育中所起的作用是不容忽视的。