“小学”这一名称，来源于汉代。班固据刘歆《六艺略》在《汉书·艺志》中把古字书及汉时所作字书列为“小学”类，并且说：“古者八岁入‘小学’，故《周官·保氏》掌养国子，教之六书（六书即汉字的六种造字法）。”据此，“小学”初指学童开始读书识字和识字课本一类的书。古人非常重视“识字”，认为掌握了一个字的音、形、义三方面才算是认识了一个字，所以把学童的识字及有关的类书，称作“小学”，意思是这是塾师讲授、学童学习的基础课。到了汉代，由于秦王朝的焚书和秦汉之际的长期战乱，我国文化传统几乎中断，古籍和古字书中的文字本来是儿童就能认识的，可当时大多数人却已不认识了，因而学习研究古文字就成了某些人的当务之急或专门职业了。汉代人把这种学习和研究古文字，也叫做“小学”。从此，“小学”这一名称就成为一门研究文字的学科了。直到清末，章太炎才把它改为“文字学”。后来研究文字的人对文字的音形义三方面各有所专，于是，“文字学”又分工为“文字学”、“音韵学”、“训诂学”三门独立的学科了。所以从前把“文字学”称为“小学”，“小学”之名即由此而得。