《语言学史概要》是作者最重要、影响最大的著作。书中将语言学史分为古代语言学史、历史比较语言学史和普通语言学史三个部分。在古代语言学史部分，他介绍了世界语言学四大源头（希腊－罗马、古印度、中国和阿拉伯）的语言研究成果；在历史比较语言学史部分，讲述了历史比较语言学的产生、发展和意义，介绍了对世界上各语系的语言进行历史比较研究的情况；在普通语言学史部分，他介绍了从普通语言学的奠基人洪堡特到20世纪50年代结构主义各个流派的语言学观点，着重介绍了各个流派之间的历史联系。
　 《语言学史概要》是我国最早的一部语言学史著作，首次尝试把中国语言学史纳入普通语言学年史框架中去论述，贯通古今中外，是语言学及语言学史研究者的必读书。