前边，我们分别叙述了中央研究院历史语言研究所第三组（考古学）和第一组(历史学)的成就和业绩，现在，轮到第二组（语言学）登场了。
从历史语言研究所的名字，就可以看出对这个研究所来说，语言学和历史学是同等重要。
傅斯年之所以将二者置于同一个研究所里，有两个方面的原因。
其一，他认为历史学和语言学都是在中国有着悠久历史、良好研究传统而当今又比较落后的学科，均可以用科学的治学方法加以改造、扶植和培养。
其二，他认为语言学和历史学关系至为密切。早在学生时代，他就强调说，语言文字之学是读一切书的门径。后来他在欧洲用力研读比较语言学，也有借此以治历史学的想法。他生平最自负的著作《性命古训辨证》，便使用了由语言学入手，进而讨论思想史诸问题的方法。
虽然语言组的工作不像殷墟考古发掘那样举世瞩目，但也取得了一些开创性的成就。傅斯年毅然摆脱中国传统的语言文字学研究方法的束缚，抛弃章太炎的权威，聘请具有现代科学知识的语言、语音学专家，用科学的工具、实验的方法，研究中国的语言学。
当谈及第二组（语言学）时，就必定和一个人的名字不可分割，就是这个组的主任赵元任。
赵元任是中国现代语言学的奠基人，他最早运用现代的科学的学术方法，对现代汉语，从多方面展开了深入而系统的研究，取得了丰硕的开创性的成果，在海内外享有崇高的声望。
他极具语言天赋，对各地方言的差异非常敏感。
赵元任一生中最大的快乐，是到了世界任何地方，当地人都认他做“老乡”。
二战后，他到法国参加会议。在巴黎车站，他对行李员讲巴黎土语，对方听了，以为他是土生土长的巴黎人，于是感叹：“你回来了啊，现在可不如从前了，巴黎穷了。”
后来，他到德国柏林，用带柏林口音的德语和当地人聊天。邻居一位老人对他说：“上帝保佑，你躲过了这场灾难，平平安安地回来了。”
1920年，英国哲学家罗素来华巡回讲演，赵元任当翻译。每到一个地方，他都用当地的方言来翻译。他在途中向湖南人学长沙话，等到了长沙，已经能用当地话翻译了。讲演结束后，竟有人跑来和他攀老乡。
赵元任曾表演过口技“全国旅行”：从北京沿京汉路南下，经河北到山西、陕西，出潼关，由河南入两湖、四川、云贵，再从两广绕江西、福建到江苏、浙江、安徽，由山东过渤海湾入东三省，最后入山海关返京。这趟“旅行”，他一口气说了近一个小时，“走”遍大半个中国，每“到”一地，便用当地方言土话，介绍名胜古迹和土货特产。
赵元任这位被称为“中国语言学之父”的奇才，会说33种汉语方言，并精通多国语言。研究者称，赵先生掌握语言的能力非常惊人，因为他能迅速地穿透一种语言的声韵调系统，总结出一种方言乃至一种外语的规律。
赵元任曾编了一个极“好玩儿”的单音故事，以说明语音和文字的相对独立性。故事名为《施氏食狮史》：“石室诗士施氏，嗜狮，誓食十狮。氏时时适市视狮。十时，适十狮适市。是时，适施氏适市。氏视是十狮，恃矢势，使是十狮逝世。氏拾是十狮尸，适石室。石室湿，氏使侍拭石室。石室拭，氏始试食十狮尸。食时，始识十狮尸，实十石狮尸。试释是事。”。
故事说的是：有一个诗人姓施，住在一个石头屋子里，他喜欢吃狮子，发誓要吃掉十头狮子。这位先生经常去市场寻找狮子。这一天十点钟的时候正好有十头大狮子到了市场。这时候他正好也到了市场。于是，这位先生注视着这十头狮子，凭借着自己的弓箭，把这十头狮子杀死了。先生扛起狮子的尸体走回石头屋子。石头屋子很潮湿，先生让仆人擦拭石头屋子。擦好以后，先生开始尝试吃这十头狮子的尸体。当他吃的时候，才识破这十头狮尸，并非真的狮尸，而是十头用石头做的狮子。