计算语言学：语言、计算与认知的交汇处

计算语言学是连接语言学与计算机科学的交叉学科，它用计算方法研究人类语言的规律，同时利用语言知识推动自然语言处理技术的发展。

语言模型的历史演进

从上世纪50年代的有限状态自动机，到80年代的隐马尔可夫模型和N元语法模型，再到2013年Word2Vec的分布式表示，计算语言学经历了从规则驱动到统计驱动再到神经网络驱动的三次范式转变。2017年Transformer架构的出现彻底改变了这一领域。

形式语法与自动机理论

乔姆斯基层级体系将语言分为正则语言、上下文无关语言、上下文相关语言和递归可枚举语言四类。自然语言在句法结构上至少是上下文无关的，但其语义和语用层面可能需要更复杂的文法来描述。

语义表示与计算语义学

从一阶逻辑表达到框架语义和分布语义，计算语义学尝试为自然语言建立可计算的语义模型。AMR（抽象意义表示）和Universal Dependencies等标注体系为语义分析提供了结构化表示框架。现代大语言模型通过隐式编码实现了语义知识的分布式存储。

低资源语言处理的挑战

全球约7000种语言中大多数属于低资源语言，缺乏足够的标注语料。跨语言迁移学习、无监督和少监督方法成为该领域的重要研究方向。多语言预训练模型如XLM-R能够在100种以上语言间共享语义表示。

语言演化与计算建模

计算语言学方法被应用于重建语言谱系树、模拟语言接触和词汇替换过程。贝叶斯系统发生学方法为印欧语系的起源和扩散提供了定量证据，计算模拟揭示了语言特征在群体传播中的动力学规律。