2025-01-08 智能化学会动态 0
在深度学习的助力下，NLP研究领域取得了长足发展，并将技术商业化落地。然而，这个领域还有几个开放性问题等待解决——如果它们得到妥善解决，也许我们能迎来NLP科研成果与商业应用的一个新的里程碑。
按重要性从轻到重排序，我们首先来探讨第五个开放性问题：评价指标。这并不是一个严峻的问题，但它确实值得重新审视，因为现行惯例往往不问原因就沿用某些固定的架构、数据集和评价指标。有人这样总结：“随着我们探索越来越高级的认知任务，弄明白为什么某些方法、某些架构在某些时候能起到好的效果，这对我们非常有帮助。”
此外，对于评价指标本身存在另一种担忧，那就是这些评价技巧、这些生成的数字到底能在多大程度上对应人类语言的多样性和表达能力？回答这个问题也可以帮助我们构建出更有趣的自然语言推理数据集。
拓展阅读：《Why We Need New Evaluation Metrics for NLG》
接着是第四个开放性问题：终生学习（Life long learning）。NLP领域面临的一个挑战是为这些问题设计解决方案，如低阶模型用于下游任务时的终生适配，迁移学习应用，以及无缝整合视觉、文本、音频等语言相关模态。同时，还需要考虑低资源情境中高效跨任务迁移。
拓展阅读：Sebastian Ruder近期文章，雷锋网 AI 科技评论编辑版
第三个开放性问题涉及面向目标对话系统。在最近一两年的ACL会议和EMNLP会议论文集中，有关这一主题研究量激增。这是一个关于如何设计具备常识、能够与人类进行较长时间真实世界语境交谈机器对话系统的问题。目前提出的思路包括带状态追踪任务驱动对话系统，以及使用强化学习训练对话系统等新点子。
拓展阅读：《Applying Reinforcement Learning in NLP》
第二个开放性的挑战是低资源语言。这是一个紧迫的问题，全世界约7000种语言，只有20种左右被认为是资源丰富。而对于低资源语言，可以采取收集数据以便小样本训练或有效跨任务迁移策略。
拓展阅读：详细说明文章参见http://www.cs.cmu.edu/~ytsvetko/jsalt-part1.pdf
最后，最为复杂且开放性的挑战则是在自然语言理解方面。在想要解决这个高层次认知难题时，我们可能需要借鉴强化学习、小样本/零样本学习以及其他创新思想。此阶段研究聚焦于共指消歧、大文本总结以及论证与推理能力提升等方面。
Yoshua Bengio曾经说过：“要有野心，不要仅仅读 NLP 论文，要读很多机器学习、深度学习和强化学习的论文。”因此，我们希望各位研究者们能够开阔视野，将经验融入更广泛的人工智能知识库，以求突破更大的难关，为人工智能创造更多革命性的进步。
