NLEPs: Bridging the gap between LLMs and symbolic reasoning

研究人员引入了一种称为自然语言嵌入程序（NLEPs）的新方法，以提高大型语言模型（LLMs）的数值和符号推理能力。{ width=50% }

---

该技术涉及提示LLMs生成和执行Python程序来解决用户查询，然后以自然语言输出解决方案。
虽然像ChatGPT这样的LLMs在各种任务上表现出色，但它们通常在需要数值或符号推理的问题上很难应对。
NLEPs遵循四个步骤的问题解决模板：调用必要的包，导入所需知识的自然语言表示，实施解决方案计算功能，并将结果输出为自然语言，可选的数据可视化。
这种方法具有几个优点，包括提高了准确性、透明度和效率。用户可以调查生成的程序并直接修复错误，避免了为故障排除重新运行整个模型的需要。此外，可以通过替换某些变量来重复使用单个NLEP来执行多个任务。
研究人员发现，NLEPs使得GPT-4在各种符号推理任务中实现了超过90%的准确率，比特定任务提示方法高出30%。
除了提高准确性外，NLEPs还可以通过在本地运行程序来增强数据隐私，消除了将敏感用户数据发送到外部公司进行处理的需求。该技术还可能提升较小语言模型的性能，而无需进行昂贵的重新训练。
然而，NLEPs依赖于模型的程序生成能力，可能不适用于在有限数据集上训练的较小模型。未来的研究将探索使较小LLMs生成更有效NLEPs的方法，并研究提示变化对推理稳健性的影响。
这项研究得到了香港感知与交互智能中心的部分支持，将于本月晚些时候在北美计算语言学协会年会上进行展示。
（照片由Alex Azabache提供）
另请参阅：据称苹果将获得免费ChatGPT访问

想要从行业领袖那里了解更多关于人工智能和大数据的知识吗？查看即将在阿姆斯特丹、加州和伦敦举行的AI和大数据博览会。这一综合性活动与其他领先活动一同举办，包括智能自动化大会、BlockX、数字转型周以及网络安全与云博览会。
探索由TechForge推动的其他即将举行的企业技术活动和网络研讨会。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。