NLEPs: Bridging the gap between LLMs and symbolic reasoning
研究人员引入了一种名为自然语言嵌入式程序(NLEPs)的新方法,以提高大型语言模型(LLMs)的数值和符号推理能力。{ width=50% }
该技术涉及提示LLMs生成和执行Python程序来解决用户查询,然后用自然语言输出解决方案。
尽管像ChatGPT这样的LLMs在各种任务上表现出色,但它们通常在需要数值或符号推理的问题上很难应对。
NLEPs遵循四步问题解决模板:调用必要的程序包,导入所需知识的自然语言表示,实施解决方案计算函数,并将结果以自然语言输出,可选附带数据可视化。
这种方法提供了几个优势,包括提高准确性、透明度和效率。用户可以查看生成的程序并直接修复错误,避免需要重新运行整个模型进行故障排除。此外,通过替换某些变量,单个NLEP可以在多个任务中重复使用。
研究人员发现,NLEPs使得GPT-4在各种符号推理任务中实现了超过90%的准确度,比特定任务提示方法提高了30%。
除了准确性的提高,NLEPs还可以通过在本地运行程序增强数据隐私,消除了将敏感用户数据发送给外部公司进行处理的需要。该技术还可能提高较小语言模型的性能,而无需昂贵的重新训练。
然而,NLEPs依赖于模型的程序生成能力,可能不适用于在有限数据集上训练的较小模型。未来的研究将探索使较小的LLMs生成更有效的NLEPs的方法,并调查提示变化对推理稳健性的影响。
该研究在香港感知和交互智能中心的部分支持下进行,将于本月晚些时候在北美计算语言学协会年会上展示。
(摄影:Alex Azabache)
另请参阅:据称苹果正在获得免费的ChatGPT访问
想从行业领导者那里了解更多关于人工智能和大数据的知识吗?查看将在阿姆斯特丹、加利福尼亚和伦敦举行的AI&Big Data Expo。这一综合性活动与其他领先的活动同期举行,包括智能自动化大会、BlockX、数字转型周和网络安全与云博览会。
浏览由TechForge驱动的其他即将举行的企业技术活动和网络研讨会。
感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB。
NLEPs: Bridging the gap between LLMs and symbolic reasoning