是否有减少幻觉的计划?

在使用 LLM 进行科学研究时，一个关键挑战是幻觉（例如，编造引用、误解实验结果或生成无效代码）。在研究环境中，准确性和可重复性至关重要，因此这可能是采用的主要瓶颈。我想知道目前是否有路线图或特定策略来解决这个问题？例如：验证步骤：实现自我纠错循环或基于外部工具的验证（例如，运行代码以检查输出）。RAG 和基础：增强检索机制，确保声明严格基于提供的论文/数据。人在环节：设计明确标记低置信度步骤以供人审阅的工作流程。我很乐意听取您对项目如何解决可靠性的看法。如果这是一个优先领域，我（以及其他人）很乐意帮助探索解决方案或为相关模块做出贡献。