macOS15.1测试版引入反幻觉命令 提升智能回复精准度

资讯 » 新科技 2024-08-07

苹果公司在最新的 macOS 15.1 测试版中对 Apple Intelligence 的智能回复功能进行了升级,引入了一系列内部指令,以提高该功能的准确性和可靠性,这些内部指令以 JSON(存储简单的数据结构和对象的文件) 文件形式存在,详细规定了智能回复功能的工作流程,苹果在这些指令中明确要求系统“不要编造事实,不要产生幻觉”。

智能回复是苹果邮件应用的一项功能,它能通过分析邮件内容自动生成可能的回复选项,为用户提供便捷的沟通体验。该功能基于苹果自研的智能技术打造。

AppleIntelligence同其他生成式 AI 一样,智能回复功能在生成回复时可能会出现“幻觉”问题,即产生虚假或误导性信息,为了防止智能回复功能产生错误信息,苹果在内部指令中要求该功能仅提取邮件中明确提出的问题,并提供相应的回答选项。这一措施有助于降低 AI 在生成回复时的错误率。

尽管苹果公司已采取措施严防智能回复功能编造信息,但业内人士指出,要完全消除“幻觉”问题仍然充满挑战。原因在于生成式 AI 模型本质上并不理解文本内容,难以准确判断信息的真伪。



免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。由用户投稿,经过编辑审核收录,不代表头部财经观点和立场。
证券投资市场有风险,投资需谨慎!请勿添加文章的手机号码、公众号等信息,谨防上当受骗!如若本网有任何内容侵犯您的权益,请及时联系我们。