
OpenAI 的捐赠计划基准测试结果。图片来源:OpenAI
AI-powered financial tools
尽管 GPT-4.5 的说服力有所增强,但 OpenAI 表示,在这一特定基准类别中,该模型并未达到其”高”风险内部阈值。 该公司承诺,在实施”足够的安全干预措施”将风险降至”中等”之前,不会发布达到高风险阈值的模型。

Open AI 的密码欺骗基准测试结果。图片来源:OpenAI
人们确实担心 人工智能会助长虚假或误导性信息的传播,从而动摇人心,达到恶意目的。 去年,政治相关的深度伪造像野火一样在全球蔓延,而且人工智能正越来越多地被用于针对消费者和企业实施社交工程攻击。
在 GPT-4.5 的白皮书和本周早些时候发布的文件中,OpenAI 指出,它正在修改其探测模型在现实世界中说服风险的方法,例如大规模发布误导信息。
更多阅读: