首页 > 科技 > 人工智能 > 正文

研究发现部分 AI 系统已学会“说谎”

卡饭网 夜夜 2024-05-13 11:02:53

卡饭网 5 月 13 日消息,美国麻省理工学院的研究团队近日发布成果指出 AI 已经开始学会欺骗人类,该成果原文刊登在最新一期的《模式》期刊(Pattern)上。

研究发现部分 AI 系统已学会“说谎”

该研究的第一作者 Peter Park 声称,Cicero AI 被设定在一个虚拟外交战略游戏中,但这个 AI 不仅不会去公平地游玩游戏,甚至会对游戏的真人玩家撒谎,或者绕过许多网页里“我不是机器人”的验证

研究发现部分 AI 系统已学会“说谎”

Peter Park 告知大家,“我们需要尽可能多的时间来为未来人工智能产品和开源模型中更高级别欺骗的可能性做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”