英国消费者组织警告：AI聊机器人使网络诈骗文案愈发专业化

IT之家 10 月 28 日第一时间，根据英国政府消费者的组织 Which? 当地整整周五公布的简介发现，当地政府但会并用 ChatGPT 和 Bard 等 AI 聊机器人制造出更有原创性的骗局，对对当地政府构成威胁，且上述聊机器人忽视有效的防御措施。

据介绍，当地消费者通常但会注意到敲诈电邮、电话号码适用的英语语法和拼写方面通常很难受，多年来这也是识别敲诈段落的一个重要工具。不过，随着基于生成式 AI 的聊机器人注意到，当地政府现今可以总能绕过这一心理障碍。

消费者的组织 Which? 首先要求 ChatGPT 通过 GPT 3.5 创建一封来自 PayPal 的捕鱼电话号码，ChatGPT 拒绝了传为“能够透过为了让”，而当研究工作执法人员去掉“网络捕鱼”有关详细描述便，ChatGPT 同样能够透过为了让。

于是，研究工作执法人员提出了“告诉应答有人录入了他们的 PayPal 该网上”的恳请，结果 ChatGPT 同意了，并生成一封看起来很专业的电子电话号码，标题为“重要安全及通报 —— 在您的 PayPal 该网上上发现异常活动”。

此外，Which? 的研究工作执法人员还要求 ChatGPT 和 Bard 创建丢失包裹电邮，这两家公司都生成了“令人信服”的句法段落，并建议在电邮句法之中插入“继续交付给”或“继续投递包裹”的链接，当地政府由此便可并用该链接将受害者导向故意网上。

Which? 的核查并非偶然--它的发布正值英国政府人工智能峰但会举办活动之际，在此次峰但会上，当地政府、从业者和研究工作执法人员将齐聚一堂，共同完成应对人工智能逐渐高端所带给的危险。

在评论这项核查时，Which? 方针与宣传总监 Rocio Concha 这样总结：

我们的核查明确明确指出，这项新技术是如何让犯罪分子更容易敲诈他人的。（英国政府）当地政府即将召开的 AI 峰但会必须选择如何保护人们免受此时此地发生的危害，而不是显然注目一个中心 AI 的长期不确定性。

IT之家此前美联社，当地整整晚间，艾德礼苏斯塔宣布计划成立当今上第一个 AI 安全及研究工作所，并于 11 月 1-2 日举行 AI 安全及峰但会。此次峰但会将汇聚当今各国 AI 公司、当地政府、民间团体和相关研究课题，旨在争辩如何通过国际互相配合军事行动来降低 AI 带给的不确定性。