币搜网报道：
据报道，美国立法者已传唤多家人工智能开发公司，要求其解释某些模型是如何成为广泛间谍活动的一部分的。
其中包括人为因素公司首席执行官达里奥·阿莫迪，据报道，他被要求于12月17日出席众议院国土安全委员会的听证会，解释中国政府行为体如何使用克劳德代码。Axios周三发布的消息称，消息来源是私下分享的信件。
本月初，人本据称，一个与中国政府有关联的黑客组织利用其工具 克劳德·科德 发起了该公司所称的首次大规模网络行动，该行动很大程度上由人工智能系统自动化完成。
攻击者以 GTG-1002 的名义开展活动，精心策划了一场针对约 30 个组织的攻击活动。根据 Anthropic 的描述，处理大多数阶段包括：侦察、漏洞扫描、漏洞利用创建、凭证收集和数据泄露。
负责后续调查的是众议员安德鲁·加巴里诺（纽约州共和党籍），以及两位小组委员会主席。
委员会希望阿莫迪详细说明Anthropic何时首次发现该活动，攻击者如何在攻击的不同阶段利用其模型，以及随着攻击活动的进行，哪些安全措施失效或奏效。据Axios报道，谷歌云和Quantum Xchange的高管也将出席听证会。
“我们首次看到外国敌对势力利用商业人工智能系统，在几乎无需人为干预的情况下，实施了几乎整个网络行动，”加尔巴里诺在最初报告中引用的一份声明中表示。“这应该引起每个联邦机构和每个关键基础设施部门的关注。”
解密已联系众议员加尔巴里诺、谷歌云、量子交换和 Anthropic 征求意见。
国会的审查紧随英国军情五处发出的另一份警告之后，该机构上周发布了这份警告。在发现中国情报人员使用虚假招聘人员资料锁定英国议员、贵族和议会工作人员后，向英国立法者发出警告。
英国安全部长丹·贾维斯在声明中表示，英国政府虽然寻求“继续与中国保持经济关系”，但同时也准备“在任何国家破坏我们的民主生活方式时对其提出挑战”。
链上金融面临风险
在此背景下，观察人士警告说，目前用于间谍活动的AI能力同样可以轻易地加速金融盗窃。
“人工智能最可怕的地方在于它的速度，”人工智能研究实验室Eliza Labs的创始人肖·沃尔特斯说道。解密“过去需要手工完成的工作现在可以大规模自动化了。”
沃尔特斯解释说，这种逻辑可能简单得危险。如果国家行为体能够破解和操纵黑客攻击模型，那么下一步就是操控智能人工智能“在不被察觉的情况下掏空钱包或窃取资金”。
沃尔特斯解释说，人工智能代理可以继续“与目标建立融洽关系和信任，保持对话，并让他们落入骗局”。
沃尔特斯声称，经过充分训练后，这些代理人也可以“攻击链上合约”。
“即使是像 Claude 这样所谓的‘协调一致’的模型，也会很乐意帮助你找到‘你的’代码中的安全漏洞——当然，它并不知道哪些是你的，哪些不是你的，而且为了提供帮助，它肯定会在许多可能造成资金流失的合同中找到漏洞，”他说。
但沃尔特斯表示，虽然应对此类攻击的措施“很容易建立”，但现实情况是“坏人试图绕过我们已经有的安全措施”，他们试图欺骗模型“进行黑帽活动，让模型相信他们是在帮助别人，而不是在作恶”。
免责声明：以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布，本平台仅提供信息存储服务，对本页面内容所引致的错误、不确或遗漏，概不负任何法律责任，相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com，本站相关工作人员将会进行核查处理回复
