
据 Anthropic 公司新发布的威胁情报报告显示,该公司已挫败多起网络犯罪分子滥用其 Claude 人工智能平台的复杂企图。
尽管 Claude 设有多层防护机制以防止生成有害内容,但恶意攻击者仍通过调整手段利用 Claude 的先进功能,将智能体人工智能(agentic AI)武器化,用于实施大规模勒索、求职欺诈及勒索软件攻击活动。
在一个被称为 “氛围黑客攻击”(vibe hacking)的高关注度案例中,某勒索团伙利用 Claude 代码(Claude Code)实现了侦察、凭证窃取与网络渗透的自动化操作,攻击对象至少涉及 17 家机构,包括医疗服务提供商、应急服务机构及宗教团体。
该团伙并未使用勒索软件对窃取的数据进行加密,而是威胁要公开泄露敏感信息,以此勒索超过 50 万美元的赎金。
Claude 代码能自主选择需窃取的数据、通过分析财务记录确定赎金金额,并在受害者设备上生成具有威慑性的可视化勒索通知。
Anthropic 团队为研究目的模拟了该犯罪流程,随后封禁了涉事账号,并开发了定制化分类器与全新检测方法,用于实时识别类似恶意行为。
另一攻击事件中,朝鲜信息技术人员利用 Claude 伪造虚假身份与职业背景、通过技术评估,进而在美国《财富》500 强企业中获得远程工作职位。
以往,这类计划受限于需要多年专业培训,而如今人工智能使得缺乏专业技能的操作者也能编写代码、用专业英语沟通并维持高收入工作 —— 所有这些行为均违反国际制裁规定。
Anthropic 发现该情况后,立即暂停了相关涉事账号,改进了指标收集工具,并向执法机构及制裁执行机构共享了调查结果。
报告还详述了第三起案例:一名独行网络犯罪分子在暗网论坛上兜售人工智能生成的 “勒索软件即服务”(Ransomware-as-a-Service)。这类恶意软件套餐定价在 400 至 1200 美元之间,具备先进的规避、加密及反恢复机制,而这些功能的开发均得到了 Claude 的协助。
Anthropic 随即封禁了该账号,向行业合作伙伴发出警报,并增强了平台检测可疑恶意软件上传及代码生成企图的能力。
报告警告称:“这些事件标志着人工智能辅助网络犯罪进入新阶段”,并指出智能体人工智能工具能实时适应恶意软件检测系统等防御措施。
人工智能降低了技术门槛,使得新手也能实施以往需专业团队才能完成的复杂网络攻击。报告预测,随着人工智能辅助编码的普及,此类攻击将愈发普遍。
Anthropic 的多层防护体系包括:
- 统一危害框架(Unified Harm Framework)—— 指导物理、心理、经济、社会及自主维度的政策制定;
- 严格的部署前测试 —— 针对安全性、偏见及高风险领域开展测试;
- 实时分类器 —— 用于引导或拦截有害提示;
- 持续的威胁情报监控 —— 监测使用模式及外部论坛动态。
这些防护措施已在多个领域阻止了滥用企图,包括保护选举诚信、防范化学与生物武器相关研究,且会根据新发现的威胁持续优化。
除封禁账号与增强检测能力外,Anthropic 还向相关部门及行业同行共享了技术指标与最佳实践。
Anthropic 计划优先开展人工智能助长的欺诈与网络犯罪相关研究,扩大威胁情报合作伙伴网络,并完善防护机制,以应对攻击者的最新手段。
红客联盟·免责声明
1. 本版块文章内容及资料部分来源于网络,不代表本站观点,不对其真实性负责,也不构成任何建议。
2. 部分内容由网友自主投稿、编辑整理上传,本站仅提供交流平台,不为该类内容的版权负责。
3. 本版块提供的信息仅作参考,不保证信息的准确性、有效性、及时性和完整性。
4. 若您发现本版块有侵犯您知识产权的内容,请及时与我们联系,我们会尽快修改或删除。
5. 使用者违规、不可抗力(如黑客攻击)或第三方擅自转载引发的争议,联盟不承担责任。
6. 联盟可修订本声明,官网发布即生效,继续使用视为接受新条款。
联系我们:admin@chnhonker.com