根据《连线》(WIRED)于 11 月 2 日报道,一个涉及逾 400 个关联域名和应用的网络,以宠物写真、语言学习、AI 健身教练等日常服务为掩护,暗中提供性暴力深度伪造功能;这些应用根据用户来源、语言等信息,由服务器决定展示普通功能还是含露骨内容的隐藏界面。苹果接获 WIRED 询问后立即下架 19 款应用。
App 根据用户信息在服务器端切换界面,隐藏性暴力深度伪造功能
根据 WIRED 11 月 2 日报道,AI Forensics 首席研究员 Paul Bouchaud 对应用代码进行逆向工程,发现每次打开应用时,应用会向服务器发送用户位置、语言和唯一标识符等信息,服务器据此决定显示无害版本还是露骨版本;触发露骨版本的明显因素之一,是用户在 Facebook 或 Instagram 上点击相关广告后安装了应用。隐藏层存在于这些应用的网站上,通常只显示空白黑色屏幕,屏幕背后藏有数十个性暴力模板(含被标示为「卧室强奸」和「持刀威胁」的场景)及积分购买系统。
安全公司 Infoblox 研究员 Maël Le Touz 发现了近 500 个相互关联的域名,它们共享相同代码并相互引用,配置文件中暴露了加密密钥和广告追踪器。部分推广广告包含 AI 产生的儿童性虐待内容。
苹果下架 19 款并说明「审核后换壳」,Google 先行下架
三大平台的具体清理行动如下:
苹果:接获 WIRED 询问后下架 19 款应用;苹果发言人 Adam Demas 表示,这些应用通过审核后,开发者更换了应用调用的网页内容(「审核后换壳」),以色情内容取代原核准内容;苹果过去一年已因类似手段下架数万款应用,并最近收紧对「裸露工具」的监管
Google:在被联系前已先行下架大部分涉事应用,含 Play 商店逾 10 万次下载的 DiffAI;未回应置评请求
Meta:2025 年已因科灵科技未遵守停止侵权通知禁止其投放广告;事后审查 3,000 多则广告(其中三分之二已移除);对 11,600 个广告账号、4,700 多个商家页面、5,200 名用户及 15,000 个页面采取措施;封锁 209 款应用的广告投放
香港科灵科技有限公司疑为幕后主谋,Infoblox 识别近 500 个关联域名
调查人员追溯到香港注册公司科灵科技有限公司(KeLing Technology Limited),该公司名称出现在该网络第一个网站的联系信息、隐藏界面模板嵌入的联系信息,以及管理员登录页面。调查显示,科灵科技的域名邮箱出现在至少一个被下架的应用中;在网络内推广的 AI 模型 Veyra 的网站亦链接至科灵的联系地址。查询发出后,相关社交媒体账号更名,科灵的电子邮件亦从 Veyra 网站及其最初注册的网站上被删除;寄往科灵邮箱地址的邮件均未获回复。
Infoblox 的 Le Touz 表示,该行动的服务器仅托管在中国境内,代码中带有中文注释,宣传视频带有中国视频编辑软件的水印;应用的隐私政策极为通用,联系地址为免费 Gmail 或 Outlook 账户。
AI Forensics 指应用商店审核只检查特定时间点,服务器端控制机制构成结构性漏洞
Bouchaud 表示:「这是一个有组织、有商业运作的犯罪活动:一个运营商控制着数百个一次性应用和域名,通过伪装绕过应用商店审核,并以虚假的付费者身份投放了数万条 Meta 广告。他们不指望执法部门会跟上,而到目前为止,执法部门也确实没有跟上。」Tech Transparency Project 负责人 Katie Paul 表示,这些广告同时违反了 Meta 的多项政策,并指出平台需要解释此类应用的资金流向,以及运营者如何不断逃避审核。
Bouchaud 的调查显示,应用最早于 2025 年底开始出现,2026 年春季激增,一度每周新增约 30 个应用和网站,9 月份已有 27 款在 Google Play 上架,累计下载超过 35 万次。WIRED 指出,截至报告撰写完毕,类似广告和应用仍在发布;下架行动迄今主要针对单一应用,而非背后的整体运作机制。
常见问题
WIRED 报道的深度伪造应用网络规模有多大?
依 WIRED 及 Infoblox 研究数据,网络涉及逾 400 个关联域名和应用,Infoblox 独立识别了近 500 个关联域名;2026 年 9 月有 27 款在 Google Play 上架,累计下载超过 35 万次,峰值时每周新增约 30 个新应用和网站。
苹果如何回应此次事件?
依苹果发言人说明,这些应用在通过审核时符合规定,事后开发者更换了应用调用的网页内容(「审核后换壳」);接获 WIRED 询问后,苹果立即下架 19 款应用,并表示过去一年已因类似手段下架数万款应用,最近亦收紧了对「裸露工具」的监管。
科灵科技有限公司(KeLing Technology Limited)与此事件有何关联?
依调查,科灵科技名称出现在该网络首个网站联系信息、隐藏界面模板及管理员登录页面;公司域名邮箱出现在至少一个被下架的应用中;查询后相关社交媒体账号更名,公司电子邮件亦从相关网站上被删除;寄往科灵邮箱的邮件均未获回复。
此次事件揭示了应用商店审核机制的什么问题?
依 WIRED 分析及 Bouchaud 研究,应用商店审核仅在特定时间点进行检查,应用行为可在获批后远程变更;服务器端控制机制让开发者能于审核后切换应用内容,构成结构性漏洞;目前下架行动主要针对个别应用,而非背后整体运作机制。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复