苹果 App Store 新规落地，AI 深度伪造迎来最严审核

IT之家 10 月 17 日消息，苹果公司昨日（10 月 16 日）更新《App 审核指南》，在最新修订的 1.2 条款中，加强治理针对 AI 内容创作类应用，将 AI 生成的、未经当事人同意的私密图像明确纳入禁止范围。

IT之家附上修订内容如下：

1.2 用户生成内容

对于包含用户生成内容的 App，有特定的难题需要解决，比如知识产权侵权、未经同意传播私密图像、匿名欺凌等。为了避免滥用，包含用户生成内容或社交网络服务的 App 必须满足以下条件：

• 采用相应的方法来过滤令人反感的内容，以免这些内容在 App 中发布

• 制定一个机制，以举报攻击性内容并在出现问题时及时作出回应

• 若用户发布攻击性内容，可以取消其使用服务的资格

• 公布联系信息，以便用户与你联系

科技媒体 9to5Mac 指出，此次调整的直接背景，是近一年围绕 App Store 的多起争议。科技透明度项目曾发现数十款 AI“裸体化”应用，并指出 App Store 的搜索建议和广告也会把用户导向这类应用；旧金山官员随后要求苹果下架 8 款可生成未经同意私密图像的应用。

此外用户曾投诉 xAI 的 Grok 聊天机器人被用于制作裸露或性化深度伪造图像；今年早些时候，苹果曾警告 xAI，若继续放任此类内容，将把 Grok 从 App Store 下架。xAI 随后增设防护机制，更新版本才获得批准。

苹果还新增 2.5.19 条准则，禁止应用在审核时隐瞒真实功能、通过后再加入“裸露化”（nudify）等有害能力。这类“先过审、后解锁”的做法被称为“诱饵式营销”，今后可能导致应用下架，开发者也可能被终止 Apple Developer Program 资格。

此外，苹果将禁止助长人口贩卖或剥削儿童的应用的范围，扩展至替代应用分发渠道，并表示对违规应用和开发者“不会犹豫”采取下架或终止合作等措施。