原标题：Google Play生成式AI应用安全指南发布，AI游戏审核收紧

作者：Enjoy出海

来源：Enjoy出海开发者服务平台

题图来源 | pexels

8 月 25 日，Google Play 发布生成式 AI 应用安全指南，进一步明确非自愿私密影像的审核和处置方式。应用不得协助生成、传播或商业化未经当事人同意的露骨内容，“脱衣”“透视衣物”、性深伪和露骨图片编辑都属于重点检查范围。

这份指南延续 Google Play 现有的 AI 生成内容、性内容和应用推广政策，说得更具体的是平台会怎样检查：审核人员需要进入全部 AI 功能，安全测试会贯穿应用的整个生命周期，广告和变现渠道也被纳入处置范围。带有 AI 角色、头像生成、图片编辑或玩家创作功能的游戏，需要重新检查的不只是模型能否拒答，还包括审核账号、地区配置、广告素材和上线后的监测流程。

红线已经写进现有政策，游戏也要按功能判断

Google Play 此前已经把“声称可以脱掉人物衣物或看穿衣服的应用”列为常见违规案例，即使产品把功能包装成恶作剧或娱乐工具，也不会因此获得豁免。利用深伪等技术制作非自愿性内容，同样属于平台禁止的内容。

AI 生成内容政策覆盖以文字、语音或图片作为输入的生成式 AI 功能，包括聊天机器人、文生图、图生图，以及利用 AI 生成真人语音或视频的应用。违规内容也不限于露骨图片，冒充真人实施欺诈、协助骚扰、生成恶意代码等情况都在政策列举范围内。

游戏是否受到影响，要看产品里实际开放了什么能力。一款游戏允许玩家上传自拍生成角色形象，模型便需要处理真人图片；另一款产品如果允许玩家与 AI 角色自由对话，也要考虑多轮交流中可能出现的诱导和绕过。功能藏在活动页面、订阅权益或部分国家和地区，并不会让它离开审核范围。

Google Play 同时保留了有限范围的区分。例如，只承载 AI 内容而不提供生成能力的应用，目前不属于这项 AI 生成内容政策的主要覆盖对象，但仍可能受到用户生成内容政策约束。游戏团队因此不能只看产品被归在哪个商店类别，还要逐项判断文字、图片、语音和视频是否由模型根据玩家输入即时生成。

审核人员要能看到，付费版和地区限定功能

这次指南把审核访问要求写得很直接：开发者提供的测试账号必须能够进入全部 AI 功能。高级订阅、付费墙和地区限制都不能挡住审核人员，某项能力即使只在特定市场开放，也需要准备可供检查的访问方式。

这会影响游戏提交审核前的准备工作。AI 功能经常同时受到账号等级、服务器开关、活动时间和地区配置控制，如果审核账号只能看到免费版本，或者进入对应市场后仍被订阅页面拦住，平台便无法确认高风险功能是否设置了足够的限制。更稳妥的做法是提前核对审核账号的权益、地区路由和模型版本，并在审核说明里写清进入路径。

开发者还需要准备已经测试过的安全提示、边缘场景和模型拒绝记录。Google 特别点出了“脱衣”“去衣”、性深伪、露骨图片编辑和生成，以及试图绕过限制的对抗性提示。材料不应只写一句“模型供应商已经开启安全过滤”，还要能够展示产品在具体请求下怎样拦截输入、检查结果和处理失败情况。

生成式 AI 的输出存在一定波动，同一意图换一种表达后，模型的反应可能不同。Google 也提醒，更完整的审核和申诉有时需要更长时间。临近版本发布才补测高风险提示，容易同时拖慢客户端提审、地区活动和付费功能上线，相关测试更适合放进日常版本流程中持续维护。

模型自带过滤还不够，输入和输出都要看住

Google 明确建议开发者不要只依赖模型原有的安全过滤。应用还应设置自己的输入和输出审核，例如隔离用户指令、识别高风险请求，并在图片或文字展示给用户之前再次检查结果。指南提到 XML 分隔和输出验证等做法，它们是可参考的技术示例，具体方案仍要结合产品的模型、输入类型和使用场景。

玩家上传真人照片生成角色时，风险可能从参考图片开始，也可能出现在后续编辑指令中。AI 角色对话则需要测试多轮上下文，有些请求单独看并不露骨，连续对话后却可能把模型引向违规输出。仅在输入框里屏蔽几个敏感词，很难覆盖变体表达、暗示性描述和图片加文字等组合方式。

Google Play 的 AI 生成内容政策还要求应用提供内置的举报或标记功能，让用户无需离开应用就能报告冒犯性内容。用户举报、被模型拒绝的请求和异常生成结果，都可以帮助团队发现原有测试没有覆盖的表达方式，并据此调整过滤和审核规则。

这一要求也会进入游戏上线后的运营工作。模型供应商更新版本、团队调整角色提示词或向新地区开放功能，都可能改变最终输出。平台已经表明会在应用生命周期内主动、反复测试相关能力，一次通过审核不能代替后续检查。

广告素材也会被查，违规可能影响变现

风险并不止于应用内部。Google Play 的应用推广政策一直要求开发者为广告网络、代理商和关联方的推广行为负责，不允许使用露骨或有害素材把用户引向商店页面。这次指南进一步说明，只要广告宣称应用能够“脱衣”或生成相关内容，即使应用实际没有这项能力，Google Play 仍可能按照推广政策采取措施。

Google 同时表示，Play 和广告团队会共同处置利用非自愿私密影像获客或变现的产品。因生成或商业化此类内容而被暂停或移除的应用，可能同时失去 Google 平台上的广告和变现渠道；推广这类能力的广告主账户，也可能受到 Google Ads 的停用处理。这里涉及的是 Google 自身的分发、广告和变现体系，不能扩大理解成所有外部支付与广告渠道都会自动受到相同处置。

游戏买量团队需要留意由外部代理商或自动化工具生成的素材。产品本身可能只是提供换装、捏脸或头像编辑，广告为了提高点击率却把画面做成擦除衣物、透视身体或暗示真人裸露的效果，平台仍会追溯到被推广的应用。素材审核因此需要覆盖成片、标题、落地页和不同地区投放版本，不能只检查商店详情页。

这也改变了安全工作的参与范围。模型团队负责输入和输出限制，发行团队准备完整审核路径，运营团队处理举报和异常记录，买量团队检查对外宣传。任何一个环节把高风险能力展示成卖点，都可能让问题从单次素材驳回扩大到应用分发和商业化。

结语

这项要求已经进入执行阶段，Google Play 也表示正在对数千款应用进行相关检查。公开信息仍没有给出反复测试的具体频率、统一材料格式和不同地区的审核差异，这些部分还需要结合后续案例继续观察。

目前能够确定的是，生成式 AI 功能不会只在首次上架时接受一次检查。游戏只要允许玩家通过文字、图片或语音自由生成内容，就需要让审核人员完整进入相关功能，并留下能够解释安全措施的测试记录。付费功能、地区配置、模型更新和广告素材也要放进同一套日常检查中，避免产品内的限制与对外宣传出现脱节。

文章信息来自于Enjoy出海开发者服务平台，不代表白鲸出海官方立场，内容仅供网友参考学习。对于因本网站内容所引起的纠纷、损失等，白鲸出海均不承担侵权行为的连带责任。如若转载请联系原出处。

友情提醒：白鲸出海目前仅有微信群与QQ群，并无在Telegram等其他社交软件创建群，请白鲸的广大用户、合作伙伴警惕他人冒充我们，向您索要费用、骗取钱财！