AIGC（人工智能生产内容） 已经成为与PGC（专业生产内容）、UGC（用户生产内容）并驾齐驱的内容生产方式。由于 AI 的特性，AIGC在创意、个性化、生产效率等方面具有独特的优势，这些优势可以使得高质量的内容制作更简单，但也会帮助恶意份子更高效地炮制违法违规内容。数据万象从 AIGC 的输入、生产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，帮助各开发者及时发现风险信息，降低业务安全风险。

2022年，ChatGPT的推出，使 AIGC 这个名词进入了大众的视野。Stable Diffusion、MidJourney等可以生成图片的 AIGC 直接引爆了 AI 作画领域。Gartner 将生成性 AI 列为2022年五大影响力技术之一。AIGC 已经已经成为 AI 领域的新疆域，推动着人工智能步入下一个新时代。

AIGC的风潮直接吸引了大量的开发者蜂拥而入，渴望能占到这个风口的红利。但现实情况是，大量的 AIGC 在上线初期就面临关停风险，核心原因就在于AIGC输出的内容具有不确定性，导致这些平台因涉嫌传播违规内容而被勒令下架。所以，AIGC 的发展必须解决内容上的安全与规范。

(资料图)

4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，这意味着国家已经在密切关注 AIGC 的发展，在合法合规的前提下，支持 AIGC 的商用及健康发展。

在《意见稿》中，有13条规定是面向 AIGC 平台的，因 AI 的特性，让 AIGC 在处理安全风险方面有着更大的挑战：成倍增长的审核量：AIGC 正处业务增长爆发期，数据量将持续增高；AIGC 生成内容速度较快，短时间即可生成大量内容。对审核的时效性要求极高：随着 AIGC 应用的场景越来越广泛，在实时交流等交互性强的场景中要求毫秒级的审核响应。违规类型多种多样：AIGC 根据人为的“指令”生成内容，生成内容由大模型随机而成，产出类型不可预测。内容隐晦复杂：AIGC 可被人为训练引导，生成变体文本、隐晦违规含义的图片，对审核的准确识别要求极高。

基于以上挑战，腾讯云数据万象从 AIGC 的输入、生产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，帮助各开发者及时发现风险信息，降低业务安全风险。

内容输入审核

用户通过 AIGC 应用输入原始的文本、图片 prompt ；平台可将用户的原始输入信息通过万象直接进行审核；根据审核结果：敏感信息直接拦截、正常信息进入 AIGC 大模型。

内容生产审核

正常的 prompt 进入大模型，生成 AI 数据（文本、图片、音视频）；生成的图片、文本数据通过数据万象进行审核；

根据审核结果：敏感数据直接拦截，正常的文本内容可直接通过应用返回给用户，正常图片进入对象存储 COS。

内容存储审核

生成音视频数据先进入对象存储 COS，再通过数据万象进行异步审核；对于存储在 COS 中经过了审核后的图片、音视频数据，可在应用层通过 COS 链接的形式返回给用户进行访问查看。

与其他安全审核服务相比，数据万象内容审核具有天然的存审一体化的结合优势：

1. 与 COS 深度集成，支持一键扫描审核 COS 中的历史数据；
2. 审核模块与 COS 之间内网获取数据，免除因拉取数据而产生的外网流量费用；
3. 高度便捷的操作，支持数据上传到 COS 后自动执行审核、自动冻结违规数据；

同时数据万象支持用户自定义审核策略，可根据不同数据场景使用不同的策略：

1. 在用户输入的 prompt 提示词场景：可适当降低审核要求，让用户尽可能保持输入体验，重点拦截高度敏感的内容；
2. 在 AIGC 模型生成的内容场景：严格把控提高审核要求，确保存储、分发的内容是合法合规的，除高度敏感的内容外，擦边、低俗等内容也应在管控拦截范围内。

不管是对新涌入的新手开发者，还是打算涉猎 AIGC 的巨头企业，AIGC都是一个风险与机遇并存的领域，所有新事物的发展都必须在合法合规的前提之下。保持自身业务的安全、健康，才是 AIGC 平台可持续发展的关键因素。数据万象在内容安全领域持续深耕，希望可以为各大 AIGC 平台提供最坚实的安全保障。