生成型AI色情图像泛滥警告：个保委与GPA联合声明

明确安全措施、透明性、快速删除、儿童保护四大原则实际受害案例增加，欧盟和美国等加快监管

近期，Grok等生成型人工智能服务被滥用于深度伪造和未成年人色情图像的生成与传播，成为全球性问题。国际社会已开始联合应对。

23日，个人信息保护委员会宣布参与国际个人信息监督机构合作组织（GPA）通过的《人工智能生成内容与个人信息保护联合声明》。

一些生成型AI平台被指通过文本命令生成特定人物的色情图像，或利用社交媒体照片作为数据生成相似图像。技术门槛降低导致青少年也参与其中。

全球网络安全行业和儿童保护组织的数据显示，过去两三年间，深度伪造色情内容的传播显著增加，受害者多为10至20岁女性。针对儿童和青少年的AI色情图像犯罪也在增加。随着生成型AI的进步，图像和视频的精细度提高，受害范围和二次受害风险加大。

声明明确国际社会将迅速一致应对未经同意的隐私侵犯。声明中包含四项核心原则：防止个人信息滥用和未经同意的色情内容生成的安全措施、确保AI系统使用范围和限制的透明性、快速举报和删除的有效程序、以及为儿童和青少年提供适龄信息的保护措施。

各国监督机构将分享政策、执行和教育领域的经验，加强跨国合作。平台运营商的风险评估和技术安全措施、以受害者为中心的救济体系是关键任务。

声明由GPA国际执行合作工作组主导，52个国家的61个个人信息监督机构签署，包括韩国、法国、英国、新加坡、加拿大和欧盟成员国。

各国的监管步伐加快。欧盟在AI监管框架内加强对高风险AI和非法内容的责任，美国和英国等也在扩大对深度伪造色情内容和儿童色情图像的处罚规定或推进立法。亚洲主要国家也在考虑加强平台运营商的删除义务和透明度报告。

分析认为，需与技术发展速度相匹配的规范建立，同时结合运营商的自律和用户教育，才能确保有效性。国际合作将进一步加强，以保护个人信息和人格权，同时发挥生成型AI的创新性和社会效益。

个人信息保护委员会委员长宋京熙表示：“将与国际社会共同应对因深度伪造等AI内容生成技术滥用导致的个人信息侵害风险，继续引领国内外信任基础的AI应用环境建设。”

※ 本报道经人工智能（AI）系统翻译与编辑。

《亚洲日报》所有作品受版权保护，未经授权，禁止转载。