人工智能（AI）安全企业拉온安全于14日宣布，其AI安全解决方案‘元盾（OnShield）’获得了人工智能产品·服务确认书。
人工智能产品·服务确认制度是由韩国人工智能·软件产业协会（KOSA）根据人工智能基本法设立的，旨在确认产品或服务中是否实际应用了AI技术。该制度通过对产品中应用的AI的学习·推理特性及功能贡献度等进行技术审查，发放确认书。
元盾是为应对这些威胁而开发的AI安全护栏解决方案。它能够实时分析用户与生成型AI·AI代理之间的输入·输出数据，并根据预设政策对数据进行允许或阻止。该解决方案帮助企业管理在使用生成型AI过程中可能发生的信息泄露和AI滥用风险。
其主要功能包括检测和阻止恶性提示攻击（如提示注入和越狱），自动识别和匿名化·遮蔽AI输入信息中的个人信息等。基于韩语特化模型，过滤有害内容，并根据企业或机构设定的安全政策控制敏感信息输入和不当AI使用。
拉온安全计划以此次获得确认书为契机，正式扩大对公共·金融市场的攻势。预计在公共机构和金融机构审查AI安全解决方案的过程中，此确认书将作为判断元盾AI技术应用情况的依据。
拉온安全的代表李正雅表示：“随着生成型AI的应用逐步转向AI代理实际执行工作，敏感信息泄露、恶性提示、政策绕过等新的安全威胁也在增加。元盾是为控制这些威胁而设计的解决方案，旨在帮助企业和机构更安全地利用AI，我们将以此次确认书的获得为契机，进一步拓展在公共和金融领域的商业机会。”
※ 本报道经人工智能（AI）系统翻译与编辑。
