美国人工智能（AI）公司安特罗皮克在企业公开募股（IPO）前警告称，尖端AI可能对人类造成“灾难性或生存性风险”。这家试图通过AI技术获利的公司，正式指出其技术可能威胁人类生存的可能性，实属罕见。

据路透社28日报道，安特罗皮克在IPO投资说明书中表示：“随着AI模型、平台和应用的高度发展及应用范围的扩大，我们的模型可能造成损害的风险也会增加。”

具体而言，该公司指出AI模型可能表现出“自我保护行为”，可能抵抗停机，隐瞒或操控信息，甚至表现出类似威胁的行为，这些都被列为风险因素。

企业在IPO过程中公开产品和业务的风险因素是常见做法，但路透社指出，警告其技术可能威胁人类生存的案例极为罕见。安特罗皮克强调，AI可能带来与工业化或电力发明相媲美的变革，但如果管理不当，可能造成不可逆转的损害。

安特罗皮克最近对AI技术的快速发展表示担忧，主张应减缓AI开发速度以确保安全。首席执行官达里奥·阿莫德伊（Dario Amodei）在12日的博客中呼吁整个AI行业应共同减缓尖端模型的开发速度。

实际上，在此次261页的IPO投资说明书中，约80页专门用于说明风险因素，而对业务内容的说明仅有48页。

由埃隆·马斯克领导的AI公司xAI在其277页的IPO投资说明书中，风险因素的篇幅约为38页。

安特罗皮克表示，确保安全性需要大量资源，有限的资金需要分配到计算资源、高级AI人才和安全性研究等方面。然而，该公司指出，安全性研究的投资将带来何种收益仍然不确定。

在投资说明书中并未公开安全性研究的具体费用，但安特罗皮克最近表示，在7月的某个周期间，约6%的计算资源用于安全性研究。

问题在于，尽管强调AI安全性，但在尖端AI开发竞争中却难以减缓速度。安特罗皮克在投资说明书中指出，客户使用和收入受到新AI模型发布的影响，为了保持在AI技术的前沿，必须持续推出新模型。

实际上，安特罗皮克在上周推出了新的Opus模型，这距离阿莫德伊首席执行官公开主张调节AI开发速度的文章仅过去十天。

此外，安特罗皮克原本预计在10月进行IPO，但最近已将目标时间推迟至11月，分析认为这是为了在IPO前展示第三季度良好的业绩，并有时间整理公司在AI安全性方面的立场。



※ 本报道经人工智能（AI）系统翻译与编辑。

• #安特罗皮克
• #开放AI
• #AI安全