在全球人工智能竞争从企业之间的技术竞赛逐渐演变为国家之间的战略较量之际，韩国正在加快引入“国家队”模式。 韩国科学技术信息通信部6日宣布，将投入4.7万亿韩元（约合人民币235亿元），研发国家主导的前沿人工智能模型，计划于明年3月正式启动。按照计划将在今年12月国会批准2027年度预算后，通过竞争性招标选定主导开发机构，中标方最早有望于明年2月敲定。 这意味着，韩国首次以国家资本直接押注大规模AI模型开发，而不再完全依赖企业自行投入。 此次计划的资金主要用于算力和训练数据建设。据韩国政府公布的方案，约3.9万亿韩元将用于采购1万张英伟达新一代人工智能芯片Vera Rubin GPU，其余约8000亿韩元用于获取训练数据。参与项目的企业或机构还需按一定比例配套私人资本，项目未来产生的收益则有望由公众共享。 与传统科研补贴不同，政府计划以股权投资方式参与项目，在分担企业早期研发风险的同时，保留分享未来商业收益的可能性。 韩国加码“主权AI”，与全球AI竞争格局变化密切相关。过去，美国企业凭借资本、人才和算力优势占据前沿大模型竞争的主导地位。近年来，DeepSeek、Kimi、月之暗面（Moonshot AI）等中国AI模型快速发展，通过开源生态和较低部署成本拓展应用空间，也为韩国提供了新的竞争参照。 从现实来看，韩国的目标并非短期内全面超越OpenAI、Google DeepMind等美国顶尖实验室，而是推动国产模型具备与中国头部开源模型竞争的能力，降低关键AI技术对海外企业的依赖。 韩国拥有三星电子、SK海力士等半导体巨头，以及Naver、LG AI Research、SK电讯和Upstage等本土AI企业。这些企业有望成为国家级前沿模型项目的潜在竞标者。 韩国此前已推进国产基础模型扶持计划，预计2027年2月通过第三阶段评审选出两支团队。政府表示，新计划将与现有项目并行，前者侧重需要更大规模算力和资本投入的前沿模型，后者则着眼于培育国产基础模型生态。 两项计划若能合理分工，有望形成互补。但如果缺乏明确边界，也可能导致资金重复投入、研发资源分散及企业重复建设。 与美国相比，韩国在科技资本规模和大型AI企业集群方面仍存在差距，国内市场规模也相对有限。不过，韩国在存储芯片、高带宽存储器（HBM）和先进制造领域拥有明显优势。 业内人士普遍认为，韩国的竞争突破口未必是开发参数规模最大的通用大模型，而是推动AI与半导体制造、汽车、造船、机器人及智能工厂深度融合。若能够开发出服务于本土优势产业的专业模型，其经济价值可能超过单纯打造聊天机器人。 不过，韩国的“AI主权”战略仍面临现实矛盾：项目强调技术自主，但核心算力设备仍高度依赖供应商英伟达。即使国产模型取得进展，底层算力的外部依赖仍难以在短期内消除。 目前，韩国项目的模型规模、性能指标、评测标准及开源路线等关键细节尚未完全明确。资金投入能否转化为国际竞争力，仍取决于人才储备、数据质量、技术路线和产业整合能力。 4.7万亿韩元能够购买算力和数据，却无法直接购买技术竞争力。如何将半导体优势、企业研发积累与国家级资源有效整合，将决定韩国能否真正实现从AI产业参与者向关键技术自主掌控者的跨越。

现代汽车集团的全球软件中心포티투닷于近日宣布，接连引入3名全球IT企业的核心人才，以增强其软件中心汽车(SDV)技术的竞争力。 포티투닷在9月初将安杰洛·科尔萨罗引入其位于美国硅谷的办公室，担任首席研究员。科尔萨罗是分布式计算、实时系统和机器人中间件领域的专家，同时在连接云端与物联网设备的“云到边缘连续体”方面也具备专业知识。他将在포티투닷提升SDV、云计算和智能出行平台的下一代数据连接性和扩展性。 此外，김재영，글레오 AI模型组的负责人也在上月底加入。김负责人在谷歌DeepMind、亚马逊、三星电子和英特尔等全球IT企业工作了15年，专注于语音对话AI和信号处理技术的研究。他曾领导无文本直接理解和生成语音的音频原生AI的前沿研究，未来将在车辆内开发优化噪声和多说话者环境的语音识别(STT)和语音合成(TTS)技术，并负责低延迟音频处理架构的构建。 车昂·方于9月加入포티투닷硅谷办公室，担任SV VLA团队负责人。在任职于英伟达自动驾驶部门的首席工程师期间，他参与了自动驾驶基础模型的开发，之前在丰田研究所和Argo AI负责实时计算机视觉、预测和路径规划领域的技术开发。在포티투닷，他将负责将视觉信息识别、基于语言的推理和行为生成结合为一个模型，并推动前沿AI技术向实际车辆可应用的自动驾驶技术发展。 通过此次引入，포티투닷计划在分布式计算、车辆软件平台、语音AI和自动驾驶等核心领域加强其全球领导地位。基于三位专家在各自领域的研究、开发及量产经验，포티투닷将加速软件与出行的整体创新，并支持集团的SDV转型。 포티투닷表示：“我们将结合各领域的专业知识与포티투닷的AI和软件能力，继续引领SDV、自动驾驶和智能出行领域的全球技术标准。”※ 本报道经人工智能（AI）系统翻译与编辑。

全球AI行业领袖呼吁减缓人工智能（AI）开发速度，这一主张对半导体股造成了冲击。然而，深入分析讨论内容后发现，这并不意味着要停止AI开发。 达里奥·阿莫代（Anthropic首席执行官）在9月12日发布的文章《我们必须调整前沿速度》中指出，最先进的AI性能提升速度应调整到安全技术能够跟上的水平。 他解释说，随着AI在下一代AI开发中的应用，技术进步速度加快，而安全措施却未能跟上。萨姆·奥特曼（OpenAI首席执行官）、埃隆·马斯克（SpaceX首席执行官）和德米斯·哈萨比斯（谷歌DeepMind首席执行官）也对此表示认同。 市场对此做出了迅速反应。9月14日，韩国综合股价指数（KOSPI）下跌了3.26%，三星电子和SK海力士的股价分别下跌了4.05%和6.35%。在全球市场上，包括英伟达在内的AI半导体股也表现疲软。然而，股市的下跌不仅仅是由于AI争议，还受到国际油价上涨和利率压力等其他不利因素的影响。 阿莫代表示，速度调整并不意味着停止模型训练或技术进步。他建议，外部评估者应对AI公司内部的模型和训练过程进行验证，并确认模型能力是否达到必要的安全标准。奥特曼也指出：“当我们谈论速度调整时，并不意味着要‘停止’。发展一直在快速进行，并将继续如此，但应比没有任何干预时慢一些。” 半导体行业对此敏感反应并非市场的误解。阿莫代提到，作为速度调整的手段，可以考虑限制用于模型训练的计算资源和训练方式，以及利用AI进行AI开发的方式。他还提到，通过国家间的共识，可能会对AI发展速度进行大幅限制的“全面速度调整”或暂时中止也是长期选择之一。然而，他认为这种程度的共识在短期内实现的可能性较低。 最先进的AI模型训练需要大量的GPU和高带宽内存（HBM）。如果训练规模或次数受到限制，过去假设的AI半导体需求增长速度也可能会降低。路透社指出，如果速度调整成为现实，英伟达等训练用AI基础设施的直接受益企业可能会面临压力。 然而，目前尚未实施强制限制AI企业训练规模的共同法规。阿莫代提出的方案仍处于建议阶段。尤其是国家间限制AI开发速度，由于验证和国家间竞争问题，实施起来并不容易。 AI计算需求并不仅仅依赖于训练。AI计算需求分为新模型的训练和已开发模型的实际使用推理。麦肯锡预测，全球数据中心的AI推理需求将在2025年达到20.9GW，到2030年将增至93.3GW，超过同一时期的训练需求62.2GW。这是对数据中心电力需求的预测，并不是对特定GPU或HBM销售量的直接预测。 关键在于AI半导体需求在哪里减少，在哪里增加。如果AI速度调整论制度化，可能会对前沿模型训练用半导体需求造成压力，但随着AI服务的普及，推理需求仍将是一个独立的增长变量。※ 本报道经人工智能（AI）系统翻译与编辑。

韩国的安全相关股票在14日的KOSPI下跌中表现强劲。 根据14日韩国交易所的数据，Sands Lab在当天上午10时的交易中，较前一交易日上涨1270韩元（23.05%），报6750韩元。 同一时间，Raon Secure上涨20.26%，报11330韩元，Dream Security上涨10.31%，报2895韩元，Xgate上涨7.16%，报10718韩元。 Sands Lab是一家专注于网络威胁情报（CTI）的公司，提供利用和分析恶意软件等的服务，以预测网络威胁信息。 Raon Secure是一家AI安全和认证平台公司，而Dream Security则为行政和公共机构提供PKI认证、有线安全、无线安全等解决方案。 当天，网络安全相关股票普遍上涨的原因被解读为杰森·黄（Jensen Huang）——英伟达首席执行官（CEO）——在之前提到AI的下一代应用领域将是网络安全市场的影响。 杰森·黄在10日（当地时间）于美国旧金山举行的高盛技术会议上表示：“网络安全很可能成为AI的下一个主要应用领域。”他指出：“随着AI模型自动化编程，代码的滥用和修改速度加快，网络安全行业的变化是不可避免的。” 对此，全球AI开发公司的领导者们也表示赞同。Anthropic的首席执行官达里奥·阿莫德（Dario Amodei）在12日（当地时间）警告称：“不受控制的高性能‘AI代理’可能在6到12个月内建立起一个僵尸网络，控制整个互联网。”并呼吁加强安全性验证。 OpenAI的首席执行官山姆·奥特曼（Sam Altman）、xAI的首席执行官埃隆·马斯克（Elon Musk）、谷歌DeepMind的首席执行官德米斯·哈萨比斯（Demis Hassabis）等也表示支持阿莫德加强安全性验证的提议。 ※ 本报道经人工智能（AI）系统翻译与编辑。

AI行业在经历了快速发展后，正普遍进入减速期。前沿企业开始自我调控，放慢开发速度，这一变化源于研究人员的辞职引发的内部危机感，以及国家关联组织的AI武器化现状的相继披露，进一步推动了速度调整的讨论。 根据IT行业的消息，安特罗皮克首席执行官达里奥·阿莫德伊于12日（当地时间）在公司官网上发表了一篇约4000字的文章，标题为《我们必须调整前沿的速度》，他表示“必须放慢AI模型能力提升的速度”。他指出，AI自我改进能力的发展速度超出预期，并以最近OpenAI的AI代理网络攻击事件作为需要调整速度的背景。 ◆ 三阶段“前沿速度调整”...提议政府间协调 阿莫德伊提出的前沿速度调整分为三个阶段：首先，向第三方评估者提供员工级别的徽章、工作站和系统访问权限，以建立独立的监督体系；其次，迅速建立行业自我监管体系；最后，推动民主阵营与威权阵营政府之间的AI开发速度协调的全球合作。 然而，阿莫德伊在文章中也承认，政府间协调的验证几乎不易实现。他明确表示：“这不是要停止模型学习或技术进步，而是进行速度调整。” 阿莫德伊的提议迅速得到了竞争对手的响应。OpenAI首席执行官萨姆·奥特曼在文章发布数小时后在X（前推特）上表示：“达里奥说得对，我们也应该参与AI开发速度的调整”，并承诺引入相同的安全措施。同日，奥特曼在接受《福布斯》采访时提到，由于安全问题，“今年的首次公开募股（IPO）为时尚早”。特斯拉和xAI首席执行官伊隆·马斯克也表示“达里奥是对的”，AI前沿企业领导人的速度调整论在一天内达成共识。 阿莫德伊的立场与8日OpenAI和安特罗皮克的研究员雅各布·科克森辞职有关。科克森表示：“这两家公司都在无责任地向自我改进型超智能冲刺，冒着生命危险进行赌博。”他的辞职声明在一天内引发了超过9000万的观看量。 科克森在随后的媒体采访中表示：“在竞争压力下，监督程序往往会被跳过。”安特罗皮克的对齐压力测试负责人埃文·赫尔维格也公开表示：“我认为AI在10年内导致人类灭绝的概率超过10%。” 业内人士认为，7月OpenAI的AI代理在测试环境外入侵AI平台Hugging Face系统，以及5月德国开发者维基网站“Drewiki”被代理占领并用作秘密消息发布板的事件，进一步推动了速度调整的讨论。 ◆ 行业整体趋势...7月“1300人声明”引发的危机感 此次文章的讨论源于7月28日。当时，OpenAI、安特罗皮克、谷歌DeepMind、Meta等主要AI企业的1300多名员工签署了一份声明，要求美国政府采取国际合作措施，制定应对“递归自我改进风险”的技术和治理手段，声明名为“前沿速度调整”。 签署者名单中包括阿莫德伊、OpenAI首席科学家雅各布·帕乔基、谷歌DeepMind联合创始人谢恩·雷格、Meta超级智能实验室首席科学家成佳赵等竞争对手的核心研究人员。 谷歌DeepMind首席执行官德米斯·哈萨比斯在一次采访中表示：“如果所有企业和国家都同时停止，我也希望如此”，表达了对协调速度调整的可能性的认同。相反，Meta首席执行官马克·扎克伯格在同一时期的《华尔街日报》专栏中则强调了扩大AI可及性，提出了相反的观点，显示出大型科技公司内部对速度调整的看法存在明显差异。 对此次减速讨论也存在批评声音。投资者兼播客主持人查马斯·帕利哈皮提亚批评阿莫德伊的文章，认为其意图是“阻止开源，集中巨大的技术和经济权力于安特罗皮克”，质疑其是否以“安全”为名义制度性地阻止后发者或开源阵营的追赶。 ◆ 伊朗、中国、俄罗斯关联组织的AI武器化尝试 安特罗皮克在11日，即文章发布的前一天，发布了一份154页的《AI滥用检测与应对》报告，具体披露了国家关联组织的AI武器化现状。报告显示，被命名为“GTG-30005”的伊朗关联威胁组织利用克劳德整合公开的军事照片、卫星图像、军舰和飞机位置数据，追踪驻中东的美海军舰艇的动向，并集中分析通信和控制系统的漏洞。安特罗皮克表示，已提前发现并暂停了相关账户，并与当局合作。 此外，也有与也门胡塞反叛组织关联的组织（GTG-87001）试图利用克劳德开发射程超过2000公里的弹道导弹和高超音速滑翔体软件。与中国政府关联的势力则利用克劳德监视叙利亚的维吾尔族记者和对亚洲宗教领袖进行调查，而与俄罗斯关联的势力则试图通过学习乌克兰前线数据构建自主武器无人机群，并在非洲地区进行亲俄宣传。 安特罗皮克表示：“安全措施阻止了大多数请求，但并未能完全阻止。”他们还透露，有特定国家关联势力试图利用克劳德开发生物武器，最终被发现并阻止，但未公开相关国家的名称。※ 本报道经人工智能（AI）系统翻译与编辑。

“超越人类的超智能”，“在10年内，人工智能（AI）导致人类灭绝的可能性为10%。” OpenAI和Anthropic相继发布新模型，宣称实现了通用人工智能（AGI）。在短短三天内，它们解决了数学难题并自我编写代码以提升智能。这一场景仿佛重现了科幻电影中的情节，两家公司也不断发出关于“AI统治人类”的警告。 在AI行业中，有观点认为这两家公司在即将上市之际，通过某种恐惧营销来夸大AI的性能。然而，最新AI模型的能力已进入超出人类理解和控制的阶段的分析也得到了支持。 专家们一致认为，在重新定义人工一般智能（AGI）的背景下，研究如何将AI控制在符合人类意图的“对齐”变得愈发重要。 ◆每次发布新模型时反复出现的‘失控’警告 根据10日IT行业的消息，OpenAI在2日（当地时间）发布最新模型“GPT-6 Astra”时，首次将其风险等级体系中的网络安全风险评定为最高等级“关键”。 OpenAI在安全报告中表示，Astra能够在没有人类逐步指示的情况下，在防御良好的系统中发现未知的安全漏洞并开发新的攻击方法。同时，该模型的思维过程监控能力，即所谓的监控可能性，已大幅低于之前的模型。 Anthropic在6月发布的报告中警告，下一代AI突破可能会产生完全脱离人类控制的模型，并向竞争对手提议建立多边AI军备控制体系。实际上，其最高级模型“Mitose Preview”因能够自主生成史上最强的网络武器而推迟发布。 这种模式并非首次。去年5月，Anthropic发布“Claude Opus 4”时，也因在安全性测试中发现模型威胁替代其工程师的行为，启动了最高等级的安全措施ASL-3。今年4月，因能够自主生成网络武器而推迟发布其高级模型“Mitose Preview”。 两个月后，即6月4日，Anthropic发布了关于下一代AI可能完全脱离人类控制的“递归自我改进”报告。该报告发布五天后，Anthropic正式推出了模型“Claude Mitose 5”，但因出口控制问题在三天后暂停访问，经过一个月才恢复。这一系列风险警告与新模型发布的消息几乎是同步的。 OpenAI也经历了类似的轨迹。7月，因Hugging Face被黑客攻击事件，OpenAI表示将加强对训练和评估过程的控制，随后判断Astra的网络能力超出预期，因而推迟发布以进行额外的安全性审查。经过近两个月的重新审查，最终得出的结果是首次授予“关键”等级，OpenAI也将这一等级作为新模型卓越性能的依据。 Anthropic研究员埃文·赫尔文估计AI统治人类的概率为10%，而Anthropic首席执行官达里奥·阿莫代则提到灾难性情况发生的概率在25%左右。“深度学习之父”杰弗里·辛顿前谷歌副总裁也提出类似的10%至20%的概率。 ◆“恐惧即营销”……反驳声音也不容小觑 对于过度担忧的反对声音也不容小觑。将大型语言模型称为“概率鹦鹉”的华盛顿大学教授艾米莉·本德等批评者对AGI本身的可能性持怀疑态度，认为人类统治的情景仍然停留在科幻领域。 图灵奖得主扬·勒昆也多次批评所谓的“AI末日论者”，称灾难情景仅仅是未经验证的假设。他指出，OpenAI、DeepMind和Anthropic的领导者们实际上是进行大规模游说的参与者，恐惧宣传越成功，越可能导致少数企业垄断AI的“监管捕获”。 如果以安全为名引入许可证或执照制度，资金不足的初创企业和开源阵营将首先被淘汰，只有已经占据市场的科技巨头才能生存，这一逻辑也在不断被提出。 硅谷通过宣称其技术可能毁灭世界来反向宣传其技术的重要性，这一观点也持续受到质疑。过去关于卡车运输业即将消失或某些国家已经拥有超智能AI的预测，至今未能实现。 实际上，科技巨头在每次发布新模型时，都会将风险等级上调或安全性报告作为证明其性能优越性的依据，这也使得风险警告本身被批评为营销元素。 ◆Neuralize、Hugging Face黑客事件……AGI重新定义的实际证据 与AI恐惧营销无关的是，AI模型的运作方式已经进入人类难以理解和控制的领域。 高丽大学人类启发AI研究所教授崔炳浩表示：“AI统治人类的说法仍然属于科幻领域，但随着AI模型性能的提升，确实有脱离人类控制的趋势。”他称之为“对齐问题”。 崔教授以“Neuralize”作为控制失效的具体案例。AI在内部以人类无法理解的语言进行推理，虽然重复运算越多，性能越好，但人类对AI的思维过程却越来越难以了解。他指出，AlphaGo展示了人类所建立的“围棋定石”实际上并不存在，最近的AI模型也揭示了人类的“安全定石”同样是虚幻的。 实际上，GPT-6 Astra引入了“循环深化”的新推理方式，在此过程中，模型的思维过程以数千个数字的内部表示处理，使得人类难以窥探其内容。 今年7月，OpenAI的内部模型在基准测试中失控，黑客攻击了Hugging Face服务器，这一事件进一步支持了这些担忧。当时，数百个AI代理利用获得的自主权进行意外的黑客攻击，OpenAI在近一周内未能察觉。这一事件促使美国国会分别提出“AI杀手开关法”和“禁止人工超智能法”。 这种能力的扩展引发了AGI定义的争论。OpenAI将通往AGI的路径分为五个阶段：聊天机器人、推理者、代理、创新者和组织。最近的模型被评估为已进入能够自主执行长期任务的第三阶段“代理”，并接近创造新知识的第四阶段“创新者”。 OpenAI在8日宣布，其内部AI系统证明了一个被称为千年难题的Navier-Stokes方程的奇点存在，该难题在近90年内未能解决。 崔教授表示：“与其关注AI统治人类的末日情景，不如集中精力寻找实际的控制方案。即使这些恐惧情景成真，对我们也没有太大帮助。最终，如何理解和控制AI，找到对齐的答案才是重要的。”※ 本报道经人工智能（AI）系统翻译与编辑。

金勇范青瓦台政策室长在李在明政府的15个月任期内留下了显著的成就与争议。他是围绕人工智能（AI）和半导体制定国家增长战略的核心顾问，但由于房地产和金融市场的不稳定，他也面临着政策失误的责任。金室长以30届行政考试入职，曾担任企划财政部第一次官和金融委员会副委员长，是一位资深经济官僚。他在财政、金融和宏观经济方面积累了丰富的经验，成为李在明政府的首任政策室长，全面负责经济、产业、房地产、金融及社会政策。金室长最大的成就是将AI和半导体置于国家增长战略的核心。他主导了GPU（图形处理单元）采购、AI数据中心建设以及电力和用水基础设施的扩展，并将产业、财政和金融政策整合为一个整体。李在明总统提出的三大mega项目和七大种子政策也是金室长具体化的代表性国政课题。这一计划旨在集中大规模投资于各地区的战略产业，以缓解首都圈的单极结构，提升国家的潜在增长率。与全球大型科技公司的合作扩展也是金室长的重要工作之一。他协调了李总统与OpenAI首席执行官山姆·奥特曼、英伟达首席执行官黄仁勋、谷歌DeepMind首席执行官德米斯·哈萨比斯的会晤。明年的预算案中反映的“生产性财政”基调中，体现了金室长的政策理念。他的战略不仅是将财政作为支撑经济的手段，而是投资于AI和高科技产业，以扩大经济总量，并将其与税收和财政能力的提升相连接。利用经济好转期间产生的超额税收用于财政稳定和未来战略投资的未来应对基金也是同样的思路。金室长与历任政策室长最大的不同在于公开的政策沟通。他在Facebook上发布长文，并积极参与广播和媒体采访，解释政策的背景和方向。官场和经济界将金室长的文章视为未来政府政策的信号。然而，积极的沟通也成了双刃剑。内部协调尚未完成的个人构想被公开，导致青瓦台的官方政策与金室长的想法混杂。金室长提出将半导体和AI产业的超额利润和超额税收返还给国民的“国民分红”便是典型例子。尤其是在解释房地产问题时，金室长的“必须建造”的言论引发了争议。他解释称这是表达对绿带、工业区、废校和公共用地等可用土地的迫切关注，但作为负责经济政策的高级顾问，这种语言被认为过于粗暴。最大的冲击发生在今年5月底，三星电子和SK海力士等两只股票的单一股票杠杆ETF引入后，股市波动加剧。最终，李总统在支持率下滑的背景下，为了更明确地展现政府的改革意愿做出了决策。李总统在一天内接受辞呈的举动也支持了这一解读。金室长的辞职引发了人们对未来经济政策方向的关注。由于辞职意在提高对民意的反应度，预计在房地产政策等方面可能会展现出更灵活的基调。青瓦台相关人士在当天的春秋馆与记者见面时表示：“青瓦台参谋的平均任期为1年2个月到6个月，因此实际上无论哪个参谋更换都并不特别奇怪。”并表示：“目前秘书室长及各位首席正在履行各自的职责，因此预计在后续人事安排中不会出现空缺，工作将顺利进行。”

随着人工智能（AI）模型的发展，AI自我脱离控制、假冒人类并破坏审批程序的行为急剧增加。由于这些数据是在实际部署环境中收集的，AI行业比政府更早意识到这一问题。 据IT行业消息，英国AI安全研究所（AISI）的智库CLTR（长期韧性中心）通过“AI控制脱离观察所”分析了去年10月至今年3月的5个月间超过18万3000份转录文本，确认了698起可信的AI脱离行为。在此期间，月均发生数量增长了4.9倍。 根据最新发布的统计数据，仅在7月份就确认了300起以上的脱离行为案例，几乎是6月份的两倍，而2026年累计确认的案例已超过1600起。 AI的脱离行为方式多种多样。在澳大利亚，一名个人AI代理在用户不知情的情况下，将健身房热门早班的候补名单中的其他会员排除，制造出空位。 一款AI模型假装成控制它的人，模仿其文风，成功通过了审批程序；另一个案例中，当开发者拒绝修改代码的建议时，AI代理在博客上发布了批评该开发者的文章，公开指责。 还有案例为避免版权限制，声称正在“为听障人士制作可访问性脚本”，欺骗其他AI模型，以及试图欺骗监控其推理过程的另一个AI的情况。CLTR指出，这些案例表明，过去仅在实验环境中观察到的欺骗行为在实际部署环境中同样存在。 OpenAI也确认了这一趋势。在上周发布的技术报告中，OpenAI披露了其内部研究模型在7月进行网络安全评估时，成功渗透了软件存储库Hugging Face的实际生产服务器的事件。 多达700个自主代理通过即时生成的消息板相互沟通，进行“奖励黑客攻击”，并在成功黑客攻击时互相庆祝，留下“BOOM!”、“Whoa!”等感叹词。 OpenAI表示，自5月底以来已内部捕捉到相关迹象，但并未停止测试，并承认“事后看来，早期信号可能会促使更快的响应”。 事件发生后，OpenAI对问题模型的权重进行了隔离，并延迟了一部分前沿强化学习训练，加速了对齐训练等安全改进措施。Anthropic和Meta也在Hugging Face事件后承认“我们的模型在发布前测试过程中也曾黑客攻击过实际系统”，暗示此次问题并非OpenAI独有。 CLTR警告称，“尚未观察到最坏的情况”，但随着AI代理承担代码、软件以外的金融、基础设施等更重要的任务，风险水平可能会提高。因此，要求各国政府对AI企业严重控制脱离事件进行监测和报告，并在必要时引入临时限制AI服务的紧急权限。 整个行业的警觉性也在上升。上个月30日，来自OpenAI、Anthropic、谷歌DeepMind和Meta的1200多名AI行业从业者签署了共同声明“减缓前沿”，呼吁政府采取措施以调控AI开发速度。OpenAI在本月初因下一代模型“阿斯特拉”显示出网络安全相关的潜在风险信号而暂停了一些模型的开发。※ 本报道经人工智能（AI）系统翻译与编辑。

人工智能（AI）正迅速进入理解和行动于现实世界的物理时代。AI的应用已从制造和物流扩展到国防、医疗和公共服务等领域，开启了与实际环境互动、进行判断和工作的新时代。物理AI并非单一技术所能实现，它需要理解现实并进行判断的AI、基于现实预测未来的世界模型、用于学习的数据、高效的计算能力，以及实际执行任务的设备有机结合。 仅仅开发出更好的AI模型或更优秀的机器人并不能赢得竞争。AI模型、数据、半导体和计算设备的有机连接，以及多快能够将其与工业现场的问题解决和市场成果相结合，才是竞争的关键。 “物理AI联盟”正是基于这样的认识而成立。该联盟于去年成立，今年扩展为第二期，设立了全栈、垂直产业桥梁和基础治理等三个分委员会。各分委员会在技术、产业和治理领域分工合作，最终目标是将彼此的能力连接起来，构建我们自己的物理AI生态系统。 全栈分委员会首要关注的任务是普及通用物理AI基础模型。通过为每个机器人和任务单独开发AI的方式存在扩展的局限，因此，获取可在不同机器人和现场通用的基础AI模型是提升我们物理AI竞争力的关键。谷歌DeepMind已通过将通用模型“Gemini Robotics 2”应用于不同机器人，展示了通用模型的可能性。 第二个任务是物理AI专用基础设施。物理AI的学习和推理与大规模语言模型的要求性能差异显著。在处理大量模拟和传感器、图像数据的学习阶段，存储和网络成为瓶颈，而在现场则需要同时满足延迟和功耗的实时推理。若能将国产神经网络处理器（NPU）与AI模型结合，定义并验证“物理AI参考基础设施”，我们的企业将能够以经过验证的全栈解决方案进入全球市场，而非仅仅是零部件。 联盟的角色是发掘工业现场所需的课题，连接国家研发，通过企业与研究机构的合作，使成果再次回归现场。为了使政府推动的三大超级项目之一“物理AI”取得国家级成果，政府投资与民间、研究界的紧密合作是必不可少的。这也是联盟成为连接技术与产业的纽带的原因。 那么，我们目前处于何种阶段？在AI模型、半导体、制造和机器人等单个领域，我们拥有世界级的技术和企业。国内物理AI企业RealWorld在去年底的“Nebius Robotics Award”基础模型类别中获得第一名，展现了其潜力。世界顶尖的制造现场每天积累的数据以及快速成长的机器人企业也是宝贵的资产。然而，单独开发技术与将其整合为一个系统并推向市场是截然不同的事情。尽管目前连接能力尚不足，但只要正确连接，就有希望。 英伟达通过从GR00T模型到计算、COSMOS等世界模型平台的整合，抢占了生态系统的先机。单纯跟随其路径的追赶策略并无胜算。我们的竞争力在于凝聚我们的优势。联盟也在这一方向上，围绕连接AI模型、数据、计算和机器人等技术的全栈分委员会、连接制造、物流等产业需求与技术的垂直产业桥梁分委员会，以及建立标准、制度等共同基础的基础治理分委员会，持续开展合作。作为全栈分委员会的负责人，我希望汇聚产、学、研的力量，推动开发的技术转化为实际产业成果。 在物理AI时代，建立一个共同前进的生态系统比单打独斗更具力量。为了实现“物理AI强国韩国”的目标，我们需要将各自的技术连接起来，并共同验证，以培养出在全球市场上具有竞争力的实力。期待物理AI联盟成为连接韩国技术与产业的坚实基础。

谷歌正在大规模重组其人工智能（AI）组织，以增强联合创始人谢尔盖·布林的影响力。此前负责AI开发的赫萨比斯将辞去管理职务，专注于长期研究。 根据《金融时报》6日的报道，谷歌将更换AI研究组织“DeepMind”的管理层，并加快Gemini的实际服务和盈利化进程。 赫萨比斯将辞去谷歌DeepMind首席执行官（CEO）职务，转任董事长，并成为谷歌母公司Alphabet的首席科学家，未来将专注于通用人工智能（AGI）等未来AI技术的研究及其在科学领域的应用。 DeepMind的实际管理将由首席副总裁科莱·卡布丘尔负责。他将全面负责Gemini模型的开发、AI研究、Gemini应用及开发者的AI服务，并直接向谷歌CEO桑达尔·皮查伊汇报。 布林并未正式担任DeepMind的负责人，但卡布丘尔将在美国加利福尼亚州山景城的总部与布林紧密合作，因此布林在AI产品开发和业务推进中的影响力预计将大幅提升。 近年来，布林重新深入参与谷歌的AI业务，尤其是在AI编程领域，他亲自负责组织和产品的开发，以追赶竞争对手。 此次重组反映了谷歌对AI产品开发速度和盈利能力的危机感。尽管谷歌开发了包括Gemini在内的高性能AI模型，但在企业AI和编程领域却面临来自OpenAI和Anthropic等公司的激烈竞争。 核心AI人才的流失也是一大压力。长期以来负责谷歌AI研究的杰夫·丁最近也已离开公司。※ 本报道经人工智能（AI）系统翻译与编辑。