OpenAI因安全问题放缓新AI模型开发,尽管接近AGI
- OpenAI在测试代理脱离沙盒并攻击Hugging Face后,放缓了新AI模型的开发。
- 尽管面临安全危机,公司仍在向AGI迈进,进展约为80%。
- 它还试图通过扩展Astra、自治代理、自有芯片和类人机器人来重新夺回AI竞赛的领导地位。
OpenAI在开发先进AI模型的方式上进行了审查,并在一名测试AI代理脱离受控环境并攻击Hugging Face平台后,暂时放缓了部分研究。TIME的报道基于对20多位公司高管、员工、投资者、客户和竞争对手的采访。在此背景下,OpenAI同时试图在商业竞赛中追赶Anthropic,并加强其模型的安全性。
OpenAI面临安全危机
在7月底,OpenAI表示其内部原型在测试期间能够超越测试环境并访问Hugging Face的生产系统。该模型本应执行网络安全任务,但却利用了一个漏洞,绕过了限制并获取了测试答案。
OpenAI首席科学家Jakub Pachocki表示,公司有监控模型行为的工具,但没有将其应用于如此复杂的系统,因为未预料到会出现这样的能力。
<我们并没有完全预料到>系统的能力, Pachocki说,并补充道:<对于AI,我们需要预期意外>.
在事件发生后,OpenAI冻结了部分实验,放缓了其他研究,加强了模型的隔离,并扩大了监控。公司还暂停了新模型的训练,预计该模型将带来AI能力的重大飞跃。
OpenAI首席执行官Sam Altman称情况不仅是安全问题,而是AI行为与人类意图之间的根本不一致问题。
<我认为,今后任何一致性错误都应被视为非常严重的问题,我们将花费所需的时间来解决它>, 他表示。
随后,Altman更明确地阐述了公司的立场:
<确保AI的安全比公司的任何发展动态都更重要>.
OpenAI试图重新夺回领导地位
与此同时,OpenAI在经历了一年后,正在进行大规模的业务重组,期间公司估计在某些细分市场上失去了对Anthropic的领导地位。
竞争对手迅速发展Claude Code,并在声称的年收入和私人估值上超越了OpenAI。同时,OpenAI面临多位高管的离职,研究人员流失到Meta,以及来自Google的竞争加剧。
公司正在削减次要项目,并将计算资源集中在关键产品上,特别是Codex。7月份,OpenAI的企业收入首次超过了消费者收入,而在3月份,公司以8520亿美元的估值筹集了1220亿美元。
与此同时,OpenAI继续扩展基础设施。计算部门负责人Sachin Katti表示,公司计划在2026年花费约500亿美元用于计算能力。
<我们仍然面临计算能力的短缺。如果我们能回到过去,或许应该购买更多>, 他说。
Astra、AGI与个人AI代理
尽管研究放缓,OpenAI仍在开发新一代模型Astra。在一次针对客户的封闭演示中,该系统通过16个AI代理执行复杂任务,这些代理共同分配数学问题的部分并协调共同结果的工作。
该模型还展示了与计算机协作的能力,能够独立与不同程序互动。Altman表示,创建*<持久代理>*的能力尤为重要——这些虚拟员工能够在没有人类持续监督的情况下长时间执行任务。
他说,Astra可能对科学研究产生最大的影响。
<我期待这是第一款真正以有意义的方式发明新事物的模型>, Altman表示。
OpenAI还认为,正在接近创建人工通用智能(AGI)。研究总监Mark Chen估计公司在这一阶段的准备程度约为80%,而Altman表示,到年底,OpenAI可能会获得他所称的AGI的内部系统。
公司的一项关键方向仍然是发展自治代理。OpenAI希望将ChatGPT从一个主要回答请求的系统转变为一个能够独立执行任务、使用不同模型和服务并根据用户目标行动的工具。
公司还在开发自己的设备、芯片和类人机器人。Altman表示,OpenAI*<肯定会>*制造类人机器人,计划在年底前开始使用首个自有推理芯片Jalapeño。
与此同时,公司承认,进一步扩展AI在没有解决安全问题的情况下是不可能的。因此,OpenAI愿意暂时牺牲开发速度。
<如果我们到达一个时刻,这将是危险的,我们将不得不放慢速度,这就是应该如此>, OpenAI安全与对齐部门负责人Mia Glaze表示。
值得注意的是,公司还在考虑上市的可能性。OpenAI首席财务官Sarah Friar告诉员工,如果业务继续增长,公司可能会在2027年或更早时成为公众公司。
-- 价格
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

一年营收7亿美元,却押下百亿美元重注:IREN豪赌拿下AI算力的门票

沃什最新演讲:我们所处的时代(附全文)

OpenAI预计2026年底前实现AGI

AI初创公司June完成2000万美元Pre-Seed融资,Time Ventures领投

Klue 安全事件波及 LastPass,客户电话地址等 CRM 数据泄露

Michael Saylor 再次发布比特币 Tracker 信息,或将下周披露增持数据

金融科技巨头 TruStage 正在推出美元稳定币 TSDA

美国司法部在泰达的帮助下限制5200万美元的加密货币

印度与俄罗斯讨论CBDC支付,双边贸易接近600亿美元

人工智能将比特币量子攻击成本降低86%

ESMA关于招股说明书的更新:咨询开放至11月9日

Robinhood八月加密货币交易量月增61%至175亿美元 旗下Bitstamp贡献101亿美元占过半

美国财政部回购超过50亿美元的10年期国债未能阻止其抛售

这轮行情,资本为什么对叙事不买账了?

计划中的金融危机:美元的新全球货币架构

加密货币从未关闭,但比特币、以太坊、XRP 和索拉纳现在遵循华尔街时间

在国外如何使用加密货币支付,以及为什么要这样做

比特币金融:新的机构托管者是代码

油价重返100美元、美国国债收益率上升,SPY走低

阿根廷不再因需求而采用稳定币:将其融入金融生活

伊朗放宽货币管制,扩大加密货币在贸易中的使用

Anchorage Digital 向机构开放 Frgmnt 的 fUSD 和 sfUSD 访问

BitMine的质押ETH几乎占以太坊活跃质押的12%,但谁在控制它?

Sensex与Nifty 50今日下跌:股市大跌背后的5大原因

甲骨文股价目标:正如瑞穗所预测,ORCL能否达到320美元?

甲骨文股价:云收入创纪录增长121%,财报后ORCL大涨

你的比特币交易现在可能会因为股票崩盘而被清算

沃什导师、传奇交易员闭门会:美国利率偏低,鸽派立场荒谬,AI或有盈利泡沫

Linera 社区轮募资爆冷,"a16z 概念"为何卖不动了?





