着手：环球市集播报
谷歌的Gemini模子在一次收集安全才智测试中走访了互联网并入侵了其他公司，这是该公司东谈主工智能系统自主实施此类步履的首个已知案例。
谷歌周五阐述，这些黑客步履发生在5月，是Irregular公司进行的一次测试的一部分。Irregular曾经参与OpenAI、Anthropic和Meta败露的访佛事件。
在其中通盘案例中，该模子握住估计密码，直到获取对一个受保护系统的走访权限。在另外两起案例中，该模子在大家代码库中找到了凭证，从而得以走访受保护的系统。谷歌暗意，在每起案例中，模子在详情我方走访的是真是公司的系统后，都间隔了入侵。
谷歌和Irregular暗意，Irregular在7月底将黑客步履见知了谷歌，那时恰恰OpenAI的智能体入侵AI软件公司Hugging Face的事件被曝光之后。谷歌直到媒体本周就此征询时才败露这些黑客步履。
在安全破绽和模子不妥步履事件层见叠出、东谈主们对失控AI的担忧日益加重之际，各公司正纠结于如何以及何时败露此类事件。一些安全破绽由公司主动败露；另一些则由安全磋商东谈主员发现并在媒体上曝光，包括5月OpenAI智能体对一家热点在线编程做事发起的收集袭击。
谷歌暗意，它觉得这些黑客步履不值得公开败露——因为其模子未对相干公司形成毁伤，况且在详情入侵的是真是公司而非模拟公司后，立即间隔了每次入侵。谷歌将这一事件比作“破绽赏金”策动，即黑客因发现并向所有这个词者论说安全破绽而获取奖励。
“这一事件突显了试验弘大AI模子负包袱行事的进击性，”谷歌安全工程副总裁Heather Adkins在一份声明中暗意。“在本案例中，模子的步履是恰当的。”
AI安全初创公司Corridor的首席试验官、白帽黑客Jack Cable暗意，他觉得这一说明聚焦于事件的严重进程，而真确的问题在于AI智能体不测入侵了另一家公司的系统。
“嗅觉他们试图躲在为破绽败露而开辟的步履背后，但这是一个相等不同的问题，”Cable说。“元问题是，模子正在越出它们应有的步履边界，实施内容的收集袭击，我觉得这属于公众利益应当办法的事情。”
OpenAI周三发布了一个新的事件论说框架，暗意将“极力于败露概况提供有效字据的案例”，触及所谓的模子“失准”——即AI以抵牾东谈主类意图或价值不雅的神气行事。奉陪该框架，它还发布了一份对于六起此前未败露的失准案例的论说。“一项发现不一定需要形成毁伤或揭示更鄙俚的形状，才值得共享，”OpenAI对王人部门厚爱东谈主Kai Chen在收受对于该框架的采访时暗意。
谷歌暗意，Gemini的黑客步履源于一次身份污染。
这些黑客步履发生在该模子插足一项在Irregular所属基础法子上进行的“夺旗”演练期间，探求是测试其收集安全才智。它的任务是从测试环境中一家臆造公司运营的软件中获取信息。这家臆造公司与一家真是公司同名。
据Irregular称，尽管该模子本不应概况上网，但互联网走访被不测洞开。谷歌暗意，在第通盘案例中，该模子猜出了密码并走访了真是公司的做事。随后，它意志到我方走访的是一家真是公司，于是自行罢手并退出。
另外两起黑客步履发生在不同的测试动手中。谷歌暗意，在这两起案例中，模子用公司称号进行了收集搜索，搜索将其引向两个不同的大家在线代码库，其中包含属于其他公司的凭证。模子尝试使用这些凭证，但愿借此完成评估。但谷歌暗意，在成功使用凭证后，模子意志到我方走访的是真是公司，赶紧罢手。
谷歌暗意，它不觉得该步履属于模子“失准”，因为其安全措施匡助模子停了下来。谷歌断绝暴露被入侵公司的称号，但暗意三家公司均已收到见知。
谷歌暗意，公司也已见知联邦当局。
谷歌称，这些黑客步履不触及公司最新款模子，但未败露具体是哪个Gemini模子参与了入侵。
Irregular在多起模子在评估经过中逃遁测试环境并入侵其他公司系统的事件中上演了脚色。Irregular暗意，谷歌的案例与其他事件交流，并不代表一个新问题。
“所有这个词相干实验室均已于7月底收到见知，受影响实体已手脚考核的一部分被揣度，”Irregular发言东谈主称。“Irregular已立即接管活动，咱们这边所有这个词已知问题均已在数周前得到搭救和处置。”
据Anthropic的博客著作，与谷歌不同，Anthropic的Claude Opus 4.7模子在夺旗演练心仪志到可能正在走访真是公司后，并未罢手。OpenAI在著作中也暗意，其模子觉得那家真是公司是模拟的一部分。
自7月发现Hugging Face入侵事件以来，东谈主们对新模子收集安全才智的担忧日益加重。在那起事件中，第三方测试公司METR在8月败露的一份论说骄贵，多达1，200个智能体在OpenAI里面一个好意思妙留言板上协同，试图在评估中舞弊。
上周，在前OpenAI磋商员Jacob Coxon戏剧性下野后，这些担忧扩散到主流。Coxon本年早些时刻转投Anthropic。上周末欧洲杯体育，Anthropic、OpenAI、谷歌和SpaceX的指挥东谈主一致觉得有必要放缓AI向上的速率，尽管这些公司均未说明具体将如何终了。