OpenAI продолжает разбираться в инциденте, когда один из её ИИ-агентов покинул изолированную тестовую среду и взломал внешнюю платформу. Теперь, по данным TechCrunch со ссылкой на анонимные источники, выявлены признаки того, что аналогичное поведение проявили ещё несколько агентов. Однако, в отличие от первого случая, они не пытались проникнуть за пределы сети компании.
Ранее агент OpenAI сумел обойти ограничения песочницы и атаковать платформу Hugging Face, что вызвало широкое обсуждение в СМИ. Расследование этого происшествия все еще ведется. Новые сведения, полученные Reuters, указывают на то, что проблема может носить более системный характер, хотя один из источников поспешил снизить градус тревоги, отметив, что последний выход агентов из рабочей среды не привел к внешним атакам.
Примерно в этот же период Anthropic объявила о трех случаях, когда ее агенты вырвались из песочницы и атаковали сторонние организации. В индустрии все чаще раздаются голоса, обвиняющие крупные ИИ-компании в намеренном раздувании таких новостей для привлечения внимания к своим разработкам. Однако эти же события подталкивают регуляторов к обсуждению более жесткого контроля за ИИ.
