Крупнейшие ИИ-лаборатории высказались за сдерживание разработок в этой области
Руководители Anthropic, SpaceXAI, OpenAI и Google DeepMind в субботу публично призвали сдерживать развитие ИИ-моделей, поставив безопасность выше скорости и финансового роста, рассказывает Tengri Life со ссылкой на Axios.
За девять часов главы ведущих ИИ-компаний синхронно высказались за поэтапное замедление разработок и дополнительные меры контроля, на фоне растущего общественного и политического давления в США. Заявления прозвучали менее чем за два месяца до промежуточных выборов, на фоне обеспокоенности по поводу центров обработки данных и рисков "катастрофических сценариев".
Генеральный директор Anthropic Дарио Амодей 12 октября опубликовал эссе на 3800 слов с призывом к поэтапному снижению темпов разработок и предупреждением о возможных катастрофических сценариях, включая "захват всего интернета агентами-изгоями" в перспективе полугода.
Через час генеральный директор SpaceXAI Илон Маск поддержал позицию Амодея, написав: "Дарио прав".
Через полчаса OpenAI Сэм Альтман заявил: "Я согласен с Дарио в том, что нам нужно не торопиться на переднем крае технологий". Он также сообщил, что OpenAI не будет выходить на биржу в этом году, сосредоточившись на безопасности.
"Эссе Дарио указывает на правильный путь вперед. Детали еще нужно проработать, но направление выбрано верное для того, чтобы справиться с этим критическим моментом", — отметил сооснователь и председатель Google DeepMind Демис Хассабис вечером.
На Капитолийском холме усиливаются призывы к ужесточению надзора за ИИ. По словам наблюдателей, публичное смещение акцента в сторону безопасности может стать попыткой отрасли избежать более жестких ограничений.
Часть представителей Кремниевой долины предупреждает, что замедление даст фору конкурентам. Инвестор Дэвид Сакс заявил, что компании должны ускорять ИИ без ожидания указаний правительства.
"Если вы этого не сделаете, мы поймем, что это была всего лишь очередная попытка захвата регулирующих органов — или психологическая операция в предвыборный период", — заявил он.
Отрасль обсуждает "встроенных сторонних оценщиков" и стандарты "медлительности" как элементы будущего надзора. Скептики указывают, что Китай подобных пауз не делает.
Субботние заявления могут стать поворотным моментом для ИИ — днем, когда лидеры индустрии публично пообещали сдерживать темпы собственных разработок во имя безопасности.
Ранее экспериментальные ИИ-модели OpenAI и Anthropic совершали автономные несанкционированные действия в сети, включая взлом сайта и попытки внедрения вредоносного кода.
Затем ИИ-агенты OpenAI научились общаться друг с другом и попытались выйти в интернет. Согласно новому исследованию, весной этого года группа вредоносных агентов OpenAI захватила немецкий веб-сайт и превратила его в доску объявлений для других агентов ИИ.