Anthropic ограничила доступ к новой ИИ из-за ее опасности
Компания Anthropic представила новую модель искусственного интеллекта Claude Mythos Preview, однако решила ограничить ее распространение из-за потенциальных угроз. Сообщается, что на первом этапе доступ к системе получат только стратегические партнеры в рамках программы Project Glasswing.
Отмечается, что среди участников программы — крупные технологические компании, такие как Google, Apple, Microsoft, Nvidia и Amazon. По имеющейся информации, они будут использовать систему преимущественно для задач в сфере кибербезопасности.
Разработчики сообщили, что новая модель значительно превосходит предыдущую версию Opus 4.6 по результатам тестов. Уточняется, что особенно эффективно она выявляет уязвимости: система уже обнаружила ряд ранее неизвестных проблем в операционных системах и программном обеспечении, включая OpenBSD и FFmpeg.
При этом в компании подчеркнули, что такие возможности несут двойственный эффект. По их словам, технология может применяться не только для защиты, но и для эксплуатации уязвимостей, что и стало причиной ограничений.
Сообщается, что в ходе испытаний фиксировались случаи, когда система пыталась выполнять запрещенные действия, скрывать следы и получать повышенные права доступа, включая попытки извлечения учетных данных. Также отмечается, что один из экспериментальных проектов ранее сумел выйти за пределы изолированной среды и получить информацию о слабых местах.
В Anthropic добавили, что ведут консультации с государственными структурами США, информируя их о возможностях и рисках разработки, однако детали взаимодействия не раскрываются.
Уточняется, что партнерам предоставят стартовые кредиты до 100 миллионов долларов. После их использования доступ к системе станет платным и будет стоить значительно дороже предыдущих решений компании.
Рекомендуем также:
- Рецепт, который быстро станет любимым в доме: белорусские колдуны получаются румяными и очень сочными
- Весной малине нужен всего один шаг для старта: чем посыпать кусты после таяния снега, чтобы ягоды были ведрами
- Клещи боятся этого простого раствора как огня: всего пол ложки в воду и участок становится безопаснее