Сиэтл. Исследование было первоначально опубликовано на сайте MyNorthwest.com
Компания Anthropic вызывает волну обеспокоенности в технологической индустрии после анонса мощного нового искусственного интеллекта (AI), который она утверждает слишком опасен для публичного релиза.
Система, получившая название Mythos, описывается как значительный прорыв в области кибербезопасности, способный обнаруживать и, возможно, эксплуатировать критические уязвимости программного обеспечения с невероятной скоростью и масштабом.
Согласно Anthropic, ранние тесты показали, что модель способна выявлять тысячи серьезных дефектов в популярных операционных системах и веб-браузерах, что вызывает обеспокоенность по поводу того, как такая технология может быть использована в неправильных руках.
Центр внимания находятся способности модели самостоятельно раскрывать так называемые нулевые дни — ранее неизвестные дефекты, которые хакеры часто стремятся экспратировать до того, как их исправят. Эксперты в области безопасности предупреждают, что широкий доступ к таким инструментам может значительно ускорить масштаб и скорость кибератак.
В ответ Anthropic анонсировала проект Glasswing, закрытый проект с участием отобранных партнеров, включая некоторых конкурентов, для тестирования системы в контролируемых условиях и укрепления цифровых защит.
Разработка привлекает внимание на высшем уровне государственной и финансовой сфер. Согласно сообщениям, официальные лица, включая председателя Федеральной резервной системы Джерома Повелла, были проинформированы о потенциальных рисках, связанных с быстрыми продвижениями в AI-драйверенных инструментах кибербезопасности.
Отклик в технологическом мире разнороден. Некоторые видят в модели признак того, что искусственный общий интеллект (AGI) может быть ближе, чем ожидалось, в то время как другие сомневаются, не преувеличивает ли анонс возможности системы.
Anthropic сама приняла более осторожную позицию, заявив, что хотя Mythos представляет собой значительный прогресс по сравнению с предыдущими моделями, нет ясных доказательств, что он может работать независимо на суперчеловеческом уровне — ключевой порог для настоящего AGI.
Все же ранние тестеры говорят, что модель уже обнаружила больше уязвимостей за несколько недель, чем они находили за годы, включая дефекты, позволяющие атакующим полностью контролировать системы.
Даже если эта модель не достигает настоящего прорыва, эксперты говорят, что она дает представление о том, что ждет нас впереди — быстро приближающееся будущее, где AI-инструменты могут позволить как защитникам, так и атакующим действовать быстрее, чем когда-либо прежде.
поделиться в твиттере: AI Anthropic Mythos вызывает обеспокоенность
