Невелика група неавторизованих користувачів отримала несанкціонований доступ до нової ШІ‑моделі Mythos від Anthropic. Про це пише Bloomberg із посиланням на внутрішні документи. За даними агентства, кілька учасників закритого онлайн‑форуму змогли скористатися нейромережею в день релізу і відтоді регулярно її застосовують.

Anthropic позиціонує Mythos як систему, здатну виявляти та експлуатувати вразливості «в усіх основних операційних системах і веббраузерах». У зв’язку з цим компанія надала доступ до неї лише обраному колу постачальників ПЗ.

Щоб проникнути в систему, користувачі застосували кілька тактик: скористалися обліковими даними співробітника стороннього підрядника Anthropic, вгадали URL моделі за патернами адресації інших систем компанії, а також витягли додаткові відомості з витоку даних стартапу Mercor.

Джерело Bloomberg стверджує, що група має намір лише експериментувати з новою моделлю і не планує завдавати шкоди. Окрім Mythos, її учасники мають доступ і до низки інших невипущених нейромереж Anthropic.

«Ми розслідуємо повідомлення про несанкціоноване підключення до Claude Mythos Preview через одне із середовищ сторонніх постачальників», — заявив представник фірми. Інцидент оголює складність контролю за поширенням потенційно небезпечних технологій і залишає відкритим питання: хто ще може отримати доступ до Mythos і з якою метою.

Потужність Mythos Mozilla повідомила у своєму блозі, що рання версія Mythos допомогла виявити 271 вразливість у браузері Firefox під час внутрішнього тестування. Помилки виправили. Результат продемонстрував, як передові ШІ‑системи здатні аналізувати великі кодові бази й знаходити слабкі місця, які раніше вимагали ретельної перевірки з боку фахівців із кібербезпеки.

Раніше Mozilla тестувала іншу модель Anthropic, яка виявила 22 вразливості в попередній версії Firefox. Попри нові результати, у компанії визнають, що досягнення абсолютної безпеки є «нереалістичною метою». Фірма заявила, що всі виявлені помилки зміг би знайти і висококласний дослідник‑людина.

Деякі коментатори вважають, що майбутні ШІ‑моделі виявлять абсолютно нові форми вразливостей, які виходять за межі нашого нинішнього розуміння. Ми так не вважаємо, — зазначили в компанії. Нагадаємо, у квітні ЗМІ дізналися, що Агентство національної безпеки США використовує Mythos, попри конфлікт стартапу з Пентагоном.