Генеральний директор компанії Anthropic Даріо Амодеї та очільник JPMorgan Chase Джеймі Даймон провели важливу дискусію про кіберзагрози, які несе стрімкий розвиток штучного інтелекту. Центральна теза Амодеї полягає в тому, що ШІ вже здатен виявляти вразливості у програмному забезпеченні значно швидше, ніж компанії встигають їх усувати.

За словами експерта, у розпорядженні світу є лише від шести до дванадцяти місяців, щоб залатати десятки тисяч дірок, виявлених моделлю Mythos, до того, як аналогічні інструменти стануть загальнодоступними. Це створює ризик колосального зростання кількості витоків даних та фінансових збитків від атак програм-вимагачів на школи, лікарні та банки.

Захід відбувся в контексті виходу Anthropic на ринок фінансових послуг, де компанія презентувала ШІ-агентів для роботи з інвестиційними презентаціями та комплаєнсом. Раніше під час тестування разом із Mozilla рання версія Mythos за один прохід виявила 271 вразливість у браузері Firefox, що наочно демонструє здатність ШІ аналізувати великі кодові бази з недосяжною для людей швидкістю.

Попри обмеження доступу до моделі Mythos вузьким колом партнерів, дослідники вже показали, що ключові можливості можна відтворити за допомогою наявних інструментів із відкритим кодом. Це означає, що подібні технології можуть поширитися швидше, ніж очікується, хоча уряд США вже використовує Claude Mythos для сканування засекречених мереж.

У квітні генеральний директор OpenAI Сем Альтман назвав побоювання навколо Mythos перебільшеними, звинувативши Anthropic у «маркетингу на страху». Натомість Амодеї наголосив, що закони мають застосовуватися однаково до всіх компаній, описуючи поточний момент як вузьке вікно можливостей, результат якого залежить від швидкості реакції.

Амодеї підсумував, що кількість багів не нескінченна, і саме зараз є шанс знайти їх раніше за зловмисників. Якщо світ відреагує правильно, на іншому боці ми отримаємо кращий і безпечніший цифровий простір.