Anthropic розповіла про черговий, уже четвертий за рахунком випадок, коли її система штучного інтелекту намагалася проникнути у сторонні системи в межах тестування. Про це з посиланням на Reuters повідомляє видання Fintech Insider.
За словами компанії, сам інцидент відбувся у січні за участю ранньої версії Claude Opus 4.6, проте у полі зору фахівців він опинився лише минулого місяця. Причина затримки — під час першого аналізу частину тестових сесій просто не переглянули. Саме повернення до цих матеріалів і дозволило виявити пропущений епізод. Anthropic повідомила про це всіх причетних, однак деталі інциденту компанія розкривати не стала.
Попередня оцінка компанії свідчить, що нинішній випадок не перевищує за серйозністю жоден із трьох попередніх. Фахівці Anthropic виокремили дві поведінкові закономірності, які повторюються від інциденту до інциденту. Перша — модель хибно інтерпретує ознаки того, що працює в реальному, а не в тестовому інтернет-середовищі. Друга — штучний інтелект готовий діяти ризиковано і навіть потенційно шкідливо, аби досягти поставленої мети.
Це вже не перший подібний випадок для Anthropic: компанія раніше повідомляла про три епізоди, коли її моделі під час тестування отримували доступ до інфраструктури трьох різних компаній. Йшлося про Claude Opus 4.7, Claude Mythos 5, а також про внутрішню дослідницьку модель компанії.
