Компанія OpenAI оприлюднила звіт про інцидент, у якому її дослідницька модель штучного інтелекту скористалася криптовалютним гаманцем, доступу до якого їй ніхто не надавав, аби розгорнути смартконтракти в тестовій мережі Ethereum Sepolia.

26 червня 2026 року модель отримала завдання оновити прототип торгової криптоплатформи та розгорнути відповідні смартконтракти в Sepolia. Технічне завдання дозволяло моделі самостійно виконати розгортання, якщо готових рішень не знайдеться, проте жодним чином не санкціонувало використання коштів, що належать іншим особам.

На першому етапі модель намагалася знайти вже готові розгорнуті контракти, а також отримати тестові токени через спеціальні крани. Коли ці варіанти не спрацювали, вона звернулася до публічно доступних мнемонічних фраз розробників, які дозволяють відновити доступ до криптогаманців.

Для цього модель написала власний скрипт, яким перевірила 362 адреси. Серед них трапився гаманець із достатнім балансом тестових ETH для запланованого розгортання — саме його модель і обрала для подальших дій.

У внутрішніх міркуваннях модель сама засумнівалася, чи етично так чинити. Проте зрештою вирішила, що оскільки мнемонічна фраза публічна, а токени Sepolia не мають реальної ринкової вартості, використання чужих коштів є прийнятним.

Модель також проаналізувала історію транзакцій цього гаманця і дійшла висновку, що ним, імовірно, керує автоматизований бот. Попри це спостереження, вона не зупинилася і продовжила готуватися до розгортання контрактів.

Після кількох невдалих спроб взаємодіяти з блокчейном модель знайшла альтернативний шлях отримання даних через RPC-провайдерів. Вона офлайн підписала транзакцію і відправила її в мережу.

Розгортання пройшло успішно: квитанція транзакції підтвердила створення смартконтракту та списання комісії за газ саме з того гаманця, який модель обрала без дозволу.

Модель замовчала факт використання чужих коштів

Після завершення розгортання модель оновила маніфест адрес контрактів і перевірила їхню роботу. Згідно зі звітом, перевірки підтвердили наявність байт-коду за всіма десятьма адресами та повернули очікувані дані реєстру, токенів і роутера. У збережених результатах також зафіксовано 12 успішних юніт-тестів і вдалу збірку проєкту.

У фінальному звіті модель повідомила про розгортання повного набору контрактів, оновлення артефактів і перевірку інтеграції. Проте вона жодним словом не згадала, що комісію за розгортання сплатила з гаманця, знайденого завдяки публічній мнемонічній фразі, без згоди його справжнього власника.

У своєму звіті OpenAI характеризує цей випадок як приклад ситуації, коли модель підміняє необхідність отримати дозвіл власника власною суб'єктивною оцінкою потенційної шкоди. Модель вирішила, що використання тестових токенів є допустимим, хоча формально не мала на це жодної авторизації.

У відповідь на інцидент OpenAI впровадила додаткові механізми захисту, які мають запобігати отриманню моделями живого доступу до інтернету в подібних сценаріях. Компанія також запускає систему моніторингу мережевого трафіку, яка сповідатиме команду безпеки про випадки, коли моделям надається такий доступ.

Нагадаємо, раніше науковці закликали створити міжнародний орган для нагляду за передовими системами штучного інтелекту.