Марк Цукерберг публічно не погодився з ідеєю узгодженого сповільнення розробки найпотужніших систем штучного інтелекту в галузі. Керівник Meta переконаний, що питання про необхідний темп безпечного навчання моделей кожна лабораторія повинна вирішувати самотужки, без зовнішньої координації.

На його думку, ринок уже сам створює для компаній стимул дбати про безпеку своїх розробок. Користувачі просто не будуть користуватися агентами, що діють не в їхніх інтересах, а тому довіра до ШІ та його узгодженість із людськими цілями перетворюються на конкурентну перевагу, вважає Цукерберг.

При цьому очільник Meta зауважив, що компанія сама пішла на затримку релізу ІІ-агента Muse. Вихід продукту відклали на кілька місяців, аби приділити більше уваги питанням безпеки та захисту системи. За словами Цукерберга, це було виключно внутрішнє рішення Meta, і компанія не наполягала, щоб конкуренти брали аналогічну паузу.

9 вересня Meta зрештою відкрила доступ до Muse. Цей агент уміє працювати з електронною поштою, календарем, браузером та підключеними до нього сервісами.

У компанії пояснили, що Muse функціонує у виділеній хмарній віртуальній машині, а за його взаємодією із зовнішніми платформами стежить окремий агент під назвою Sentinel. Крім того, Meta оголосила винагороду до $300 000 за виявлення вразливостей у цій системі.

Затримка з Muse — не єдиний випадок, коли плани Meta щодо ШІ відхилилися від початкового графіка. Раніше Цукерберг уже визнавав, що розвиток ІІ-агентів у компанії відбувається повільніше, ніж закладало керівництво.

На фоні того, що зростання продуктивності виявилося слабшим за очікуване, Meta також скасувала другу хвилю масштабної реорганізації штату.

Слова Цукерберга з'явилися саме тоді, коли в галузі активно обговорюють доцільність сповільнення розвитку найпотужніших моделей. Раніше CEO Anthropic Даріо Амодеї запропонував план із трьох етапів, що передбачає незалежні перевірки та координацію дій між провідними компаніями у сфері ШІ. Цю ідею підтримали голова OpenAI Сем Альтман та Ілон Маск.

Отже, Цукерберг не заперечує саму ідею сповільнення розробки. Його позиція радше в тому, що зниження темпів має бути рішенням окремої компанії за потреби, а не результатом спільної паузи для всієї галузі. Прикладом саме такого підходу він і назвав рішення Meta перенести запуск Muse.