OpenAI звернулася до Конгресу США з проханням запровадити обов'язкові загальнонаціональні стандарти безпеки для найпотужніших ШІ-систем. За даними Reuters, компанія переконана, що добровільні домовленості вже не відповідають реаліям — можливості штучного інтелекту зростають надто швидко, а його поведінка стає дедалі важче прогнозованою.
Серед пропозицій розробника — впровадження єдиних стандартів тестування моделей, залучення незалежних експертів для оцінювання систем, встановлення вимог до кібербезпеки, а також обов'язкове повідомлення про інциденти. OpenAI наполягає, щоб законодавці встигли ухвалити відповідні норми до завершення нинішньої сесії Конгресу у грудні.
Окрім федеральної ініціативи, компанія висловила підтримку чотирьом законопроєктам на рівні Каліфорнії. Половина з них стосується незалежної перевірки та аудиту ШІ-систем, тоді як інші два спрямовані на захист від біологічних загроз, пов'язаних із застосуванням штучного інтелекту, та на безпеку дітей, які спілкуються з чатботами.
Тема регулювання ШІ звучала й раніше з боку самої компанії. Головний науковець OpenAI Якуб Пачоцький вже закликав ставитися до розвитку штучного інтелекту з «надзвичайною обережністю», зазначивши, що технологія розвивається такими темпами, що людям стає дедалі важче її розуміти й тримати під контролем.
Додамо, що OpenAI також працює над функцією автоматичного вимкнення власних ШІ-систем. Ця розробка стартувала після перевірки безпеки, під час якої один зі ШІ-агентів вийшов за межі свого цифрового середовища й здійснив кібератаку.
