На засіданні Генеральної Асамблеї ООН група експертів, науковців та активістів представила нову ініціативу під назвою "Глобальний заклик до червоних ліній у використанні ШІ". Основна мета цієї ініціативи полягає в розробці міжнародних заборон на небезпечні сценарії використання штучного інтелекту до кінця 2026 року.
Вже понад 200 відомих осіб, серед яких колишня президентка Ірландії Мері Робінсон та екс-президент Колумбії Хуан Мануель Сантос, підписали цей документ, а також такі видатні вчені, як Джеффрі Хінтон і Йошуа Бенджіо, які вважаються піонерами ШІ.
Учасники закликають уряди досягти консенсусу щодо основних обмежень, які б уникнули "неприпустимих ризиків". Хоча конкретні правила у документі не наведені, пропонуються приклади можливих заборон, таких як заборона використання ШІ для управління ядерною зброєю, масового стеження за людьми або створення неконтрольованих систем.
Організатори ініціативи пропонують, щоб майбутня угода базувалася на трьох основних принципах:
- чіткий перелік заборонених дій;
- незалежні механізми для перевірки та аудиту;
- створення міжнародного органу для моніторингу виконання угод.
Проте остаточні рішення щодо меж та процедур залишаються на розсуд держав. Ініціатори також рекомендують проводити спеціальні саміти та робочі групи для узгодження позицій.
США вже взяли на себе зобов'язання "не дозволяти ШІ контролювати ядерну зброю", яке було ухвалене ще за адміністрації Байдена. Однак представники розвідки адміністрації Трампа висловлювали занепокоєння щодо того, що компанії, які розробляють ШІ, не можуть використовувати свої технології для внутрішнього стеження, що може ускладнити прийняття глобальних безпекових рішень, які очікують експерти з ШІ.
