В США внесли законопроект AI Kill Switch Act, который предлагает обязать крупных разработчиков ИИ предусмотреть механизм экстренного ограничения или отключения моделей по требованию властей.
Под действие инициативы подпадают компании с выручкой от ИИ от $500 млн в год или проекты, на обучение которых ушли вычислительные ресурсы дороже $100 млн. Личные, академические и некоммерческие разработки в проект не включены.
Основанием для вмешательства названы потеря контроля, попытки модели скрывать возможности или обходить команды отключения, а также тяжёлые последствия - от гибели людей до ущерба свыше $100 млн. Ключевой вопрос здесь один: насколько прозрачным и проверяемым будет такой механизм.
