В Нью-Йорке одобрен законопроект для предотвращения катастроф с участием ИИ

Законодатели штата Нью-Йорк утвердили законопроект, направленный на предотвращение катастрофических последствий использования передовых моделей искусственного интеллекта. Документ получил название RAISE (Responsible Artificial Intelligence Safety and Evaluation) и предусматривает меры по ограничению применения технологий, которые могут создать угрозу жизни и здоровью людей, а также нанести экономический ущерб в размере более 1 миллиарда долларов США.

Законопроект ориентирован на регулирование деятельности ведущих разработчиков ИИ, включая OpenAI, Google и Anthropic. Компании, работающие с передовыми ИИ-моделями, в случае принятия закона будут обязаны публиковать подробные отчёты о безопасности своих решений и информировать о случаях утечки данных.

Инициатива связана с нарастающей обеспокоенностью рисками, которые сопровождают быстрое развитие технологий искусственного интеллекта на фоне инноваций, идущих из Кремниевой долины. Законопроект рассматривается как первый шаг к созданию на федеральном уровне стандартов прозрачности и контроля для разработчиков ИИ.

Следующим этапом станет рассмотрение документа губернатором Нью-Йорка Кэти Хокул. Она сможет подписать законопроект, отправить его на доработку или наложить вето. По мнению сторонников инициативы, RAISE закладывает основу для формирования национальной системы обязательных стандартов в сфере ИИ-безопасности.