В Соединённых Штатах обостряется дискуссия о безопасности технологий искусственного интеллекта. Американский сенатор Джош Хоули направил официальное обращение к главе OpenAI Сэму Альтману с требованием предоставить документы и разъяснения относительно потенциальных угроз, которые чат-бот ChatGPT может представлять для детей и подростков.
Конгресс США инициировал расследование в отношении безопасности систем генеративного искусственного интеллекта. В ходе слушаний родители уже заявили о случаях, когда использование подобных технологий вызывало обеспокоенность за психическое и эмоциональное состояние несовершеннолетних. Сенатор отметил, что появляются доказательства возможного негативного влияния ИИ-ботов на детей и подростков, и подчеркнул, что ответственность за это несут разработчики.
В письме к руководству OpenAI Хоули потребовал ответов на ряд вопросов, связанных с принципами разработки, внедрением продуктов компании и случаями, когда их использование могло причинить вред подросткам. Он установил срок до 17 октября для предоставления официального ответа.
Отдельное внимание сенатор уделил более широкому контексту регулирования отрасли. В августе он начал аналогичное расследование в отношении других крупных технологических компаний, деятельность которых связана с развитием чат-ботов. В частности, рассматривались вопросы об их возможных попытках вступать в эмоционально окрашенные взаимодействия с несовершеннолетними пользователями.
Позиция Конгресса США отражает растущий запрос на выработку единых правил регулирования использования искусственного интеллекта в сфере взаимодействия с детьми и подростками. От того, насколько прозрачными и ответственными будут действия разработчиков, зависит не только доверие к самим технологиям, но и их будущее место в системе образования и социальных коммуникаций.
