FTC начинает расследование в отношении создателя ChatGPT OpenAI

Американские регуляторы теперь, похоже, всерьез пресекают генеративный ИИ. The Washington Post узнала, что Федеральная торговая комиссия (FTC) начала расследование в отношении OpenAI, создателя ChatGPT и DALL-E. Чиновники запросили документы, показывающие, как компания справляется с рисками, связанными с ее моделями искусственного интеллекта с большим языком. FTC обеспокоена тем, что компания может нарушать законы о защите прав потребителей посредством «недобросовестных или вводящих в заблуждение» действий, которые могут нанести ущерб частной жизни, безопасности или репутации общественности.


Комиссия особенно заинтересована в информации, связанной с ошибкой, которая привела к утечке конфиденциальных данных пользователей ChatGPT, включая истории платежей и чатов. Хотя OpenAI заявила, что число затронутых пользователей было очень небольшим, FTC обеспокоена тем, что это связано с плохой практикой безопасности. Агентство также хочет получить подробную информацию о любых жалобах на то, что ИИ делал ложные или злонамеренные заявления о лицах, а также информацию, показывающую, насколько хорошо пользователи понимают точность продуктов, которые они используют.

Мы запросили комментарий у OpenAI. FTC отказалась от комментариев и, как правило, не комментирует расследования, но ранее предупреждала, что генеративный ИИ может нарушить закон, причинив потребителям больше вреда, чем пользы. Его можно использовать, например, для совершения мошенничества, проведения вводящих в заблуждение маркетинговых кампаний или для создания дискриминационной рекламы. Если государственный орган обнаружит, что компания нарушила правила, он может наложить штраф или издать постановления о согласии, которые налагают определенные действия.

Законов и правил, специфичных для ИИ, в ближайшем будущем не ожидается. Тем не менее правительство усилило давление на технологическую отрасль. Глава OpenAI Сэм Альтман дал показания в Сенате в мае, где он защищал свою компанию, излагая меры конфиденциальности и безопасности, рекламируя заявленные преимущества ИИ. Он сказал, что средства защиты существуют, но OpenAI будет «все более осторожен» и продолжит модернизировать свои средства защиты.

Неясно, будет ли FTC преследовать других разработчиков генеративного ИИ, таких как Google и Anthropic. Однако расследование OpenAI показывает, как Комиссия может подходить к другим делам, и сигнализирует о том, что регулятор серьезно относится к тщательному изучению разработчиков ИИ.