Midjourney закрыл бесплатные версии генератора изображений из-за шалостей

Midjourney прекращает бесплатное использование своего генератора изображений на основе искусственного интеллекта (ИИ) после того, как шутники создали с помощью инструмента нашумевшие подделки. Генеральный директор компании Дэвид Хольц сказал, что меры предосторожности оказались недостаточными для предотвращения неправильного использования в ходе тестирования возможностей. И отныне желающим дать задания фирменному ИИ придётся платить не менее 10 долларов в месяц за использование технологии.


Midjourney в последние недели оказался объектом сомнительной популярности. Пользователи применили ИИ для создания подделок, изображающих арестованного Дональда Трампа (он еще на свободе, если что!) и папу Франциска в модном пальто (хотя понтифик такое бы не надел). И пусть фотографии уже разоблачили, есть опасения, что злоумышленники могут использовать Midjourney, DALL-E от OpenAI и аналогичные генераторы для распространения дезинформации.

В Midjourney признали, что у компании возникли проблемы с разработкой политики в отношении контента. В 2022 году Дональд Хольц оправдал запрет на изображения китайского лидера Си Цзиньпина, сказав пользователям, что доступ к технологии в Китае важнее, чем свобода сатиры. А на этой неделе в чате с пользователями Хольц сообщил, что у него возникли трудности с настройкой политики контента, поскольку ИИ выдаёт всё более реалистичные изображения. Midjourney надеется улучшить модерацию ИИ, которая выявит злоупотребления, добавил основатель компании.

Некоторые разработчики прибегли к строгим правилам для предотвращения инцидентов. OpenAI, например, запрещает любые изображения текущих политических событий, теорий заговора и политиков, а также проявления ненависти, сексуальности и насилия.

Фейковые картинки — не единственная проблема сервиса для создания изображений с помощью ИИ. Существуют опасения и по поводу авторских прав, поскольку для генерации контента часто используют как образцы чужие фотографии и рисунки.