Нейросеть DALL-E 2 теперь может редактировать лица реальных людей: ранее функция была заблокирована из-за соображений безопасности
Пользователи DALL-E 2 могут загрузить фотографию человека и создать варианты изображения лица, поменять одежду или изменить прическу.
Ранее OpenAI запрещала загрузку любых фотографий в DALL-E, если на них был изображен реальный человек, включая снимки знаменитостей и общественных деятелей. В письме, отправленном более чем миллиону пользователей генератора изображений, компания сообщает, что открывает доступ к этой функции, предварительно улучшив свои фильтры для удаления дипфейков и снимков «сексуального, насильственного или политического содержания».
«Один их хирургов сообщил нам, что использовал нейросеть для визуализации запросов своих пациентов. Кинематографисты тоже хотели бы получить возможность редактировать изображения сцен с людьми, чтобы ускорить свои творческие процессы», — комментируют обновления в OpenAI.
Теперь пользователи могут загрузить лицо реального человека и изменить его, либо поменять одежду или фон.
DALL-E 2 the A.I. image generator can now do variations off of people/faces. Here’s what happens when I upload my photo from Twitter #dalle2 pic.twitter.com/kIZpEBNOGS
— Allan Harding (@allanharding) September 19, 2022
Nice man Dall-e is allowing faces again. He is me as a wwe wrestler taking a bath pic.twitter.com/bwoCHIDylF
— NymN (@nymnion) September 19, 2022
Решение является результатом переговоров создателей ИИ-генераторов со своими пользователями, таким образом они пытаются определить потенциальный вред технологии. OpenAI придерживается относительно осторожного подхода, но компанию уже обошли конкуренты по типу Stable Diffusion, которая вводит меньше ограничений.
Однако Stable Diffusion уже активно используется для создания порнографических дипфейков знаменитостей. Подобный материал в DALL-E был бы сразу же заблокирован, так как условия компании запрещают пользователям загружать изображения людей без их согласия — впрочем как это будет обеспечиваться при текущей модели доступа пока неизвестно.
Обновленная версия генератора изображений от OpenAI DALL-E 2 сейчас доступна только в бета-версии по приглашению.
Источник: Techcrunch,The Verge
