Обновление в Stable Diffusion – ИИ-генераторе текстов в изображение – усложнило имитацию определенных стилей художников или создание обнаженных изображений, но предлагает другие функциональные улучшения.

Stability AI, компания, финансирующая и распространяющая программное обеспечение ИИ-генератора, только что анонсировала Stable Diffusion 2. В новой версии обновлены ключевые компоненты модели и улучшены определенные функции, например масштабирование (возможность увеличения разрешения изображений) и рисование (редактирование с учетом контекста). Но изменения также усложняют для Stable Diffusion создание определенных типов изображений (в частности, эротических и порнографических материалов, фотореалистичных изображений знаменитостей и изображений, имитирующих произведения определенных художников).

Это вызвало шквал критики в соцсетях: «Они испортили модель», прокомментировал пользователь на сабреддите Stable Diffusion. «Неприятный сюрприз», — написал другой на официальном сервере Discord.

Пользователи отмечают, что запрос в Stable Diffusion 2 сгенерировать изображение в стиле цифрового художника Грега Рутковски – больше не выдает произведение искусства, которое очень напоминает собственный стиль художника. Сравните, например, эти изображения:

Курс

Frontend розробка

Заробляйте від $1800 вже через два роки і навчайтесь у вільний час

РЕЄСТРУЙТЕСЯ!

«Что вы сделали с Грегом?», — прокомментировал один из пользователей Discord.

Изменения в Stable Diffusion заметны, поскольку программное обеспечение оказывает огромное влияние и помогает устанавливать нормы на быстро изменяющейся сцене ИИ-генераторов. В отличие от моделей-конкурентов, таких, как DALL-E от OpenAI, Stable Diffusion имеет открытый код, позволяющий сообществу быстро улучшать инструмент, а разработчикам – бесплатно интегрировать его в свои продукты.

Но это также означает, что Stable Diffusion имеет меньше ограничений в использовании, что тоже вызывает критику. В частности, многие художники, такие как Рутковски, раздражены тем, что Stable Diffusion и другие генераторы изображений обучались на их работах без согласия и теперь могут воспроизводить их стили.

Вопрос состоит в том, является ли такое копирование с поддержкой искусственного интеллекта законным? Эксперты говорят, что обучение моделей искусственного интеллекта на защищенных авторским правом данных, вероятно, законно, но некоторые случаи использования могут быть обжалованы в суде.

Пользователи Stable Diffusion предположили, что изменения в модель были внесены Stability AI, чтобы смягчить потенциальные юридические проблемы. Однако когда журналисты The Verge спросили основателя Stability AI Эмада Мостака, так ли это, он не ответил. Хотя и подтвердил, что Stability AI не удалил картины художников из тренировочных данных (как предполагали многие пользователи). В то же время уменьшена сама способность модели копировать художников.

«Не было специальной фильтрации художников», — сказал Мостак.

Little comparison thread between v1 & v2, using prompts and examples from @_StockAI

👈 V1 V2 👉 https://t.co/Npc9NgeuUO pic.twitter.com/LMGeHRwa4l

— Danny Postma (@dannypostmaa) November 24, 2022

Что было действительно удалено из тренировочных данных Stable Diffusion — так это обнаженные и порнографические изображения. ШИ-генераторы изображений уже используются для создания порнографических изображений – фотореалистичных и в стиле аниме. Однако эти модели также можно использовать для создания изображений, напоминающих конкретных людей (известно, как принудительная порнография), и изображений жестокого обращения с детьми.

Обсуждая изменения Stable Diffusion 2 в официальном Discord программного обеспечения, Мостак отмечает, что последний вариант использования и является причиной фильтрации.

Один пользователь сабреддита Stable Diffusion сказал, что удаление содержимого NSFWСокращение NSFW используется для обозначения адресов ресурсов или гиперссылок, содержащих обнаженные изображения, порнографию или ненормативную лексику. было «цензурой» и «противоречило духовной философии открытого кода»:

«Решать, создавать контент NSFW или нет, должен конечный пользователь».

Другие, однако, заметили, что открытый код Stable Diffusion позволяет легко добавить тренировочные данные с обнаженным телом в выпуски сторонних разработчиков и что новое программное обеспечение не влияет на предыдущие версии:

«Не пугайтесь из-за отсутствия в V 2.0 картин/NSFW, вскоре вы сможете создать свою любимую знаменитость обнаженной».

First tests with the new @StableDiffusion V2 depth2image feature. This has potential…@EMostaque @StabilityAI #stablediffusionv2 pic.twitter.com/XZGng0w5HJ

— Saad Ahmed (@microsaad) November 24, 2022

Хотя изменения в Stable Diffusion 2 раздражали некоторых пользователей, многие другие высоко оценили его потенциал для более глубокой функциональности, в частности, новую способность программного обеспечения создавать содержимое, соответствующее глубине имеющегося изображения. Другие сказали, что изменения действительно усложнили быстрое создание высококачественных изображений, но, скорее всего, эту функцию улучшат в следующих версиях.

Сам Мостак сравнил новую модель с «основой для пиццы, позволяющей кому-либо добавлять ингредиенты (т.е. тренировочные данные) по своему выбору».

«Хорошая модель должна быть доступна для всех, и если вы хотите добавить что-то — добавьте», — написал он на Discord.

Мостак также сказал, что будущие версии Stable Diffusion будут использовать тренировочные наборы данных, позволяющие художникам подтверждать или отменять свое участие.

Общедоступную демонстрацию Stable Diffusion Version 2 можно просмотреть здесь.

Источник: The Verge