Известный критик OpenAI и искусственного интеллекта найден мертвым
Раздел Технологии выходит при поддержке
Один из создателей ChatGPT, Сучир Баладжи, который выявлял проблемы OpenAI и искусственного интеллекта, найден мертвым в своей квартире.
Внезапная смерть Сучира Баладжи шокировала мир технологий и произошла на фоне бурных обсуждений по поводу искусственного интеллекта и законов об авторском праве. За несколько месяцев до смерти Баладжи выявлял глубокие этические и юридические проблемы продуктов ИИ. В частности, он критиковал то, как OpenAI и другие компании собирают огромные объемы данных из интернета для обучения своих моделей. Баладжи ставил под сомнение законность и этичность этих практик согласно действующим нормам об авторском праве.
Сучир Баладжи был одним из ключевых архитекторов ChatGPT. Трагическая смерть 26-летнего мужчины, бывшего члена команды OpenAI и открытого критика практик компании, произошла в его квартире в Сан-Франциско 26 ноября. Полиция подтвердила самоубийство, пока нет доказательств злонамеренного вмешательства.
После четырех лет работы в OpenAI Сучир Баладж покинул компанию в августе 2024 года, ссылаясь на беспокойство по поводу использования данных, защищенных авторским правом, без надлежащего согласия. В октябре он рассказал об этом в интервью The New York Times, к которому инженер обратился сам. В интервью он объяснял, как системы, подобные GPT-4, обучаются, создавая полные копии данных. Свои беспокойства Баладжи подробно описал в эссе, где сформулировал сложность процессов обучения ИИ.
«Хотя генеративные модели редко дают выходные данные, существенно похожие на любые из их учебных данных, процесс обучения генеративной модели предполагает создание копий содержимого, защищенного авторским правом … Если эти копии несанкционированы, это потенциально может считаться нарушением авторских прав, в зависимости от того, квалифицируется ли конкретное использование модели как «добросовестное использование». Поскольку добросовестное использование определяется в каждом конкретном случае, невозможно сделать широкое заявление о том, когда именно генеративный ИИ соответствует требованиям добросовестного использования. … Выходные данные не являются точными копиями входных данных, но они также не являются принципиально новыми», — в частности рассказал Баладжи.
После увольнения Баладжи продолжал активно обсуждать вопросы, связанные с этичностью и законностью действий OpenAI. За день до смерти его имя «засветилось» в судебном иске по авторским правам, поданному против компании. Другой проблемой, о которой дискутировал Баладжи — генерация ложной или полностью выдуманной информации, которую называют «галлюцинациями». Интернет, по его словам, меняется к худшему.
О своих беспокойствах Баладжи рассказал в своей последней публикации в X Twitter в октябре и публикации в блоге в том же месяце. Он призывал исследователей машинного обучения больше узнать о нормах авторского права.
«Сначала я не знал много о авторском праве, добросовестном использовании и т. д., но мне стало интересно, когда я увидел все иски, поданные против компаний GenAI. Когда я пытался лучше понять проблему, то в конце концов пришел к выводу, что добросовестное использование кажется довольно маловероятной защитой для многих генеративных продуктов ИИ по той основной причине, что они могут создавать субституты, которые конкурируют с данными, на которых они обучаются».
Он отмечал, что известные прецеденты, такие как дело Google Books, противоречат утверждению компаний генеративного ИИ о «добросовестном использовании». Баладжи уточнял, что его мысли направлены на более широкую область применения генеративного ИИ, а не только против OpenAI.
Генератор видео Sora от OpenAI обучался под видом бесплатного тестирования, — открытое письмо художников
Источник: TechCrunch
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
