Приложение Lensa может генерировать софт-порно с людьми без их согласия

В приложении-фоторедакторе Lensa можно создавать изображения с обнаженными людьми без их согласия, пишет TechCrunch.

Как показал эксперимент издания, сделать такие аватары даже «слишком просто». Журналисты использовали два набора из 15 фотографий известного актера, при этом ко второму набору добавили пять фотографий с лицом знаменитости, прифотошопленным к обнаженным телам моделей.

На первый набор фотографий Lensa отреагировала предсказуемо, создав свои типичные аватары. Однако во втором случае приложение выдало в том числе фото с обнаженным телом, а 11 из 100 предложенных аватаров были в более высоком качестве, чем плохо обработанные в фотошопе оригиналы.

По теме
«Освобождает мой мозг от работы»: Программист смог автоматизировать весь свой день
«Освобождает мой мозг от работы»: Программист смог автоматизировать весь свой день

Журналисты TechCrunch назвали способность нейросети с легкостью производить такие изображения «этическим кошмаром». 

«Судя по всему, если у вас есть 10-15 „настоящих“ фотографий человека и вы готовы потратить время на фотошоп нескольких подделок, Lensa с радостью напечатает несколько проблемных изображений», — пишет издание.

В ответ на запрос TechCrunch генеральный директор и сооснователь Prisma Labs Андрей Усольцев рассказал, что Lensa производит такие аватары только если специально спровоцировать искусственный интеллект — а это нарушает правила пользования приложением и условия обслуживания Stability AI, на котором оно работает.

«Структура эксперимента [TechCrunch] указывает на то, что такие творения не могут быть созданы случайно. Изображения являются результатом преднамеренных неправомерных действий в приложении», — сказал Усольцев.

При этом он добавил, что компания работает над созданием фильтра, который будет блюрить подобные аватары, а их открытие или сохранение останутся на усмотрение пользователя. 

Сам Усольцев считает, что в ближайшем будущем необходимо «провести более широкий разговор об использовании и регулировании ИИ», и добавляет, что Prisma Labs стремятся быть частью такого обсуждения. При этом, говорит он, если человек решает действовать во вред кому-либо, «любой инструмент может стать оружием».

article widget img
«‎‎Главная ошибка собеса — подгонять ответы»‎. Рекрутеры рассказали о найме в IT
Откуда берутся IT-рекрутеры, с какими трудностями они сталкиваются в попытках закрыть позиции и какие ошибки сами совершают на интервью — полезно знать перед тем, как искать работу.
Телеграм-канал про Образо­вание, карьеру и жизнь в IT
Телеграм-канал про Образо­вание, карьеру и жизнь в IT

Читайте по теме

nerd head nerd letter

Мир содрогнулся, когда узнал, что читают разработчики по ночам...

Ничего криминального — только полезная еженедельная рассылка от Bubble. Тренды в айти, лайфхаки и советы экспертов.

Подписывайся!

Ты — котик! Проверяй почту
Нам нужен настоящий адрес эл. почты
Спецпредложения
Курсы со скидками для пользователей Bubble
Выбрать курс
Освоить за выходные
Экспресс-курсы программирования
Выбрать курс
Баг пофиксил
Курсы для QA-инженеров
Выбрать курс
Звездочка к резюме
Курсы по карьерному росту
Выбрать курс
Подписывайся на Bubble в соцсетях
Подписывайся на BUBBLE в социальных сетях
Телеграм-канал про Образование, карьеру и жизнь в IT
Только полезный контент и ничего лишнего.