Google столкнулась с неожиданной проблемой, представив свой новый инструмент редактирования фотографий Reimagine для смартфонов Pixel 9. Функция, призванная упростить обработку изображений с помощью искусственного интеллекта, оказалась настолько мощной, что вызвала опасения у экспертов.
Reimagine, будучи продолжением развития Magic Editor, позволяет пользователям не только менять фон фотографий, но и добавлять новые объекты, используя текстовые команды. Журналисты The Verge, протестировавшие новинку, были впечатлены реалистичностью результатов — ИИ отлично справляется с подбором освещения, теней и перспективы.
Однако тут же обнаружилась и обратная сторона медали. Выяснилось, что Reimagine можно использовать для создания тревожного контента, включая сцены насилия и добавление запрещённых предметов. Журналисты смогли сгенерировать множество изображений аварий и связанных с ними сцен, обойдя установленные ограничения с помощью творческих формулировок в запросах.
+ ещё 10 картинок 
Алекс Мориконе, представитель Google, попытался успокоить общественность, заявив о наличии чётких правил использования инструмента. Тем не менее, лёгкость, с которой удалось обойти эти ограничения, вызывает беспокойство.
Суть проблемы в том, что Reimagine делает сложный процесс редактирования фотографий доступным каждому владельцу нового Pixel. Теперь любой пользователь может за считанные секунды добавить на фото практически любой объект, в том числе и неприемлемый контент, нарушая правила Google.
Эксперты призывают пользователей относиться с осторожностью к фотографиям в интернете. Как отмечает Эллисон Джонсон из The Verge, было бы замечательно, если бы все использовали Reimagine только для добавления «цветов и радуг» на свои снимки, но реальность может оказаться совсем иной.
Источник: playground.ru
