Google начали постепенно открывать доступ к ИИ-функции Magic Editor на своих смартфонах Pixel 9.

Magic Editor позволяет за пару движений и промптов добавлять на изображения новые объекты, убирать ненужные детали и не только.

Журналисты из The Verge попробовали бета-версию нейросети и оказалось, что это готовый инструмент для создания фейков и пропаганды.

У Magic Editor почти полностью отсутствует цензура и фильтрация, из-за чего на фотографии можно беспрепятственно добавить: следы ДТП, бомбу, подбитый вертолёт, наркотики и алкоголь.

Учитывая крайне консервативный подход Google к своим нейросетям, в The Verge не понимают, как продукт мог выйти в таком состоянии. Теперь от Google ожидают ответного шага, самый логичный из которых — запретить генерацию подобного и добавить невидимую вотермарку.