Згенеровані російські танки в Києві: Google скасувала ШІ-функцію в Google Earth менш ніж за 48 годин після релізу
Компанія Google призупинила роботу вбудованого генератора зображень Nano Banana 2 у Google Earth менш ніж за 48 годин після його запуску, щоб розробити надійніші заходи безпеки. Рішення ухвалили після того, як користувачі почали масово створювати та поширювати фейкові супутникові знімки, що порушують правила платформи, пише BBC.
Під час тестування нового інструменту журналісти ВВС Verify змогли згенерувати зображення російських танків у Києві, зруйнованої Ейфелевої вежі та провалля, яке поглинає Велику піраміду в Гізі.
Вони виявили, що вбудовані фільтри Google, які мали б блокувати шкідливі теми, можна легко обійти, якщо використовувати менш конкретні формулювання у текстових запитах.
Незалежний дослідник штучного інтелекту та дезінформації Хенк ван Есс створив фейкові знімки неіснуючої атомної електростанції в Ірані, табору біженців на кордоні США та Мексики, а також лікарні в Газі зі свіжою вирвою від бомби поруч.
Неіснуюча атомна електростанція в Ірані. Хенк ван Есс
Дослідник наголосив, що такі підробки є вкрай небезпечними, адже вони накладаються на реальні координати і переймають достовірність справжніх супутникових карт.
У Google заявили, що весь згенерований контент отримує невидимий цифровий водяний знак SynthID. У компанії порадили перевіряти сумнівні зображення за допомогою їхнього чат-бота Gemini або функції Lens.
Проте перевірки показали неефективність цього захисту. Хенк ван Есс та журналісти ВВС Verify з'ясували, що зовнішні програми для виявлення штучного інтелекту часто не розпізнають згенеровані в Google Earth файли.
Більше того, журналістам вдалося обдурити сам чат-бот Gemini та змусити його визнати фейкові зображення справжніми. Експерти попереджають, що доступність такого інструменту підриває довіру до супутникових знімків, які раніше вважалися надійним джерелом інформації для журналістів і дослідників.
Компанія Mixfont створила шрифт Decoy Font, який може обдурити сучасний штучний інтелект та змусити його прочитати повідомлення неправильно. Для цього у шрифті використали оптичну ілюзію. У результаті цього шрифт має два шари зображення – один з тонкими, але чіткими контурами на передньому плані, а інший – з розмитими темними фігурами на задньому плані.
Фото й обкладинка: BBC Verify