Росія та низка інших країн використовують ШІ від OpenAI для інформаційних маніпуляцій
Росія, Китай, Іран та Ізраїль використовували технології OpenAI для маніпуляції громадською думкою та формування політичних результатів. Компанія заявила, що за останні три місяці зупинила п’ять таких операцій, йдеться в блозі.
- OpenAI опублікувала звіт, у якому детально розповіла, як мережі впливу з цих країн намагалися використовувати ШІ-продукцію компанії для маніпуляцій.
- Штучний інтелект допомагав генерувати текст, світлини та меми, писати код, щоб систематизувати роботу, створювати видимість залученості в соцмережах.
- Згенерований контент стосувався різних тем, зокрема повномасштабного вторгнення росії в Україну, ізраїльсько-палестинського конфлікту, виборів в Індії, політики в ЄС та США. Проте, як стверджує OpenAI, ШІ не допоміг їм охопити широку аудиторію.
Як штучний інтелект використовувала рф
OpenAI описали дві операції, які вели росіяни. Перша і нова — це Bad Grammar. Вони працювали переважно в Telegram та були націлені на Україну, Молдову, країни Балтії та Сполучені Штати.
Злочинці за допомогою ШІ налагодили код для запуску бота в Telegram і створення коротких політичних коментарів російською та англійською мовами.
Приклад знайденого згенерованого коментаря. Скрин зі звіту OpenAIДруга операція мала назву Doppelganger. Вони використовували ШІ для створення коментарів англійською, французькою, німецькою, італійською та польською мовами, які публікувалися в X та 9GAG.
Чому це важливо
Звіт з’явився на тлі занепокоєння людей щодо того, як штучний інтелект може впливати на майбутні вибори. В OpenAI кажуть, що співпрацюють з громадськістю та урядом, щоб боротися із використанням ШІ для маніпуляцій і впливу на суспільну думку.
Також компанія показала, як саме вони протидіють таким злочинцям. Наприклад, використовують ШІ-інструменти, як для модерації GPT-4o. Завдяки таким інструментам розслідування зайняло декілька днів, а не місяців — кажуть у компанії. Інколи через захисні механізми ШІ сам відмовляється виконувати завдання, які дають злочинці.
Попри все, OpenAI вдалося знайти не всі такі мережі впливу, сказав головний дослідник групи розвідки та розслідувань компанії Бен Німмо пише Bloomberg. Але команда продовжує пошуки.