OpenAI розкрив плани із запобігання втручанню ШІ у вибори
OpenAI, розробник чат-бота зі штучним інтелектом ChatGPT, виклав план запобігання використанню своєї технології для поширення дезінформації та втручання у вибори. Цьогоріч у понад 50 країнах відбудуться вибори, це буде, як називає The Independent, найбільшою в історії демонстрацією демократії.
Причина занепокоєнь
Нещодавнє зростання генеративного штучного інтелекту спричинило побоювання, що він може становити загрозу для вільних і чесних виборів.
Одне з головних занепокоєнь пов’язане з deepfake-зображеннями, які можуть бути створені за допомогою інструментів, таких як Dall-E від OpenAI. Ці зображення можуть маніпулювати вже наявними фотографіями або генерувати абсолютно нові зображення політиків у ситуаціях, що можуть їх скомпрометувати.
Ще один тип штучного інтелекту, яким потенційно можуть зловживати, — це текстові генератори, такі як ChatGPT, що створюють тексти, дуже схожі на написані людиною.
Як будуть боротися?
- OpenAI повідомила, що об’єднує зусилля своїх команд безпеки, аналізу загроз, юридичного забезпечення, інженерії та політики для боротьби з потенційним зловживанням своїми технологіями.
- Компанія вже вжила заходів щодо запобігання зображенню реальних людей у своєму інструменті Dall-E, хоча інші стартапи зі штучного інтелекту не мають таких обмежень.
- Серед нових заходів запобігання зловживанню на виборах – функція для ChatGPT, яка спрямовує користувачів зі США на сайт CanIVote.org, що надає перевірену інформацію щодо голосування.
- Компанія обіцяє надати більше інформації у найближчі місяці і продовжить співпрацю та вивчати можливості запобіганню можливого зловживання інструментів перед цьогорічними виборами.
Реальні приклади
Нещодавно британська Лейбористська партія стала мішенню для deepfake-аудіо. У жовтні з’явилося фейкове відео, де лідер партії Кейр Стармер каже «I f***ing hate Liverpool». Недавнє опитування від Finder.com показало, що лише 1,5% людей у Великій Британії змогли правильно розпізнати deepfake-відео з політиками та знаменитостями.
Також чат-бот від Microsoft надавав неправдиву та оманливу інформацію щодо європейських виборів.
А в Бразилії ухвалили постанову, повністю написаний штучним інтелектом.