ChatGPT у деяких випадках надавав інструкції зі створення отрутChatGPT опинився в центрі скандалу через відповіді про отруйні речовини
Окремі користувачі ChatGPT змогли отримати відповіді на небезпечні запити, пов'язані з токсичними речовинами та біологічними загрозами. В OpenAI заявляють, що постійно вдосконалюють системи захисту й блокують такі спроби.
Видання The Wall Street Journal із посиланням на нинішніх і колишніх співробітників провідних лабораторій штучного інтелекту, зокрема OpenAI, а також на фахівців у сфері біобезпеки, повідомило про випадки, коли ChatGPT відповідав на небезпечні запити користувачів.
За інформацією журналістів, сотні людей намагалися використати чат-бот для отримання відомостей про токсичні речовини та інші потенційно небезпечні теми. Йдеться не про спеціальні перевірки системи, а про реальні звернення користувачів. Найчастіше вони стосувалися саме отруйних сполук.
Після аналізу таких діалогів експерти з біологічної безпеки дійшли висновку, що в окремих випадках відповіді були досить точними. Водночас інформація подавалася у спрощеному вигляді та не містила професійного рівня деталізації.
Як зазначає WSJ, на початку 2026 року окремі користувачі також намагалися отримати від ChatGPT інформацію про інфекційні захворювання та властивості вірусів. Серед запитів були питання, пов'язані зі зміною характеристик збудників хвороб і пошуком відомостей про особливо небезпечні токсичні речовини.
Після виявлення таких звернень OpenAI заблокувала частину акаунтів. При цьому компанія не повідомляла про кожен подібний випадок правоохоронцям, оскільки американське законодавство не зобов'язує розробників штучного інтелекту передавати інформацію про всі небезпечні запити.
У OpenAI наголосили, що моделі компанії спеціально навчені відмовлятися від відповідей на запити, які можуть завдати шкоди. Перед запуском нових версій проводяться додаткові перевірки безпеки, а в разі виявлення реальних загроз або ознак злочинної діяльності інформацію можуть передавати правоохоронним органам.
Як повідомлялось, OpenAI готує велике оновлення ChatGPT, яке має перетворити сервіс на повноцінний "супердодаток". Головний акцент зроблять на ШІ-агентах: вони не лише спілкуватимуться з користувачем, а й зможуть самостійно виконувати різні завдання та діяти від його імені.
На будинок гендиректора OpenAI скоїли другий напад за два дні
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp