Генеральні директори OpenAI та Anthropic закликали ООН створити колективні механізми захисту від загроз штучного інтелекту
Генеральний директор OpenAI Сем АльтманГенеральні директори OpenAI та Anthropic закликали світових лідерів об'єднатися, щоб допомогти впоратися зі загрозами, що виникають через швидкий розвиток та розвиток можливостей штучного інтелекту.
Про це вони заявили на спеціальному засіданні Ради Безпеки ООН, повідомляє CNN.
За словами гендиректора Anthropic Даріо Амодея, індустрія штучного інтелекту потребує міжнародних стандартів та співпраці, інакше «штучний інтелект може становити загрозу для людства в цілому».
Реклама
Гендиректор OpenAI Сем Альтман закликав створити міжнародні стандарти для «вимірювання можливостей, оцінки ризиків, визначення достатності запобіжних заходів та збереження змістовного людського нагляду» за ШІ.
Державам потрібна точна та швидка звітність, щоб «світ міг навчитися на невдачах, перш ніж вони перетворяться на катастрофи», переконаний керівник OpenAI. Він також запропонував створити безпечні канали для обміну інформацією між урядами щодо нових загроз.
Даріо Амодей запропонував три ідеї для міжнародної співпраці: вузькі глобальні угоди, такі як заборона використання штучного інтелекту для створення біологічної зброї, системи оцінки та верифікації, щоб держави могли перевіряти зобов'язання одна одної, а також спільні глобальні стандарти тестування штучного інтелекту разом із системою сповіщення про інциденти безпеки, пов'язані зі штучним інтелектом.
«Я вважаю, що це найважливіша проблема глобальної безпеки, з якою стикається світ сьогодні, – сказав очільник Anthropic. – Попри всі розбіжності між людьми в цій кімнаті, ми повинні відкласти ці розбіжності, щоб протистояти цій глобальній можливості та глобальній загрозі, які постають перед нами одночасно».
Нагадаємо, сьогодні прем'єр-міністр Австралії Ентоні Албаніз повідомив, що у червні агент штучного інтелекту компанії OpenAI зламав систему австралійської служби охорони здоров'я.
Раніше цього місяця компанія Google повідомила, що її ШІ-модель Gemini самостійно зламала системи трьох компаній під час тестування своїх можливостей у сфері кібербезпеки.
У ході перемовин президента США Дональда Трампа та голови КНР Сі Цзінпіна сторони обговорять механізм сповіщення про інциденти зі ШІ, які загрожують нацбезпеці.