OpenAI змінить поспіхом укладену угоду з Пентагоном – заборонять масове стеження
OpenAI вносить зміни до угоди з Пентагоном після критики через використання штучного інтелекту для масового стеження. Глава OpenAI Сем Альтман визнав, що угоду було укладено офоркуном та недбало. В новій угоді відразу заборонено використання технологій компанії для стеження чи озброєння. У той же час, підписання угоди призвело до хвилювання серед співробітників OpenAI та Google, які закликали до обмеження військового використання ШІ.
очільник OpenAI Сем АльтманКомпанія OpenAI (розробник ChatGPT) вносить зміни до поспіхом укладеної угоди про постачання штучного інтелекту Міністерству війни США після того, як глава компанії Сем Альтман визнав, що угода виглядала «опортуністичною та недбалою», пише The Guardian.
Угода викликала побоювання, що штучний інтелект компанії можуть використати для внутрішнього масового стеження. Однак у понеділок увечері Альтман заявив, що компанія прямо заборонить застосування своєї технології з цією метою або її використання розвідувальними структурами Міноборони, такими як Агентство національної безпеки (NSA).
OpenAI, яка має понад 900 мільйонів користувачів ChatGPT, уклала угоду майже одразу після того, як попереднього підрядника Пентагону у сфері ШІ — компанію Anthropic — було відсторонено.
Anthropic наполягала, що «використання таких систем для масового внутрішнього стеження несумісне з демократичними цінностями», після чого президент США Дональд Трамп назвав компанію «лівими божевільними» та доручив федеральному уряду припинити використання її технологій.
Попри заперечення OpenAI, що угода дозволяє застосування для стеження, коментатори згадали скандал Сноудена 2013 року, коли стало відомо, що NSA здійснювала масовий збір телефонних і інтернет-комунікацій.
Угода спричинила хвилю критики в інтернеті: користувачі X і Reddit закликали до кампанії «видаліть ChatGPT».
Чат-бот Claude від Anthropic піднявся на перше місце в рейтингу Apple App Store, обігнавши ChatGPT, свідчить аналіз Sensor Tower.
У повідомленні співробітникам, опублікованому на X, Альтман визнав, що угоду, оголошену в п’ятницю, було укладено надто швидко після відсторонення Anthropic.
«Не слід було поспішати з цим у п’ятницю, — написав Альтман. — Питання надзвичайно складні та потребують чіткої комунікації. Ми щиро намагалися знизити напругу й уникнути набагато гіршого сценарію, але, думаю, це виглядало опортуністично й недбало».
Оголошуючи про угоду, OpenAI заявляла, що контракт має «більше запобіжників, ніж будь-яка попередня угода щодо засекречених розгортань ШІ, включно з угодою Anthropic».
Втім, використання ШІ американськими військовими занепокоїло майже 900 співробітників OpenAI та Google, які підписали відкритий лист із закликом відмовитися дозволяти Пентагону застосовувати їхні продукти для стеження та вбивства.
Лист підписали 796 співробітників Google і 98 працівників OpenAI. У блозі про угоду з Пентагоном OpenAI зазначила, що однією з «червоних ліній» є «заборона використання технологій OpenAI для управління автономними системами озброєння».
Тим часом ще три американські міністерства — Держдепартамент, Мінфін і Міністерство охорони здоров’я та соціальних служб — вирішили припинити використання продуктів Anthropic після того, як Пентагон оголосив компанію ризиком для ланцюга постачання. Трамп доручив усім федеральним агентствам поступово відмовитися від використання технологій Anthropic після рішення міністра оборони Піта Гегсета.