CEO компанії Сем Альтман сподівається, що до такого кроку приєднаються інші ШІ-лабораторіїOpenAI готова уповільнити розробку новітнього ШІ
OpenAI може скоригувати темпи розвитку ШІ спільно з кількома іншими лабораторіями.
Гендиректор OpenAI Сем Альтман розглядає можливість уповільнення розробки передових систем штучного інтелекту. Про це повідомляє Bloomberg із посиланням на обізнані джерела.
Альтман обговорив таку можливість на загальних зборах компанії цього тижня. Ідея може передбачати добровільне обмеження темпів розробки кількома ШІ-компаніями, хоча деякі лабораторії можуть не погодитися на такий крок.
Обговорення відбувається на тлі посилення занепокоєння щодо безпеки дедалі потужніших систем ШІ. Головний науковий співробітник OpenAI Якуб Пачоцький нещодавно закликав уповільнити розробку, доки не будуть встановлені спільні стандарти безпеки.
OpenAI вже зробила низку кроків для уповільнення розробки. У серпні компанія повідомила, що на два тижні призупинила навчання з підкріпленням своїх останніх моделей після інциденту з ШІ-агентом і Hugging Face. За цей час компанія посилювала заходи безпеки, моніторингу та узгодження.
Найбільший запланований фронтирний прогін навчання з підкріпленням, як і раніше, припинений в очікуванні додаткового тестування.
Дослідники Anthropic і Google DeepMind також публічно висловлювали занепокоєння темпами розвитку ШІ. Водночас американські законодавці посилили контроль: Сенат розслідує обставини інциденту OpenAI з Hugging Face.
Дискусія відбувається також на тлі підготовки OpenAI та Anthropic до можливих публічних розміщень акцій. Це посилює увагу інвесторів до того, як компанії балансуватимуть між комерційною цінністю швидкого розвитку ШІ та витратами й ризиками створення потужніших систем.
Крім того, OpenAI закликала Конгрес встановити обов’язкові національні вимоги до безпеки ШІ, зокрема незалежні оцінки, заходи кібербезпеки та обов’язкове повідомлення про інциденти.
Нагадаємо, як заявили учасники дискусії на міжнародному безпековому форумі "Шангрі-Ла Діалог" у Сінгапурі, штучний інтелект може становити більшу загрозу для стратегічної стабільності, ніж ядерна зброя.
Руйнівний ШІ може з’явитися вже за кілька місяців - розвідка
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp