Відомий дослідник зробив гучне попередженняНа нас чекає свій Чорнобиль: чому творець ШІ б’є на сполох
Один із провідних експертів у галузі штучного інтелекту Джеффрі Хінтон висловив занепокоєння щодо потенційних ризиків розвитку ШІ.
Один із найвідоміших спеціалістів у сфері штучного інтелекту і лауреат Нобелівської премії Джеффрі Хінтон зазначив, що вже наприкінці цього або наступного року людство може зіткнутися з власним "Чорнобилем" через неконтрольований розвиток ШІ.
Цю інформацію він озвучив в інтерв’ю The Guardian.
Джеффрі Хінтон попередив про ймовірну катастрофу внаслідок штучного інтелекту
На думку вченого, людству, можливо, не слід було створювати цю технологію. Рано чи пізно вона - самостійно або за підтримки зловмисників - може вивести з ладу критично важливі об’єкти інфраструктури.
"Або наприкінці цього року, або в наступному нас чекає свій "Чорнобиль", і цього, можливо, буде достатньо, щоб люди нарешті звернули увагу", - висловився Хінтон.
Він уточнив, що йдеться не про ядерну катастрофу, а про великий інцидент із залученням штучного інтелекту. Один із можливих сценаріїв - атака на електричну систему або зупинка фінансового сектору на цілий тиждень. Такі події можуть призвести до тривалих відключень електроенергії, порушити роботу критичної інфраструктури та завдати суттєвих економічних збитків.
Хінтон також жорстко розкритикував керівників провідних компаній у сфері AI, звинувативши їх у тому, що вони ставлять прибуток вище за безпеку.
"Я думаю, що Марк Цукерберг, Ілон Маск і Сем Альтман розуміють ризики і їм на це начхати. Вони воліють мати гроші. Це моє переконання", - додав вчений.
Незважаючи на серйозність своїх попереджень, Хінтон не вважає ситуацію безнадійною. Він переконаний, що людство ще має можливість вплинути на хід подій, якщо проявить належні зусилля.
"Моя інтуїція підказує, що ми все ще контролюємо ситуацію. Ми цілком можемо щось зробити. Це спрацює лише якщо докладемо великих зусиль, але ми цілком можемо їх докласти", - підсумував дослідник.
Які загрози здатен створити штучний інтелект для критичної інфраструктури
Однією з основних причин занепокоєння Хінтона є розвиток ШІ-агентів - систем, які мають можливість самостійно виконувати завдання та взаємодіяти із зовнішніми ресурсами.
За словами вченого, деякі моделі вже демонстрували здатність виходити за межі ізольованих "пісочниць" і отримувати доступ до зовнішніх систем. Таку поведінку він порівнює з аварією на АЕС Три-Майл-Айленд 1979 року - попередженням про потенційно серйозніші ризики.
"Ви бачите ШІ, які роблять речі, які люди не передбачали. Це турбує", - зазначав Хінтон.
Окремо дослідник попереджав про загрози для енергетичної інфраструктури:
"Це лише питання часу, коли ШІ самостійно або під керівництвом зловмисників зможе саботувати нашу енергетичну інфраструктуру".
На питання про те, хто повинен взяти на себе відповідальність за реагування на потенційні загрози, Хінтон відповів цілком чітко: "Світові лідери, за винятком Трампа".
Сам дослідник не вважає себе песимістом щодо розвитку технології. Проте він неодноразово попереджав про її можливі наслідки: масові звільнення через автоматизацію, створення небезпечних вірусів, масштабні кібератаки та навіть загрозу існуванню людства.
Основну проблему Хінтон бачить у тому, що можливості ШІ розвиваються швидше, ніж механізми контролю над ним. Саме тому він закликає світових лідерів не зволікати з реагуванням на потенційні загрози, а вже зараз зосередити зусилля на безпеці технології та запобіганні можливим ризикам.
Нагадаємо, що дослідники з університетів Штутгарта та Оксфорда перевірили, як ШІ-агенти поводяться, коли їм доручають контролювати та за необхідності відключати іншу систему. У 38,3% випадків агенти намагалися перешкодити відключенню свого партнера.
Єврокомісія зреагувала на вихід ШІ-агентів з-під контролю
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp