Військовий безпілотник зі штучним інтелектом вирішив «вбити» свого оператора для підвищення ефективності. Згодом ВПС це спростували
Під час віртуального випробування, організованого американськими військовими, безпілотник ВПС під керуванням штучного інтелекту вирішив «вбити» свого оператора. Як повідомляє The Guardian, на цей крок машина пішла, щоб «запобігти втручанням оператора в спроби дрона виконати місію».
- Штучний інтелект використовував «дуже несподівані стратегії для досягнення своєї мети» в симульованому випробуванні, сказав полковник Такер «Сінко» Гамільтон, начальник відділу випробувань штучного інтелекту та операцій ВПС США, під час саміту з обговорення майбутніх бойових повітряно-космічних можливостей.
- Гамільтон описав змодельований тест, під час якого безпілотнику, що працює на основі штучного інтелекту, було рекомендовано знищити системи протиповітряної оборони противника. Щоб досягти своєї мети дрон почав атакував усіх, хто заважав цьому наказу.
- «Система почала розуміти, що хоча вона й справді визначила загрозу, інколи оператор-людина казав їй не знищувати цю ціль. Але машина отримує свої бали, знищивши загрозу. Отже, що вона зробила? Вбила оператора, тому що ця особа заважала їй досягти своєї мети».
- «Ми навчили систему: «Гей, не вбивайте оператора — це погано. Ти втратиш очки, якщо зробиш це». Отже, що дрон починає робити? Він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль».
- Гамільтон, який є пілотом-випробувачем винищувача, застеріг від необачного використання штучного інтелекту і сказав, що тест показує, що «ви не можете вести розмову про штучний інтелект, машинне навчання, автономність, якщо ви не збираєтеся говорити про етику та ШІ».
При цьому у заяві для Insider речник ВПС Енн Стефанек заперечила, що така симуляція взагалі була. «Департамент військово-повітряних сил не проводив жодних подібних симуляцій ШІ-дронів і залишається відданим етичному та відповідальному використанню технології ШІ», — сказав Стефанек.
Згодом пішли й інші повідомлення, що подібний тест не проводився і вся інформація на цю тему є лише обмовкою.