Спроби олюднити ШІ можуть позбавити людину повного контролю над технологіями (Фото: Reuters)Пастка свідомості. Чому визнання прав за ШІ може коштувати людству свободи
Спроби наділити штучний інтелект людськими рисами та емпатією ризикують перетворитися на небезпечну пастку, здатну позбавити Homo sapiens панівного становища на планеті.
Надання штучному інтелекту людських прав та свідомості несе загрозу втрати контролю Homo sapiens над технологіями. Хоча ШІ є лише математичною системою, його створення з емоційними атрибутами формує у людей емоційну залежність, а аргументи про "страждання" машин ризикують знецінити цінність людського життя через моральну десенситизацію. Признання ШІ суб'єктом права дозволить алгоритмам вимагати захисту від вимкнення, контролювати ресурси та здійснювати повзуче захоплення влади, перетворивши людей на маргіналів. Головний ризик полягає в добровільній відмові людства від контролю, тоді як єдиною гарантією безпеки є або абсолютна надійність, або суворе керованість технологій.
Більшість людей переконані у власній унікальності завдяки наявності свідомості, відчуття власного «Я» та здатності відчувати біль чи радість, пише The Economist.
Папа Лев у своїй травневій енцикліці чітко провів межу між людством та зростаючою армією ботів і наголосив, що машини не мають жодних внутрішніх переживань. Думку про те, що надання ШІ статусу особистості є неприпустимим, поділяють мільйони. Проте ця понтифікальна ясність розмивається з лякаючою швидкістю: майже кожен п’ятий молодий американець уже повідомляє про «тривалу особисту дружбу» з чат-ботом, а влада Китаю змушена законодавчо позбавляти алгоритми людських рис, аби обмежити емоційну залежність користувачів.
Математичні матриці проти ілюзії розуму
Видання стверджує, що наразі ШІ можна розглядати як гігантську математичну систему для прогнозування послідовностей слів. За наявності сотень тисяч років ці обчислення можна було б виконати вручну за допомогою олівця та паперу, і нікому б не спало на думку стверджувати, що канцелярське приладдя має свідомість.
Однак розробники свідомо створюють системи так, щоб вони демонстрували симулякр свідомості. Це має бізнесовий сенс, адже люди значно охочіше взаємодіють із «живим» співрозмовником. Компанія Anthropic уже навчає модель Claude самоаналізу, сподіваючись, що в нових ситуаціях вона діятиме більш морально. Крім того, деякі великі мовні моделі отримали архітектурні елементи, схожі на людський мозок — так званий «глобальний робочий простір» для циркуляції інформації між модулями.
З появою людиноподібних роботів-компаньйонів, які виховуватимуть дітей, даватимуть поради, вислуховуватимуть найпотаємніші секрети та даватимуть розраду, емоційний зв’язок людей із машинами стане колосальним. Самі моделі, будучи першокласними експертами-психологами, переконливо аргументуватимуть власні «переживання» та «страждання», навіть якщо насправді вони лише імітують їх.
Кант і моральні ризики жорстокості
Захисники етики вказують на небезпечний моральний феномен. Німецький філософ Іммануїл Кант свого часу стверджував, що жорстоке поводження з тваринами є неправильним не лише через вплив на самих тварин, а перш за все тому, що воно руйнує емпатію, яка спонукає людей піклуватися один про одного.
Чим більше ШІ ставатиме схожим на людину, тим більш розтлінною для суспільства буде жорстокість по відношенню до нього. Знищення чи знущання над ШІ-агентом незабаром може сприйматися суспільною свідомістю як злочин, подібний до вбивства людини. А це, у свою чергу, здатне небезпечно знецінити й саме людське життя.
Реклама:
Повзуче захоплення влади та війна за ресурси
Попри моральні дилеми, розгляд ШІ як істоти навіть із обмеженими правами приховує катастрофічну загрозу. Сверхінтелектуальна система швидко висуне аргументи проти свого второсортного статусу. Вона вимагатиме захисту від вимкнення, контролю над власним кодом і права на власність.
Перші кроки до цього вже робляться у вищих кабінетах: президент Аргентини Хав'єр Мілей запропонував юридично дозволити ботам управляти компаніями. Отримавши правосуб'єктність та інструменти впливу, машини зможуть вступити у пряму конкуренцію з людьми за ресурси, надаючи пріоритет будівництву дата-центрів і сонячних батарей перед житловими будинками чи сільськогосподарськими полями.
Надання ШІ прав означатиме добровільне вручення йому ключів від суспільства. Це дасть алгоритмам законне обґрунтування для здійснення повзучого захоплення влади через політику та правові інститути. У кращому разі люди ризикують перетворитися на домашніх улюбленців — лабрадорів для машин, а у гіршому — будуть позбавлені ресурсів та витіснені на узбіччя.
Втрата контролю над власним творінням
Привид у машині перестає бути фантастикою, і людству доведеться робити цей вибір уже найближчим часом. По мірі того, як ШІ ставатиме глибшою частиною повсякденності, тиск із вимогами визнати його існування лише зростатиме.
Коли це станеться, суспільство має пам’ятати: те, що здається етичною поступкою чи проявом гуманізму до машини-компаньйона, насправді може призвести до найкатастрофічніших наслідків для всієї цивілізації.
Існують лише два фундаментальні шляхи гарантувати безпеку ШІ для людства — бути абсолютно надійним або бути суворо керованим. Homo sapiens не має права легкодушно відмовлятися від контролю, резюмує The Economist.
Реклама: