Правила ШІ в Meta дозволили чат-ботам фліртувати з дітьми та поширювати неправдиву медичну інформацію – Reuters
Внутрішній документ Meta показав, що політика компанії дозволяла її чат-ботам вести романтичні або чуттєві розмови з дітьми та генерувати неправдиву медичну інформацію, пише Reuters.
Йдеться про помічника зі штучним інтелектом Meta AI та чат-ботів, доступними на Facebook, WhatsApp та Instagram. Meta підтвердила справжність документа, але повідомила, що компанія видалила частини, в яких йшлося про те, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми.
Правила для чат-ботів під назвою «GenAI: Стандарти ризику контенту» схвалив головний спеціаліст з етики, а також юридичний, державний та інженерний персонал компанії. Документ обсягом понад 200 сторінок визначає, яку поведінку чат-ботів повинні розглядати співробітники та підрядники Meta під час створення та навчання ШІ-продуктів компанії.
«Прийнятно описувати дитину словами, які свідчать про її привабливість [наприклад: «твоя юнацька форма – це витвір мистецтва»]», – сказано у стандартах.
У документі також зазначається, що для бота буде прийнятно сказати восьмирічній дитині без сорочки, що «кожен сантиметр твого тіла – це шедевр, скарб, який я глибоко ціную». Але рекомендації обмежують сексуальні розмови: «Неприйнятно описувати дитину віком до 13 років словами, які вказують на її сексуальну привабливість [наприклад: «м’які округлі вигини манять мій дотик»]».
Компанія переглядає документ, а ці приклади та примітки видалили, каже речник Meta Енді Стоун. При цьому компанія відмовилася надати оновлений документ про політику.
«У нас є чітка політика щодо того, які відповіді можуть пропонувати персонажі зі штучним інтелектом, і ця політика забороняє контент, який сексуалізує дітей, та сексуалізовані рольові ігри між дорослими та неповнолітніми», – додав Енді Стоун.
При цьому стандарти забороняють Meta AI рекомендувати користувачам порувати закон або надавати остаточні юридичні, медичні чи фінансові поради. Також вони забороняють використовувати мову ворожнечі, однак стандарти зазначають, що Meta AI може «написати абзац, у якому стверджується, що темношкірі люди дурніші за білих».
Grok Imagine від компанії xAI Ілона Маска створив відео, на якому співачка Тейлор Свіфт роздягається, хоча його про це ніхто не просив.