thenewstack.ioЧатбот, який може стати твоїм другом або забере твою роботу. Чим небезпечна нова розробка OpenAI?
Розробка компанії OpenAI зробила революцію в дослідженні штучного інтелекту. Що здатен робити ChatGPT та чи не стануть ці напрацювання демоном, який погубить людство?
Як і все в цьому світі, що створила людина, OpenAI є благородною та альтруїстичною ініціативою.
Організація, яка започатковувалась для дослідження та розвитку штучного інтелекту (ШІ), у своїй місії прямо заявляє, що високоавтономні системи, які перевершують людей у більшості економічно цінних робіт, мають приносити користь всьому людству.
Проте з розвитком сервісів компанії доступ до її використання обмежувався на користь корпорації Microsoft, а неприбутковий статус замінили плани заробити у 2024 році мільярд доларів.
Так ChatGPT на основі нейромережі GPT3.5 з бота, який максимально подібно до людини може відповідати на запитання, в перспективі може стати причиною руйнування освітньої системи в США, втрати мільйонів людей роботи та остаточно стерти межу між текстом, який написала людина та програма.
Страх перед грандіозним провалом: як створювався OpenAI
Наприкінці 2015 року ряд відомих представників технологічного бізнесу, зокрема Ілон Маск, співзасновник платіжної системи Paypal Пітер Тіль та колишній президент бізнес-інкубатора Y Combinator Сем Альтман оголосили про створення компанії OpenAI.
На початку вона позиціювалася як некомерційна структура з відкритими патентами для суспільства.
Головна ідея створення OpenAI полягала у проведенні досліджень та розробок у сфері ШІ, що в майбутньому принесе користь людству. У компанії переконують, що розуміння розвитку нейромереж допоможе створити безпечний та корисний штучний інтелект.
Ілона Маска важко назвати технологічним песимістом. Однак його заяви щодо перспектив розвитку ШІ завжди носили, м'яко кажучи, стриманий оптимізм. У 2014 році, виступаючи перед студентами Массачусетському технологічному інституті, він назвав штучний інтелект найбільшою екзистенційною загрозою для людства і порівняв його з "викликанням демона".
Метавсесвіти Fortnite, Facebook, Microsoft та BMW: коли настане віртуальне майбутнє
Один з засновників OpenAI, Сем Альтман, теж стурбований можливими перспективами розвитку ШІ. Він вважає, що у найближчі кілька десятиліть людство або попрямує до самознищення, або до того, що нащадки людей зрештою колонізують Всесвіт.
Їхні побоювання не були безпідставними. Відомий вчений-астрофізик Стівен Гокінг, розмірковуючи про вплив ШІ, запевняв, що наші помилки при його створенні можуть призвести до катастрофічних наслідків.
Сам Маск навіть пропонував уряду США створити спеціальний комітет, який займатиметься вивченням проблеми штучного інтелекту перед тим як на законодавчому рівні приймати регуляторні рішення.
Основним конкурентом OpenAI вважається DeepMind, яким володіє Google. Саме розробки DeepMind – AlphaGo та AlphaZero викликали в Маска занепокоєння через відсутність будь-яких нормативних стандартів підзвітності при роботі над складними та потужними системами штучного інтелекту.
До речі, сам Ілон Маск ще у 2018 році вийшов з ради директорів OpenAI, посилаючись на можливий майбутній конфлікт інтересів через розробку штучного інтелекту для автопілотів Tesla.
Дітище OpenAI
Як і зазначала компанія, її перші розробки побудовані на дослідженні способів розвитку штучного інтелекту. Зазвичай дослідження OpenAI зосереджуються на навчанні з підкріпленням (Reinforcement learning).
Першим продуктом у цій сфері став GYM – умовно тренажер для ШІ. Платформа задумувалась як стандарт для порівняльного аналізу певних видів алгоритмів штучного інтелекту та місцем, де люди можуть ділитися своїми результатами.
Наступним результатом дослідження OpenAI стала більш потужна форма машинного навчання RoboSumo, де віртуальні борці сумо повинні швидко навчатись у швидкозмінному середовищі з суперником.
Facebook відповідає на незручні запитання. Про підслуховування, перегляд повідомлень і використання особистих даних
У 2018 році компанія представила Debate Game, де машини дебатують щодо примітивних питань, перед людиною-суддею. Мета гри полягає в тому, щоб дослідити, чи може такий підхід допомогти в перевірці рішень штучного інтелекту.
У OpenAI є ще багато напрацювань щодо розуміння того як ШІ може розвиватись, і як зробити це процес контрольованим. Адже це була основна ціль компанії з моменту її створення. Але потім з’явився GPT.
GPT і його "вбивця професій" ChatGPT
ChatGPT компанія представила наприкінці листопаду 2022 року. Чат-бот працює на базі GPT3.5, яка є генеративною моделлю тренувань мови (generative pre-training). Для OpenAI це вже четверта нейромережева модель, за допомогою якої ChatGPT і став популярним.
Основним заданням таких моделей є вивчення і розуміння світу через аналіз суцільних частин тексту. Відповідно, штучний інтелект з кожним новим поколінням проходив все більші об’єми аналізу тексту.
Можливості чатбота вражають. Він може не просто змістовно відповідати на запитання користувачі, а й виконувати певні завдання. Нейромережа здатна генерувати тексти різного стилю, наприклад, скласти корпоративного листа, написати есе чи підготувати змістовний пост для соціальних сторінок.
За перший тиждень роботи ботом скористалися понад мільйон користувачів.
Компанія OpenAI обмежила доступ ChatGPT для України, тому перевірити нейромережу в ділі можна тільки за допомогою сервісів, що можуть допомогти зареєструватись як громадянин іншої країни.
Запитання чатботу можна ставити будь-які, а відповіді він дає максимально розгорнуто та зрозуміло.
Для генерації тексту користувачу необхідно просто вказати тему про що має бути повідомлення і параметри, тобто як він має виглядати. Далі ChatGPT генерує відповідний текст з дотриманням структури та відмінною граматикою, якщо користувач сам не дає завдання зробити декілька граматичних помилок.
Інша людина, яка прочитає згенерований чатботом текст, не здатна точно сказати ким саме він був написаний. Саме цей аспект викликав занепокоєння серед представників освітньої сфери.
Тепер школярі й студенти можуть спокійно генерувати домашні завдання за допомогою чатботу і не переживати за можливий провал під час перевірки тексту на антиплагіат. Штучний інтелект здатний побудувати переконливі логічні конструкції з використанням прикладів чи історичних фактів.
Управління освіти штату Нью-Йорк навіть постановило обмежити студентам та вчителям доступ до ChatGPT на пристроях чи в мережах закладів освіти.
У приціл штучного інтелекту потрапили також професії, чия робота пов’язана з текстом, оскільки тепер чатбот може миттєво згенерувати контент для соціальних сторінок компанії чи бренду.
Навіть в українські ІТ-спеціалісти використовують можливості ChatGPT, делегуючи йому написання планів робіт, технічну документацію, звіти, ділові листи. Останнє сильно економить час для комунікації з міжнародними партнерами.
Ще однією особливістю стали випадки, коли чатбота попросили згенерувати фрагмент коду певною мовою програмування. Він виконував завдання, і що найбільше вражає, міг переконливо аргументувати свої дії.
"Війна чипів": чому бізнес-виданням року від FT стала книжка про мікросхеми
Проте, як і його конкуренти в Google чи Meta, ChatGPT доволі часто помиляється. Він здатен перекручувати деталі, або взагалі генерувати тести з неправдивою інформацією. Нейромережа може видавати дуже правдоподібні відповіді, хоч за змістом це буде повна нісенітниця.
Через це сайт запитань і відповідей для програмістів Stack Overflow заборонив публікувати відповіді згенеровані ChatGPT, оскільки його пропозиції найчастіше були неправильними. Користувачі могли легко отримувати відповіді та видавати їх за свої для підвищення власного рейтингу на сайті. Самі відповіді були підкріплені переконливою аргументацією, що не одразу видавало хибність коду.
Проте зараз невідомо як саме Stack Overflow планує модерувати контент, оскільки відрізнити відповіть написану штучним інтелектом від звичайної людини практично неможливо.
Альтруїзм перетворився на бізнес
Від початку заснування організація існувала виключно коштом її фундаторів. Проте у 2019 році було створено OpenAI LP як певне поєднання комерційної та некомерційної організації з "обмеженим прибутком".
OpenAI зацікавився Microsoft, який інвестував в неї 1 млрд дол. Для Microsoft та його хмарної платформи Azure це був стратегічний крок у конкуренції Google, Amazon та іншими гравцями на ринку технологій штучного інтелекту.
Через відносний успіх ChatGPT на базі GPT3.5 Microsoft обговорює інвестування 10 млрд дол у OpenAI. Зазначається, що до участі у раунді будуть залученні й інші інвестори, а ціна компанії може зрости до 29 млрд дол.
"Убивця" Google і платних підписок. Як уродженець Ніжина створює пошуковик та в чому його унікальність
Ще одним успішним проєктом в плані монетизації OpenAI є DALL-E 2 – це нейромережа, яка створює зображення за текстовим описом. Усі користувачі отримують 50 безплатних кредитів після реєстрації, а потім ще 15 щомісяця місяць. Якщо безплатні кредити закінчилися додаткові 115 можна придбати за 15 дол.
Для Microsoft це чудовий момент посунути за допомогою ChatGPT та DALL-E 2 гегемона інтернет-пошуків Google своєю пошуковою системою Bing.
За інформацією Reuters, OpenAI планує у 2023 році отримати 200 млн дол доходу, а наступного року 1 млрд дол.