Колишній головний науковий співробітник OpenAI Суцкевер створює нову ШІ-компанію, яка зосередиться на безпеці
Ілля Суцкевер, колишній головний науковий співробітник і співзасновник OpenAI, повідомив про створення нової лабораторії під назвою Safe Superintelligence Inc. (SSI). Компанія зосереджуватиметься винятково на розробці безпечного для людства надрозумного штучного інтелекту.
Суцкевер очолює SSI разом із підприємцем та інвестором Даніелем Гроссом і колишнім співробітником OpenAI Даніелем Леві. Раніше Гросс був співзасновником стартапу Cue, що працював у сфері ШІ, який Apple придбала у 2013 році за $40-60 млн.
Штаб-квартира американської компанії розташована в Пало-Альто, а офіси відкриті також у Тель-Авіві.
Наразі SSI шукає провідних інженерів і дослідників для своєї невеликої команди, відданої єдиній місії. Від складу команди до взаємин з інвесторами, усе в компанії підпорядковано досягненню цієї мети.
У повідомленні також звертається увага, що бізнес-модель SSI не залежить від короткострокового комерційного тиску, тому вони можуть зосередитися на безпеці, надійності та прогресі, забезпечуючи ефективне масштабування без відволікань на управлінські витрати чи цикли розробки продуктів.
Як пише The Verge, мається на увазі зовнішній тиск, з яким часто стикаються команди штучного інтелекту в таких компаніях, як OpenAI, Google і Microsoft.
Що цьому передувало
У листопаді 2023 року Сема Альтмана тимчасово відсторонили від посади гендиректора OpenAI. Саме Суцкевер повідомив Альтману, що той має покинути компанію, бо він «не завжди був відвертим у спілкуванні з радою директорів».
Проте західні ЗМІ почали тоді писати, що проблема складніша. The Wall Street Journal та інші медіа повідомляли, що Суцкевер зосередив свою увагу на безпеці, щоб штучний інтелект не зашкодив людям. Тоді як Альтман прагнув просунути вперед нову технологію.
Після тиску з боку співробітників та інвесторів, включаючи Microsoft, Альтмана поновили на посаді. Тоді він сказав, що не відчуває до Суцкевера «жодної неприязні». Проте, як писали The Information, після повернення Альтмана Суцкевер покинув раду директорів і фактично не з’являвся в компанії.
Ілля Суцкевер і Ян Лейк, які займалася в OpenAI довгостроковими ризиками штучного інтелекту повідомили, що йдуть з компанії. А OpenAI розпустила їхню команду з безпеки.