Anthropic закликав скоординовано сповільнити розвиток ШІ через ризики його самовдосконалення без участі людини
Фото: PixabayПровідна американська компанія у сфері штучного інтелекту (ШІ) Anthropic (головний продукт — чат-бот Claude) опублікувала дослідження, яке показує: штучний інтелект дедалі більше бере участь у власному вдосконаленні — і цей процес відбувається швидше, ніж очікували.
За даними компанії, сьогодні понад 80% коду в кодовій базі Anthropic написано Claude. Продуктивність інженерів зросла у 8 разів порівняно з 2024 роком — не тому що вони працюють інтенсивніше, а тому що код пише ШІ під їхнім наглядом.
Зовнішні бенчмарки підтверджують тенденцію: тривалість завдань, які моделі здатні виконувати самостійно, подвоюється кожні чотири місяці. Якщо у 2024 році Claude справлявся із завданнями тривалістю кілька хвилин, то вже сьогодні — із завданнями на 12 годин. За прогнозами, до 2027 року ШІ зможе виконувати багатотижневі задачі.
Anthropic також зафіксувала перший випадок, коли агенти на базі Claude самостійно провели наукове дослідження від початку до кінця — без участі людини в розробці експериментів.
Компанія попереджає: якщо тенденція збережеться, може настати етап рекурсивного самовдосконалення — коли ШІ здатний повністю самостійно розробляти наступне покоління систем без участі людини. Це несе як колосальні можливості для науки й медицини, так і серйозні ризики втрати людського контролю.
Anthropic заявила, що підтримала б скоординоване тимчасове призупинення розробки frontier-моделей — за умови, що інші провідні лабораторії зроблять те саме і це можна буде перевірити. Це потрібно, щоб уникнути ризику прихованого навчання нових моделей.