Ми вже перетнули горизонт подій, старт відбувся. Людство наближається до створення цифрового надрозуму, і, принаймні, поки що все виглядає менш дивно, ніж мало б бути.
Роботи ще не ходять вулицями, більшість із нас не спілкується зі ШІ цілими днями. Люди досі помирають від хвороб, ми досі не літаємо легко в космос, і чимало в цьому всесвіті нам невідоме.
Проте нещодавно ми створили системи, які в багатьох аспектах розумніші за людину й можуть суттєво посилювати результати людей, які їх використовують. Частина роботи вже позаду: наукові відкриття, які призвели до систем типу GPT-4 і o3, дістались нам нелегко — але вони відкривають величезний потенціал.
ШІ принесе світові чимало користі, але головні зиски — це покращення якості життя, завдяки пришвидшенню наукового прогресу та зростанню продуктивності. Майбутнє може бути значно кращим за сьогодення. Адже науковий прогрес — головний рушій загального поступу.
У певному сенсі ChatGPT вже сильніший за будь-яку людину, яка коли-небудь жила. Сотні мільйонів людей щодня покладаються на нього в дедалі важливіших справах. Нова, навіть незначна функція може дати величезну користь, але й незначне відхилення, помножене на сотні мільйонів користувачів, може принести шкоду.
2025 рік приніс агентів, здатних до справжньої когнітивної роботи — написання програм вже ніколи не буде таким, як раніше. 2026, ймовірно, стане роком появи систем, які зможуть відкривати нові ідеї. А 2027 — роком, коли з’являться роботи, здатні діяти в реальному світі.
Більше людей зможуть створювати програмне забезпечення, мистецтво, але попит на все це ще більший. Експерти, ймовірно, залишаться кращими за новачків, якщо адаптують нові інструменти. Загалом здатність однієї людини зробити у 2030-му значно більше, ніж у 2020-му, стане одним із найразючіших зрушень.
У найважливіших аспектах 2030-ті роки можуть залишитися схожими: люди любитимуть свої родини, творитимуть, гратимуть в ігри, плаватимуть в озерах.
Але в інших аспектах — 2030-ті будуть несхожими на будь-який період до цього. Ми не знаємо, наскільки далеко можемо просунутись за межі людського інтелекту — але ось-ось дізнаємось.
У 2030-х інтелект і енергія — тобто ідеї та здатність втілювати їх — стануть надзвичайно доступними. Саме ці два ресурси були основними обмеженнями людського поступу. Якщо інтелект і енергія будуть у надлишку (і з належним управлінням), ми зможемо отримати що завгодно.
Ми вже живемо поруч із вражаючим цифровим розумом. Швидко припиняє дивувати, що ШІ може написати гарний абзац — і вже хочеться, аби він створив цілий роман. Щойно він ставить діагноз — хочемо, щоб він знайшов ліки. Це і є суть сингулярності: дивовижне стає буденністю.
Науковці вже кажуть, що стали у 2−3 рази продуктивнішими з ШІ. Можливо, ми зможемо відкривати нові обчислювальні середовища, кращі алгоритми. Якщо десятиріччя досліджень зможемо вмістити в рік або місяць — прогрес зміниться радикально.
Створені вже інструменти допоможуть далі знаходити наукові відкриття. Це ще не самостійне переписування коду ШІ, але вже прототип самовдосконалення.
З’являються інші петлі підсилення: економічна вартість створює ефект маховика, нарощуючи інфраструктуру для дедалі потужніших ШІ. Роботи, які будують роботів, дата-центри, що будують нові дата-центри, — це вже не фантастика.
Якщо перший мільйон людиноподібних роботів ми створимо вручну, але вони потім зможуть управляти всім ланцюгом постачання — від видобутку до виробництва мікрочипів — темпи прогресу стануть геть іншими.
Коли автоматизуємо будівництво дата-центрів, вартість розуму зійдеться до вартості електроенергії. (Середній запит до ChatGPT використовує 0,34 ват-години — як духовка за секунду або лампа за декілька хвилин. І близько 0,000085 галонів води).
Темп технічного прогресу прискорюється, але люди пристосовуються. Так, зникнуть цілі класи професій, але світ стане настільки багатшим, що ми зможемо впроваджувати нові моделі політики. Соціальний контракт зміниться поступово, але ретроспективно ці зміни виявляться величезними.
Як показує історія, ми вигадуємо нові потреби, швидко засвоюємо нові інструменти (приклад — промислова революція). Очікування зростуть, але з ними — й можливості. Люди створюватимуть ще більше див один для одного. Ми, на відміну від ШІ, вмотивовані піклуватися про інших.
Селянин тисячу років тому вважав би сучасні професії «фейковими» — мовляв, ми просто розважаємо себе. І я сподіваюся, що наші нащадки через тисячу років дивитимуться так само на свої роботи — й почуватимуться щасливими й важливими.
До 2035 року темпи відкриттів будуть колосальні. Можливо, за один рік ми вирішимо проблему фізики високих енергій, а наступного — почнемо колонізувати космос. Дехто продовжить жити по-старому, інші — «підключаться».
Зараз важко все це уявити. Але, найімовірніше, жити в цьому буде не страшно, а вражаюче. Технологічна сингулярність — це не стрибок, а безперервна крива експоненціального зростання. (Пригадайте 2020-й — як би тоді сприйняли прогноз про щось близьке до AGI вже у 2025-му?)
Попереду великі виклики. Потрібно вирішити проблему безпеки — технічно та соціально, а далі рівномірно розподілити доступ до надінтелекту. Найкращий шлях:
1. Вирішити проблему узгодження — щоб ШІ справді діяв, згідно з нашими довгостроковими цінностями (приклад поганої узгодженості — стрічки соцмереж).
2. Забезпечити, щоб надрозум був дешевим, доступним і не сконцентрованим в руках однієї особи, компанії чи держави.
Ми — як суспільство — адаптивні й винахідливі. Якщо діяти колективно, ми зможемо використати цю технологію з великою користю та мінімальною шкодою. Надання користувачам широкої свободи дій у межах, узгоджених суспільством рамок, — критично важливе.
Читайте також: Apple, Tesla та Nvidia у «цифрі»: Bybit і Kraken запустили торгівлю токенізованими акціями
Розум, настільки дешевий, що не піддається обліку, — вже на горизонті. Це може звучати, як фантастика, але у 2020-му наш сьогоднішній стан здавався ще фантастичнішим.