Альтман: мы пересекли горизонт событий. ChatGPT уже сильнее любого человека

Мы уже пересекли горизонт событий, старт состоялся. Человечество приближается к созданию цифрового сверхразума, и, по крайней мере, пока все выглядит менее странно, чем должно быть.

Роботы еще не ходят по улицам, большинство из нас не общается с ИИ целыми днями. Люди до сих пор умирают от болезней, мы до сих пор не летаем с легкостью в космос, и много чего в этой вселенной нам неизвестно.

Однако недавно мы создали системы, которые во многих аспектах умнее человека и могут существенно усиливать результаты людей, которые их используют. Часть работы уже позади: научные открытия, приведшие к системам типа GPT-4 и o3, достались нам нелегко — но они открывают огромный потенциал.

ИИ принесет миру немало пользы, но главные выгоды — улучшение качества жизни, благодаря ускорению научного прогресса и росту производительности. Будущее может быть значительно лучше настоящего. Ведь научный прогресс — главный двигатель всеобщего развития.

В определенном смысле ChatGPT уже сильнее любого человека, который жил когда-либо. Сотни миллионов людей ежедневно полагаются на него по все более важным делам. Новая, даже незначительная функция может принести огромную пользу, но и незначительное отклонение, умноженное на сотни миллионов пользователей, может нанести вред.

2025 год принес агентов, способных к настоящей когнитивной работе — написание программ уже никогда не будет таким, как раньше. 2026 год, вероятно, станет годом появления систем, которые смогут открывать новые идеи. А 2027 — годом, когда появятся роботы, способные действовать в реальном мире.

Больше людей смогут создавать программное обеспечение, искусство, но спрос на все это еще больше. Эксперты, вероятно, останутся лучше новичков, если адаптируют новые инструменты. В целом способность одного человека сделать в 2030-м значительно больше, чем в 2020-м, станет одним из самых поразительных сдвигов.

В самых важных аспектах 2030-е годы могут остаться похожими: люди будут любить свои семьи, творить, играть в игры, плавать в озерах.

Но в других аспектах — 2030-е будут непохожими на любой период до этого. Мы не знаем, как далеко можем продвинуться за пределы человеческого интеллекта — но вот-вот узнаем.

В 2030-х интеллект и энергия — то есть идеи и способность воплощать их — станут чрезвычайно доступными. Именно эти два ресурса были основными ограничениями человеческого развития. Если интеллект и энергия будут в избытке (и с надлежащим управлением), мы сможем получить что угодно.

Мы уже живем рядом с поразительным цифровым умом. Быстро перестает удивлять, что ИИ может написать хороший абзац — и хочется, чтобы он создал целый роман. Как только он ставит диагноз — хотим, чтобы он нашел лекарство. Это и есть суть сингулярности: удивительное становится обыденностью.

Ученые уже говорят, что стали в 2−3 раза продуктивнее с ИИ. Возможно, мы сможем открывать новую вычислительную среду, лучшие алгоритмы. Если десятилетия исследований сможем вместить в год или месяц — прогресс изменится радикально.

Созданные инструменты помогут дальше находить научные открытия. Это еще не самостоятельная переписка кода ИИ, но уже прототип самосовершенствования.

Появляются другие петли усиления: экономическая стоимость создает эффект маховика, наращивая инфраструктуру для более мощных ИИ. Роботы, которые строят роботов, дата-центры, которые строят новые дата-центры, — это уже не фантастика.

Если первый миллион человекоподобных роботов мы создадим вручную, но потом они смогут управлять всей цепью поставки — от добычи до производства микрочипов — темпы прогресса станут совсем другими.

Когда автоматизируем строительство дата-центров, стоимость ума сойдётся со стоимостью электроэнергии. (Средний запрос к ChatGPT использует 0,34 ватт-часа — как духовка в секунду или лампа за несколько минут. И около 0,000085 галлонов воды).

Темп технического прогресса ускоряется, но люди адаптируются. Да, исчезнут целые классы профессий, но мир станет настолько богаче, что мы сможем внедрять новые модели политики. Социальный контракт изменится постепенно, но ретроспективно эти изменения окажутся огромными.

Как показывает история, мы придумываем новые потребности, быстро усваиваем новые инструменты (пример — промышленная революция). Ожидания возрастут, но с ними — и возможности. Люди будут создавать еще больше чудес друг для друга. Мы, в отличие от ИИ, мотивированы заботиться о других.

Крестьянин тысячу лет назад считал бы современные профессии «фейковыми» — мол, мы просто развлекаем себя. И я надеюсь, что наши потомки через тысячу лет будут смотреть так же на свои работы — и будут чувствовать себя счастливыми и важными.

К 2035 году темпы открытий будут колоссальными. Возможно, за один год мы решим проблему физики высоких энергий, а в следующем — начнем колонизировать космос. Некоторые продолжат жить по старинке, другие — «подключатся».

Сейчас тяжело все это представить. Но, скорее всего, жить в этом будет не страшно, а поразительно. Технологическая сингулярность — это не скачок, а непрерывная кривая экспоненциального роста. (Вспомните 2020-й — как бы восприняли прогноз о чем-то близком к AGI уже в 2025-м?)

Впереди большие вызовы. Нужно решить проблему безопасности — технически и социально, а затем равномерно распределить доступ к сверхинтеллекту. Самый лучший путь:

1. Решить проблему согласования — чтобы ИИ действительно действовал, согласно нашим долгосрочным ценностям (пример плохой согласованности — ленты соцсетей).

2. Обеспечить, чтобы сверхразум был дешевым, доступным и не сконцентрированным в руках одного человека, компании или государства.

Мы — как общество — адаптивные и изобретательные. Если действовать коллективно, мы сможем использовать эту технологию с большой пользой и минимальным ущербом. Предоставление пользователям широкой свободы действий в пределах, согласованных обществом рамок, — критически важно.

Читайте также: Apple, Tesla и Nvidia в «цифре»: Bybit и Kraken запустили торговлю токенизированными акциями

Разум, настолько дешевый, что не поддается учету, — уже на горизонте. Это может звучать, как фантастика, но в 2020-м наше сегодняшнее состояние казалось еще более фантастическим.