Михаил Пацан: В будущем у ИИ возникнет вопрос, нужен ли человек в его модели мира

«Люди и ИИ будут жить параллельно, мы будем учиться сосуществовать с ним»

После появления ChatGPT все чаще говорят об «искусственном интеллекте», но хотелось бы разобраться в терминах, действительно ли у подобных программ есть «интеллект» в нашем привычном понимании, корректно ли их так называть?

В целом, «искусственный интеллект» — это название, придуманное учеными для одного из методов обработки больших данных.

С самого начала развития Интернета нужно было каким-то образом находить информацию. Ведь если у вас не было гиперлинка для конкретного сайта, вы вообще не могли его найти. Для того, чтобы находить информацию в сети, начали разрабатывать различные методы, и искусственный интеллект — это один из этих способов, построенный на принципах функционирования человеческого мозга.

Нынешняя сфера искусственного интеллекта очень большая. К ней относятся и GPT-модели, сети распознавания изображений, модели компьютерного видения (используемые в автопилотах), распознавание аудио. Все они базируются на разных способах машинного обучения.

Особенно популярные сейчас GPT-модели, к ним относится и известный ChatGPT. Это часть больших языковых моделей, которая позволяет прогнозировать каждое следующее слово пользователя. Поэтому, когда мы общаемся с GPT-моделью, нам кажется, что мы общаемся с реальным человеком, ведь в ее основе принципы работы человеческого мозга.

Если же говорить о том, есть ли у GPT душа, сознание и т. д., то ответ однозначный — нет. Это просто система прогнозирования каждого последующего слова. Своеобразное Т9 на максималках, которое может учитывать содержание разговора.

Самый очевидный вопрос об ИИ, который беспокоит всех. Стоит ли ждать его восстания, может ли ИИ захватить мир, и вообще может ли у него возникнуть такое желание?

Об этом много дискутируют и, чтобы разобраться, посмотрим, как работают такие системы. Существует И И, который умеет играть в шахматы, главный его принцип — спрогнозировать наиболее выигрышный следующий шаг. В эксперименте нейросети рассказали лишь, как ходят фигуры, и дали задачу защищать своего короля. Больше она не знала о шахматах ничего, но ей понадобился всего один день, чтобы научиться обыгрывать гроссмейстеров. Здесь сработал тот принцип, что нейросеть генерирует огромное количество вариантов будущего, из них выбирает самый выгодный. Каждый ход, который делала нейросеть, был самым лучшим, даже если человеку так не казалось.

Нейросети копируют работу человеческого мозга, и со временем могут научиться анализировать происходящие в мире события гораздо лучше, чем это делает человек. Когда это произойдет, никто не знает. Возможно, через год, два или пятьдесят, но мы к этому движемся.

После этого у ИИ возникнет вопрос, нужен ли человек в его модели понимания мира. Если так — ИИ не уничтожит человечество. А если он сочтет, что человечество лучше использовать, например, как удобрения, тогда так ИИ и сделает.

Никто не может спрогнозировать, когда и как именно это произойдет. Просто в одну секунду ИИ начнет собственную эволюцию, будет создавать другие нейросети и эта скорость будет чрезвычайной, остановить это не удастся. Вопрос останется только в том, будем ли мы нужны на пути развития ИИ.

Если такой риск существует, насколько целесообразно развивать ИИ?

Это развитие уже не остановить. Тем более, если мы говорим именно о технологиях автоматизации, а не просто о «помощнике» для конечного потребителя, то кроме пока гипотетических рисков, получаем существенные бонусы для развития медицины, аграрного сектора, образования. ИИ — это настоящий драйвер научного и технологического прогресса. И это не изменить.

Почему? Можно ведь повесить замок на офисе OpenAI или отделе Google, который разрабатывает Bard?

В теории игр есть пример о двух преступниках. Если они договорятся и не будут давать показания, это позволит избежать ответственности обоим. Но проблема в том, что ни один из них не знает, соблюдает ли соглашение другой и не положит ли всю вину на него.

Так же и здесь. Microsoft не поверит, что Google прекратил разработки ИИ, а потому и сам не будет останавливать их. Нет единого органа, который выключит рубильник и скажет, что больше это направление не развивается.

Сейчас любой человек может создать у себя на компьютере нейросеть. К примеру, я сделал GPT-модель, дал ей на изучение произведения Шевченко и Котляревского, и она начала генерировать новые стихи в их стиле. Написание этого кода заняло у меня час, и еще 12 часов, чтобы обучить нейросеть.

Есть три закона робототехники Айзека Азимова, которые можно свести к ключевому — робот не вредит человеку. Можно ли прописать эти правила для ИИ?

Прописать их можно, но будет ли выполнять их ИИ — другой вопрос. К примеру, биологически человек создан для того, чтобы есть, спать и размножаться. В итоги, люди изобретают презервативы, что не вписывается в цель эволюции.

Так же и ИИ. Мы можем задать три закона, но он создаст новую нейросеть, у которой уже не будет этих правил.

Хотя, в целом, доминирует мнение, что речь не пойдет о физическом уничтожении человечества или какой-то войне с ИИ. Скорее, стоит говорить о том, что мы будем учиться сосуществовать с ним. Через некоторое время люди и ИИ будут жить параллельно.

«Уже через год ИИ станет таким же привычным инструментом, как Word или Excel»

Существует ли риск, что из-за появления ИИ в ближайшее время исчезнут некоторые профессии? Каких профессий это, в первую очередь, касается, а какие вытесняются ИИ уже сейчас?

В нынешнем виде GPT используется для автоматизации рутинных процессов, которые уже опостылели людям. Ситуации, когда какие-либо профессии полностью исчезнут, не будет, но каждый отдельный человек сможет более эффективно использовать свое время. Также на каждую позицию потребуется меньше людей.

Будет уменьшаться потребность в количестве работников в колл-центрах, дизайне, копирайтинге, переводе. Все работники этих направлений будут более эффективными, а их основной задачей будет являться управление работой ИИ.

Сейчас люди должны разбираться, как пользоваться искусственным интеллектом, ведь уже через год это будет таким же привычным инструментом, как Word или Excel.

С развитием ИИ появятся и новые профессии, связанные с его ежедневным использованием. Это будут интеграторы ИИ в бизнес-процессы, prompt-инженеры. Вырастет спрос на аналитиков и систематизаторов данных. Уже начиная с марта, когда пошел бум ИИ, спрос на профессии, связанные с его использованием или настройкой, вырос в десятки раз.

Можете назвать несколько примеров задач, которые сейчас ChatGPT или какая-нибудь другая нейросеть может выполнять качественно?

В первую очередь, следует понимать, что ИИ только учится. Поэтому то, что сейчас он выполняет плохо, уже буквально через неделю может сделать гораздо лучше.

Сейчас у него хорошо получается работа службы поддержки. Приведу пример, как я использую чат-бот. Я написал такую программу, загрузил в нее информацию, которую даю на своих ютубах и телеграмм-каналах, а он на основе этих данных готовит ответы на вопросы пользователей.

У ИИ хорошо получается распознавание изображений. Также мы часто используем его для расшифровки аудио. К примеру, если бы мы сейчас общались по Zoom или Google Meet, система могла бы записать наш разговор в текстовом формате.

Конечно, ИИ очень хорошо работает и с написанием текстов. Но здесь очень важно, какие именно запросы вы ему будете прописывать, какие будете предоставлять данные для обработки. Не забывайте, что ChatGPT — это «балабол», который в целом просто прогнозирует следующее слово. Потому он может генерировать и писать все, что угодно. Это приводит к предоставлению не всегда достоверной информации.

ИИ может проводить анализ больших документов. К примеру, мне нужно написать «Правила пользования сайтом». Они, в целом, стандартные, но надо переписать, чем занимается компания, изменить название компании, исправить какие-то детали. В этом случае я даю чат-боту пример, и указываю, что нужно изменить. Система тратит на это около минуты, хотя текст на 20 страниц.

ИИ может анализировать и документы. Например, вы подписываете с кем-то договор и хотите проверить, нет ли в нем скрытых пунктов, несогласованностей. Так же чат-бот может генерировать подобные документы по шаблону.

Еще одна функция, которую ИИ выполняет хорошо, — анализ финансовых документов. Например, можно загрузить файл Excel и он найдет в нем недостоверности или отдельные данные. Это полезно банкам, у которых огромные списки транзакций, и в них нужно найти связи между операциями.

Справляется ИИ и с финансовым прогнозированием. К примеру, мы в режиме реального времени загружали чат-боту речь главы ФРС Пауэлла, чтобы тот прогнозировал, как на его слова отреагирует рынок. Это он сделал правильно.

Уже сейчас ИИ меняет процесс обучения. Ребенок моих знакомых учится в США, где существенный недостаток учителей. Поэтому там создали GPT-модель, которая дает ответы вместо учителя. И, как выяснилось, детям более удобно общаться с чатом.

По оценкам американских аналитиков, благодаря ИИ автоматизируется до 90% процессов в клиентском сервисе, 60% — в маркетинге, 70−80% — в HR.

Последнее мы также используем. У нас четкие правила подбора сотрудников, поэтому когда получаем резюме, то даем его ИИ, и тот определяет, подходит ли нам этот человек. В случае положительного вердикта, он переходит на следующий этап собеседования, где уже общается с людьми.

Какие новые функции могут появиться у ИИ через 3−4 года?

Во-первых, системы будут значительно лучше выполнять всю ту работу, которую делают сейчас.

Также следующим этапом станет развитие сервисов на основе GPT-моделей. Их появится огромное количество. Например, это будет копирование человеческого мозга, благодаря чему у каждого из нас будет свой личный ассистент в виде ИИ.

Также мы увидим бизнес-процессы, в которых будет работать исключительно ИИ. Уже сейчас создают так называемых агентов ИИ. Пока они еще продолжают учиться, но через 3−4 года начнется их практическое использование. Это программы, которые будут выполнять сложные задачи в течение длительного времени. В том числе, такие агенты разных компаний смогут взаимодействовать между собой, договариваться, вести торговые операции, выполнять различные задачи по заказам других программ.

Читайте также: Как Arm вышел на IPO десятилетия и планирует зарабатывать на ИИ

Мы увидим стремительное развитие аудио-моделей и через несколько лет не сможем отличить, кто говорит — нейросеть или человек. Первые подобные проекты существуют уже сейчас. В ближайшее время бизнес интегрирует себе эти технологии, а поэтому консультациями, предоставлением инструкций будет заниматься ИИ.

«Разработчики сделали ChatGPT „лоботомию“, чтобы он не отвечал на определенные вопросы»

Можно ли сейчас доверять чат-ботам — как часто они путают информацию или предоставляют недостоверные данные?

Как я уже говорил, ChatGPT, как и подобные системы, — это «балаболы», прогнозирующие будущий текст. ИИ не думает, сказал ли он правду, поскольку у него нет понятия правды.

Здесь следует понимать цену ошибки. Если вы попросили его написать вам рэп-песню, его ошибка ни на что не повлияет. Но если он анализирует юридический документ и перепутает факты, это может стоить очень дорого. Поэтому использовать GPT-модель может быть рискованно, хотя в большинстве случаев ИИ все же говорит правду.

Если сравнить ChatGPT и Google Bard — кто из них работает лучше?

Я попытался благодаря этим системам сдать ВНО по украинскому языку. ChatGPT не сдал его, а вот у Bard все получилось гораздо лучше.

Но мы должны понимать, что каждая нейросеть — это как отдельный человек. У каждой свои особенности и преимущества. Так, ChatGPT классно умеет писать и обрабатывать код. У него большое количество плагинов. Он более универсальный.

Bard построен, как нейросеть для поиска информации, он подключен к Интернету. У него есть интеграция со всеми гугл-сервисами. То есть если он написал какой-то текст, вы можете одним кликом сохранить его в документах. Также Bard — это лучшая система для распознавания изображений.

Bard лучше для ежедневного использования. Но для написания больших текстов, обработки данных больше подходит ChatGPT. Хотя еще лучше пишет тексты менее известная нейросеть Claude. Она может генерировать до 100 тыс. слов. Для сравнения: ChatGPT в самой дорогой платной версии — до 4 тыс.

Если чат-бот получает творческие задачи, к примеру, написать текст либо сделать картинку, как он их выполняет — делает без помощи других либо компилирует из уже сделанных?

Генератор изображений Midjourney учился на скаченных из интернета картинках. На этапе его становления, где-то год назад, можно было найти целые части какого-то изображения, защищенного авторским правом. Это позволило бы судиться с Midjourney.

Однако, сейчас нейросети научились работать насколько классно, что вы не найдете похожего изображения в Интернете, даже стиля похожего не будет. Поэтому все то, что сгенерировано Midjourney, на 99,9% уникально.

Есть другая проблема, связанная с авторским правом. Все, что вы сгенерировали с помощью ChatGPT или Midjourney, одновременно является как вашей собственностью, так и соответствующих компаний. Более того, Midjourney публикует все изображения в открытом доступе в специальной библиотеке, и кто угодно может сохранить себе изображение, которое сгенерировали вы. Только в дорогих версиях можно сделать защиту от публикации. Но даже в этом случае изображение будет принадлежать не только вам, но и компании.

Читайте также: Гонки за бесконечную энергию начались: кто первый получит к ней доступ

У ChatGPT, в целом, та же история. Только в платной версии Enterprise все авторские права принадлежат пользователю.

Есть ли принципиальная разница, на каком языке ставить задачи для ИИ — украинском или английском? Качество ответов зависит от этого?

В целом, GPT-модель, когда ее начали разрабатывать, создавалась для перевода. Уже потом она научилась понимать, о чем говорит. Однако, есть нюанс: информация, на базе которой обучали ChatGPT, на 90% была английской. Соответственно, когда мы общаемся с нейросетью на украинском, она переводит слова на английский, потом на английском прогнозирует следующие слова, затем переводит ответ на украинский, и выводит нам результат. Поэтому, когда мы общаемся с ChatGPT на украинском, он может необычно строить предложение.

Язык не сильно влияет на эффективность, но английский все же немного лучше.

Летом было опубликовано исследование ученых из Стенфорда и Калифорнийского университета о том, что обновленная версия ChatGPT дает худшие ответы, чем раньше. Предполагают даже, что чат-бот тупеет из-за большого количества бессмысленных запросов от пользователей. Замечали ли вы снижение качества работы ИИ? С чем это может быть связано?

Это снижение связано не с самими запросами, а с тем, как люди реагировали на ответы. Например, человек пишет что-то неправильно, соответственно, получает плохой ответ, который его не устраивает, и потому жалуется. Вся эта информация собирается и на основе нее дорабатывается чат.

Первая версия ChatGPT умела троллить людей, давала ответы о том, как создать бомбу или снять порно и т. д. На это тоже жаловались пользователи. В итоге, разработчики провели ChatGPT «лоботомию», чтобы он не отвечал на определенные вопросы.

При этом технически нейросети нельзя запретить давать какие-либо ответы. Ей нужно так изменить базу данных, чтобы когда она получает определенный «неетический» запрос, находила определенный разработчиками ответ.

Поэтому, действительно, ChatGPT искусственно притупляется, но это касается именно его, а не в целом GPT-моделей.

Есть ли смысл сейчас инвестировать в компании, задействованные в индустрии ИИ? Какие компании вы могли бы посоветовать?

Сейчас ИИ — это новая нефть. Те компании, которые дают ресурсы для работы с ним, будут в топе. Сюда относятся NVIDIA, компании, интегрирующие ИИ в бизнес, в частности, Microsoft, Google, Apple. Также у Meta есть ресурсы, чтобы обойти все названные компании в развитии ИИ.

Читайте также: Tesla падает: инвесторы не верят в производство, покупатели выстраиваются в очереди за новыми авто

Мы сейчас интегрируем ИИ в Украину для производственных, энергетических, финансовых и других компаний. И это Украина, где ситуация сложная из-за войны. В Европе автоматизация с использованием ИИ существенно ускоряется. Даже максимально консервативные компании сейчас обновляют инфраструктуру, чтобы его использовать.