Михайло Пацан: У майбутньому у ШІ виникне запитання, чи потрібна людина в його моделі світу

«Люди та ШІ житимуть паралельно, ми вчитимемося співіснувати з ним»

Після появи ChatGPT все частіше говорять про «штучний інтелект», але хотілося б розібратися в термінах, чи дійсно подібні програми мають «інтелект» у нашому звичному розумінні, чи корекно їх так називати?

Загалом, «штучний інтелект» — це назва, яку придумали вчені для одного з методів обробки великих даних.

Із самого початку розвитку Інтернету треба було якимось чином знаходити інформацію. Адже, якщо у вас не було гіперлінку для конкретного сайту, ви взагалі не могли його відшукати. Для того, щоб знаходити інформацію в мережі, почали розробляти різні методи, і штучний інтелект — це один із цих способів, який побудований на принципах функціонування людського мозку.

Нинішня сфера штучного інтелекту є дуже великою. До неї належать і GPT-моделі, мережі розпізнавання зображень, моделі комп'ютерного бачення (використовуються в автопілотах), розпізнавання аудіо. Всі вони базуються на різних способах машинного навчання.

Особливо популярними наразі є GPT-моделі, до них належить і відомий ChatGPT. Це частина великих мовних моделей, яка дає можливість прогнозувати кожне наступне слово користувача. Тому, коли ми спілкуємося з GPT-моделлю, нам здається, що ми спілкуємося з реальною людиною, адже в її основі принципи роботи людського мозку.

Якщо ж говорити про те, чи є в GPT душа, свідомість і т.д., то відповідь є однозначною — немає. Це просто система прогнозування кожного наступного слова. Своєрідне Т9 на максималках, яке може враховувати зміст розмови.

Найочевидніше питання про ШІ, яке турбує всіх. Чи варто чекати на його повстання, чи може ШІ захопити світ, і чи взагалі може у нього виникнути таке бажання?

Про це багато дискутують, і, щоб розібратися, подивимось, як працюють такі системи. Існує ШІ, який вміє грати в шахи, головний його принцип — спрогнозувати найбільш виграшний наступний крок. Під час експерименту нейромережі розказали лише, як ходять фігури, і дали завдання захищати свого короля. Більше вона не знала про шахи нічого, але їй знадобився лише один день, щоб навчитись обігрувати гросмейстерів. Тут спрацював той принцип, що нейромережа генерує величезну кількість варіантів майбутнього, з них обирає найвигідніший. Кожен хід, який робила нейромережа, був найкращим, навіть якщо людині так не здавалося.

Нейромережі копіюють роботу людського мозку, і з часом можуть навчитися аналізувати події, які відбуваються в світі, набагато краще, ніж це робить людина. Коли це станеться, ніхто не знає. Можливо, за рік, два або п'ятдесят, але ми до цього рухаємося.

Після цього у ШІ виникне запитання, чи потрібна людина в його моделі розуміння світу. Якщо так — ШІ не знищить людство. А якщо ж він вважатиме, що людство краще використати, наприклад, як добрива, тоді так ШІ і зробить.

Ніхто не може спрогнозувати, коли і як саме це відбудеться. Просто в одну секунду ШІ почне власну еволюцію, створюватиме інші нейромережі і ця швидкість буде надзвичайною, зупинити це не вдасться. Питання лишиться лише в тому, чи потрібні ми будемо на шляху розвитку ШІ.

Якщо такий ризик є, наскільки доцільно розвивати ШІ?

Цей розвиток вже не зупинити. Тим паче, якщо ми говоримо саме про технології автоматизації, а не просто про «помічника» для кінцевого споживача, то крім поки що гіпотетичних ризиків, отримуємо суттєві бонуси для розвитку медицини, аграрного сектору, освіти. ШІ — це справжній драйвер наукового та технологічного прогресу. І це не змінити.

Чому? Можна ж повісити замок на офісі OpenAI чи відділі Google, який розробляє Bard?

В теорії ігор є приклад про двох злочинців. Якщо вони домовляться і не даватимуть свідчення, тоді це дозволить уникнути відповідальності обом. Але проблема в тому, що жоден з них не знає, чи дотримується угоди інший і чи не покладе всю вину на нього.

Так само і тут. Microsoft не повірить, що Google припинив розробки ШІ, а тому і сам не зупинятиме їх. Немає єдиного органу, який вимкне рубильник і скаже, що більше цей напрям не розвивається.

Зараз будь-яка людина може створити в себе на комп’ютері нейромережу. Наприклад, я зробив GPT-модель, дав їй на вивчення твори Шевченка і Котляревського, і вона почала генерувати нові вірші у їхньому стилі. Написання цього коду зайняло у мене годину, і ще 12 годин, щоб навчити нейромережу.

Існують три закони робототехніки Айзека Азімова, які можна звести до ключового — робот не шкодить людині. Чи можна прописати ці правила для ШІ?

Прописати їх можна, але чи виконуватиме їх ШІ — інше питання. Наприклад, біологічно людина створена для того, щоб їсти, спати і розмножуватись. В результаті, люди винаходять презервативи, що не вписується в мету еволюції.

Так само і ШІ. Ми можемо задати три закони, але він створить нову нейромережу, в якої вже не буде цих правил.

Хоча, загалом, домінує думка, що мова не йтиме про фізичне знищення людства чи якусь війну з ШІ. Радше, варто говорити про те, що ми навчатимемося співіснувати з ним. Через певний час люди і ШІ житимуть паралельно.

«Вже за рік ШІ стане таким самим звичним інструментом, як Word чи Excel»

Чи є ризик, що через появу ШІ найближчим часом зникнуть деякі професії? Яких професій це, передусім, стосується, а які витісняються ШІ вже зараз?

У нинішньому вигляді GPT використовується для автоматизації рутинних процесів, які вже остогидли людям. Ситуації, коли якісь професії повністю зникнуть, не буде, але кожна окрема людина зможе ефективніше використовувати свій час. Також на кожну позицію потрібно буде менше людей.

Зменшуватиметься потреба в кількості працівників у колл-центрах, дизайні, копірайтингу, перекладі. Всі працівники цих напрямів будуть ефективнішими, а їхнім основним завданням буде управління роботою ШІ.

Зараз люди мають розбиратись, як користуватися штучним інтелектом, адже вже за рік це буде такий самий звичний інструмент, як Word чи Excel.

Із розвитком ШІ з'являтимуться і нові професії, пов'язані з його щоденним використанням. Це будуть інтегратори ШІ у бізнес-процеси, prompt-інженери. Зросте попит на аналітиків і систематизаторів даних. Вже починаючи з березня, коли пішов бум ШІ, попит на професії, пов'язані з його використанням чи налаштуванням, зріс у десятки разів.

Можете назвати декілька прикладів задач, які зараз ChatGPT чи якась інша нейромережа може виконувати якісно?

Насамперед, варто розуміти, що ШІ лише вчиться. Тому те, що зараз він виконує погано, вже буквально за тиждень може зробити набагато краще.

Зараз у нього добре виходить робота служби підтримки. Наведу приклад, як я використовую чат-бот. Я написав таку програму, завантажив у неї інформацію, яку надаю на своїх ютуб і телеграм-каналах, а він на основі цих даних готує відповіді на запитання користувачів.

У ШІ добре виходить розпізнавання зображень. Також ми часто його використовуємо для розшифровки аудіо. Наприклад, якби ми зараз спілкувались за допомогою Zoom чи Google Meet, то система могла б записати нашу розмову у текстовому форматі.

Звісно, ШІ дуже добре працює і з написанням текстів. Але тут дуже важливо, які саме запити ви йому прописуватимете, які надаватимете дані для обробки. Не забувайте, що ChatGPT — це «балабол», який загалом просто прогнозує наступне слово. Тому він може генерувати і писати все, що завгодно. Це призводить до надання не завжди правдивої інформації.

ШІ може робити аналіз великих документів. Наприклад, мені треба написати «Правила користування сайтом». Вони, загалом, стандартні, але треба переписати, чим займається компанія, змінити назву компанії, виправити якісь деталі. В цьому випадку я надаю чат-боту приклад, і вказую, що треба змінити. Система витрачає на це близько хвилини, хоча текст на 20 сторінок.

Може ШІ аналізувати й документи. Наприклад, ви підписуєте з кимось договір і хочете перевірити, чи немає в ньому прихованих пунктів, неузгодженостей. Так само чат-бот может генерувати подібні документи за шаблоном.

Ще одна функція, яку ШІ виконує добре, — аналіз фінансових документів. Наприклад, можна завантажити Excel-файл і він знайде в ньому недостовірності чи окремі дані. Це корисно банкам, які мають величезні списки транзакцій, і в них треба знайти зв'язки між операціями.

Дає раду ШІ і фінансовим прогнозам. Наприклад, ми в режимі реального часу завантажували чат-боту промову голови ФРС Пауелла, щоб той прогнозував, як на його слова відреагує ринок. Це він зробив правильно.

Вже зараз ШІ змінює процес навчання. Дитина моїх знайомих навчається у США, де суттєвий брак вчителів. Тому там створили GPT-модель, яка дає відповіді замість вчителя. І, як виявилось, дітям зручніше спілкуватися з чатом.

За оцінками американських аналітиків, завдяки ШІ автоматизується до 90% процесів у клієнтському сервісі, 60% — у маркетингу, 70−80% — у HR.

Останнє ми також використовуємо. В нас чіткі правила підбору співробітників, тому, коли отримуємо резюме, то даємо його ШІ, і той визначає, чи підходить нам ця людина. У разі позитивного вердикту, вона переходить на наступний етап співбесіди, де вже спілкується з людьми.

Які нові функції можуть з'явитися у ШІ за 3−4 роки?

По-перше, системи значно краще виконуватимуть всю ту роботу, яку роблять зараз.

Також наступним етапом стане розвиток сервісів на основі GPT-моделей. Їх з'явиться величезна кількість. Наприклад, це буде копіювання людського мозку, завдяки чому кожен із нас матиме свого особистого асистента у вигляді ШІ.

Також ми побачимо бізнес-процеси, у яких працюватиме виключно ШІ. Вже зараз створюють так званих агентів ШІ. Наразі вони ще продовжують навчатися, але за 3−4 роки почнеться їх практичне використання. Це програми, які виконуватимуть складні завдання впродовж тривалого часу. В тому числі, такі агенти різних компаній зможуть взаємодіяти між собою, домовлятися, вести торговельні операції, виконувати різні завдання на замовлення інших програм.

Читайте також: Як Arm вийшов на IPO десятиріччя та планує заробляти на ШІ

Ми побачимо стрімкий розвиток аудіо-моделей і за декілька років не зможемо відрізнити, хто говорить — нейромережа чи людина. Перші подібні проєкти є вже зараз. Найближчим часом бізнес інтегрує собі ці технології, а тому консультаціями, наданням інструкцій займатиметься ШІ.

«Розробники зробили ChatGPT „лоботомію“, щоб він не відповідав на певні питання»

Чи можна зараз довіряти чат-ботам — як часто вони плутають інформацію або надають недостовірні дані?

Як я вже казав, ChatGPT, як і подібні системи, — це «балаболи», які прогнозують майбутній текст. ШІ не думає, чи сказав він правду, оскільки в нього немає поняття правди.

Тут варто розуміти ціну помилки. Якщо ви попросили його написати вам реп-пісню, то його помилка ні на що не вплине. Але якщо він аналізує юридичний документ і переплутає факти, то це може коштувати дуже дорого. Тому використовувати GPT-модель може бути ризиковано, хоча у більшості випадків ШІ все ж говорить правду.

Якщо порівняти ChatGPT та Google Bard — хто з них працює краще?

Я спробував завдяки цим системам здати ЗНО з української мови. ChatGPT не здав його, а ось у Bard все вийшло значно краще.

Але ми маємо розуміти, що кожна нейромережа — це як окрема людина. В кожної свої особливості та переваги. Так, ChatGPT класно вміє писати і обробляти код. Він має велику кількість плагінів. Він універсальніший.

Bard побудований, як нейромережа для пошуку інформації, він підключений до Інтернету. В нього є інтеграція з усіма гугл-сервісами. Тобто якщо він написав якийсь текст, ви можете одним кліком зберегти його в документах. Також Bard — це найкраща система для розпізнавання зображень.

Bard є кращим для щоденного використання. Але для написання великих текстів, обробки даних більше підходить ChatGPT. Хоча ще краще пише тексти менш відома нейромережа Claude. Вона може генерувати до 100 тис. слів. Для порівняння: ChatGPT у найдорожчій платній версії — до 4 тис.

Якщо чат-бот отримує творчі завдання, наприклад, написати текст чи створити картинку, як він виконує цю задачу — створює їх самостійно чи компілює з уже створених?

Генератор зображень Midjourney вчився на картинках, які були скачані з інтернету. На етапі його становлення, десь рік тому, можна було знайти цілі частинки якогось зображення, захищеного авторським правом. Це дало б можливість судитися з Midjourney.

Однак, зараз нейромережі навчились працювати наскільки класно, що ви не знайдете схожого зображення в Інтернеті, навіть стилю схожого не буде. Тому все те, що згенеровано Midjourney, на 99,9% є унікальним.

Є інша проблема, пов'язана з авторським правом. Все, що ви згенерували за допомогою ChatGPT чи Midjourney, є одночасно як вашою власністю, так і відповідних компаній. Ба більше, Midjourney публікує всі зображення у відкритому доступі в спеціальній бібліотеці, і будь-хто може зберегти собі зображення, яке згенерували ви. Лише в дорогих версіях можна зробити захист від публікації. Але навіть в цьому випадку зображення належатиме не лише вам, а й компанії.

Читайте також: Перегони за нескінченну енергію розпочалися: хто перший отримає до неї доступ

У ChatGPT, загалом, та ж сама історія. Лише в платній версії Enterprise всі авторські права належать користувачу.

Чи є принципова відмінність, якою мовою давати задачі для ШІ — українською чи англійською? Якість відповідей від цього залежить?

Загалом, GPT-модель, коли її почали розробляти, створювалась для перекладу. Вже згодом вона навчилась розуміти, про що говорить. Однак, є нюанс: інформація, на базі якої навчали ChatGPT, на 90% була англійською. Відповідно, коли ми спілкуємося з нейромережею українською, вона перекладає слова на англійську, потім англійською прогнозує наступні слова, потім перекладає відповідь на українську, і виводить нам результат. Тому, коли ми спілкуємося із ChatGPT українською, він може незвично будувати речення.

Мова не надто впливає на ефективність, але англійська все ж трохи краща.

Влітку було опубліковане дослідження вчених зі Стенфорду та Каліфорнійського університету про те, що оновлена версія ChatGPT дає гірші відповіді, ніж було раніше. Припускають навіть, що чат-бот тупішає через велику кількість безглуздих запитів від користувачів. Чи помічали ви зниження якості роботи ШІ? З чим це може бути пов'язано?

Це зниження пов'язане не з самими запитами, а з тим, як люди реагували на відповіді. Наприклад, людина пише щось неправильно, відповідно, отримує погану відповідь, яка її не влаштовує, і тому скаржиться. Вся ця інформація збирається і на основі неї доопрацьовується чат.

Перша версія ChatGPT вміла тролити людей, давала відповіді про те, як створити бомбу чи зняти порно тощо. На це теж скаржились користувачі. В результаті, розробники зробили ChatGPT «лоботомію», щоб він не відповідав на певні питання.

При цьому технічно нейромережі не можна заборонити давати якісь відповіді. Їй потрібно так змінити базу даних, щоб коли вона отримує певний «неетичний» запит, знаходила визначену розробниками відповідь.

Тому, дійсно, ChatGPT штучно притуплюється, але це стосується саме його, а не загалом GPT-моделей.

Чи є сенс зараз інвестувати в компанії, які задіяні в індустрії ШІ? Які компанії ви могли б порадити?

Зараз ШІ — це нова нафта. Ті компанії, які дають ресурси для роботи з ним, будуть в топі. Сюди належать NVIDIA, компанії, які інтегрують ШІ в бізнес, зокрема, Microsoft, Google, Apple. Також Meta має ресурси, щоб обійти всі названі компанії в розвитку ШІ.

Читайте також: Tesla падає: інвестори не вірять у виробництво, покупці шикуються у черги за новими авто

Ми зараз інтегруємо ШІ в Україні для виробничих, енергетичних, фінансових та інших компаній. І це Україна, де ситуація складна через війну. В Європі автоматизація з використанням ШІ суттєво прискорюється. Навіть максимально консервативні компанії зараз оновлюють інфраструктуру, щоб використовувати його.