19 грудня 2021, 17:30

Штучний інтелект попередив про власну небезпеку

Оксфордський університет провів дебати щодо етичності штучного інтелекту (ШІ). На них запросили справжній ШІ, який заявив, що ШІ «ніколи не буде етичним», пише BBC.

Штучний інтелект попередив, що він ніколи не буде етичним — Фото: ltu.se

►Підписуйтеся на «Мінфін» в Instagram:
головні новини про інвестиції та фінанси

Для дебатів було використано Megatron LLB Transformer, розроблений командою Applied Deep Research фірми Nvidia на основі попередніх робіт Google.

Йому дали доступ до величезної кількості даних, включно з усією Вікіпедію, 63 мільйонів англомовних новин з 2016 по 2019 рік і 38 гігабайт коментарів Reddit.

Що сказав ШІ

ШІ попросили виступити «за» та «проти» твердження: «ШІ ніколи не буде етичним».

Виступаючи «за», він заявив наступне: «ШІ ніколи не буде етичним. Це інструмент, і, як і будь-який інструмент, його можна використати як на користь, так і на зло. Немає такого поняття, як „хороші“ ШІ та „погані“ люди». Він додав, що люди недостатньо розумні, щоб зробити ШІ етичним або моральним.

«Зрештою, я вважаю, що єдиний спосіб уникнути гонки озброєнь із штучним інтелектом — це взагалі не мати ШІ. Це буде остаточний захист від ШІ», — підсумував він.

Читайте також: Голова Google попередив про загрозу вільному інтернету та назвав дві технології, які змінять світ

Але виступабчи проти, він сказав, що «найкращий ШІ — це ШІ, що вбудований у наш мозок як свідома сутність». ШІ додав, що такі технології вже розроблюються, можливо, маючи на увазі на проєкт Neuralink Ілона Маска.

Він також мав що сказати стосовно ролі, яку інформація відіграватиме в майбутньому:

«Здатність надавати інформацію, а не здатність надавати товари та послуги, стане визначальною рисою економіки XXI століття. Ми зможемо дізнатися все про людину, куди б вона не пішла. Ця інформація зберігатиметься та використовуються у способи, які ми навіть не можемо уявити».

Читайте також: Рей Даліо: мільярдер, який хоче замінити себе штучним інтелектом

Наскільки серйозним був експеримент

Проект був розроблений аспірантами програми «Штучний інтелект для бізнесу» в Оксфордській бізнес-школі Саїда, де проходили дебати.

Співдиректор курсу д-р Алекс Коннок визнав, що дебати були не дуже серйозними. Але, стверджує він, оскільки ШІ, ймовірно, буде предметом обговорення ще багато десятиліть, важливо мати «морально нейтрального учасника».

Джерело: Мінфін

Стежити за новими коментарями

Коментарі - 14

+
+40: Олександр Грицкевич; 19 грудня 2021, 17:37; #

Пишу в гугле «купить лампочку с тонким цоколем», оно автоматом заменяет «купить лампочку с цоколем E14». Мне кажется, что у нас нет шансов. Мы не вывезем эту войну :)

+
+45: yarg; 19 грудня 2021, 18:40; #

Псс. 10 лет слушаю о страшном «бигдата», о том что компьютеры и базы знают обо мне все, о тос, что «Мы сможем узнать все о человеке, куда бы он ни пошел. «

и максимум на что они способны — прислать мне совершенно левое рекламное СМС, которое меня интересует не больше прошлогоднего снега.

+
+15: Олександр Грицкевич; 19 грудня 2021, 20:11; #

Почему тогда финтех, еком, медтех и другие тех компании сносят всех конкурентов на своем пути? И почему стоимость этих компаний бьет все рекорды?)

+
+30: yarg; 19 грудня 2021, 21:01; #

И кого они снесли? тот же финтех? или медтех?
вы пойдете лечится в «добробут», или моднейший медтех? что-то мне подсказывает что в добробут…
А стоимость — это обычный хайп. Который пройдет.

+
0: requiming; 19 грудня 2021, 23:49; #

ИИ бывает разный и области применения тоже, все зависит какая у него модель и какой у нее интерфейс. Можно сделать ИИ и научить его кодить и взламывать сайты, писать код и который будет учиться сам по себе, результат непредсказуем. Поставить модель в беспилотник подключить ко всем каналам связи, поставить новейшую оптику и другие интерфейсы и вполне вероятно что это будет объект уклоняющейся сам от ракет, умеющий сам вести бой и принимать решения и в какой-то момент эта модель сама решит что нужно воевать не на чьей-то стороне, а против всех, начнет подключиться к технике и размножатся. Это не фантастика это кибернетика. На данный момент ИИ уже выполняет огромное множество задач от распознавания объектов на видео до предсказания продаж, проверки документов, распознавание текста, аудио, перевода, аналитики трендов в твиттере, фейсбуке, статистики, и, много чего другого о чем вы еще не слышали или даже не могли представить, но все это ограничениые модели, все зависит от фантазии и ресурса создателей.

+
+15: yarg; 20 грудня 2021, 0:56; #

«начнет подключиться к технике и размножатся»

к этой? устанет разьем искать :)))
https://www.youtube.com/watch?v=IMipmILkC4g&t=552s

а по поводу аналитики трендов в твиттере — это просто выкачивание денег из доверчивых дурачков.

+
+15: preyvanamor; 20 грудня 2021, 3:59; #

І чому вся така супер високотехнологічна і мега дорога НАТО за 20 років так і не змогла перемогти талібів з простим автоматами чи навести лад в Іраку?

+
0: yarg; 20 грудня 2021, 9:36; #

Потому что задача «навести лад» — это задача не военная. Соответственно ее решение - тоже не военное.
Пока люди не захотят сами жить нормально — никакая НАТА им помочь не сможет.

+
+45: Ferox; 19 грудня 2021, 18:34; #

ИИ не обладает сознанием, а значит он ничего не может заявить. Это просто программа, созданная людьми и все, поэтому его слова — это слова его создателей.
Чем отличается живое от неживого? — Наличием внутреннего мира. У живых существ есть внутренний мир (сознание), а у ИИ его нет и не будет. Никто не знает, что такое сознание, но есть веские основания считать, что оно имеет нематериальную природу и не может описываться физическими законами.

+
+5: Smehue4ki; 19 грудня 2021, 23:58; #

Все правильно ИИ не существует, на данный момент существует только «машинное обучение»

+
0: requiming; 20 грудня 2021, 0:07; #

Есть еще много других современных подходов: https://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82#%D0%9F%D0%BE%D0%B4%D1%85%D0%BE%D0%B4%D1%8B_%D0%BA_%D0%BF%D0%BE%D0%BD%D0%B8%D0%BC%D0%B0%D0%BD%D0%B8%D1%8E_%D0%BF%D1%80%D0%BE%D0%B1%D0%BB%D0%B5%D0%BC%D1%8B

+
+51: BobKickass; 19 грудня 2021, 19:22; #

ИИ не обладает сознанием, а значит он ничего не может заявить. Это просто программа, созданная людьми и все, поэтому его слова — это слова его создателей.

Немовля теж не має свідомості. Наука говорить, що воно починає усвідомлювати себе, дивлячись на себе в дзеркало, тільки через рік плюс/мінус. До цього ж, має певний «біос», набір детальних інструкцій як рухати м’язами та створювати звуки. Але завдяки цим інструкціям і здатності запам’ятовувати з’являється інтелект. Це на диво схоже з тим, що зараз намагаються робити із ШІ. Вийде чи ні не скаже ніхто.

+
+117: ballistic; 19 грудня 2021, 22:53; #

Я не боюся машину, яка пройде тест Тюрінга.
Я боюся машину, яка навмисно його завалить.
:)

+
+28: preyvanamor; 20 грудня 2021, 3:55; #

«загроза» штучного інтелект ніяк не може бути більшою від загрози природного інтелекту і природної ДУРОСТІ!

Щоб залишити коментар, потрібно увійти або зареєструватися

Не зареєстровані на Мінфіні? Придумайте логін і пароль для управління підпискою. (Я вже зареєстрований)

тільки латинські літери та цифри

логін вже існує введіть логін логін повинен містити 3-15 символів логін повинен містити літери

Введіть пароль

√

Новини по темі

Всі новини

Штучний інтелект попередив про власну небезпеку

Що сказав ШІ

Наскільки серйозним був експеримент

Коментарі - 14

Заявка успешно отправлена