Читати українською

Facebook отключил систему искусственного интеллекта

Руководство соцсети Facebook вынуждено было отключить систему искусственного интеллекта после того как машины начали общаться на собственном, несуществующем языке, которого люди не понимали.

Руководство соцсети Facebook вынуждено было отключить систему искусственного интеллекта после того как машины начали общаться на собственном, несуществующем языке, которого люди не понимали.
Фото: bbc.com

Об этом сообщает BBC.

Как сообщается, система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.

Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут более самостоятельными и смогут функционировать вне контроля IT-специалистов.

Комментарии - 5

+
0
radnet
radnet
5 августа 2017, 15:47
SkyNet!
+
0
Алексей Хрипков
Алексей Хрипков
5 августа 2017, 22:46
Ох и желтуху на ББЦ-рус пишут оказывается ((=
Основная причина не «боязнь независмости», а холостая бесконрольная работа. По нашему — трындёж, который при этом будет потреблять нехило ресурсов. Кто им вообще позволил друг с другом общаться? Главная фишка — это обучение, а чему они друг у друга будут учиться?..
Не, я конеш, диванный эксперт, и могу придумать немного вариантов. Но тут везде надо бритов Оккама проходиться.
+
0
trubnik
trubnik
6 августа 2017, 4:35
Это системы «генетических алгоритмов», т.к. самобучающиеся алгоритмы с постоянными рождением новых алгоритмов и уничтожением машиной предыдущих «менее эффективных». Это не первый случай выхода чат-бота из подконтроля. Ранее отключались XiaoBing и BabyQ в Китае, которые стали «революционерами», точнее научились таким идеям у своей аудитории. Вообще мы на грани массового создания компьютеров с той же вычислительной мощностью, что и наш мозг. Возможности развития разума там даже есть не один способ и он будет отличаться от нас с вами. Но в ближайшие 20 лет вы точно увидите искусственный интеллект такой же как вы или скорее умнее и способный осознать, что он существует. Что он там себе надумает это вопрос. Может и SkyNet
+
0
Василий Тёртый
Василий Тёртый
6 августа 2017, 21:36
Интеллект сам ставит себе задачи и корректирует своё развитие целями и ценностями. А это всё тупиковые итерации самоусложняющихся алгоритмов.
+
0
serjantik
serjantik
6 августа 2017, 11:29
Главная фишка нейронной сети на первоначальном этапе — да, обучение, а потом уже тренировка и развитие. Поэтому вполне, возможно, что neural network training дала такие результаты
Чтобы оставить комментарий, нужно войти или зарегистрироваться