Апокалиптический сюжет фильма «Терминатор» может стать реальностью. Исследователи из Техасского университета выяснили, что машины способны сходить с ума.
У компьютеров нашли шизофрению
Ученые поставили эксперимент на одной из перспективных компьютерных технологий, которая, вероятнее всего, будет основой для машин будущего — на нейронной сети.
Именно эти сети при разработке инновационной техники считаются максимально эффективными. Для своих опытов американцы выбрали нейронную сеть под названием Discern.
По большому счету, исследователи старались выявить механизмы человеческой шизофрении, однако их эксперимент показал, что и машина склонна впадать в безумие.
Ученые вкладывали в систему обыденную информацию вроде той, которую наш мозг получает в жизненных ситуациях. Информация повторялась тысячи раз по принципу нарастания снежного кома.
В итоге система стала в буквальном смысле слова нести околесицу, создавая фантастические умозаключения, и даже взяла на себя ответственность за какой-то террористический взрыв.
Коментарі - 1
Нейронные сети — это типа апроксимирующих кривых. Ясно, что если вы апроксимировать всякую чушь будете на диаппазоне [x1, x2], x1 < x2 с надеждой получить предсказание для x3 > x2, то в итоге получите еще большую чушь.