На чем сосредоточиться человечеству

Среди трех угроз, которые больше всего беспокоят Таллинна, он сосредоточен на искусственном интеллекте (АІ) и тратит миллионы долларов, пытаясь предоставить безопасное развитие технологии. Это включает инвестиции на ранних стадиях в лаборатории искусственного интеллекта, такие как DeepMind, и финансирование исследований безопасности АІ в таких университетах, как Оксфорд и Кембридж.

Ссылаясь на книгу оксфордского профессора Тебе Орда, Таллинн подчеркнул, что вероятность гибели людей в этом веке составляет 1 к 6. «Согласно книге, одной из крупнейших потенциальных угроз в ближайшем будущем является именно искусственный интеллект, а вероятность того, что изменение климата приведет к вымиранию человечества, составляет менее 1%», — рассказал он.

Читайте также: CreditKasa: искусственный интеллект для защиты клиентов

Поэтому Таллинн не рассматривает в качестве серьезной глобальной угрозы изменения климата, которую ООН назвала «определяющей проблемой нашего времени». И отмечает, что «важные переломные моменты, которые ведут к необратимым изменениям в основных экосистемах и планетарной климатической системы, возможно, уже были достигнуты или пройдены».

Об опасности, связанной с выходом из-под контроля искусственного интеллекта не раз говорил и основатель SpaseX и Tesla Маск.

Читайте также: Какими будут мобильные платежи и другие новинки финтех-2021

В общем исследователи безопасности АІ рассматривают два основных «апокалиптических» сценария:

  1. несчастный случай в лаборатории, когда исследовательская группа оставляет АІ, чтобы тренироваться на компьютерных серверах вечером, а «утром мира больше нет»;
  2. исследовательская группа создает прототипную технологию, которая затем применяется в различных сферах, «где она в итоге приводит к нежелательным последствиям».

Сейчас Таллинна больше беспокоит первый вариант, поскольку меньше людей думают о таком сценарии.

И добавляет, что крупнейшие мировые технологические компании выделяют миллиарды долларов на развитие АІ.

Ранее

Оксфордский университет получил крупное пожертвование на исследования искусственного интеллекта — миллиардер Стивен Шварцман предоставил $ 188 млн на изучение этических и социальных проблем АІ.

Как писали эксперты журнала Forbes, искусственный интеллект может помочь решить 15 социальных проблем, таких как сохранение дикой природы, эпидемии, дискриминация, «чистая» энергия, фактчекинг, голод и т. п.