Google придумал «красную кнопку» для защиты от роботов

1 голос

Вы всё ещё не боитесь развития искусственного интеллекта? Ну, тогда вы выбрали сторону таких воротил бизнеса как Google, Facebook или, например Microsoft.

А может вы, всё-таки опасаетесь совершенствования технологий в этой сфере? Тогда добро пожаловать в команду к уважаемым мыслителям нашего времени Элону Маску и Стивену Хокингу, которые считают, что продолжения разработок в этом направлении сродни проговариванию заклинания по вызову демона.

Вообще одним из «пионеров» в создании умных систем была компания DeepMind, владельцем которой и является тот самый Google. Эта компания решила позаботиться о безопасности людей и создала меры по предотвращению непредвиденных ситуаций вызванных роботами.

Конечно, речь не идёт о всяком там апокалипсисе, где машины ходят по черепам солдат павших в бою, скорее мы говорим о простой инструкции по обеспечению безопасной работы роботов трудящихся на заводах и фабриках.

Инструкция эта, или если быть точнее документ, который был официально опубликован является детищем DeepMind и Института будущего человечества, чей директор Ник Бостром уже не раз высказывался о потенциальных угрозах исходящих от ИИ.

Сам документ под названием «Безопасно отключаемые агенты» состоит из всякого рода вычислений и формул на случай если созданный человечеством интеллект безотлагательно перестал делать, то, что оператор считаем неприемлемым.

Содержание документа, скорее всего не поймут 99 процентов населения планеты, поэтому грубо говоря, в нём содержится принцип работы так называемой «красной кнопки», способной отключить ИИ.

Помните, да, как в фильме «Терминатор 3» главные герои искали центр управления, что бы отключить разбушевавшийся искусственный интеллект и в конце всего поняли, что такого способа решения проблемы люди не удосужились придумать.

Но это фильм, а вот в реальной жизни подобную угрозу никто игнорировать не собирается, поэтому документ описывает способы позволяющие быть уверенным в том что «обучаемый агент» (ИИ) не станет плевать на воздействия внешней среды или самого человека.

Читайте также:  Mail.Ru предлагает обучение с трудоустройством

Возможно, кто то из вас подумает, что такие меры слегка неактуальны, ведь даже самый мощный созданный интеллект по-настоящему крут разве что в настольных играх, однако всё может быть и как хорошо, что на случай непредвиденных ситуаций человечество уже будет готова к ним.

Добавить комментарий

  • ;-)
  • :|
  • :x
  • :twisted:
  • :smile:
  • :shock:
  • :sad:
  • :roll:
  • :razz:
  • :oops:
  • :o
  • :mrgreen:
  • :lol:
  • :idea:
  • :grin:
  • :evil:
  • :cry:
  • :cool:
  • :arrow:
  • :???:
  • :?:
  • :!: