Вы всё ещё не боитесь развития искусственного интеллекта? Ну, тогда вы выбрали сторону таких воротил бизнеса как Google, Facebook или, например Microsoft.
А может вы, всё-таки опасаетесь совершенствования технологий в этой сфере? Тогда добро пожаловать в команду к уважаемым мыслителям нашего времени Элону Маску и Стивену Хокингу, которые считают, что продолжения разработок в этом направлении сродни проговариванию заклинания по вызову демона.
Вообще одним из «пионеров» в создании умных систем была компания DeepMind, владельцем которой и является тот самый Google. Эта компания решила позаботиться о безопасности людей и создала меры по предотвращению непредвиденных ситуаций вызванных роботами.
Конечно, речь не идёт о всяком там апокалипсисе, где машины ходят по черепам солдат павших в бою, скорее мы говорим о простой инструкции по обеспечению безопасной работы роботов трудящихся на заводах и фабриках.
Инструкция эта, или если быть точнее документ, который был официально опубликован является детищем DeepMind и Института будущего человечества, чей директор Ник Бостром уже не раз высказывался о потенциальных угрозах исходящих от ИИ.
Сам документ под названием «Безопасно отключаемые агенты» состоит из всякого рода вычислений и формул на случай если созданный человечеством интеллект безотлагательно перестал делать, то, что оператор считаем неприемлемым.
Содержание документа, скорее всего не поймут 99 процентов населения планеты, поэтому грубо говоря, в нём содержится принцип работы так называемой «красной кнопки», способной отключить ИИ.
Помните, да, как в фильме «Терминатор 3» главные герои искали центр управления, что бы отключить разбушевавшийся искусственный интеллект и в конце всего поняли, что такого способа решения проблемы люди не удосужились придумать.
Но это фильм, а вот в реальной жизни подобную угрозу никто игнорировать не собирается, поэтому документ описывает способы позволяющие быть уверенным в том что «обучаемый агент» (ИИ) не станет плевать на воздействия внешней среды или самого человека.
Возможно, кто то из вас подумает, что такие меры слегка неактуальны, ведь даже самый мощный созданный интеллект по-настоящему крут разве что в настольных играх, однако всё может быть и как хорошо, что на случай непредвиденных ситуаций человечество уже будет готова к ним.
