Апокалипсиса не будет, или Чего боятся Маск и Хокинг?

Начну несколько издалека.

В конце октября некто Сергей Карасёв писал для 3Д-ньюз о том, что «компания Google объявила о партнёрстве с Оксфордским университетом, в рамках которого планируется разработка передовых технологий искусственного интеллекта». Со стороны корпорации добра заниматься исследованиями будет недавно приобретённая ею DeepMind. В приоритете два следующих направления когнитивной науки: распознавание образов и компьютерная лингвистика. Автор заметки надеется, что «партнёрство с Оксфордским университетом позволит Google существенно ускорить процесс развития ИИ-систем».

А теперь самое главное.

Сергей Карасёв также говорит, что далеко не все в восторге от перспективы быстрого прогресса в области разработки систем искусственного интеллекта. В частности он упоминает американо-канадского бизнесмена южноафриканского происхождения Элона Маска и британского физика Стивена Хокинга. Маск основал компании Tesla (разработка и производство электромобилей) и SpaceX (разработка и производство космических кораблей), ну а Хокинг, полагаю, в представлении не нуждается.

Автор цитирует Маска:

«С искусственным интеллектом мы вызываем демона. Вы, наверное, знаете все эти истории, в которых герой с пентаграммой и святой водой уверен, что может контролировать нечистую силу. Но на деле это не работает».

Любопытное сравнение, не так ли?

Вот ещё цитата:

«Я думаю, нам стоит быть крайне осторожными с искусственным интеллектом. Возможно, это одна из самых серьёзных угроз для существования человечества. Не будет лишним введение определённых регулирующих норм на национальном и международном уровнях, которые не позволят наделать глупостей».

Маск постоянно говорит об опасности разумных компьютерных систем, хотя и не призывает полностью отказаться от них ещё сегодня, когда их нет даже в проектах. Пока он предлагает только контролировать.

Хокинг проявляет меньше эмоций, но и он отмечает потенциальную опасность искусственного интеллекта. Например, в интернете есть видеозапись его июньского интервью на шоу Джона Оливера на американском телеканале ЭйчБиОу. Физик прямо говорит, что «искусственный интеллект может стать настоящей опасностью в не так уж и отдалённом будущем». Он уверен, что представления «славных парней из Google» об искусственном интеллекте могут оказаться неверными.

Согласитесь, если поддаться воображению, то рисуется безрадостная картина: лежащие в руинах мегаполисы, на улицах которых сиротливо ржавеют остовы кредитных «Фокусов»; порабощённое и почти полностью уничтоженное человечество, жалкие остатки которого влачат несчастное полуголодное существование под гнётом предельно рациональных железных агрессоров, вставших на вершине социальной пирамиды. И лишь горстка бойцов сопротивления продолжает отчаянную борьбу за светлое капиталистическое будущее, прячась в заброшенных канализационных коллекторах. Притворяясь, что не чувствуют застарелой вони, они недоумённо спрашивают друг друга: «Почему, мистер Андерсон, почему?»

Кстати сказать, Хокинг смотрел фильм «Превосходство». Ну тот, который с Джонни Деппом, Морганом Фрименом, Киллианом Мерфи и Полом Беттани. Позволю себе привести ещё одну цитату: «успех в создании искусственного интеллекта может быть величайшим событием в истории человечества. К сожалению, также он может быть и последним, если только мы не подумаем о том, как избежать опасности». Это написано Хокингом под впечатлением от фильма.

Разумеется, есть и те, кто не разделяет мнение о том, что искусственный интеллект представляет лишь угрозу человечеству. Но их голоса на фоне, создаваемом алармистами, не слышны.

Так как же обстоит ситуация с искусственным интеллектом на самом деле? Надо ли его бояться или, наоборот, интенсифицировать усилия по разработке?

Непростые вопросы.

Давайте начнём с того, что специалисты-то как раз воздерживаются от любых заявлений. Очевидно, ни Элон Маск, ни Стивен Хокинг специалистами в данной области не являются. Они всего лишь высказывают личные мнения, о чём нельзя забывать. Да, я тоже высказываю личное мнение, хотя когнитивистика для меня не совсем хобби. Ну, нейробиология и лингвистика — да, а вот искусственный интеллект — нет. Скажем так, я им не только интересуюсь, но и работаю в смежной области.

Первый вопрос, ответ на который очевиден, но на который всё же необходимо ответить: возможен ли вообще искусственный разум? Ответ исключительно прост: если возможен естественный разум, то возможен и искусственный.

Полагаю, любой естественный разум на определённом уровне развития становится способен создать разум искусственный. Главное условие тут, вероятно, знать, что же создаёшь. А вот с этим у нас большие сложности. Сегодня наука имеет только смутные представления о том, что же такое разум. Понимаете? Разум — это пойди туда, не знаю куда, найди то, не знаю что. Мы не знаем, что строим. Мы ориентируемся не на сущность, а на явления (даже отделить их друг от друга пока не в состоянии).

Потому ответа на второй вопрос: когда? — нет. Оттого и реальные перспективы создания искусственного интеллекта сегодня крайне туманны. Безусловно, есть значимые успехи, однако коррелируют они практически исключительно с прогрессом в области вычислительной техники — с тем, что понятно. Но связывать же искусственный разум только с железом — сложно придумать большую глупость.

Очевидно, что в таких условиях искусственный интеллект может получиться только случайно, и очень вероятно, на его создание уйдёт примерно столько же времени (или сопоставимо), сколько потратила природа на создание интеллекта естественного. Какими свойствами он будет обладать — гадание на кофейной гуще. Он может оказаться и враждебным человеку, и дружелюбным, и совершенно равнодушным. В любом случае беспокоиться не о чем, поскольку впереди ещё миллионы лет (и вопрос — не убьёт ли себя человечество раньше каким-то иным способом).

Впрочем, возможно, что-то получится быстрее с использованием биологического моделирования. Насколько я знаю, наиболее впечатляющие успехи в конструировании искусственного интеллекта достигнуты как раз с использованием данного подхода. Если точнее, то наибольшие успехи показывают смешанные модели, но всё-таки с преобладанием биологического подхода.

Рано или поздно даже без понимания сути он позволит создать подобие естественного разума. Вот только тот будет по всем характеристикам уступать оригиналу. А если когда-то будет возможно создать копию, то она всего лишь повторит оригинал.

Зная это можно ответить и на третий вопрос: а стоит ли бояться?

Собственно, это всё.

А отвечает пусть каждый сам.

Ваша оценка: None Средний балл: 5.6 / голосов: 5
Комментарии

"Первый вопрос, ответ на который очевиден, но на который всё же необходимо ответить: возможен ли вообще искусственный разум? Ответ исключительно прост: если возможен естественный разум, то возможен и искусственный."

Странный довод. Звучит как "вселенная существует, значит её можно создать искусственно". Хотя в данном случае, возможно он и пройдет.

"Очевидно, что в таких условиях искусственный интеллект может получиться только случайно, и очень вероятно, на его создание уйдёт примерно столько же времени (или сопоставимо), сколько потратила природа на создание интеллекта естественного. Какими свойствами он будет обладать — гадание на кофейной гуще. Он может оказаться и враждебным человеку, и дружелюбным, и совершенно равнодушным. В любом случае беспокоиться не о чем, поскольку впереди ещё миллионы лет (и вопрос — не убьёт ли себя человечество раньше каким-то иным способом)."

Я не понял, почему установлен такой срок? Может ИИ появится лет через 20-30?

"Рано или поздно даже без понимания сути он позволит создать подобие естественного разума. Вот только тот будет по всем характеристикам уступать оригиналу. А если когда-то будет возможно создать копию, то она всего лишь повторит оригинал."

Что за бред? Почему это он будет уступать оригиналу? Если автор так уверен в превосходстве своего разума над искуственным, пускай пойдет поиграет в шахматы с хорошим компьютером или посостязается в скорости стрельбы с автоматической самонаводящейся турелью. А ведь это просто "тупые" компьютеры, а никакой не ИИ.

"Зная это можно ответить и на третий вопрос: а стоит ли бояться?

Собственно, это всё.

А отвечает пусть каждый сам."

Какая-то грязная лужа, а не статья. Автор решил что-то, и без всяких доказательств и доводов волевым решением сказал "ИИ не угрожает человечеству в ближайшие миллионы лет".

все эти УГ-страшлки для хилых разумом. Главные кадавры запрятались сейчас на Уол-стрите и заражают планету своими антихуманите лулзами. Пока главными убийцами планеты было семейство суперклан Бушей , начиная с конца 40-ых годов прошлого века. Не ПЭВМ , блеять , а кучка военных в Пентагоне с определенными приказами от конгрессменов подчиняющихся клану ебаных Бушей.

А вся матрица закулисной движухи показана в фильме - протесте Антуана Фукуа "Shooter" (Cтрелок) с Майклом Уолбергом. Американцы далеко не идиоты , они видят откуда в государстве выпирает говнище. И кто пытается его прикрывать Биллем о правах и Священной , блять , конституцией.

bruja677 пишет:
все эти УГ-страшлки для хилых разумом.

+1.

Быстрый вход