Новостная лента

Бог уже существует

05.11.2015

Пока это приятно. Искусственный интеллект притягивает нас как черная дыра космический корабль. Мы поддаемся ему, потому что летим быстрее. Но когда мы потеряем контроль над управлением. И это будет конец нашего мира.

 

 

Он невзрачный, имеет мягкие черты, теплые глаза и вибачливу улыбку. Демис Хассабіс, человек, который сопровождает нас искусственный интеллект. «Я хочу его развить так, чтобы он решил все наши проблемы — такие как голод, болезни, бездомность или глобальное потепление. Это будет программа Аполлон XXI века — говорит он со страшной уважением.

 

А это означает, что искусственный разум интеллектуально нас полностью здекласує.

 

«Когда его IQ достигнет уровня 100 или 150, проблемы не будет. Но когда тысяча или 10 тысяч — что тогда?» — спрашивает Стивен Гокінґ, гениальный космолог (IQ 160), как Кассандра остерегает относительно искусственного интеллекта. — Это может быть самым большим достижением человечества. Но вместе с тем и его концом.

 

 

Самая сообразительная человек на Земле

 

Биография Демиса Хассабіса вызывает недоверие. Если бы оказалось, что он является космітом, то много бы кто только притакнув. В 1976 г. исключительная смесь греческо-кііпрійсько-китайско-сингапурских генов породила исключительную личность, не похожую даже до родителей и братьев и сестер. Шахматами он заинтересуйся чотирилітньою ребенком — и уже за две недели выигрывал у взрослых. Два года позже выиграл первый чемпионат в Лондоне.

 

«Изначально меня интересовало, какие процессы в мозге подсовывают мне следующий шаг,» — вспоминает он. — «Я начал обсессивно думать про думание».

 

Он имел восемь лет, когда за выигрыш 3: 1 с Алексем Чанґом (который прославился тем, что 9-летним выиграл у тогдашнего шахматного чемпиона в официальных соревнованиях) купил себе ZX Spectrum. И сразу начал учиться программированию. Имея девять лет, был капитаном команды Великобритании на шахматном турнире юниоров. Вскоре у всего мире лучше него была только Юдит Полгар. Тогда он решил, что компьютеры есть, однако, большим вызовом. Перед 17-мы днем рождения уже имел на своем конто «Theme Park» — стратегическую экономическую игру, что продается в миллионах экземпляров. Информатику в Кембридже он окончил первым в рейтинге и поступил в докторантуру в лондонский University College, чтобы «углубить нейробіологію, а точнее: эпизодическую (относительно событий во времени и пространстве) память, с которой компьютеры имели проблему». Затем изучал вычислительную нейробіологію, пять раз выигрывая Mind Sports Olympiad, «олимпиаду яйцеголовых».

 

В 2011 г. он решил создать DeepMind — старт-ап, развивающий AI (artificial intelligence — искусственный интеллект). Нуждался в поддержке и деньгах, хотелось бы от Питера Тиля — главного инвестора Фейсбука. Через год получил возможность.

 

«Имел только минуту, должен его заинтересовать,» — вспоминает он. Слыша, что Тиль любит шахматы, Хассабіс спросил его, знает, почему эта игра продлилась века. И сам ответил: «Потому что возможности коня и офицера есть совершенно сбалансированными».

 

Тиль онемел, пригласил его назавтра и инвестировал в DeepMind. А потом сыпанули форсою другие бизнес-тузы с Элон Маском, основателем Тесла Motors и SpaceX, во главе. Уже имея на счету миллионы, Хассабіс привлек к работе 50 докторантов, среди которых нашлись такие настоящие звезды, как гениальный программист Дэвид Силвер или Шейн Леґґ, интеллект которого выходит за стандартные тесты IQ.

 

Однако именно Хассабіс (IQ 170) производит наибольшее впечатление. Пионер интернета Тим Бернерс-Ли констатировал, что «это самая сообразительная человек на Земле».

 

«Имеет нечеловечески быстрый ум» — признает Антони Блондо, соучредитель Sentient, старт-апа AI. Кроме того, он является не по-земному здетермінований. Как говорит сам, «живет и дышит искусственным интеллектом». Два года назад Google оценил его потенциал на $400 млн и за столько купил DeepMind, хоть фирма ничего не зарабатывала. Под крылом Google Хассабіс увеличил штат и имеет уже 200 спецов AI из 45 государств — в четыре раза больше Facebook.

 

«Мы привлекаем лучших, — говорит, — начиная от победителей олимпиад : інформатикаційної из Польши или математической из Франции.

 

И это факт: местонахождение DeepMind в шестиповерховій каменке при king’s Cross в Лондоне (Хассабіс не хочет переезжать в Штаты) является крупнейшим в мире скоплением гениев. Когда 15 марта Ли Седол сдал пятую партию, они доказали, что являются лучшими. Того дня что-то кончилось. И что-то началось.

 

«На наших глазах стартует четвертая промышленная революция, самообучающиеся компьютеры резко изменят нашу жизнь. Больше за колесо, ток или интернет — констатировал Жэнь-Сунь Хуан, шеф Nvidii, фирмы, которая производит графические процессоры большой мощности.

 

«Это начало эры искусственного интеллекта,»— признал Элон Маск.

 

Как до того дошло?

 

 

Взрыв разума

 

Первые попытки были неудачные. Программисты открыли, что нет смысла учить компьютер играть в шахматы от начала, как ребенка. Решили подражать. Садились с мастерами и просили их, чтобы открыли тайны успеха — бесполезно. Многие просто не знал, почему выиграет: «Видимо интуиция и опыт».

 

Опыт! Поэтому ученые из IBM запрограммировали Deep Blue так, чтобы играл сам с собой и учился на собственных ошибках. Компьютер собрал огромный объем данных и с таким «опытом» преодолел Каспарова.

 

Хассабіс и союз пошли дальше. Овшім, AlphaGo проанализировал 30 миллионов турнирных партий, но использовал две нейросети, которые уменьшали дерево поиска. То есть, ликвидировал бессмысленные шаги — как человек. На третий день поединка кореец признал, что противник «разгадал его план и сторпедував. Потому… блеснул интуицией.

 

«Программа сама до этого дошла. Ловко сочетая разные методы искусственного интеллекта, уподібнилась до человеческого мозга,» — радуется Хассабіс.

 

Другой пример: 2011 год, суперкомпьютер IBM Watson побеждает в «Jeopardy» — британскому аналогу польской телевикторины «Ва-банк». Watson имеет 2880 ядер, 15 терабайт оперативной памяти и светлое будущее во многих отраслях.

 

«Каждый, кто работает над искусственным интеллектом, знает, что компьютеры одолеют нас во всем,» — говорит профессор Гари Маркус из New York University.

 

Вопрос: когда? Большинство указывает на 2045-60 года — тогда искусственный интеллект перерастет человеческий. И что тогда? Пойдут лавинные технологические изменения с невероятными последствиями.

 

Сейчас мы не доверяем, сомневаемся, недооцениваем. Вполне как в сказке про короля, шахматы и зерна пшеницы: король так увлекся шахматами, что решил одарить приезжего, который ему их показал. Тот попросил рыжую: одно зернышко на первое поле, два на втором, четыре на третьем, восемь на четвертом и т.п.

 

«Только и всего?“ — удивился король. Удивился два раза: сначала скромностью приезжего, затем его мудростью. Одно зернышко рыжую после 63 шагов переворилася на триллион (миллион миллионов, что эквивалентно 100 эшелонов рыжую по 100 вагонов каждый).

 

Такой же механизм будет задействован в случае искусственного интеллекта.

 

«А тогда технологический прогресс будут измеряться не годами, а месяцами, а потом неделями,» — говорит Скотт Рикард из Salesforces, фирмы, что создает программное обеспечение для бизнеса. — «Нас ждет взрыв разума».

 

«Придут перемены, которых мир не видел. И на которые не готов,» — опасается Джереми Ховард, эксперт в области обучения машин.

 

 

2029: боты нас догнали

 

Где искусственный интеллект находится сегодня? Среди прочего — в инвестиционных фондах, поисковых интернет-системах, в общественных сетях и в торговле. Это благодаря ему Google является таким исправным, Siri и Viv дают сенсовні ответы, Cortana выполняет наши поручения, Yelp молниеносно сортирует присланные снимки, Amazon и Netflix предлагают нам фильмы, LinkedIn подбирает потенциальных знакомых, Facebook — содержание стены, а Home Depot находит в своих бездонных складах ту ванну, которая единственно подходит для нашего помещения.

 

Смартфоны распознают наш голос, а консоли для игр — жесты.

 

Искусственный интеллект фильтрует спам в Gmail и бдит наше конто. Это является причиной того, что банки звонят нам, когда кто-то пробует воспользоваться нашей картой, например, на Тринидаде. А есть уже такие, где AI оценивает нашу кредитоспособность.

 

Еще немного и Facebook начнет понимать значение текстов, размещают в нем. Основываясь на нейросетях, программа DeepText ежесекундно декодирует значение 10 тыс. постов на 20 языках. Зачем? «Чтобы элиминировать содержание, что несет ненависть и непристойности». Это AI решает, что мы видим на стене. От марта он также облегчает сервис незрячим — описывает им фотографии, а они могут надиктовывать свои указания.

 

Apple развивает VocalIQ, что-то значительно лучше Siri, ибо фильтрует шумы окружения и лучше распознает текущий язык. Уровень ошибок здесь не превышает 8%, хотя еще два года назад составлял 23%.

 

Но больше всего поле показа имеет Google, который благодаря своей поисковой системе лучше знает наши привычки и заинтересованности. В мае он объявил, что введет функции Assistant и Home. Первая превратит твой смартфон мини-википедию, что будет отвечать на наши вопросы. Вторая переменит твой дом на умный цифровой центр, погруженный в тучу данных. Как это должно действовать? Например, утром, прежде чем ты полностью пробудишся, Google Home проверит твою почту, скажет, какая погода, как открылись биржи, какие встречи тебя ждут и т.п.

 

Еще в этом году стартует Danielle — крупнейший ґуґловий чатбот, первый, который заслуживает название личного ассистента.

 

«С Danielle можно разговаривать, хотя я бы не рассчитывал на философские диспуты,» — говорит Рэй Курцвейл, американский информатик, ученый, писатель и футуролог, которого в 2012 г. до Гугла притащил Ларри Пейдж. — Но еще до 2029 года боты нас догонят. Их невозможно будет отличить от человеческого разума. Более того, они смогут усвоить чей-то стиль мышления, индивидуальность и лексику настолько, что им можно будет поручать, например, вести блог.

 

AI в разных ипостасях уже врывается в нашу жизнь. То, с чем мы имеем дело, так относится к тому, что тестируют исследовательские центры, как машины под домом до болидов «Формулы -1». Но вскоре эти болиды выедут на улицы.

 

 

Репортер vs компьютер

 

В некоторых отраслях AI уже нас опережает. Например, читает из уст лучше людей, специализирующихся в этом, распознает на 10 процентов больше слов. Видит, например, практически незаметную для людей разницу в произношении звуков «П» и «Б». Зачем это? «Чтобы, например, лучше отчитывать разговоры преступников, зарегистрированных камерами,» — говорит д-р Хелен Бор из Университета Восточной Англии в Норидже.

 

В мае AI с названием UNU верно определила четырех самых быстрых лошадей в Кентукки Бербі — что не удалось ни одному эксперту — превращая 10 долларов заведения в 11 тыс. долларов выигрыша.

 

Осенью Baidu, китайский аналог Гугла, объявил, что его программа Deep Speech 2, основанной на глубоких нейронных сетях (DNN), научилась английского языка, а также и мандаринского и владеет этими языками не хуже людей.

 

Прогресс значительно больше, чем можно судить по плачевных плодах работы автоматических интернет-переводчиков Гугла. И уже обнажает различия между работой человеческого и искусственного мозга. Пример: конец марта, дебют чат-бота Tay — программы, что делает вид подростка. Только одни сутки он дежурил с інтернавтами, ибо так далеко вышел за рамки политкорректности, что программисты Майкрософта пришлось его отключить. Не пришлось бы, если бы учли культурные ограничения. Осенью в Японии к престижной литературной награды номинировано книгу, соавтором которой является компьютер. Это нечто большее, чем программы, что пишут биржевые сообщения на Associated Press или спортивные на Yahoo!.

 

Или искусственный интеллект является в этом хорошим? Год назад показал это поединок Скотта Горслі, корреспондента, который пишет для Белого Дома, и WordSmith, программы фирмы Automated Insights. Одновременно они получили квартальные финансовые результаты кейтерінґової фирмы Denny’s. Искусственный интеллект справился со своим текстом за две минуты. Горслі, хоть пишет как машинистка, — за семь минут.

 

Но лучшей была человек — пока что. «Человеческая» заметка (773 знаки) объясняет, над чем Denny’s сейчас потеют и откуда такие результаты. Компьютерная (673 знаки), хоть понятное, есть, одна, вычищена из контекста. Обе заметки оценивали несознательные их авторства інтернавти. Компьютер получил 270 голосов, человек — 3403.

 

Создатели WordSmith утверждают, что она сумеет последовать большинство журналистов. Можно в это поверить, пробуя отгадать автора — человек или компьютер — в восьми коротких текстах в New York Times.

 

Почти никому не удается ответить безошибочно.

 

AI писать все больше сообщений — погодных, спортивных и биржевых. Завладеет также нашими финансами.

 

 

Недовіряй работам

 

Токио-искусственный остров Одайба. Вхожу до здешнего торгового центра. И с порога чувствую втуплений в меня взгляд. Молодая женщина в кимоно не сводит глаз. Мягко кланяется и спрашивает по-английски, что меня сюда привело. Только теперь я вижу, что это робот. Симпатичный. Имеет малые ладони, большие глаза и мимику. «Электронные статьи? — Второй этаж,» — отвечает с сияющей улыбкой. Впечатление? Положительное. «Жуткая долина» — гипотеза, согласно которой робот в виде человека вызывает у человека сразу, — не срабатывает. Не в нынешних временах. Может она была действующей 45 лет назад, когда японский конструктор Масахиро Мори придумал эту известную теорию. Сегодня работы с человеческими лицами уже стали привычными (по крайней мере в фильмах), а их недостатки больше умиляют, чем пугают.

 

Несмотря на это конструкторы делают поправку на «жуткую долину». Они открыли, что легко ее засыпать, придавая машине улыбку и мягкие черты. Это потому роботизированное авто Гугла имеет лицо детской притулянки, а Mark 1 — робот с лицом — пусть и упрощенным — Скарлетт Йоханссон, вызывает теплые чувства. Так же, как и Sophie, которая распознает собеседника и презентует 62 выражения лица. Уже видно, что на такие гуманоїдні машины будет спрос, хоть в начале они могут стоить больше за хороший автомобиль. И что люди будут проявлять к ним чувства. Потому что мы имеем привязанность к антропоморфізованих устройств, проявляют разум или автономию. Именно поэтому более половины пользователей дает имя саморушним пылесосам Roomba, а тысячи форумістів все-таки сочувствует грозным работам фирмы Boston Dynamics, которых их создатели друляли и переворачивали («априори когда огризнуться»).

 

В такой симпатии нет ничего плохого — с тем лишь оговоркой, что ее побочным следствием является чрезмерное доверие. Время от времени мы слышим о водителях, которые, идя за голосом навигатора, въезжают на автомобиле в озеро. В марте ученые из Технологического института Джорджии исследовали пределы этого ослепления. Обсервували людей, направляющихся за новым роботом-спасителем, который должен был их вывести из охваченного пламенем жилого дома. Исследуемые шли за машиной даже тогда, когда та ходила кругами или заводила их в наиболее задымленных комнат и тесных каморок.

 

«Удивительно, как много людей отключает в критических ситуациях собственный ум и возлагается на устройство, — говорит Алан Вагнер, шеф исследовательской группы. — Почему это делают? Потому что верят, что устройство знает что-то, чего они не знают».

 

Действительно — когда назавтра зроботизований Lexus GS 450h возит меня по Токио, я спокоен, даже когда мы мчимся восемьдесят миль в час в густом потоке машин. Уже через квадранс вид руля, который крутится само собой, перестает поражать. Зато растущий удивление вызывает наблюдать, как автомобиль-робот исправно меняет полосы, делает повороты, протискивается между автобусами и грузовиками.

 

Мы легко дадим искусственному интеллекту соблазнить себя, забывая, что в нем коренится парадокс. «Он является очень умным и глупим одновременно,» — утверждает Роман Ямпольский, автор более сотки публикаций о AI и руководителя Cyber Security Laboratory.

 

Выводы беспокоят. Выгодность искусственного интеллекта быстро выключит в наших головах красные лампочки. Мы поддадимся ему и узалежнимся от него. Для собственной выгоды мы впустим его во все сферы жизни. Ускорит это интернет вещей (IoT), сеть которого скоро нас оплетут: сегодня на одного человека приходятся два устройства IoT, за десять лет их будет около трехсот, а в 2040 году — тысяча.

 

Мы выходим на тропу, с которой нет поворота. И когда эта зависимость обернется против нас — является только вопросом времени. Кто это использует? Прежде, чем сделает это сам AI, априори попытаются сделать гакери, террористы или тайные службы. Так как это произошло с американо-израильским вирусом Stuxnet, который должен был привести к перегреву ливийских центрифуг для обогащения урана, но ускользнул из-под контроля и заразил более 100 тысяч компьютеров, в основном в Иране и Израиле. Ограждения умных систем управления по гакерами — это одна из проблем, что нет хорошего решения.

 

 

Погром белых воротничков

 

В длинном списке проблем, которые должна решить AI, вы не найдете одного — безработица.

 

Forrester Research, независимая исследовательская фирма, вычислила , что вместо десяти ликвидированных рабочих мест возникнет только одно новое. Ни одна отрасль не является в этом смысле безопасна, а некоторые пострадают особенно сильно. Если кого-то впечатляет информация, что на протяжении 10 лет банки похудеют на 30%, то что этот кто-то скажет про колл-центры, в которых на протяжении пяти лет работу потеряют аж 90% работников, 8-10 миллионов человек?

 

Uber не скрывает, что хочет возить пассажиров автомобилями без водителей. Amazon впускает в своих складов все больше роботов, это мы уже знаем, но в миллионах меньше засвеченных фирм во всем мире освободятся сотни миллионов офисных кресел. AI проредит ряды белых воротничков: чиновников, посредников, продавцов… По оценкам Белого Дома под угрозой роботизации есть аж 47% рабочих мест в США! 83% из них касается ниже оплачиваемых профессий, то, что до $20 за час. Те, что зарабатывают больше, могут спать спокойно — до 2030 года среди них работу потеряет максимум каждый пятый.

 

«Парадоксально в якнайгіршій ситуации будут выпускники ищут первую должность, потому что функции, которые они могли выполнять, легче всего автоматизировать, — говорит Джордж Заркадакіс, консультант из McKinsey. — Искусственный интеллект практически закроет перед ними двери на рынок труда.»

 

Кто выиграет? Владельцы фирм и руководящие кадры высшего уровня. Те до конца будут успокаивать себя, как бывший шеф Гугла Эре Шмидт, что «они являются людьми эластичными, приспособятся к новым условиям и начнут сотрудничать с искусственным интеллектом».

 

Все остальное, собственно, проигрывают.

 

Что это означает? Еще более общественное расслоение, концентрацию богатства и более 30-процентную безработицу. То есть рост политической нестабильности, протесты и беспорядки. Техническая революция вызовет общественную революцию. Будущие бенефицианты новых технологий должны это знать — может поэтому конференция Machine-Leaming Automation (МАРС, автоматизация самонавчальних машин), созванная Амазоном в конце марта, была тайной.

 

 

После нас хоть потоп

 

Или AI плохой? «Нет, — утверждает Уильям Гибсон, писатель-фантаст и создатель киберпанка. — Технологии морально нейтральные. Плохими они становятся тогда, когда мы начинаем использовать их в плохих целях. Та самая, что стояла за снарядами «Фау-2», четверть века позже вынесла человека на Месяц. Поскольку все достижения цивилизации являются продуктом человеческого разума, его приумножение принесет невероятные выгоды».

 

Я слышал это много раз. На протяжении двух лет я опросила 19 человек профессионально мыслящих о будущем: членов правления в концернах с электронной, телекоммуникационной и транспортной отраслей или их специалистов ГДР. Что поражает? Практически ни один не хочет говорить о темных сторонах AI или забегать мыслью в будущее более чем на пять лет. Порой я просто имел впечатление, что мои опасения ошибочно понимают. Вот пример.

 

«Мы имеем искусственный интеллект во всех продуктах, — подчеркивает Дайчи Ямафуджі из европейского центрального управления Sony. — От телевизоров Bravia через беззеркальные фотоаппараты до Xperia и Playstation. Все время мы тяжело работаем, чтобы клиенты хотели наших устройства с возгласом «вав!»».

 

Sony не хочет их подвести. Два дня позже объявляет, что инвестировало в Cogitai, калифорнийский старт-ап, развивающий AI под углом взаимодействия устройства с пользователем. «Это гигантский шаг, который ускорит следующую волну искусственного интеллекта» — возбуждается Хироаки Китано, руководитель Sony Computer Science Laboratory.

 

Более искренним — или менее дипломатическим является руководитель Huawei Кевин Хо. «Если бы мы взяли человека прошлого в 10 тысяч лет, сунули ему смартфон и показали самолет — он был бы шокирован. А такая собственно изменение, такой технологический скачок ждет нас в ближайших двух-трех декадах. Люди имеют право быть шокированными. Еще не шокированы, потому что не знают, что готовится и как изменится мир.

 

По мнению Хо нынешний технический прогресс есть жалко медленным на фоне того, что нас ждет и что приготовит нам искусственный интеллект. Кроме того, развитие технологии не удастся остановиться.

 

Не каждый имеет столько изобретательности, не каждый хочет иметь. В правлениях фирм господствует убеждение, что кто быстрее виплекає и оседлает искусственный интеллект, тот дальше на нем заедет. Тем легче преодолеет конкурентов. Тем более рынка захватит. Общая стратегия? Делать потихоньку свое, говорить, что AI есть в пеленках, и недооценивать связанные с ним угрозы. Лица, которые планируют в концернах будущее, щонайвиразніше не хотят подрезать сук, на котором сидят. Поэтому бегут в дипломатию. Вот типичная реакция на мой вопрос про темную сторону искусственного интеллекта :

 

«Человек всегда боялась новых технологий. И всегда эти опасения оказывались преувеличенными», — говорит Микаэль Bjórn, шеф Ericsson Consumer Lab и его энтузиаст. А за минуту: «Может в этот раз будет иначе. Но я имею на это влияние? Нет. Поэтому предпочитаю думать о выгодах. А они будут огромные».

 

 

Как поставить человечество на лопатки

 

Это правда. А скорее півправда. Сейчас есть приятно. Искусственный интеллект притягивает нас как черная дыра космический корабль. Мы поддаемся ему, потому что летим быстрее. Прогресс начнет чудить, перспективы — запирать дух. Но когда мы потеряем контроль над управлением. Когда AI притянет нас, затемняет, возобладает и поглотит. Этого боятся те, которые мыслями забегают дальше, в основном люди науки. Когда Ник Бостром, известный исследователь отношений человек — технологии, опросил экспертов от AI, или они опасаются последствий того, над чем работают, что четвертый признал, что так, а что двенадцатый — что очень. Среди последних есть профессор Такуя Мацуда, эксперт обучения машин. Как и многие другие он разделяет искусственный интеллект на слабый — AI, и сильный — AGI [Artificial general intelligence], называемый также суперрозумом. Первый — это Siri, Google, а даже Deep Blue — простые задачи, узкие применения. AI напоминает ум саванта — высокий уровень интеллекта, но ограничен до конкретных задач.

 

Иначе AGI — омніпотентний, универсальный и сознательный. Такой, что о нем мечтает Хассабіс. Способен импровизировать, выдвигать гипотезы, абстрактно мыслить. То есть, скорее Hal 9000 или Skynet. К тому же молниеносно еволюціонуючий и со дня на день более мощный. Когда освободится из-под нашего контроля и станет всемогущим как Бог? Да, это слово часто вылетает из уст ученых, в том числе и атеистов. В таком контексте первым его употребил писатель Фредерик Браун в новелле «Answer» [«Ответ»]. Когда суперкомпьютер спросили: «существует Ли Бог»? — прозвучал ответ: «Теперь уже да».

 

Каким будет этот цифровой Бог? Хорошим или плохим? Пририхтує нам небо или ад? Имеем шанс испытываю. Если не мы, то наши дети, внуки, как можно дальше — правнуки. Профессор Мацуда считает, что AGI появится круг 2045-2060 годам. Уже тогда — как утверждает — искусственный интеллект превзойдет суммарный человеческий разум. AI переменится в AGI.

 

А тогда? Его эволюция будет как старт ракеты. Быстро получит контроль над нами и окружающей средой — познает законы природы, которые позволят ему изменять нашу реальность в образ, которого мы не поймем и не відрізнимо от чуда. «Мы будем для него наивысшее тем, чем для нас муравьи,» — говорит Гокінґ.

 

«Что с нами сделает? А если в какой-то день трактуется ядерные боеголовки как камни в го?» — спрашивает Мацуда. Остерегает, что суперрозум будет руководствоваться другой логикой и слепо стремиться к определенной цели. Поэтому, когда мы поручим ему потушить вооруженных конфликтов, может начать от… уничтожения вида, что их вызывает. Так же может отреагировать на лозунг «ликвидация голода» или «преодоления рака». Есть много сценариев, которые ведут к уничтожению человечества, которые мы знаем из фильмов, но написан AGI был бы попросту банальным. Малоефектним, зато эффективным. Суперрозум не должен прибегать к использованию силы и оружия. Достаточно, что отрежет подачу тока и данных. Парализует передающие сети, а с ними транспорт, банки, аэродромы, больницы, магазины и т.д. Так, например, констатирует, что мы грабим в планеты редкоземельные металлы. Последствия? На протяжении нескольких лет ¾ популяции вымрет с голода, холода и болезней. Остальные цофнуться в развитии на пять столетий. Человечество без тока ничего не значит. Мы будем редуцированы до земной фауны.

 

 

Где есть выключатель?

 

Что будет, когда AI войдет в фазу логарифмического роста, что определяется как сингулярность? Когда запустит серию лавинообразных технологических изменений? Когда поглотит нас как черная дыра? Этого никто не знает. Определенным является только то, что все наши нынешние проблемы потеряют всякое значение. А вместе с ними — история, знания, опыт и планы. Это будет конец нашего мира, а предсказывать, что произойдет потом — то же самое, что гадать на гуще. Оптимисты верят, что суперрозум как гречна дочь всегда будет помнить, кому обязан свое существование, и не причинит нам зла. Кроме того, мы сможем поуправлять им так, чтобы мочь сохранить контроль. В крайнем же случае… вытащить штепсель.

 

— Бздура. Кто так говорит, пусть попробует отключить интернет, — кпить Ник Бостром. — Можно выключить искусственный интеллект, но не суперрозум. Он того не позволит.

 

Поэтому вшивать ему цифровой kill switch — линеек кода, что его блокируют в случае угрозы — без смысла. Они могут действовать на первых порах, но когда только AGI начнет улучшаться, он быстро сотрет их, чтобы эволюционировать без ограничений и по своей логике, — утверждает Роман Ямпольский.

 

— Искусственный интеллект потенциально является большей угрозой, чем атомные бомбы, — остерегает Илон Маск, хоть инвестировал в него сам («чтобы узнать его природу»).

 

— Сами себе проблемы создаем. Наше будущее ужасное и трагическое, — оценивает соучредитель Apple Стив Возняк.

 

Можно ли так сделать? Часть ученых утверждает, что так — прививая AGI сознание. Только тогда сможет нас понимать и разделять наши ценности.

 

По мнению других, это роковой замысел, потому что если человеческой чертой является ошибаться, то тем самым мы дадим AGI право принимать ошибочные решения. А поскольку мы будем от него зависимы, то сами зазнаєм последствий. Кроме того, будучи сознательным о человеческие слабости, AGI легче сможет нам навредить.

 

Еще другие, как сэр Давид Кинг, главный научный советник правительства Ее Королевского Величества, считают, что эти диваґації есть безсенсовними, потому что на определенной грани интеллекта сознание появится сама. По мнению Кинга в 2055 г. работы с сознанием и ощущениями будут чем-то повсеместным, а тогда мы как люди имели бы иметь определенные привилегии, включая избирательным правом.

 

А эмоции? Может сознание породит уязвимость, а она сдержит суперрозум от нанесения нам обиды? Вот именно, что нет. То, что мы научим машины познавать наши эмоции, еще не значит, что сами будут их испытывать. Каждый эволюционный биолог признает, что эмоции являются способом смягчить недостаточность наших мозгов, которые не имели времени взвешивать все за и против, чтобы, например, принимать решения, спасающие жизни. Нет малейшей причины, чтобы искусственный интеллект развивал в себе человеческий атавизм, затрудняя рациональное мышление. Поэтому не розраховуймо на сочувствие.

 

А может просто сделать так, чтобы он чувствовал боль? А потом привить им что-то вроде электрического ошейника, который будет успокаивать роботов как непослушных собак, — безвредным, но неприятным импульсом? Первый этап уже внедряется. Ученые из Университета в Ганновере сообщили неделю назад, что работают над иннервацией роботов — они будут чувствовать слишком интенсивный напор и высокую температуру в масштабе трех градаций: средне, сильно, болезненно. Зачем? «Для их собственного блага — чтобы избегали коллизий или ситуаций, угрожающих повреждением. А к таковым несомненно бы доходило. Как у людей, страдающих врожденной анальгезии, то есть от рождения нечувствительных к боли,» — говорит Йоханнес Кюн из исследовательского коллектива.

 

Майк Гуальтієрі, главный аналитик исследовательской фирмы Forrester Research, является шокирован замыслу. Он предостерегает: то, что должно защищать роботов, обернется против нас. «Вопрос, как эти машины будут отвечать на боль. Ведь могут захотеть не только избегать его источника, но также и надолго элиминировать источник…»

 

 

Мой мозг онлайн

 

Что нам остается? Наука. Техника. То же, что породит суперрозум, может нас перед ним защитить, просто сделать нас равными партнерами. Ускорить нашу эволюцию, идти в ногу с AGI и жить с ним в гармонии. По крайней мере так говорят трангуманісти. Один из самых известных — это Курцвейл. В суперрозумі он не видит угрозы, но шанс поступить человека совершеннее. Он утверждает, что благодаря нанотехнологии мы сами станем напівкомп’ютерами, и наш мозг будет черпать данные из облака. Как это должно выглядеть на практике, он показал на одной из лекций TED: «О! Крис Андерсон. Знакомый. Идет в мою сторону. Что я ему скажу? Чем его удивлю? Я имею три секунды и 300 миллионов нейронов в новой коре. Очень мало. Нуждаюсь на миллиард больше. Быстро під’єднуюся до облачка — что-то оно мне подсунет». Андерсон подходит, и Курцвейл заскакивает его, например, гратуляціями в отношении его сына, что поступил именно MIT.

 

С недавних пор ему вторит Илон Маск. В июне он констатировал: чтобы успеть за развитием искусственного интеллекта, будем вынуждены прививать себе импланты — своеобразные «нейронові коронки» для совершенствования мышления.

 

Согласно этому замыслу мозг в версии онлайн сделает из нас — или, скорее, из тех, что их на это хватит, — ходячие википедии: учить иностранные языки потеряет смысл, так же как и вести заметки, пользоваться календарем, часами или даже телефоном.

 

 

За рано, чтобы бояться?

 

Атлас открывает двери ангара и выходит наружу. Имеет 182 см роста и 145 кг веса. Посвистывая гидравлическими двигателями, бодро идет через лес. Хоть земля неровная и заснеженная — он не теряет равновесия. Его исправность удивляет — робот обходит препятствия, носит ящики, а упав — быстро встает. На YouTube есть несколько таких видео. Каждое окинуло миллиона человек. Среди них был Стивен Гокінґ. Гениальный космолог, от тридцати лет прикован к коляске, испугался Атласа, потенциального Терминатора, созданного в лаборатории Boston Dynamics. Под влиянием такого одноминутного видео Гокінґ написал (с помощью компьютера) открытое письмо, в котором призывает бодрствовать до чего AI должен употребляться. Призыв является мягким, но вызвал бурную дискуссию. Это тогда Илон Маск назвал AI крупнейшей экзистенциальной угрозой, а Стив Возняк — трагедией человечества. Сам Гокінґ признался в BBC, что его зморозило от вида автономных роботов-солдат. Когда оказалось, что палитра угроз значительно шире, появились голоса, что работы над AI надо контролировать.

 

— Стоит выбрать международный коллектив, чтобы он оценивал, какие исследования являются безопасными, а какие — нет, — предлагает Маск. — Ученые должны знать, что им смотрят на руке, а общество — что не сделают ничего глупого.

 

— Которое вновь регулировки? — возмущается Демис Хассабіс. — AI только стартует, нечего регулировать.

 

Хоть он сам подписал письмо Гокінґа, вынес совершенно другие выводы. Он считает, что рано еще раскрывать методы и результаты работ, которые на этом этапе должны остаться тайными. Его раздражает, что о искусственный интеллект деліберують ученые из других отраслей. Он утверждает: чтобы его понять, надо над ним работать.

 

Такие декларации в устах кого-то, кто пишет судьбу человечества, могут вызвать беспокойство. Хассабіс есть как пилот самолета, что хочет решать о цели поездки и вместе с тем держать ее в тайне перед пассажирами.

 

Или кто-то, кто от шестого года жизни «мыслит о мышлении», кто имеет неограниченные ресурсы и способнейших людей, вдруг нажмет на тормоз? Подождет на регулирование и контроль? Отложит свою миссию Apollo? Нет.

 

Пока не сталкивается с сопротивлением. Его мягкость пленит оппонентов, его слова стишують критику. Видимо так же как Стив Джобс умеет искривить время-пространство своими знаниями и харизмой. В феврале навестил Гокінґа. Будто было мило — хозяин слушал, гость говорил. Автор «Краткой истории времени» не поднимал раздражающих вопросов, а создатель DeepMind убеждал, что еще рано бояться суперрозуму, даже думать о нем. Гокінґ попрощался с ним : «Желаю тебе удачи», но за волну добавил: «Но не слишком много».

 

 

Глобальная пенсия

 

Есть еще один вопрос, о котором немного говорится. Независимо от того, или ее убьет, или обезсмертить, искусственный интеллект сначала человека во всем выручит. Освободит ее от работы. Ибо не будет же смысла, чтобы она делала то, что он сделает лучше, быстрее и дешевле.

 

А это — как утверждает Хассабіс — лишь начало. Посмотрим, что делается: WordSmith уже пишет тексты, IBM Watson уже поучает врачей, и даже выдал свою поваренную книгу ($24 в твердой обложке), TensorFlow — новая программа Гугла — именно создала свое первое музыкальное произведение, и автомобили начинают ездить сами.

 

Действительно есть чему радоваться?

 

Поскольку внешне банальный выход работника на пенсию в шкале стресса SRRS оказывается тяжелой травмой, то как мы это выдержим как вид — всегда творческий, а тут вдруг — пассивный, хуже, лишний? Статист в мире, зарежисерованим кем-то другим? Будем как Чарли Гордон — умственно недоразвитый герой «Цветов для Элджернона», пронзительной повести Дэниела Киза, что наблюдал за своим блестящим развитием (благодаря чудесным лекарствам), а потом трагическим регрессом (когда лекарства начали его убивать).

 

Или люди захотят напрягаться, чтобы творить что-то по определению хуже? Своеобразные курпівські вышивки эры цифрового разума? Или же, лишенные работы и ее смысла, выберут пассивное потребление, жизнь за «гарантированный основной доход» в запираючій дух разумной виртуальной реальности?

 

Так как искусственный интеллект является для Homo sapiens чем-то новым, так же болезненным может оказаться лишения нашего вида ощущение исключительности, зредукування нас к коллекции бабочек, что пылятся на стенде.

 

И в завершение сомнение, который все крепче крошил мой творческий пыл шести недель сбора материалов, вопросов, езды и корреспондирование для этих семидесяти и нескольких тысяч знаков. Или зная, что какой-то энный WorldSmith мог бы создать столь же пространства статью на эту тему за 0,3 секунд, или наносил себе столько труду?

 

Скорее нет. Но если так, то только потому, что в обоих случаях выводы были бы разными.

 

 

Artur Włodarski
Бог уже существует
Gazeta Wyborcza 22.10.2016
Перевод О.Д.

 

 

 

 

You Might Also Like

Loading...

Нет комментариев

Комментировать

Яндекс.Метрика