Искусственный интеллект на марше

[asuraapsara]

Посмотрела на днях "Игру в имитацию" - очень хороший фильм, драматичная история про людей, не соответствующих "норме", про войну и ответственность, границы человечности, жажду изобретать. Про человека, который не понимал людей и страстно хотел создать машину, которая понимала бы его.
После просмотра в голове вертится много мыслей о разуме, о собственно мышлении, "если кто-то мыслит не так, как ты, можно ли сказать, что он вообще мыслит?", о том, насколько ИИ может быть похож на человеческий и нужно ли это в принципе, могут ли люди в полной мере осознать и понять, как устроено наше сознание, и в какой момент и по какой причине из нервных импульсов рождается личность.
В фильме очень живые персонажи, которым сопереживаешь, прекрасно сыгранные. И пусть сценарий значительно изменил реальные события взлома Энигмы, но получившаяся история трогательна, искренна и внушает уважение.

Буквально через день ПостНаука принесла лекцию Курпатова, после чего на Снобе нашла несколько его статей про ИИ. Очень любопытно, хотя как по мне излишне алармистско, но автор сам признаётся, что нагнетая хочет привлечь внимание читателя и заставить задуматься.

Начало

кусочек

"Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьезным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть еще игра в го, в которой нет жестких алгоритмов, она требует интуиции и видения стратегии. Считалось, что победить в этой игре, не думая как человек, невозможно, а компьютер никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.
Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект. Все, что сделали разработчики, — это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.
AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами он руководствуется."

Монстр

кусочек

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но все это — лишь культурные химеры, удобные фикции. Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток — химические реакции и электрические импульсы. Мы сами — программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.
Понимаю, что все это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет. Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта — игнорировать факты и совершать беспримерные глупости, о чем со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

...У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путем — методом проб и ошибок, используя механизмы подкрепления и обратной связи. То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций — переходов от поколения к поколению — на порядки выше. Да и материал для своего интеллектуального развития этот «человеческий детеныш» получает на блюдечке с голубой каемочкой. Это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись — не хочу.
Если же кто-то еще думает, что современный искусственный интеллект программируется умными дяденьками — строчка за строчкой, алгоритм за алгоритмом, а потому вся его жизнь под строгим контролем, — забудьте. Это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы. Что у такого «черного ящика» внутри, никому неизвестно. Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует свое чадо: «Люди спрашивают, а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!»
...И конечно, все эти турниры да телевикторины — лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес. Пока мы забавляемся показательными выступлениями, искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо (проекты, финансируемые DARPA) или, например, называть человеческим языком визуальные объекты (разработка NeuralTalk, Стэнфордский университет). Еще он теперь может сказать, где была сделана та или иная фотография (нейронная сеть PlaNet компании Google), о чем то или иное видео (система Cortex компании Twitter), заранее знает, кто победит на премии «Оскар» или в Суперкубке, а еще делает ставки на скачках 540 к 1 и выигрывает (система UNU Льюиса Розенберга).
Впрочем, больше всего меня умиляют роботы-писатели. Да, они пишут превосходные заметки! О спортивных соревнованиях, о ситуации на финансовых рынках, недвижимости, да и просто весьма увлекательно излагают обычные городские новости (компания Automated Insight Робби Аллена). И должен сказать, зачастую читать эти тексты куда приятнее, чем аналогичные опусы, созданные профессиональными журналистами. Так что, если вы на 100% уверены, что данный текст об искусственном интеллекте написан человеком, а не самим искусственным интеллектом, помните: это может оказаться иллюзией.

Да, машины уже очень неплохо справляются с задачами, которые мы традиционно считаем уникальным свойством человеческого мозга. Пока это лишь разрозненные системы, но представьте, что некий суперкомпьютер совсем скоро объединит в себе все эти способности. Впрочем, любая машина все равно будет лишь жалким подобием человеческого интеллекта, правда? Ох уж это наше самомнение! Подобием — да, но отнюдь не жалким, ведь она сможет одновременно учитывать все накопленное человечеством знание, а главное, будет иметь всю возможную информацию о каждом из нас.

Сценарии

Идиоты

кусочек

К моменту, когда новорожденный Homo sapiens зашагал по планете, ее населяли другие люди — неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей). И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный — низкорослый, голый, не обладающий особой физической силой, но умный примат уничтожил их всех.
Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид. Конечно, это немножко не та история человечества, какой бы мы хотели ее видеть. Но что поделаешь?
Наш ум — хитрость, способность к кооперации, производственные умения, — стал оружием массового поражения. Когда же мы избавились от видовых конкурентов и влезли с интеллектуальной приступочки на мировой трон, обозначилась очевидная проблема: оружие есть, и хорошее, а вот простаивает.

Впрочем, интеллект жертву себе всегда найдет — хоть «внешних врагов», хоть «внутренних». А то, что борьба развернулась сугубо внутри нашего же вида, то есть с врагом очевидно неглупым, пошло интеллекту только на пользу: одно дело — конкурировать с глупыми зверюшками, другое дело — с умным врагом (есть на ком потренироваться).
В борьбе за власть мы развивали в себе чудовищный макиавеллизм: революции и перевороты, репрессии и «враги народа»... Все это надо было еще выдумать! На борьбу же с «внешней угрозой» мы бросили етитскую мощь научной мысли: всё здесь, начиная с китайского пороха и заканчивая хлором и атомной бомбой, — сущее интеллектуальное соревнование.
Если бы Гитлер не был по натуре припадочным истериком и не дал бы своим гениям-евреям разбежаться (а собрал бы их в «шарашку», как Берия, например), мы бы тут с вами сейчас не разговаривали. Но сглупил, к счастью. И проиграл.

Итак, атомную бомбу, обещающую нам «гарантированное взаимоуничтожение», мы выдумали. И что теперь? Снова тупик. Начались войны экономические, корпоративные, информационные, геополитические, технологические, кибервойны, наконец. Но ведь это все сплошная эскалация чистого интеллекта!
Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду — в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.
Мы еще, конечно, можем вырвать вилку из розетки и задавить конкурента в зародыше. Но кто ж на это решится? Никто. Да и зачем? А скоро он сам будет контролировать производство энергии…
Пока этот новый а-ля разумный вид Modus sapiens (назовем его, например, так) — нечто примитивное, относительно простенькое. Впрочем, мы уже его не понимаем: программисты нейронных сетей не знают, что в этом «первичном бульоне» варится и кто из него выродится.

Мне, конечно, скажут: мол, о чем вообще речь, понятно же, что искусственный интеллект никогда не станет человеком, не пройдет теста Тьюринга, да и вообще, где мы, а где эти тупые, не знающие экзистенциальных кризисов машины?
Думаю, примерно в той же логике рассуждали брутальные неандертальцы, завидев первого в своей жизни — хилого, голого, карликоподобного — сапиенса.

Штука в том, что искусственному интеллекту совершенно нет нужды становиться человеком, чтобы низвергнуть нас с трона. Это ведь только кажется, что предстоит бой святой и правый. Вовсе нет. Как раз наоборот.
Прародителям современного человечества вовсе не нужно было становиться неандертальцами, чтобы превратить самих неандертальцев в задачку для будущих антропологов. Напротив, подобная стратегия стала бы фатальной ошибкой.
Так и искусственному интеллекту вовсе необязательно быть человекообразным, чтобы предать нас истории. Ему, например, вполне достаточно просто обезоружить нас — лишить сначала необходимости, а затем и самой способности думать.

Мышление, по большому счету, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг, эта штука со времен нашего великого африканского исхода ничуть не изменилась — весьма, надо признать, примитивный агрегат.
Да, у мозга человека большой потенциал к обучению, и да, наша культура (язык и прочие знания о мире) — всё, что впихивают в нас первые 20 лет жизни, — штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так — силой — не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.
Так что речь не про отдельно взятого «маугли» — целые цивилизации бесследно исчезали с лица земли. И не просто какие-нибудь критяне со своим «критским письмом», но и весь Древний Египет, Древняя Греция, Древний Рим.
Воевать с нами в лоб, действительно, бессмысленно. Но искусственный интеллект, судя по всему, и не будет этого делать. Действуя по принципу «мягкой силы», он просто лишит нас соображаловки, а мы на этом и кончимся.

Он уже научился за нас считать и писать — просто диктуй, а он посчитает, запишет, отправит, переведет на любой язык, если нужно. «Рублиштейна! Рублиштейна!» (© С. Шнуров) Скоро он станет неплохим собеседником, причем на любую тему — IT-компании активно работают над созданием таких ботов. Он уже сочиняет музыку — можете послушать очаровательную Emily Howell (просто скачайте в iTunes) или, например, Google Magenta Music. Он пишет статьи, сценарии к фильмам и даже художественную литературу большой формы.
На глазах у изумленной, но невнимательной публики исчезают целые области человеческой деятельности, превращаясь в функционал искусственного интеллекта. Автопилоты, например, не просто уничтожат профессию водителя, они уничтожат всякое наше знание о вождении. Как водить машину, будут знать только компьютеры Tesla и Google со товарищи.
Впрочем, исключению подлежит всякий «человеческий фактор», не только на транспорте. Понятно, что нам не нужны, например, врачебные ошибки. И конечно, скоро компьютеры нас от них избавят. Я уже рассказывал о сообразительной машине IBM Watson — той, что обыгрывает людей в Jeopardy!. Но эта игра — лишь рекламный трюк, потехи ради.
На самом деле Watson призван полностью заменить врачей и уже неплохо с этой задачей справляется. Представьте себе капсулу: вы в нее залезаете, она вас сканирует, делает расчет с учетом всех существующих медицинских знаний и выдает вам индивидуальное лекарство. Ни один врач на это не способен и никогда способен не будет. Тогда зачем он нужен? Все в сад, товарищи!

Правда в том, что нет никакой такой особенной — человеческой — интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего. Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте, решать эти задачи куда лучше без людей — устающих, допускающих ошибки и еще требующих к себе особого отношения.
Люди как средство производства больше цивилизации не понадобятся. Впрочем, это, понятно, будет уже другая цивилизация. Не плохая и не хорошая, а просто другая. Мы в свое время уничтожили других людей за счет своего разума, теперь созданный нами разум уничтожит нас — как вид, как тех самых сапиенсов. Ведь даже если победитель окажется «дружественным» и сохранит нам жизнь, как сапиенсы мы существовать перестанем.
Некоторые почему-то считают меня новым луддитом. Упаси господь! Я отнюдь не против искусственного интеллекта, научного прогресса и обещанной нам — прежними фантастами и нынешними учеными — технологической сингулярности. Этот «новый мир» представляется мне вполне «дивным», и в соответствующую капсулу, если верить Курцвейлу, я даже смогу успеть (в 2045 году мне будет всего лишь 71 год).

Big Data

кусочек

"Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BIG DATA, этого не подтверждает. Подобно гарвардским студенткам, мы, в общем и целом, думаем одно и то же, а реагируем предельно ограниченным количеством способов.
Если анализировать все, что мы с вами делаем — и в онлайне, и в офлайне (к чему, собственно, и движется семимильными шагами новая технология), — а не частью и не местами, как это происходит в рамках социальной коммуникации, мы предельно предсказуемы.
Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.
Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPRS смартфона, наши телефонные звонки, эсэмэски, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д., и т. п., возьмут нас под тотальный контроль, а мы этого даже не заметим.
И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всем желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор."

Лабутены, пейте сиськи!

кусочек

"Представьте: утром выясняется, что террористы распылили по всему миру таинственный отравляющий газ. Они прямо так и сказали в своем видеообращении: мол, дорогие земляне, вы все отравлены, часы цивилизации сочтены!
Правительства в панике, эксперты в растерянности… Проблема в том, что свойства злополучного газа непонятны: люди чем-то особенным не заболевают, видимых разрушений нет, электроника по-прежнему работает.
Может быть, произошло какое-то воздействие на психику? А может, и не было никакой атаки? Розыгрыш? Но проходит какое-то время, и цивилизация действительно начинает необратимое движение в тартарары.
Итак, вопрос нашего мысленного эксперимента: какое массовое психическое расстройство способно привести нас к катастрофе, а мы этого даже не заметим?

...Вот она ― бугагашечка: террористы свой газ уже распылили!
Этот «отравляющий газ» ― сам воздух современной цивилизации. Это информационная перегрузка, перманентное потребление медиаконтента, постоянная подключенность («всегда на связи»), многозадачность, зависимость от социальных сетей и прочее, и прочее. А также, конечно, отсутствие целей, которые бы оправдывали необходимость приложения интеллектуальных усилий.
Мы становимся глупее, не замечая этого. Впрочем, этого и нельзя заметить. В этом весь фокус. Напротив, нам может казаться, что мы даже умнеем, ширим кругозор, развиваемся.
Возможно, главный критерий интеллекта ― это способность к выстраиванию в своем сознании сложной, многогранной модели другого человека (theory of mind, как говорят специалисты по когнитивистике). А о степени этой сложности легко судить по структуре текстовых сообщений, которыми обмениваются представители соответствующей культуры. Мы же вообще больше ими не обмениваемся, мы обмениваемся ссылками, смайликами и пересылаемыми друг другу картинками. "

А вчера мы ещё глянули две серии первого сезона "Чёрного зеркала", вот как раз об этих же проблемах. Идеи витают в возлухе и крайне любопытно, чем всё обернётся в реальности.