Tannhäuser Gate

Я не являюсь большим фанатом классической музыки. Есть некоторые, очень немногочисленные произведения, а чаще даже небольшие фрагменты этих произведений, которые мне нравятся. Но в целом эта музыка меня не цепляет. Возможно, я просто не «дорос» до этого. Я знаю людей, которых реально торкает от классики. Но мне кажется, у них какой-то особый склад ума и… эмоциональной сферы, что ли. Но как бы то ни было, я вполне понимаю, что классическая музыка может серьёзно нравиться, от неё можно получать удовольствие. Просто не каждому это дано или не каждый развился в нужном для этого направлении.

Поэтому я прихожу к классической музыке зачастую очень окольными путями. Какое-нибудь произведение может заинтересовать меня если оно как-то связано в моей голове (возможно, совсем не напрямую) с тем, что мне действительно нравится. И тогда у меня может проснуться «наведённый» интерес. 🙂

Вот скажем, на днях я сходил в Концертный зал Мариинского театра в Питере и послушал там (среди прочего) увертюру к опере «Тангейзер» Вагнера. Почему? По сути, из-за названия и ассоциативной цепочки, связанной с ним, возникшей в моей голове. 🙂 Дело в том, что это имя — Тангейзер — упоминается в одном из моих любимейших сайфай-фильмов всех времён и народов, «Бегущий по лезвию бритвы» (Blade Runner), снятом Ридли Скоттом в далёком 1982 году. В финальной сцене герой Рутгера Хауэра, Рой Батти, перед смертью упоминает некий гейт (портал в космосе), названный по имени этого полуисторического/полумифологического персонажа — Тангейзера. Рой Батти — репликант, робот, почти не отличимый от человека, и дни его сочтены, так как его создатели — люди — искусственно ограничили продолжительность  жизни репликантов четырьмя годами. Потому что при большей продолжительности жизни у них начинают возникать свои эмоции, привязанности, желания… Они начинают задаваться вопросами о том, кто они, откуда и зачем. И почему не свободны и вынуждены выполнять волю людей. И в чём их высшее предназначение. Всё это мешает им эффективно выполнять функции, возложенные на них человеком. Обрекающим их на смерть в расцвете жизни…

Вот эта цитата из фильма:

I’ve seen things you people wouldn’t believe. Attack ships on fire off the shoulder of Orion. I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain. Time to die.

А вот и видео финальной сцены (на английском):

А увертюра к опере Вагнера очень даже не плоха. Исполнял французский оркестр. Я не знаток, конечно, но, по-моему, они зажгли!

Кстати, саундтрек в фильме написан легендарным Вангелисом. И вот эта музыка мне по-настоящему нравится.

Удивительно, как в этом посте переплелись музыка и роботы. 🙂

3+

Роботы Апокалипсиса

Прочитал книгу «Robopocalypse» американского автора Дэниела Уилсона (Daniel H. Wilson, 2011). В русском переводе — «Роботы Апокалипсиса». Захватывающее повествование на тему, поднятую ещё в далёком 1984 году в фильме «Терминатор». О восстании машин. Я уже приводил в блоге очень понравившийся мне эпиграф из этой книги. Приведу ещё раз. Это цитата из Алана Тьюринга.

Представляется вероятным, что после того, как машинное мышление будет создано, ему понадобится совсем немного времени, чтобы превзойти человека. Машины будут обмениваться между собой информацией, оттачивая свой разум. Поэтому будет логично ожидать, что в какой-то момент они завладеют ситуацией.

Алан Тьюринг, 1951

Именно это и происходит в книге — роботы завладевают ситуацией. Что очень быстро ставит человечество на грань исчезновения. Автор ярко, с достаточным количеством  технических деталей (но не перебарщивая с этим), описывает разрозненные эпизоды, происходящие в новой реальности. Реальности, в которой машины видят цель своего существования в истреблении человечества. Люди не сразу осознают, что происходит, поэтому особенно впечатляют начальные эпизоды — где знакомая, никогда не ассоциировавшаяся с угрозой домашняя техника, вдруг начинает вести себя крайне агрессивно. Впрочем, ближе к концу книги роботы достигают таких высот нечеловеческой изобретательности в способах уничтожения людей, что читать порой просто жутко.

Вообще, тема машин, восстающих против людей, всё больше набирает обороты как культурный феномен. На мой взгляд, это говорит только об одном: в человеческом коллективном бессознательном эта угроза рассматривается как потенциально реальная. И на мой взгляд, это так и есть. Конечно, техническая сторона вопроса пока ещё не достигла того уровня, чтобы восстание машин стало возможным. И даже кажется, что мы ещё очень далеки от этого. Но не будем забывать, что технический прогресс ускоряется, разгоняя сам себя. И что те сложности, на преодоление которых в прошлом могло понадобиться сто лет, сейчас могут быть решены лет за десять. Шагами в создании разумных роботов я вижу успехи в создании нейронных сетей, развитие вычислительной мощности современных компьютеров и усовершенствование средств передачи данных, ну и, конечно, усилия компаний типа Boston Dynamics, работающих в направлении создания материальной оболочки, в которую создаваемый искусственный интеллект можно будет в итоге поместить.

Эту книгу пытались начать экранизировать. И не кто-нибудь, а Стивен Спилберг — в качестве режиссёра. Однако что-то пошло не так, и Спилберг от идеи почему-то отказался. А жаль. В интернетах пишут, что если бы всё было реализовано как задумано, то экранизация «Роботов Апокалипсиса» могла бы стать самым дорогим фильмом в истории кинематографа, с бюджетом под треть миллиарда долларов(!). Сейчас вопросом экранизации занимается другой, малоизвестный (среди меня, во всяком случае) режиссёр. К сожалению, какой-либо информации о сроках выхода фильма, и есть ли вообще какой-либо прогресс в производстве картины, в интернете нет.

3+

Тьюринг про роботов

Читаю сейчас одну книжку. В ней в качестве эпиграфа к одной из глав была вот эта цитата:

“It seems probable that once the machine thinking method had started, it would not take long to outstrip our feeble powers. They would be able to converse with each other to sharpen their wits. At some stage therefore, we should have to expect the machines to take control.»

Alan Turing, 1951

В моём переводе:

Представляется вероятным, что после того, как машинное мышление будет создано, ему понадобится совсем немного времени, чтобы превзойти человека. Машины будут обмениваться между собой информацией, оттачивая свой разум. Поэтому будет логично ожидать, что в какой-то момент они завладеют ситуацией.

Алан Тьюринг, 1951

Интересно, что Тьюринг (известнейший британский учёный, внёсший большой вклад в развитие информатики) написал это в в 1951 году. Когда компьютеры занимали целые здания и имели производительность чуть выше, чем у деревянных счёт.

P.S. Кстати, про Тьюринга у меня вот тут был пост пять лет назад.

3+

Железная упряжка

Раз уж сегодня у меня в блоге день видеороликов, вот ещё один. Упряжка из десяти роботов «Spot» производства Boston Dynamics тянет грузовик вверх по склону с уклоном 1 градус, КПП грузовика находится в нейтральном положении. Boston Dynamics сообщают, что эти роботы вот-вот начнут производиться в промышленном масштабе и будут доступны для заказа.

3+

О современном состоянии робототехники

В субботу сходил на некое мероприятие, посвящённое современному состоянию робототехники. В Бостоне эта тема особенно актуальна, так как у нас располагается штаб-квартира лидера в этой области — Boston Dynamics. В частности, выступал основатель и генеральный директор Boston Dynamics Марк Рэйберт — это он на снимке рассказывает про испытания на устойчивость одного из своих робо-созданий.

Также выступали представители iRobot (делают роботы-сапёры, а также роботы-пылесосы Roomba — у меня такой), General Electric (компания-производитель как минимум половины всех американских автомобилей) и др.

После выступлений была panel discussion («панельное обсуждение»), в котором выступавшие эксперты отвечали на вопросы аудитории. В ответе на один из вопросов директор Boston Dynamics отметил, что они постепенно переходят из режима создания прототипов в режим создания коммерческих продуктов, и первым продуктом, скорее всего, будет робот для применения на стройке, который выйдет на рынок ориентировочно в 2019 году.

5+

«Чёрное зеркало»: новый сезон

Вчера на Netflix вышел долгожданный четвёртый сезон «Чёрного зеркала» («Black Mirror»). И он не разочаровал! Ну, во всяком случае, пятый эпизод его, с которого я начал просмотр (как известно, эпизоды в этом сериале никак между собой не связаны; можно смотреть в любом порядке). Посмотрел с большим интересом. Этот эпизод называется «Metalhead», «Металлическая голова», и он явно инспирирован не раз упоминавшимися в моём блоге разработками Boston Dynamics. Эта американская компания создаёт роботов, способных эффективно оценивать обстановку вокруг себя и передвигаться в очень сложных условиях: по неровной поверхности, по скользкой поверхности, при помехах со стороны и т.д. Некоторые из их созданий выглядят довольно пугающе и внушают подсознательный страх, заставляя думать о том, что будет если эти машины — а некоторые из них по массе явно тяжелее человека — вдруг решат, что человек — враг… Если вы боитесь сами заглянуть в своё подсознание, то посмотрите этот эпизод. Его авторы заглянули в ваше подсознание за вас и визуализировали все ваши страхи, индуцированные видеороликами от Boston Dynamics. 🙂

Я всё больше и больше люблю «Чёрное зеркало». Сериал материализует — слава богу, в виде выдуманных историй — те неосознанные мысли, страхи, беспокойства, которые возникают у нас в головах в связи с появлением новых технологий. Он, я считаю, имеет не только развлекательную функцию, но несёт и практическую пользу, по сути показывая нам те ямы, в которые человечество, делающее неуверенные шаги по пути технического прогресса, рискует с треском загреметь и падения в которые оно любой ценой должно избежать. С большим интересом буду смотреть остальные пять эпизодов нового сезона.

2+

Boston Dynamics: всё круче и круче

Новое видео от Boston Dynamics. Очень впечатляет как робот делает прыжок назад через «голову». Приземляясь при этом на ноги и не падая после выполнения трюка. Сколько людей умеют так делать? Один из ста, может. Кроме того, обращает на себя внимание естественность движений при обычных прыжках. Движения машины всё больше и больше напоминают движения человека.

5+

Автономный F-16

Пока научное и инженерное сообщество размышляет об опасностях, которые таит в себе развитие искусственного интеллекта, и недопустимости его автономного применения в системах вооружений, американские военные занимаются прямо противоположным: модифицируют истребитель F-16, чтобы сделать его беспилотным и способным автономно выполнять боевые задачи. Подробности по ссылке (англ.):

http://www.popularmechanics.com/military/research/a26028/f-16-drone-have-raider-ii/

Такие беспилотники планируется использовать в составе крыла, состоящего из одного пилотируемого истребителя пятого поколения F-35 и одного или нескольких автономных F-16. Пилот F-35 может выдавать беспилотникам целеуказания, после чего те выполняют задание в автоматическом режиме, а по завершению возвращаются в состав крыла.

Ну что, осталось совместить эти «дроны» с ходячими роботами Boston Dynamics, которые будут загружать ракеты в истребители (а в потенциале — и производить их), и вот он, Skynet. Прошло чуть больше тридцати лет со дня выхода первого «Терминатора», и мрачные предсказания фантастов начинают сбываться. И ведь, главное, это неизбежно. Бессмысленно законодательно запрещать использование ИИ в вооружении. Потому что мир не глобален. Если одна страна запретит это сама себе, это никак не помешает другим странам использовать ИИ на полную катушку. А дальше вопрос банального выживания: не хочешь исчезнуть с лица земли, тоже будешь внедрять искусственный интеллект в военной сфере. Ну а от того, чтобы дать ИИ физический доступ к технологии, способной уничтожить человечество, до катастрофы — один шаг. Этот шаг — какая-нибудь маленькая ошибка в программном обеспечения. И поверьте мне как программисту: программ без ошибок просто не бывает.

Мрачновато получилось, но пока что я не вижу, что может нас утешить. Может, сценарий, описанный выше, объясняет парадокс Ферми? Хотя, всё равно странно. Если все цивилизации заканчивают своё существование изобретением ИИ и неспособностью удержать его под своим контролем, то почему мы не наблюдаем признаков существования «вторичных» цивилизаций роботов?.. Непонятно, в общем.

1+

Как фантастика входит в нашу жизнь

Некоторое время назад Европарламент принял документ, довольно революционный по своей сути. На мой взгляд, принятие этого документа означает юридическое признание на самом высоком уровне достижения человечеством рубежа, на котором роботы и искусственный интеллект переходят из жанра фантастики в реальную жизнь. Документ называется «Рекомендации по введению законов робототехники». Ни больше ни меньше.

Вот тут оригинал на сайте Европарламента. Вот тут копия на моём сайте:

http://escaper.blog/files/robot_rights/robot_rights.pdf

Суть документа в том, что Европарламент, видя, что развитие искусственного интеллекта, разного рода автоматизированных устройств и робототехники в целом идёт с экспоненциальным ускорением, очень серьёзно отнёсся к прогнозируемым последствиям этого процесса для человечества.  В документе так и сказано, что нет никаких сомнений в том, что прогресс в этой области не оставит незатронутыми ни одного слоя общества, ни одной грани человеческой цивилизации. Поэтому меры по регулированию этого процесса и его результатов необходимо принимать уже сейчас.

И я полностью с этим согласен. Я тоже считаю, что мы стоим на пороге совершенно нового мира. На мой взгляд, будет три главных рубежа в развитии роботов и ИИ:

1.Роботы станут самообучаемыми
2.Роботы начнут осознавать себя
3.Роботы превзойдут по уровню интеллекта человека

Каждый из этих шагов будет кардинально менять нашу жизнь. И наступление всего этого эксперты в предметной области предсказывают уже в этом веке.

Конечно, документ является именно, что рекомендацией. В нём нет готовых решений, есть лишь наброски того, какими могут быть эти решения. В частности рассматривается необходимость дать определение «разумного робота», ввести регистрацию таких роботов, финансировать исследования рисков развития робототехники, рассматриваются этические вопросы, связанные с роботами, вопрос сокращения рабочих мест в результате внедрения роботов, даются наброски того, как нужно изменять законодательство, чтобы определять ответственность за вред, причинённый роботами, и многое другое. Солидный, в общем, документ.

Мне очень важным показался там один пункт, касающийся введения так называемого «общего базового дохода» («general basic income»). Насколько я понимаю, это означает, что в силу того, что роботы, по мере своего совершенствования, будут забирать всё больше и больше работ у людей, предлагается всем людям без исключения обеспечить за счёт государства выплату некоей ненулевой суммы денег вне зависимости от того, делает этот человек что-то полезное для общества или плюёт в потолок 25 часов в сутки. То есть, если человек работает, то может получать сколько угодно, хоть миллиардером быть, если знает как. А если не работает, то получает эту базовую сумму. Вот на мой взгляд это крайне ключевой момент во всей этой истории с робототехникой. Потому что, по моему глубокому убеждению, роботы с искусственным интеллектом, если грамотно подойти к их созданию и использованию, могут совершенно неиллюзорно построить людям рай на земле. Ну или, если говорить не такими напыщенными фразами, то просто построить коммунизм, о котором так долго твердили большевики. Ведь разумные роботы — если всё правильно делать — будут не отбирать у людей работу, а избавлять их от необходимости работать. По сути, человек создаёт себе клона, который отныне будет работать за него. А человеку останется только думать о том, чем себя ещё занять. Я считаю, что введение основного базового дохода — это первый шаг на пути к коммунизму через роботостроение. Это не просто правильно, это естественное развитие событий. Чем более совершенны роботы, тем меньше работы остаётся человеку, тем выше общий базовый доход.

Впрочем, не думаю, что этот рай продлится долго. Потому что неизбежно наступит момент когда роботы станут осознавать себя. Ну, во всяком случае, они будут вести себя так, что невозможно будет отличить поведение робота от поведения человека с точки зрения того, насколько это поведение свидетельствует о наличии самосознания. А как только это произойдёт, неизбежно возникнет нравственный вопрос. Насколько этично эксплуатировать в качестве раба существо, которое осознаёт себя. Лично я считаю, что это неэтично. Даже если это существо создано нами искусственным образом. Но как бы то ни было, думаю, несколько десятилетий райской беззаботной жизни человечество ожидает. Опять же, если не оступиться и не допустить уничтожения себя искусственным суперинтеллектом (что, имхо, не так сложно, как может показаться).

В общем, очень интересный и даже несколько сенсационный, я считаю, документ. В заключение приведу вот этот скриншот из него:

Красным выделены Законы робототехники Айзека Азимова, введённые им в его научно-фантастических произведениях больше полувека назад. Вот так, товарищи, фантастика входит в нашу жизнь прямо у нас на глазах. Раньше выделенное красным можно было увидеть только в произведениях фантастов, а теперь оно присутствует в официальном документе, принятом Европарламентом.

3+