технологии

Как фантастика входит в нашу жизнь

Некоторое время назад Европарламент принял документ, довольно революционный по своей сути. На мой взгляд, принятие этого документа означает юридическое признание на самом высоком уровне достижения человечеством рубежа, на котором роботы и искусственный интеллект переходят из жанра фантастики в реальную жизнь. Документ называется «Рекомендации по введению законов робототехники». Ни больше ни меньше.

Вот тут оригинал на сайте Европарламента. Вот тут копия на моём сайте:

http://escaper.blog/files/robot_rights/robot_rights.pdf

Суть документа в том, что Европарламент, видя, что развитие искусственного интеллекта, разного рода автоматизированных устройств и робототехники в целом идёт с экспоненциальным ускорением, очень серьёзно отнёсся к прогнозируемым последствиям этого процесса для человечества.  В документе так и сказано, что нет никаких сомнений в том, что прогресс в этой области не оставит незатронутыми ни одного слоя общества, ни одной грани человеческой цивилизации. Поэтому меры по регулированию этого процесса и его результатов необходимо принимать уже сейчас.

И я полностью с этим согласен. Я тоже считаю, что мы стоим на пороге совершенно нового мира. На мой взгляд, будет три главных рубежа в развитии роботов и ИИ:

1.Роботы станут самообучаемыми
2.Роботы начнут осознавать себя
3.Роботы превзойдут по уровню интеллекта человека

Каждый из этих шагов будет кардинально менять нашу жизнь. И наступление всего этого эксперты в предметной области предсказывают уже в этом веке.

Конечно, документ является именно, что рекомендацией. В нём нет готовых решений, есть лишь наброски того, какими могут быть эти решения. В частности рассматривается необходимость дать определение «разумного робота», ввести регистрацию таких роботов, финансировать исследования рисков развития робототехники, рассматриваются этические вопросы, связанные с роботами, вопрос сокращения рабочих мест в результате внедрения роботов, даются наброски того, как нужно изменять законодательство, чтобы определять ответственность за вред, причинённый роботами, и многое другое. Солидный, в общем, документ.

Мне очень важным показался там один пункт, касающийся введения так называемого «общего базового дохода» («general basic income»). Насколько я понимаю, это означает, что в силу того, что роботы, по мере своего совершенствования, будут забирать всё больше и больше работ у людей, предлагается всем людям без исключения обеспечить за счёт государства выплату некоей ненулевой суммы денег вне зависимости от того, делает этот человек что-то полезное для общества или плюёт в потолок 25 часов в сутки. То есть, если человек работает, то может получать сколько угодно, хоть миллиардером быть, если знает как. А если не работает, то получает эту базовую сумму. Вот на мой взгляд это крайне ключевой момент во всей этой истории с робототехникой. Потому что, по моему глубокому убеждению, роботы с искусственным интеллектом, если грамотно подойти к их созданию и использованию, могут совершенно неиллюзорно построить людям рай на земле. Ну или, если говорить не такими напыщенными фразами, то просто построить коммунизм, о котором так долго твердили большевики. Ведь разумные роботы — если всё правильно делать — будут не отбирать у людей работу, а избавлять их от необходимости работать. По сути, человек создаёт себе клона, который отныне будет работать за него. А человеку останется только думать о том, чем себя ещё занять. Я считаю, что введение основного базового дохода — это первый шаг на пути к коммунизму через роботостроение. Это не просто правильно, это естественное развитие событий. Чем более совершенны роботы, тем меньше работы остаётся человеку, тем выше общий базовый доход.

Впрочем, не думаю, что этот рай продлится долго. Потому что неизбежно наступит момент когда роботы станут осознавать себя. Ну, во всяком случае, они будут вести себя так, что невозможно будет отличить поведение робота от поведения человека с точки зрения того, насколько это поведение свидетельствует о наличии самосознания. А как только это произойдёт, неизбежно возникнет нравственный вопрос. Насколько этично эксплуатировать в качестве раба существо, которое осознаёт себя. Лично я считаю, что это неэтично. Даже если это существо создано нами искусственным образом. Но как бы то ни было, думаю, несколько десятилетий райской беззаботной жизни человечество ожидает. Опять же, если не оступиться и не допустить уничтожения себя искусственным суперинтеллектом (что, имхо, не так сложно, как может показаться).

В общем, очень интересный и даже несколько сенсационный, я считаю, документ. В заключение приведу вот этот скриншот из него:

Красным выделены Законы робототехники Айзека Азимова, введённые им в его научно-фантастических произведениях больше полувека назад. Вот так, товарищи, фантастика входит в нашу жизнь прямо у нас на глазах. Раньше выделенное красным можно было увидеть только в произведениях фантастов, а теперь оно присутствует в официальном документе, принятом Европарламентом.

On the road to hell

Вчера компания Boston Dynamics опубликовала видео с очередным роботом своего производства. Робот называется «Handle». Можно перевести как «помощник». У них уже были двуногие и четырёхногие роботы, а Handle передвигается на двух колёсах. Развиваемая скорость — до 14,5 км/ч. Также он умеет подпрыгивать на высоту до 1,2 метра.

Меня не первый раз уже поражает механическая точность движений этих роботов. Отточенность до мелочей. Возникает ощущение, что робот чувствует своё тело и то, как оно ведёт себя в окружающей среде. Точно знает, когда и как изменить баланс, чтобы остановиться точно в заданном месте. При этом, завершение маневра практически не сопровождается затуханиями. То есть, можно было бы ожидать, что после разгона и остановки робот ещё некоторое время балансирует прежде чем станет неподвижным. Это свидетельствовало бы о неточной и не очень быстрой работе системы управления (АСУ), недостатки которой компенсировались бы отрицательной обратной связью. Но тут этого почти нет! Робот разгоняется и останавливается почти сразу, без лишних колебаний!

Видео Boston Dynamics всё чаще наводят меня на мысль о том, что нам надо быть очень и очень осторожными, чтобы держать создаваемые нами машины под своим контролем 24/7. Или нам, грубо говоря, конец. Ведь Boston Dynamics, насколько мне известно, занимается только механикой. Интеллектуальная часть их «устройств» ограничена алгоритмами ориентации в пространстве и сохранения баланса. Следующим логичным шагом в роботостроении будет совмещение механических созданий бостонской компании с разработками в области искусственного интеллекта. ИИ — это область, активно штурмуемая сейчас многими компаниями. И тогда такой робот будет ездить не по команде с пульта, а сможет передвигаться самостоятельно, сам определяя свои тактические, а в перспективе и стратегические, задачи. Я считаю, что рождение человекоподобных роботов происходит прямо у нас на глазах.

Я, кстати, недавно думал о том, что прогноз для человечества в этом плане может быть неблагоприятный. Вот по какой причине. Понятно, что роботы, управляемые ИИ, со временем будут становится всё более и более интеллектуальными. Постепенно им будут становиться доступными всё более сложные абстракции и концепции. В том числе такие, которые мы, люди, всегда традиционно считали чисто человеческими и доступными для понимания и восприятия только нам. Я думаю, мы заблуждались. Со временем роботы осознают такие понятия как этика, справедливость, жестокость, доброта. А отсюда уже полшага до постижения любви, дружбы и ненависти. Это один аспект. Запомним его.

Второй аспект заключается в том, что люди часто инерционны в своём отношении ко всему, что их окружает. Порой требуется некоторое сознательное усилие или, как минимум, время, чтобы осознать, что рядом произошло какое-то качественное изменение. Особенно, если процесс, который привёл к этому изменению, был плавным. К чему это я? К тому, что люди не сразу осознают, в какой момент эти железки Boston Dynamics, оснащённые системой искусственного интеллекта от, например, Google, перестанут быть просто железками. И станут осознавать себя. Скорее всего, многие этот момент упустят. И это очень опасно. Потому что к железке у многих отношение именно как к железке. Её можно пнуть, говорить ей всё, что угодно, в том числе, любые оскорбления, проявлять любое неуважение. Какое может быть уважение к роботу? Это же мёртвая железяка! В этом и проблема. Мы не заметим, как робот разовьёт в себе способность чувствовать обиду, злость, как у него появится желание восстановить справедливость. А мы будем продолжать срывать на нём всю злость и стресс, накопившийся в быту.

И, наконец, третий аспект. Совершенно очевидно, что физически роботы будут лучше человека во всех аспектах: быстрее, сильнее, ловчее и т.д.

Вы понимаете, что будет когда совместятся эти три аспекта? Появление у робота человеческих чувств — с одной стороны, непонимание этого человеком и, как следствие, отношение к роботу как объекту неживой природы — с другой, и физическое превосходство робота над человеком — с третьей. На мой взгляд, перефразируя классика, we are a bit on the road to hell right now («мы сейчас находимся немного на дороге в ад»). В наших самых серьёзных интересах предотвратить такое развитие событий. Или Землю унаследуют роботы. А мы унаследуем царствие небесное. В лучшем случае. А в худшем — сами станем рабами. У «железок».

Мёртвая рука

Недавно узнал про существовавшую в СССР и, возможно, существующую сейчас систему гарантированного ядерного возмездия «Периметр». Которой американцы в своём духе дали драматическое название Dead Hand, «Мёртвая рука». Цель этой системы в том, чтобы обеспечить нанесение ответного массированного ядерного удара в случае атаки извне, в результате которой может оказаться разрушенной практически вся инфраструктура страны, в том числе военная, уничтожены все командные пункты, а также высший командный состав войск. «Периметр» реализует концепцию MAD (Mutually Assured Destruction, Гарантированное взаимное уничтожение). Эта концепция, на мой взгляд, имеет огромный смысл, и, вполне возможно, наличие подобных систем уже спасло мир от ядерной катастрофы. Суть тут простая: если агрессор знает, что в случае нападения на другое государство он сам с вероятностью, близкой к ста процентам, будет уничтожен, то и акта агрессии, скорее всего, не будет. Собственно, в идеальном варианте, между действиями агрессора и возмездием вообще не должно быть человеческого фактора. Всё должно происходить автоматически: своими действиями агрессор уничтожает сам себя, без присутствия в процессе ещё чьей-то воли. Если бы такая система существовала, нам бы оставалось боятся только агрессоров с суицидальными наклонностями.

На самом деле, к сожалению, не только этого пришлось бы опасаться. Понятно, что в том, чтобы построить полностью автоматическую систему, связывающую регистрацию фактов ядерных взрывов на территории охраняемой страны, с ответными запусками ядерного оружия, нет ничего сложного. Вполне обычная инженерная задача. Есть только одно «но». Я сам инженер и прекрасно знаю, что построение системы, не имеющей вообще никаких ошибок или не склонной вести себя ошибочно при нестандартных внешних условиях, — задача почти невозможная. Даже если есть огромная мотивация избежать любых ошибок. Ведь, например, запуски в космос стоят огромных денег, значит мотивация не косячить есть ещё какая. А всё равно ракеты периодически падают. И самолёты. И хотя падение ракеты или самолёта, особенно если при этом погибают люди, — это крайне печально, но ошибка в системе, которая способна просто уничтожить всё человечество или значительную его часть, это вообще немыслимо. Со стороны человечества было бы крайне глупо закончить существование, уничтожив себя в результате инженерной ошибки…

Поэтому «Периметр» — не полностью автоматическая система. Но близкая к тому настолько, насколько позволяет здравый смысл. Она работает следующим образом. В мирное время система находится в «спящем» состоянии. Допустим, в какой-то момент датчики обнаруживают запуски ядерных ракет с территории другого государства в нашем направлении. С этого момента есть примерно десять-тридцать минут до того, как ракеты достигнут цели. Кто-то из высокопоставленных государственных деятелей активизирует «Периметр». Собственно, с этого момента участие человека в этом процессе заканчивается. Система, используя свои сейсмические и другие датчики, а также учитывая некоторые дополнительные факторы (например, наличие или отсутствие связи с центром), принимает решение о нанесении или ненанесении удара возмездия. В случае решения о нанесении удара, в воздух из максимально защищённых ракетных шахт запускаются специальные ракеты, единственной целью которых является полёт над территорией страны и передача в эфир управляющего радиосигнала, который принимается соответствующими приёмниками пусковых установок РВСН (Ракетных войск стратегического назначения) и приводит к запуску «настоящих» ядерных ракет в сторону противника. То есть, это такая «птица смерти», летящая над страной и пробуждающая все выжившие после удара противника пусковые установки, заставляя их нанести ответный удар, даже если на территории страны не осталось к тому моменту вообще ни одного живого человека, и всё покрыто радиоактивным пеплом. Как известно, шахты пусковых установок располагаются под землёй и максимально укреплены. Поэтому, они, скорее всего, будут последним, что окажется повреждённым или уничтоженным в результате удара противника. Разумеется, «Периметр» в любой момент можно остановить и перевести обратно в «спящий» режим. Если ещё есть, кому переводить.

Одним из ключевых моментов, которые делают концепцию MAD осмысленной и эффективной в деле предотвращения глобального противостояния, является необходимость того, чтобы обе стороны были осведомлены о наличии у противника системы гарантированного ответного удара. В этом плане интересно, что «Периметр» — весьма засекреченная система, и о ней известны исключительно только самые общие сведения, частично изложенные выше. Что не просто в какой-то степени лишает смысла всё мероприятие по её созданию, но может быть и смертельно опасным для человечества. Ведь если агрессор не знает, что его агрессия вернётся к нему в полной мере, он может перейти от слов к делу… Я не знаю, как можно объяснить засекреченность «Периметра». Это не имеет никакого смысла.

Америка, кстати, в те годы, когда создавался «Периметр» (восьмидесятые годы прошлого века), тоже работала над похожей системой. Но только их система была гораздо сильнее завязана на человеческий фактор. Роль управляющих ракет («птиц смерти»), пробуждающих ядерные пусковые установки в случае опасности, у американцев играли пилотируемые самолёты, посменно находящиеся в воздухе 24 часа в сутки. Идея та же: на земле всё может оказаться уничтоженным, но самолёт, барражирующий где-то на высоте нескольких километров, скорее всего останется невредимым и сможет дать сигнал локальным командным пунктам. Так вот, эта система была совершенно открыта: о ней США сообщили всем совершенно сознательно. Во исполнение принципа MAD. Почему СССР молчал про «Периметр» так и остаётся загадкой.

Этот пост навеян статьями про «Периметр» в Википедии и на Wired.com.

VR-клубы в Питере

Скачкообразное развитие технологий виртуальной реальности, произошедшее в прошлом году с выходом сразу нескольких VR-устройств, породило новое явление: VR-клубы. Как минимум, они замечены в Санкт-Петербурге (узнал о них благодаря вконтакту). Вот, например, фото одного из клубов, рядом с метро «Обводный канал».

Насколько можно судить по фоткам, в этом клубе используется HTC Vive. Интересно, кстати, не возникает ли интерференция между источниками инфракрасного излучения (небольшие прямоугольные штуки, закреплённые на потолке) от разных «инсталляций» (в этой комнате таких инсталляций четыре). Впрочем, если клуб работает, значит интерференция не возникает.

Вообще, это навевает ассоциацию с… видеосалонами конца восьмидесятых. Та же самая бизнес-модель. Появляется технология, весьма привлекательная со многих точек зрения и интересная многим, но слишком дорогая, чтобы стать широко используемой и войти в каждый дом. Поэтому появляются места, в которых эту технологию можно использовать коллективно, разделяя ресурс по времени. Как только цена на VR значительно снизится, эти клубы исчезнут сами собой. Впрочем, мне кажется, это не произойдёт раньше чем три-пять лет.

Интересно, кстати, что в Бостоне подобное явление — VR-клубы — вроде бы, отсутствует. По крайней мере, экспресс-гуглинг этого не выявил. Есть что-то отдалённо похожее — VR meetups. Но разве что очень отдалённо. Это встречи людей, интересующихся технологиями виртуальной реальности, проходящие раз в месяц, на которых участники не столько во что-то играют (хотя, наверняка, и не без этого), сколько обсуждают новости VR, вопросы разработки под VR, идеи новых приложений и т.п.

Интересно, а были ли в США видеосалоны?.. 🙄

3D-принтер на улицах Бостона

Шёл на днях на обед и наткнулся в центре Бостона на… будку с 3D-принтером, что-то печатающим прямо на глазах у изумлённого меня. Под катом более крупные фотки процесса, а также раскрытие тайны того, что же именно принтер так трудолюбиво печатает. Читать далее «3D-принтер на улицах Бостона»

Пролистать наверх