AI

В субботу сходил на некое мероприятие, посвящённое современному состоянию робототехники. В Бостоне эта тема особенно актуальна, так как у нас располагается штаб-квартира лидера в этой области — Boston Dynamics. В частности, выступал основатель и генеральный директор Boston Dynamics Марк Рэйберт — это он на снимке рассказывает про испытания на устойчивость одного из своих робо-созданий.

Также выступали представители iRobot (делают роботы-сапёры, а также роботы-пылесосы Roomba — у меня такой), General Electric (компания-производитель как минимум половины всех американских автомобилей) и др.

После выступлений была panel discussion («панельное обсуждение»), в котором выступавшие эксперты отвечали на вопросы аудитории. В ответе на один из вопросов директор Boston Dynamics отметил, что они постепенно переходят из режима создания прототипов в режим создания коммерческих продуктов, и первым продуктом, скорее всего, будет робот для применения на стройке, который выйдет на рынок ориентировочно в 2019 году.

Вчера компания Boston Dynamics опубликовала видео с очередным роботом своего производства. Робот называется «Handle». Можно перевести как «помощник». У них уже были двуногие и четырёхногие роботы, а Handle передвигается на двух колёсах. Развиваемая скорость — до 14,5 км/ч. Также он умеет подпрыгивать на высоту до 1,2 метра.

Меня не первый раз уже поражает механическая точность движений этих роботов. Отточенность до мелочей. Возникает ощущение, что робот чувствует своё тело и то, как оно ведёт себя в окружающей среде. Точно знает, когда и как изменить баланс, чтобы остановиться точно в заданном месте. При этом, завершение маневра практически не сопровождается затуханиями. То есть, можно было бы ожидать, что после разгона и остановки робот ещё некоторое время балансирует прежде чем станет неподвижным. Это свидетельствовало бы о неточной и не очень быстрой работе системы управления (АСУ), недостатки которой компенсировались бы отрицательной обратной связью. Но тут этого почти нет! Робот разгоняется и останавливается почти сразу, без лишних колебаний!

Видео Boston Dynamics всё чаще наводят меня на мысль о том, что нам надо быть очень и очень осторожными, чтобы держать создаваемые нами машины под своим контролем 24/7. Или нам, грубо говоря, конец. Ведь Boston Dynamics, насколько мне известно, занимается только механикой. Интеллектуальная часть их «устройств» ограничена алгоритмами ориентации в пространстве и сохранения баланса. Следующим логичным шагом в роботостроении будет совмещение механических созданий бостонской компании с разработками в области искусственного интеллекта. ИИ — это область, активно штурмуемая сейчас многими компаниями. И тогда такой робот будет ездить не по команде с пульта, а сможет передвигаться самостоятельно, сам определяя свои тактические, а в перспективе и стратегические, задачи. Я считаю, что рождение человекоподобных роботов происходит прямо у нас на глазах.

Я, кстати, недавно думал о том, что прогноз для человечества в этом плане может быть неблагоприятный. Вот по какой причине. Понятно, что роботы, управляемые ИИ, со временем будут становится всё более и более интеллектуальными. Постепенно им будут становиться доступными всё более сложные абстракции и концепции. В том числе такие, которые мы, люди, всегда традиционно считали чисто человеческими и доступными для понимания и восприятия только нам. Я думаю, мы заблуждались. Со временем роботы осознают такие понятия как этика, справедливость, жестокость, доброта. А отсюда уже полшага до постижения любви, дружбы и ненависти. Это один аспект. Запомним его.

Второй аспект заключается в том, что люди часто инерционны в своём отношении ко всему, что их окружает. Порой требуется некоторое сознательное усилие или, как минимум, время, чтобы осознать, что рядом произошло какое-то качественное изменение. Особенно, если процесс, который привёл к этому изменению, был плавным. К чему это я? К тому, что люди не сразу осознают, в какой момент эти железки Boston Dynamics, оснащённые системой искусственного интеллекта от, например, Google, перестанут быть просто железками. И станут осознавать себя. Скорее всего, многие этот момент упустят. И это очень опасно. Потому что к железке у многих отношение именно как к железке. Её можно пнуть, говорить ей всё, что угодно, в том числе, любые оскорбления, проявлять любое неуважение. Какое может быть уважение к роботу? Это же мёртвая железяка! В этом и проблема. Мы не заметим, как робот разовьёт в себе способность чувствовать обиду, злость, как у него появится желание восстановить справедливость. А мы будем продолжать срывать на нём всю злость и стресс, накопившийся в быту.

И, наконец, третий аспект. Совершенно очевидно, что физически роботы будут лучше человека во всех аспектах: быстрее, сильнее, ловчее и т.д.

Вы понимаете, что будет когда совместятся эти три аспекта? Появление у робота человеческих чувств — с одной стороны, непонимание этого человеком и, как следствие, отношение к роботу как объекту неживой природы — с другой, и физическое превосходство робота над человеком — с третьей. На мой взгляд, перефразируя классика, we are a bit on the road to hell right now («мы сейчас находимся немного на дороге в ад»). В наших самых серьёзных интересах предотвратить такое развитие событий. Или Землю унаследуют роботы. А мы унаследуем царствие небесное. В лучшем случае. А в худшем — сами станем рабами. У «железок».