«Лет через десять вы, может, влюбитесь в стюардессу, даже не подозревая, что она робот». Профессии будущего: адвокат по робоэтике
События

«Лет через десять вы, может, влюбитесь в стюардессу, даже не подозревая, что она робот». Профессии будущего: адвокат по робоэтике

Совместный проект «Нации» и FITRON.

автор Анастасия Шевцова/заглавное фото — кадр из Saturday Night Live

16 Ноября 2018

В 2015 году Агентство стратегических инициатив совместно с Московской школой управления «Сколково» выпустили «Атлас новых профессий». В нем собраны те специальности, которые окончательно устареют к 2030 году, и те, что к этому времени станут максимально востребованными (хотя некоторые из них еще даже не существуют).

Совместно с фитнес-клубом Fitron мы выбрали из «Атласа» несколько интересных профессий будущего и пообщались с их представителями или провозвестниками. (О космических гидах можно почитать здесь, об инженерах киберпротезов — здесь, об архитекторах виртуальной реальности — здесь, о сити-фермерах — здесь, об ИТ-генетиках — вот здесь.)

О профессии адвоката по робоэтике мы поговорили с директором департамента развития и планирования Фонда «Сколково», координатором Центра компетенций по нормативному регулированию цифровой экономики Сергеем Израйлитом.

Адвокат по робоэтике — специалист, который разрабатывает нормы, этические правила и законодательство для роботов, а также нормы взаимодействия роботов и людей.

— Насколько наука продвинулась в вопросах создания искусственного интеллекта?
— Искусственный интеллект (ИИ) — это не одно решение, а множество технологий, объединенных одним общим свойством: самообучаться и изменять свое поведение при получении новой информации. Поскольку такие программы уже давно и повсеместно используются, то задачу создания ИИ можно считать решенной. Вопрос в наших ожиданиях от ИИ.
Ранее создание ИИ связывалось с прохождением теста Тьюринга. Это стандартный метод оценить способность отличить разговор человека с роботом от разговора человека с другим человеком. Могу вам сказать, что люди, участвующие в таких тестах, уже далеко не всегда на это способны.
Например, в начале лета на Петербургском юридическом форуме компания «МегаФон» представила робота, который участвовал в судебном споре с профессиональным юристом Романом Бевзенко. Тогда робот проиграл. Но проводилось еще несколько менее публичных соревнований, и уже случалось, что робот выигрывал у юриста-человека. Так что, с точки зрения Тьюринга, ИИ создан и функционирует.

— Самый совершенный, самый передовой робот в мире сегодня — какой?
— Назову класс роботов, а не конкретную модель. Конечно, самые совершенные роботы сегодня — это Яндекс.Карты, GoogleMaps и подобные им системы. Они не являются роботами в обывательском понимании, это не механические люди, которые двигают руками и ногами. Но ведь нас с вами интересует передовой робот не сам по себе, важна та ценность, которую он для нас с вами представляет. По моему мнению, это поисковая система, которая выдает ответы на запросы. Она обрабатывает огромное количество данных и делает сегодня наиболее сложные выводы о том, какую информацию вы желаете найти.
Смартфон уже принимает некоторые решения за вас. Яндекс.Карты показывают не только дороги и общеизвестные объекты, но и, например, контекстную рекламу. Она подбирается исходя из ваших интересов. Я вот привык пользоваться определенными заправками и магазинами, и со временем Яндекс.Карты показывают мне эти заправки и магазины на любом маршруте. Это удобно для бизнеса. Но это удобно и для меня — я вижу релевантную информацию, а не просто рекламу.
Этот алгоритм не является в полной мере ИИ, в частности, он не предназначен для того, чтобы вести с вами непринужденную беседу. При этом он использует отдельные элементы, относящиеся к определению ИИ: самообучение, сортировка информации. И, разумеется, таким алгоритмам, конечно, еще далеко до General AI (общий искусственный интеллект), в котором все видят угрозу захвата власти над людьми.

— Можно ли создать по-настоящему разумного робота?
— Можно. Это давно уже не проблема. Куда важнее, что «умность» машины в конкретной задаче не означает ее способность к стратегическому целеполаганию. Это одно из главных отличительных свойств человека: наш разум может выстраивать долгосрочную программу действий, приводящую к результату, а роботы — пока нет. Это долгосрочное планирование у роботов реализовано сегодня довольно слабо. Они пока совершают большое количество ошибок.
Серьезный шаг в этом направлении — это ИИ, который играет в стратегические игры. Например, в шахматы. Как только робот обыгрывает в шахматы гроссмейстера, это означает, что к долгосрочному планированию на этом конкретном поле робот способен уже больше, чем человек. Но человек может играть одновременно на огромном количестве полей и, самое главное, менять правила, не особенно напрягаясь. Робот этого пока не умеет. Поэтому вот эта область — смысл действий и самоопределение (что я и для чего я существую?) — у роботов пока развита слабо. И, слава богу.

— По прогнозам Дэвида Хэнсона, создателя робота Софии, к 2045 году роботы начнут вступать в браки и голосовать. Все зайдет настолько далеко?
— Полагаю, что этот результат будет достигнут сравнительно легко. Следует ожидать совсем других — и более глобальных — событий. Например, я — сторонник концепции технологической сингулярности (ТС) Вернора Винджа (американский профессор математики, писатель-фантаст). Математически сингулярность — это точка, в которой радикально изменяется динамика развития любой системы, в том числе и общества. Наши старые модели придется отбросить, поскольку реальность и среда обитания человека резко изменится. Виндж в своей концепции 1993 года предполагал, что ТС наступит между 2005 и 2040 годом. Сейчас можно делать более точные прогнозы. Мой прогноз — через 10 лет, то есть в 2027-28 году.
Представьте, что большую часть вашей жизни будет планировать робот — персональный помощник вроде Siri. Он будет подбирать вам работу, находить развлекательные туры, рекомендовать фильмы и т.д.. Для всего этого он собирает огромное количество данных о вас и действует абсолютно в ваших интересах. Но дело в том, что это он уже управляет вашей жизнью, а не вы.
Наступит момент, когда наиболее продвинутые люди утратят контроль над планированием своей жизни и передадут это системам, которые по сути являются апгрейдом Яндекс.Карт — не таким уж, кстати, серьезным, как может показаться. Это и будет ТС: с этого момента ИИ (а его уже в полной мере можно будет назвать искусственным интеллектом) станет основным субъектом, который организует и планирует жизнь на Земле. Но этого не стоит бояться. К этому надо относиться как к неизбежному наступлению зимы: надо просто тепло одеваться.

— Есть ли в каких-то странах ограничения, запреты на использование роботов?
— На государственном уровне — мне такие случаи неизвестны. Но вот Илон Маск вместе с другими миллиардерами создал пару лет назад специальную ассоциацию. Ее цель — добиться того, чтобы распространение систем с ИИ производилось очень осмысленно и подконтрольно.
Но человек может просто не понять, что какое-то решение робот принял по его же поручению. Представьте: ИИ, пусть еще не такой глобальный, как предполагается в технологической сингулярности, но уже действующий в ваших интересах, принял решение продать вашу квартиру. И продал. Вы, естественно, возмущены, вы такого приказа не давали. На самого робота вы не сможете подать иск. Мы, люди, скорее всего, не признаем роботов субъектами, по крайней мере, в ближайшие лет десять. Значит, вы подадите в суд на компанию-разработчика. Адвокат по робоэтике нужен, чтобы прояснить вопрос: действовал ли робот в ваших интересах или преследовал интересы разработчика, нарушил ли какие-то правила, в том числе и ваши указания, либо тщательно и методично решал поставленную вами задачу — «убраться куда-нибудь из этой проклятой берлоги».
В таком, почти неизбежном, положении дел есть свои риски. Например, сегодня человеческого ума не всегда достаточно, чтобы оценить последствия действий систем с ИИ. Поэтому нужно создавать системы ИИ, которые смогут контролировать и оценивать действия других систем.

— Кто должен нести ответственность за преступление, совершенное беспилотным танком?
— Танк — это машина для уничтожения. Если какой-то роботизированный танк уничтожит группу террористов — это один разговор. А если он сделает то же самое с группой гражданских, приняв их за террористов, — совсем другой. Хотя в обоих случаях робот мог «думать» совершенно одинаково. Просто подвела программа или не хватило информации, чтобы отличить один случай от другого. Сегодня мы не признаем за танком ответственности за его действия, он всего лишь машина. Значит, ответственность лежит либо на том, кто отдал приказ, либо на том, кто настраивал программный код, либо на том, кто работал с этим танком на этапе тренировок и заложил в него определенную модель поведения. Или кто-то один в полной мере, или несколько человек могут нести ответственность за то, что танк уничтожил не ту цель.

— Первый закон роботостроения по Азимову: робот не может причинить человеку вред. Но кто даст гарантии, что этого робота не создадут террористы?
— Я считаю, что такая вероятность очень мала. ИИ — это сложные системы, которые требуют труда не одиночек, а большого числа высокопрофессиональных специалистов. Полагаю, что спецслужбы не зря едят свой хлеб и просто не позволят сколотить террористическую организацию, которая сможет собрать таких спецов. Намного вероятнее риск человеческой ошибки. Все в порядке, если интеллект, который контролирует, умнее интеллекта, который контролируется. В противном случае высок риск, что сильный ИИ даже не заметит, что вышел из-под контроля.

— Возможно ли совместить живые ткани и механику?
— Если произойдет все то, о чем мы с вами говорили (и я не вижу причин, чтобы это не случилось), конечно, можно пофантазировать на тему кибернетических систем, в которых сращиваются физическая основа робота и живые ткани. Например, упомянутая вами робот София. В ней, правда, используются не биологические ткани, но вы же не будете проводить генетические тесты при знакомстве с девушкой или парнем? Я думаю, через 5-7 лет появятся антропоморфные роботы, которых будет очень сложно отличить от человека.
Представьте себе стюардессу, которая обучена всем видам первой медицинской помощи, в ее голове крутятся миллиарды сценариев поведения — с учетом опыта всех остальных стюардесс в мире, и при этом она гораздо более клиентоориентирована, чем любой живой человек. И почему бы в такую стюардессу не влюбиться?

— Допустим, технологическая сингулярность наступит через 10 лет. А что будет с миром через 50-100 лет?
— Особенность любой сингулярности в том, что траектория развития меняется резко и слабопредсказуемо. Как следствие, наше будущее зависит от той траектории, по которой мы войдем в технологическую сингулярность, а незаметные, на первый взгляд, различия могут привести к радикально отличающимся результатам.
В случае удачного входа в ТС, мы получаем сильный ИИ, который нам, как старший брат, правильнее даже сказать — как всемогущий космический разум. При правильном настрое такого робота мы можем решить почти все свои вопросы — бессмертия, космической экспансии, контроля над материей. Мы сможем создать себе планету в любом месте галактики с любой флорой и фауной.
Неудачный вход в ТС приведет к тому, что человек будет заперт в тюрьме. Возникнет полицейский режим. Можем, например, лишиться права выходить в космос, использовать оружие массового поражения, модифицировать геном живых существ. Ну, и все соответствующие исследования будут свернуты, в том числе, и по ИИ.
Есть и сценарий полного уничтожения. Он существует и без развития искусственного интеллекта. Но в ситуации драки за власть между ИИ и человеком возможно все, включая и уничтожение Земли.
Возможные сценарии достаточно системно и подробно описаны в книге Ника Бострома, которая так и называется — «Искусственный интеллект».

— Куда идти учиться, если хочешь стать адвокатом по робоэтике?
— Пик востребованности адвокатов по робоэтике придется на период непосредственно перед ТС, то есть, ближе к 2027 году. Учиться надо, как ни странно, математике, лучше всего идти на Физтех или Мехмат МГУ. Параллельно на старших курсах придется разбираться в праве.
В нашем Центре компетенций по нормативному регулированию цифровой экономики мы готовы будем начать стажировки по робоэтике с 2019 года, если есть желающие — приходите уже сегодня. Нам нужны те, кого интересуют вопросы робоэтики и машиночитаемого права.