Альберт Ефимов: не бойтесь, до создания терминатора - еще столетия

Свыше тысячи ведущих мировых экспертов подписали открытое письмо, предупреждая о тяжких последствиях гонки вооружений, основанной на искусственном интеллекте. В числе подписантов – Стивен Хокинг, Илон Маск, создатель Apple Стив Возняк, глава Google DeepMind Демис Хассабис.

«Технологии достигли такого пункта, когда применение  [автономных вооружений] является  - если не юридически, то практически – реальным в течение лет, а не десятилетий; ставки высоки: автономные вооружения можно считать третьей оружейной революцией, после изобретения пороха и атомного оружия».

Иллюcтрация Flickr

По мнению авторов послания, которое подписали участники Международной конференции по искусственному интеллекту в Буэнос-Айресе, искусственный интеллект может использоваться на поле боя для защиты жизни военных, но не для создания наступательных вооружений, действующих независимо от воли человека.

Глава Робототехнического центра «Сколково» Альберт Ефимов солидарен с авторами письма в том, что запрет на создание роботов-убийц действительно стоило бы ввести: «Подобные проекты антигуманны, - говорит он. - В принципе плохо, когда ученые занимаются не проблемами общества, а вооружениями».

Ефимов полагает, что подобный запрет был бы в национальных интересах России и Китая: «Сейчас наше отставание по системам искусственного интеллекта, скажем, так, - заметно. Чем меньше такие системы будут развиваться, тем больше это в интересах нашей страны и Китая».

Альберт Ефимов. Фото из личного архива

Другое дело, что споры об автономных системах вооружений опоздали, по мнению Ефимова, на многие десятилетия. «Автоматические системы, обладающие возможностью поражать живую силу и технику, стоят на вооружении всех стран уже десятки лет; эти системы, в особенности, зенитные, работают в автоматическом режиме уже давно и принимают решения без какого бы то ни было участия человека. Так что в принципе это спор ни о чем, надо было спорить намного раньше, еще в 60-х годах, когда начиналась разработка такого рода оружия», - уверен эксперт.

Между тем авторы открытого письма считают, что создание автоматических систем, которыми управляет искусственный интеллект, качественно изменит ситуацию.

Стоит только одной военной  державе начать разработку систем, способных выбирать цели и действовать автономно, не под прямым контролем человека, это породит гонку вооружений, подобную ядерной, пишут авторы.  Но в отличие от ядерной гонки вооружений в данном случае не потребуются специфические материалы, которые трудно создать; при этом мониторинг создания подобных систем почти невозможен.

«Конечный пункт подобной технологической траектории вполне очевиден, - говорится в письме. – Автономные системы станут «калашниковыми» завтрашнего дня. Ключевой вопрос для человечества сегодня заключается в том, начинать ли глобальную гонку искусственного интеллекта или предотвратить ее на старте».

Маск и Хокинг предупреждают: искусственный интеллект -  это «наша самая большая экзистенциальная угроза», и что его разработка в полном объеме «означает конец человечества». Некоторые другие из подписавших открытое письмо в последнее время изменили свои взгляды на искусственный интеллект. В частности, основатель Apple Стив Возняк заявляет, что роботы будут полезны людям, «как домашние животные».

Альберт Ефимов не сомневается в искренности большинства экспертов, подписавших открытое письмо. «Но меня поражает лицемерие некоторых больших имен: эти люди совершенно не стесняются брать гранты Пентагона для исследования искусственного интеллекта, и точно знают, для чего это будет использоваться. Это вообще очень сильно обнажает лицемерие некоторых ученых. Те же самые люди, что подписывают петицию о запрете создания искусственного интеллекта для летального применения, занимают очередь за грантами DARPA. А ведь DARPA сегодня – это, наверное, основной источник поддержки таких исследований».

Впрочем, у Ефимова есть и хорошая новость. «Общество может не бояться: до создания искусственного интеллекта в виде терминатора – еще столетия». 

Не все эксперты разделяют оптимизм Альберта Ефимова в отношении этого прогноза. Британский ресурс Wired ссылается на доклад, подготовленный по заказу Пентагона, согласно которому «тучи роботов-убийц» появятся уже к 2050 году. 

Как пишет газета The Financial Times, Пентагон является одним из основных сторонников исследований в области робототехники, и в 2013 году его подразделение, Управление военно-морских исследований, выделило грант на 7,5 млн долларов ученым из пяти университетов, включая университеты Тафтса, Брауна, Джорджтаунский и Йель на проведение исследования на тему: можно ли научить роботов отличать правильное от неправильного.

«Западные военные стратеги опасаются, что если они не будут разрабатывать подобные технологии, они уступят первенство в новой гонке вооружений потенциальным противникам, таким, как Китай», - замечает FT.