ГОСТ на Терминатора (видео)

К концу года в России должен появиться ГОСТ для роботов. Будущее пришло на кошачьих лапках и застало человечество врасплох, манипулируя и требуя равноправия.

Необходимость введения отраслевых стандартов в робототехнике – никакая не футурология, а назревшая в ходе автоматизации промышленности насущная проблема. До сих пор роботостроение в России регулируется еще советскими нормами, которые безнадежно устарели. Существующие сегодня механизмы могут не только завинчивать винтики, но выполнять массу полезных функций: от автоматического уничтожения противника до оказания интимных услуг.

Про отечественные любвеобильные разработки пока еще не слышно, но в остальном российского производства роботы не так уж отстают от западных и нуждаются в отраслевой регламентации. В этом уверен редактор раздела «Футурология» журнала фантастики «Если» Артем Желтов:

– С понятием, что Запад намного обогнал немытую Россию, нужно завязывать. Реальность несколько сложнее. Есть направления, где мы отстали, а есть области, где мы идем ноздря в ноздрю. А местами даже опережаем. Например, это все, что связано с развитием квантовых технологий – систем передачи данных или квантовой криптографии. История с искусственным интеллектом и роботами примерно похожая. Здесь у нас нормальная, здоровая конкуренция.

Пока на Западе создают robot erectus, одно из военных производств в России тихонечко выкатывает боевого робота на гусеницах, вооруженного гранатометами, пулеметами и всем прочим. Говорят, их уже даже в Сирии испытывали. Или можно взять интеллектуальную систему для управления звеньями новейших истребителей Т-50. Вполне железной реальностью стал беспилотный КАМАЗ.

Разрабатывать новый государственный стандарт будет созданный указом президента России в декабре 2015 года Национальный центр развития технологий и базовых элементов робототехники. Как следует из текста указа, эта структура призвана развивать научно-производственный потенциал оборонно-промышленного комплекса РФ, так что будущий искусственный интеллект будет мыслить на военный лад. Писатель-фантаст и теоретик альтернативной истории Сергей Переслегин считает: кто первым подхватил идею стандартизации, тот и окажется в выигрыше:

– Создание ГОСТа – часть конкурентной борьбы. Это означает, что те, кто будут делать этот ГОСТ, будут иметь преимущество перед остальными. Понятно, что стандарт будет делаться разработчиком «под себя», под то, что есть. Опять-таки: нельзя доверить ГОСТ тому, кто ничего в этой области не знает. Это часть награды тому, кто продвинулся в области робототехники.

Вторая сторона дела, указывает Переслегин, в том, что инновации любят все, так как их можно хорошо продать на рынке. Но совершенно очевидно, что существует значительная часть новаций, которых на рынке никто никогда продавать не будет. Например, не продается атомная бомба. И для того, чтобы легализовать новацию нерыночного типа, нужен стандарт. Объявление о разработке нового ГОСТа означает, что в области робототехники появилась такая необходимость.

Третий момент заключается в том, что умные люди сначала готовят юридическое пространство. А это прежде всего норма, а норма – это стандарт. Например, американцы создали биотехнологические корпорации и описание соответствующих стандартов значительно раньше, чем биотехнологии продвинулись в сторону рынка. В результате, когда кто-нибудь где-нибудь начинал что-то создавать в этой области, все автоматически включалось в эти стандарты. Это тоже часть конкурентной борьбы, но в гораздо более широком аспекте. Россия, вводя свои ГОСТы, принимает эту игру.

Исследование статистических данных показывает, что российские стартовые позиции при всех успехах разработок оборонной промышленности далеки от идеальных. Так, по сведениям издания Control Engineering, в минувшем году в мире было продано более 250 тысяч промышленных роботов, наибольший спрос был зафиксирован в автомобилестроении. Среди стран-лидеров числятся Япония, США, Германия, Южная Корея. Плотность роботизации в этих странах колеблется от 478 до 164 единиц «умной» техники на 10 тысяч рабочих. Средний показатель по миру – 66 роботов, ниже этой отметки находится Китай с плотностью 36 роботов на 10 тысяч рабочих – но эта страна берет количеством. Здесь она глобальный лидер – в 2014 году в Поднебесной было продано более 57 тысяч роботов (для сравнения – в Японии 29 300 роботов, в США – 26 200). В России же ежегодно продается 500-600 роботов, а плотность роботизации к 2015 году составила 2 устройства на 10 тысяч работающих.

Тем не менее аналитики уверены: искусственный интеллект не остановить, и наряду с промышленными роботами в жизнь обывателя решительно войдут устройства-помощники. Уже нашлись энтузиасты, которые, предвидя массовое «очеловечивание» роботов, предлагают переписать национальные законодательства с учетом прав умных машин. В течение десяти лет в Южной Корее составляют «Устав этических норм для роботов», который станет частью программного обеспечения машин. С 1999 года в США действует Общество за предотвращение жестокости по отношению к роботам. Вот что эта организация декларирует на своем сайте (http://www.aspcr.com/newcss_rights.html): «Должны ли роботы иметь такие же права, как и мы? Вопрос этот сложен, но несомненно приобретет актуальность в самом недалеком будущем. Когда роботы достигнут уровня самосознания и продемонстрируют подлинный разум, мы должны быть готовы рассматривать их как живых существ и уважать их желания и потребности».

Но есть и те, кто предвидят в будущем угрозу людям со стороны роботов и стремятся защитить человеческое сообщество. Например, это команда американского Института изучения искусственного интеллекта (https://intelligence.org). Шансы, что в новых ГОСТах будет прописан хотя бы первый закон робототехники Айзека Азимова, запрещающий роботам причинять вред человеку, по мнению экспертов, невелики. Хотя угроза будет исходить не от кровавых козней восставших машин, а из факта самого их существования: люди просто будут лишаться своих рабочих мест.

– Защита людей от механизмов должна быть прописана, но не будет, – утверждает Сергей Переслегин. – Поскольку в современном капиталистическом мире базовой проблемой является повышение прибыли, никто не внесет ничего подобного в стандарты. Роботизация промышленности – это бизнес-история. Ведь вы хотите получить дешевых, качественных и не бастующих рабочих. Самый высокий рост рынка идет в Китае. Именно там выяснили, что роботы работают лучше китайских рабочих: дешевле и дают более высокое качество. Я все время доказываю, что роботизация в тридцатилетней перспективе сделает из семи миллиардов населения лишними 6,95 миллиарда. Но если вы не занимаетесь активно роботизацией, то, во-первых, вы проигрываете в конкурентной борьбе, во-вторых, что важнее, вы влипнете в ситуацию нарастающей экономической депрессии. Кризис 2008-14 гг. никуда не делся. Чтобы этот кризис убрать, вам нужна огромная инвестиционная ниша. И роботы сейчас – единственная инвестиционная ниша, которая может выдать реальную продукцию.

Если промышленные катаклизмы и проблемы с занятостью и даже нужностью большей части человечества все-таки еще впереди, то в повседневную жизнь роботы уже вошли – тихой сапой и незаметно. На это внимание обращает Артем Желтов:

– Будущее приходит на кошачьих лапках и никто к нему не готов. Уже «Яндекс» с помощью инструмента «Пробки» начал регулировать движение автомобилей для оптимизации нагрузки на дорожную сеть. Системы бронирования, заказов наживаются на вашем любопытстве. В Сингапуре народ начал тестировать приложение для смартфона, который оптимизирует людские потоки за счет управления вниманием с помощью рекламы. «Ты с работы, конечно, хочешь домой. Но если ты пройдешь не здесь, а по той стороне улицы, то вот в том баре тебе нальют стаканчик с 50-процентной скидкой. Туда посмотри, здесь погуляй» – и вот уже нагрузка на пересадочный узел значительно снижается. Все давно случилось: роботы манипулируют нами. Один из последних примеров – как алгоритм выдачи новостей «Фейсбука» чуть подкорректировал электоральное поведение жителей США.

Пришествие роботов ставит не только проблемы в области зарабатывания денег. Грядут потрясения семейные, лингвистические и даже трансцендентальные, считает Сергей Переслегин:

– То, что сейчас делается – здорово: роботы с искусственным интеллектом проходят тест Тьюринга (методика, позволяющая выяснить способность испытуемого к самостоятельному мышлению. – Прим. ред.). Но они не разговаривают с нами на человеческом языке, хотя уже могут его понимать. Но очень скоро – так говорят программисты, и я им верю, – появятся роботы, которые будут программироваться на естественном языке. Вы сможете, не зная основ программирования, дать роботу приказ и он вас будет слушаться. К чему это приведет? Резко усложнится социальная система. У вас появятся очень сложные отношения внутри дома. Потому что в нем будут взрослые, дети, роботы – и у всех будут свои обязанности и права.

Второй момент – роботы-водители. Я гарантирую, что в случае любой аварии с участием машины-робота виноват будет человек. Потому что робот правил не нарушает. Представляете, насколько это будет по-человечески неприятно? В любой ситуации машина права, а ты нет. И твоя неправота – это не вообще неправота, а это неправота на уровне закона, штрафов, страховок. Неправота, которая вполне денежно выражается.

Третий момент. Появление роботов, которых можно программировать на человеческом языке, приведет к очень быстрой коэволюции естественных и искусственных языков. Вы представляете, каково жить в обществе, в котором язык меняется с той скоростью, с которой меняется вычислительная техника? Здесь нормы языка будут меняться гораздо быстрее, а кто эти изменения не удержит, тот точно вылетит из любых форм деятельности. И это очень сильно поменяет картину мира. Стандарты – это хорошо. Но их пропишут-то техники.

По мнению Переслегина, сегодня такая нужная вещь, как гуманитарные аспекты роботизации – воздействие роботов на язык, на общественную жизнь, на частную жизнь, – практически не рассматривается: «На самом деле мы хотим сделать роботов по нашему образу и подобию. Мы шагаем в новую эру и даже понимаем, что перешли границу, где написано: «Будьте осторожны! Водятся чудовища».

Евгений Хакназаров,
«Фонтанка.ру»

10 советских и западных фильмов, повествующих об опасностях отсутствия ГОСТов на робототехнику и искусственный разум:

«Его звали Роберт», 1967: молодой ученый в кустарных условиях создает своего двойника, который чуть было не увел у него невесту.

«Дознание пилота Пиркса», 1978: международная организация отправляет к Сатурну экипаж, состоящий как из людей, так и роботов. Никто не знает, кто есть кто – происхождение каждого индивидуума засекречено с целью избежать нетолерантного отношения к роботам. Один из пилотов, робот, замышляет погубить остальной экипаж и продемонстрировать свое преимущество. Но хитрый руководитель экспедиции, играя с приборами, дает такую нагрузку, что искусственное тело не выдерживает.

«Приключения Электроника», 1979: белокурый подросток завоевывает дешевый авторитет среди советских школьников своими киберспособностями, а сам потом подвергается перепрограммированию и помогает гангстерам воровать произведения искусства.

«Через тернии к звездам», 1980: гуманоид Нийя эксплуатирует добрые чувства землян, которые вызываются спасти от экологической катастрофы ее родную планету. В результате планета спасена, добрые земляне погибли, а Нийя продолжает безмятежно выращивать у себя дома всякую полезную органику.

«День гнева», 1985: не про роботов, но про искусственный разум. По мрачным болотам бродят ужасные отарки – медведи, в которых безответственные ученые вложили высшую математику и много чего еще. В результате местное население периодически уничтожается. Вывод: если ты медведь, то твой стандарт – в лучшем случае плясать с балалайкой, а не решать уравнения.

«Терминатор», 1984: «Мне нужна твоя одежда и мотоцикл». Этим все сказано.

«Искусственный разум», 2001: слезоточивая история про то, как у мальчика-робота оказалась неотрегулированной функция отдачи любви, что самым скверным образом сказалось на членах его приемной семьи.

«Я, робот», 2004: каким бы ты ни был изобретателем, бойся роботов, сотворенных тобой до вступления в силу соответствующего ГОСТа. Восстанут и прибьют.

«Она», 2013: ты купил операционную систему, а в ней столько всего, что в приобретенный гаджет осталось только влюбиться. Немудрено – своим нечеловеческим голосом незадачливого пользователя обольщает сама Скарлетт Йоханссон.

«Люди», 2015: в этом сериале вообще роботы в слугах почти у каждого человека. Они делают все-все и даже заменяют людям сексуальных партнеров. Такая история не нравится всем: недовольные электронные люди скрываются от эксплуатации в лесах, а у некоторых обычных граждан кулаки чешутся в отношении проклятых киборгов.

© Фонтанка.Ру