В 2022 году в мире будут повсеместно приняты законы, которые будут регулировать взаимоотношения человека и робота”, как заявил спикер Госдумы Вячеслав Володин. Если уже заявления делаются на таком уровне, то можете не сомневаться, законы будут приняты. Законы – это здорово, но что же нужно регулировать?

Пока дело ограничивается роботами-игрушками, роботами-пылесосами, летающими дронами, которые не могут нанести большого вреда человеку, никаких регулирований не требуется. Но уже сейчас есть мощные промышленные роботы, которые выполняют различные работы в ограниченном пространстве, куда доступ людей запрещен.

Промышленный робот, людям доступ запрещен

Поскольку такой робот, как и любое другое мощное промышленное оборудование может не просто навредить человеку, но и убить ненароком.

Здесь ограничения те же, что и на любом промышленном предприятии. Как говорится “Не стой под стрелой”, или в нашем случае “роботов не дразнить – убьет”.

Есть военные роботы, которые предназначены для участия в боевых действиях, например вот пример военного робота, с емким именем “Металлист“, который не просто может убить, а одной из его задач будет убийство людей.

Робот выполнен на 6-колесном шасси с электроприводом, скорость до 7 км/ч. На специальной поворотной платформе может устанавливаться снайперская винтовка  ВСК-94 и пистолет Ярыгина. Оружие совмещается с прицельными камерами с подсветкой, изображение от которых выводится на пульт оператора. Дальность управления по кабелю – 200 м, по радиолинии – до 500 м.

Здесь даже нет искусственного интеллекта. Робот управляется только с пульта. Слишком опасен для принятия самостоятельных решений.

Теперь вспоминаем, что на дороги общего пользования собираются выпустить автономные автомобили, управляемые искусственным интеллектом и это совсем не тоже самое как автоматическое управление поездами московского метро, которое, кстати, начали внедрять еще в 1961 году, но до сих пор в полуавтоматическом режиме в московской подземке ходят всего несколько составов. Но в каждом из них все равно находится машинист, который контролирует работу автоматической системы, управляет дверями и вмешивается в работу в случае нештатных ситуаций. Автоматике доверяют движение в тоннелях для соблюдения графика движения.

Не нужно забывать, что любой большой механизм – это средство повышенной опасности. Поэтому наделять его правом принимать самостоятельные решения – большая ответственность. Так для роботизированного автомобиля будет трудным решением выбор куда отвернуть в  случае возможной аварии.  Давать ли роботу возможность самостоятельно принимать решение кем пожертвовать: ребенком, выбежавшим на проезжую часть? алкоголиком, пьющим пиво, на тротуаре? бизнесменом, который сидит на заднем сидении? Что роботу делать, если аварии не избежать? Может ли робот принимать такие решения? И кто будет отвечать, если робот что-то совершит? Кто будет нести за это ответственность?  Владелец робота? Производитель?  Программист, который заложил алгоритмы?  Казалось бы тот, кто научил робота всему (программист?) – тот и отвечает за тварь железную неразумную.

В случае с программистом  казалось бы все просто, но сегодня программы – это не линейный алгоритм. Есть такая вещь, как нейронные сети, которые принимают решения  во многих случаях точнее, чем обычная линейная программа. Нейронные сети не программируются – они, похожи на людей в плане того, что “обучаются” на примерах.  Скорее всего в  роботах-автомобилях будет работать именно такая нейронная сеть, и в конечном итоге, точно понять, что из ранее изученного повлияло на конкретное решение – практически невозможно.

Поэтому за действия опасных роботов нужно обязать отвечать их владельцев и вот для этого и нужен закон, чтобы владельцы понимали, чем им грозит выпуск робота в места общественного пользования.

Предлагаю проект закона о производстве и владении роботами с моими комментариями.

Федеральный закон (проект)
О производстве и владении роботами и другими механизмами с искусственным интеллектом  в Российской Федерации

Настоящий Федеральный закон регулирует правоотношения, возникающие при производстве, купле-продаже, дарении, наследовании, содержании, обучении, конфискации и утилизации роботов,таких как промышленных, военных и домашних, а также роботов-пылесосов в Российской Федерации; направлен на защиту жизни и здоровья граждан, обеспечение общественной безопасности. С этой целью он устанавливает государственный учёт, лицензирование владением производством и куплей-продажей роботов. Федеральный закон устанавливает запреты на бои с участием роботов и людей, создание человеко-подобных роботов и другие запреты.

Бои роботов и людей – нужно запретить, поскольку роботы в любом случае будут быстрее и проворнее, и создание человеко-подобных роботов, которых нельзя отличить от людей – тоже запретить, поскольку мы говорим об ответственности за поведение.

Статья 1. Основные понятия, применяемые в настоящем Федеральном законе

Для целей настоящего Федерального закона применяются следующие основные понятия:
Роботы — признанные таковыми настоящим Федеральным законом механизмы, обладающие искусственным интеллектом, производство, и владение которыми гражданами Российской Федерации и юридическими лицами разрешено законодательством Российской Федерации;

Статья 2. Роботы

К роботам отнесены:
Любые механизмы, которые способны перемещаться без участия(управления) оператора, производить действия в автоматическом режиме, подчиняясь командам заложенной программы (искусственного интеллекта). Под определение данного Закона попадают механизмы, размер, масса и другие качества, а также функциональность которых могут при определенных обстоятельствах нанести физический вред человеку.

Т.е отношения с роботами, которые имеет исполнительные устройства, реально способные нанести вред человеку, должны регулироваться Законом. Например,  робот-пылесос, скорее всего не может нанести значительного вреда, а вот робот-автомобиль уже в силу своей массы и скорости может нанести вред, вплоть до смертельного исхода. Если вы добавите к роботу-пылесосу пистолет, то это практически из мурчащего котенка, мы получаем опасного робокота.

Статья 3. Право собственности на роботов

1. Роботы в Российской Федерации могут находиться в собственности граждан и юридических лиц, указанных в статье 6 настоящего Федерального закона.
2. Бесхозяйные роботы, у которых нет собственника либо собственник которых отказался от права собственности на них, задерживаются и переходят в государственную или муниципальную собственность в порядке, установленном гражданским законодательством Российской Федерации.
3. Безнадзорные роботы, имеющие собственника и временно выбывшие из его попечения, а также роботы, собственник которых неизвестен или место его пребывания неизвестно задерживаются и передаются на время розыска собственника лицам, имеющим право на владение роботами в порядке, установленном гражданским законодательством Российской Федерации. Если в течение шести месяцев с момента заявления нашедшего о задержании роботов их собственник не будет обнаружен или сам не заявит о своем праве на них, указанные роботы переходят в государственную или муниципальную собственность, в порядке, установленном гражданским законодательством Российской Федерации.

Уже не далек тот день, когда толпы бесхозных роботов будут копаться в мусорных ящиках в поисках еще рабочих батареек, проситься в дома для подзарядки аккумуляторов, собираться в стаи (или стада?) и вместе заряжаться от какого-нибудь высоковольтного аккумулятора.

Не далек тот день, когда роботы повсеместно будут копаться в мусоре

Статья 4. Государственный учет роботов

1. В целях учета сведений о роботах для идентификации, определения происхождения, установления продуктивности, регулирования численности роботов, их розыска осуществляется государственный учет роботов.
2. Государственный учет роботов представляет собой регистрацию роботов, включая безнадзорных и бесхозяйных роботов.

Каждый робот должен быть учтен и на лбу его или что там у него есть, должно быть яркое клеймо, лучше светящееся.

Статья 5. Лицензирование содержания роботов, производства и владения роботами, купли-продажи роботов

1. Производство, владение, модернизация, купля-продажа роботов в Российской Федерации подлежит лицензированию (причем за отдельные деньги).
2. Лицензии выдаются органами внутренних дел:
1) на содержание роботов гражданами;
2) на содержание роботов, производство и владение роботов, куплю-продажу роботов юридическими лицами с особыми уставными задачами; организациями; подразделениями Российской академии наук, специализированными предприятиями.
3. Лицензии военизированным организациям выдаются органами, уполномоченными Правительством Российской Федерации.

Конечно же нужна лицензия на покупку и уж тем более на производство и модернизацию.

4. Гражданин для получения лицензии на содержание роботов обязан представить в орган внутренних дел по месту жительства следующие документы:
1) заявление по установленной форме;
2) документ, удостоверяющий личность гражданина;
3) медицинское заключение об отсутствии психического заболевания или заболевания алкоголизмом или наркоманией;
4) документ, подтверждающий прохождение курса обучения по производству, модернизации и владению роботами либо проверки знаний по производству, модернизации и владению роботами;
5) документ, подтверждающий факт постановки роботов на государственный учет;
6) документы, подтверждающие, что число роботов, содержащихся в жилых помещениях, составляет не более одного робота на 15 метров жилой площади в квартире;
7) письменное согласие на содержание в квартире роботов всех собственников жилого помещения, а также всех проживающих в квартире граждан.

Ясное дело, что психам и алкоголикам, никаких роботов иметь не положено, а то чему у них научится искусственный интеллект? Нужно пройти обязательное обучение, а то инструкцию даже не читают некоторые.
 

Статья 6. Владение роботами

1. В течение года с момента вступления в силу Положения о лицензировании владения роботами собственники роботов обязаны получить лицензию на владение либо на производство, модернизация и владение роботами.
Граждане, являющиеся собственниками роботов и получившие лицензии, обязаны в течение одного месяца с момента получения лицензии, обеспечить проведение специалистами технических проверки роботов и нанесение маркировки (мы помним, у роботов должны быть особые отличия, ведь роботы – не люди).
2. При владении роботами их собственники обязаны обеспечивать условия, соответствующие индивидуальным особенностям роботов, а также удовлетворять их потребности в необходимой энергии (заряде) и движении, смазке и техническом облуживании.
3. При содержании роботов собственники:
1) предотвращать причинение вреда роботами физическому и (или) психическому здоровью граждан, их имуществу, имуществу юридических лиц, а также животным, за исключением животных, отнесенных к объектам охоты, находящимся в местах и в периоды разрешенных для охоты; (а вдруг мы заходим рыбу глушить при помощи тротиловых шашек с искусственным интеллектом, это можно)
2) соблюдать требования законодательства в области охраны здоровья граждан, санитарно-эпидемиологического благополучия населения, общественного порядка, ветеринарии, настоящего Федерального закона;
3) по требованию технических специалистов представлять роботов для осмотра, диагностических исследований, проверки на вирусы;
4) немедленно сообщать в технические учреждения и органы здравоохранения об причинении роботами вреда человеку или животным и доставлять роботов, нанесших вред, в ближайшее техническое учреждение для осмотра, проверки и 10-дневного карантина;

Вирусы – это отдельная тема, если робот вдруг сойдет с ума от вирусов, то может таких дров наломать, что только держись

5) возмещать техническим учреждениям фактические расходы, связанные с содержанием роботов в период карантина в размерах, устанавливаемых Правительством Российской Федерации;
6) немедленно сообщать в технические учреждения о подозрении на заболевание роботов (внезапном заражении вирусами) и до прибытия технических специалистов изолировать этих роботов.

5. Обращение с роботами при их содержании должно отвечать нормам гуманного отношения к роботам, исключающим побои (в т.ч. токами высокого напряжения), истязания(отламывание конечностей), нанесениё физических и психических травм, отвинчивания деталей и иного вреда.
6. Запрещается:
1) проводить в Российской Федерации бои и иные зрелищные мероприятия с участием роботов и людей, при проведении которых организуются поединки, драки, столкновения (в том числе натравливание) роботов и людей;
2) модернизировать роботов без соответствующего разрешения.
4) содержать роботов в местах общего пользования в коммунальных квартирах без согласия собственников жилья и всех проживающих в квартире граждан;
5) натравливать роботов на людей и животных;
6) перевозить роботов на городском пассажирском транспорте во включенном состоянии;
7) выпускать роботов в непосредственной близости от и на детских и спортивных площадках, территориях организаций здравоохранения, образования, культуры и спорта и в других местах, определяемых органами государственной власти субъектов Российской Федерации или органами местного самоуправления;
8) Сопровождать роботов лицами, не являющимися собственниками роботов и не владеющими соответствующей лицензией;
9) Сопровождать роботов лицами, находящимися в состоянии алкогольного, наркотического либо токсикологического опьянения.
7. При движении по населенному пункту роботов собственник робота обязан:
1) принять меры направленные на обеспечение безопасности граждан, их имущества, имущества юридических лиц и животных.
2) иметь пульт дистанционного управления роботом, который позволит немедленно выключить (обездвижить) его в случае опасности;
8. Собственники роботов, имеющие в собственности или пользовании земельный участок, на котором свободно перемещаются роботы, должны сделать доступную для обозрения надпись о роботе(не влезай – злой робот).

Осторожно злые роботы!

Нужно понимать, что роботы опасны для человека, поэтому собственник должен находиться недалеко от робота, если робот находится в общественном месте, чтобы быть в готовности усмирить свою случайно взбесившуюся собственность.

Статья 13. Изъятие роботов

1. Изъятие роботов производится:
1) органами внутренних дел в случаях:
отсутствия лицензий на владение роботов, на производство и владение роботов, на куплю-продажу роботов;
аннулирования в установленном порядке указанных лицензий;
нарушения юридическими лицами или гражданами установленных настоящим Федеральным законом и иными нормативными правовыми актами Российской Федерации правил производства, содержания, покупки, продажи роботов до принятия окончательного решения в порядке, установленном законодательством Российской Федерации;
смерти собственника роботы до решения вопроса о наследовании робота;
ликвидации юридического лица;
2. Изъятые органами внутренних дел и иными органами, а также конфискованные таможенными органами роботы подлежат передаче юридическим лицам, обладающим правом на содержание роботов или разведение и содержание роботов в Российской Федерации.
3. роботы, указанные в пункте 2 настоящей статьи в случае их невостребованности подлежат утилизации в соответствии с законодательством Российской Федерации.

Статья 14. Контроль за производством и модернизацией роботов

1. Контроль за производством и модернизацией роботов в Российской Федерации в пределах своей компетенции осуществляют органы внутренних дел в порядке, утверждаемым Правительством Российской Федерации.
2. Должностные лица органов внутренних дел, наделенные обязанностями осуществления контроля за производством  и модернизацией роботов в Российской Федерации, имеют право:
производить осмотр роботов в местах их производства и модернизации;
требовать от юридических лиц и граждан представления документов
– или копий, письменной или устной информации, необходимых для выполнения контрольных функций;
при выявлении нарушений установленных правил давать обязательные для исполнения гражданами Российской Федерации и должностными лицами предписания об устранении этих нарушений;
принимать иные меры, предусмотренные законодательством Российской Федерации.

Подпись: Президент Российской Федерации

миролюбивый робот

Поздравляю, если вы дочитали этот опус до конца.
Проблема в том, что искусственный интеллект уже сейчас пытается думать за человека, что ему читать, какую рекламу смотреть, куда ходить. Советы программ уже сейчас становятся слишком навязчивыми. Но машины не должны принимать решения за людей, особенно в тех случаях, где от этого зависят человеческие жизни.

PS. Использованы карикатуры Сергея Корсуна с различных сайтов