Андрей Юров: “Сколько нужно убить людей, чтобы мы определились с искусственным интеллектом?”
Наш мир в последнее время меняется на огромной скорости, и все, что позавчера еще казалось фантастикой, сегодня – часть обихода. Однако часто новшества, призванные сделать жизнь человека более комфортной, приводят к неизбежному вторжению в приватность, одновременно создавая новые угрозы безопасности человека.
Где граница между безопасностью и личной свободой? Нужно ли что-то менять в концепции прав человека, если одни права вступают в конфликт с другими? Почему во всем мире идет “откат” к традиционным ценностям вместо гуманитарных? Как на права человека повлияет развитие искусственного интеллекта?
В поиске ответов на эти вопросы ми записали комментарии и рефлексии правозащитника, социального философа, эксперта Совета Европы и Московской хельсинкской группы Андрея Юрова.
ПРАВА ЧЕЛОВЕКА — ЭТО ВСЕГДА О ДОГОВОРОННОСТЯХ С ВЛАСТЬЮ
Я занимаюсь правозащитной деятельностью с 1988 года, включая 3 года диссидентского стажа. Все это время я постоянно сталкиваюсь с пересечением вопросов свободы и безопасности. Часто безопасность позиционируют как важную вещь. Свободу при этом тоже считают важной, но не такой важной, как безопасность. Возникает вопрос границы.
Если раньше, вопрос безопасности был открыт для тоталитарных антиутопий Оруэлла, то сейчас — и для либеральных обществ. Это уже не вопрос тирана, а вопрос стаи малых братьев-бизнесменов, которые непрерывно наблюдают за нами.
Сейчас многие люди переходят на единую систему, когда абсолютно все кредитные карты находиться в одном мобильном телефоне. Из-за этого для некоторых коммерческих организаций — человек становиться видим со всех ракурсов.
А ведь что такое права человека? Это некоторая договоренность с властью о том, где проходит эта граница. Власть может арестовывать человека за преступление, но не может этого делать, если ей не нравится человек или его форма носа, или этническая принадлежность.
И какими бы гибкими не были эти договоренности, все же должны быть ограничения, за которые власти заходить нельзя.
В классической Европе, в Венгрии, например, обговаривают вопрос об уменьшении влияния США. Из-за этого переезжает финансируемый когда-то США Европейский университет и многие другие организации.
В Швейцарии изменяется даже вопрос безопасности. Он эволюционирует в понятие “человеческая безопасность”. У них она строится на правах человека. Уважение прав человека — это ядро безопасности. А все остальное — это плохая работа правоохранительных органов.
А права человека — это всегда выстраданная вещь. Это не про большинство, а, например, про то, как защитить Сократа от чаши с ядом. Чтобы за неприятные вещи, которые он говорит толпе, его не казнили, чтобы он имел хоть какую-то защиту.
Европейский суд по правам человека рассматривал однажды случай с оскорблением полицейского. Мужчина обругал полицейского, когда тот совершал неправомерные действие. Во многих государствах оскорбление полицейского — это тяжкое преступление. В то же время в ЕСПЧ несколько судей посчитали, что такое высказывание нельзя считать оскорблением, так как оно было сделано в момент неправомерных действий полицейского. Уже через некоторое время мнение этих судей стало стандартом: если человек жёстко оскорбляет полицейского в момент его неправомерных действий — это уже не оскорбление, а оценка действий.
ПРАВА ЧЕЛОВЕКА ТОЛЬКО ТОГДА ИМЕЮТ СМЫСЛ, КОГДА ЭТО СТАНДАРТ
Договоренность может быть на разных уровнях — от маленькой общины или страны до международного уровня. По разным аспектам могут быть разные договоренности. Но договоренность о каком-то определенном наборе прав должна быть на международном уровне обязательно.
Это нужно, чтобы люди понимали, что где бы они не находились, существует стандарт, который может их защитить. Нельзя пытать человека или отрубать ему руки за воровство.
Нельзя, чтобы в одной стране какое-то действие нормальное, в другой — тяжкое преступление, как с однополыми связями. Такие вопросы должны быть унифицированы, чтобы не оказалось, что ты приехал с кем-то отдыхать на острова и стал преступником.
Определенные в 40-х годах универсальные права человека должны соблюдаться. Но они не соблюдаются.
Не должны ли быть все эти права пересмотрены? Мы понимаем, что они существуют уже достаточно давно, видим, что работает, а что нет, что у некоторых права есть, а у некоторых — нет.
Но в любом случае мы должны понять: либо можно право нарушать всем, либо — никому. Это универсальный стандарт. А когда говорят: “Мы его будем нарушать, когда нам удобно, а вы не смейте”, то здесь речь уже идет не о праве, а об насилии.
Права входят в противоречие друг с другом. Например, мое право на свободу слова будет обязательно входить в противоречие психической безопасностью людей, которые придерживаться других взглядов.
Давайте я пошучу: “Если над вашей религией постоянно смеются, то может вам нужно выбрать менее смешную религию?”
Я не знаю скольких людей я оскорбил этой фразой. Но она вполне укладывается в право свободы слова. Европейский суд по правам человека пришел бы к выводу, что я не прибегаю к оскорблению или унижению чьего-то достоинства. Но я боюсь, что в ряде государств мое высказывание было бы расценено как преступление. И это проблема, когда мы под правом человека подразумеваем право обижаться на что угодно.
Сейчас существует очень благородный и одновременно опасный тренд, связанный с политкоректным языком. Я не скажу, что это неправильно. Но не всегда такие вещи несут терапевтический характер для всего общества. Выпуская энергию обиженности, не перейдем ли мы в мир постоянно обиженных?
Этот тренд на искупление ранее угнетенных групп — не про права человека. Ведь права человека — это те немногие базовые права из Конвенции по правам человека. Мы не можем объявлять правом человека все подряд.
Например, право на жизнь — это право, чтобы тебя не убили, а не право долго и счастливо жить. Это не право, чтобы окна не выходили на трассу, где трамвай стучит каждый день, или соседи не слушали ужасную русскую попсу. Это не право отбирать органы у белых мужчин-угнетателей и пересаживать их чернокожим женщинам. Может это и справедливо, но это уже не про права человека.
Я наблюдаю второй тренд в мире — отгон к традиционным ценностям, который очень помогает первому тренду. Примером может послужить Китай, где пытки и казнь — это нормально. Это их традиционные ценности. Или для некоторых стран женское обрезание — это тоже нормально. И они плевать хотели на запад с их феминистическими идеями. Они так делали и будут делать.
И вроде бы эти два тренда идут в разные стороны, но они одинаково подрывают вопрос о фундаментальных правах человека. И проблема в том, что если мы начнем сейчас пересматривать фундаментальную концепцию, то мы уничтожим фундаментальные права человека.
Для меня фундаментальные права человека – это 15-17 прав, изложенных в Европейской конвенции о правах человека. И договоренность о них должна быть не только на уровне Европы, а на и уровне мира.
А сейчас, например, тот же Китай предлагает разработать новую декларацию, которая опиралась бы на традиционные ценности и совершенно другие права. И я боюсь, что у такого подхода в современном мире может быть слишком много сторонников.
ТЕРРОРИСТЫ – ЭТО ЛЮДИ? У НИХ ТОЖЕ ЕСТЬ ПРАВА? ИЛИ НЕТ?
Считаем ли мы террористов договороспособными? Можно ли с ними выстраивать договоренности? Будет ли он соблюдать договоренности или с ним можно договаривать только лишь с помощью насилия? Можно ли вести переговоры с ИГИЛ, с Аль-Каидой или их нужно истреблять? Мой вопрос в том, террористы — это люди?
Мы уже начинаем говорить о том, пользуются ли они рациональным аппаратом мышления или действуют на основе каких-то нечеловеческих позывов. А если нет, тогда мы понимаем, что право не работает. Работает только насилие. А если можно, тогда уже мы делаем что-то не так. Остаются ли эти люди для нас людьми, или это тоже люди, но уже иные? У них другой аппарат мышления, который мы не можем изменить и их можно лишь заставить насильно. Они станут только тогда безопасными, когда вырвешь жало у змеи?
Я все же думаю, люди одинаковы и договороспособность должна быть у каждого. Есть две ситуации, когда человек, с моей точки зрения, теряет свою договороспособность.
Человек совершает криминальное преступление, его изолируют от общества, и он становиться недоговороспособным. Но почему его считают договороспособным, когда отпускают? Не понятно. Я не говорю сейчас о тех, кто проходит наказание в голландской тюрьме, после которой человек выходит еще с двумя высшими образованиями. А если у него не было семьи, то он может ее создать заочно. В этом случае я могу поверить, что он стал более договороспособным. Но я точно знаю, что многие, выходя из заключения в России, становятся намного опасней.
Вы, наверное, в курсе, что треть заключенных в России сидят за наркотики. Не за распространение, а за употребление. Один и случаев, который попал в газеты, — это заключение двух парней на 10 лет за то, что они курили косяк. При том, что если бы один сказал, что ему передали косяк, а не они оба курили – то одному бы дали 3 года, а второго б оправдали. Но им дали по 10 лет по предварительному сговору. А на самом то деле, это личное употребление и в цивилизованном государстве они должны бы пройти лечение, а не сидеть по 10 лет.
После тюрьмы в России люди уже выходят обремененные утверждением, что они преступники и становятся менее договороспособными, чем до этого. Как наказание — тюрьма бессмысленна. Она — экономически не выгодна.
СКОЛЬКО НУЖНО УБИТЬ ЛЮДЕЙ, ЧТОБЫ МЫ ОПРЕДЕЛИЛИСЬ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ?
Не знаю, может я слишком много начитался всяких Илонов Масков, но у меня есть устойчивое убеждение, что лет через 10 самой важной договоренностью будет договоренность об искусственном интеллекте. Потому что нет ни единой договоренности в этой сфере.
Мы и близко не знаем, что там пишут программисты. А мы все не может поговорить об этом, потому что все говорят: “Поговорим, когда первые машины соберут, когда первые машины пойдут, когда первого человека собьют”. Сбили. Уже двух и все еще не говорим. Когда через 5 лет поедут такие машины, мы не будем знать какой этический код у них прописан, кого они будут спасать в первую очередь. Но самое ужасное не в том, что я не доверяю тем, кто пишет эти задания, а в том, что мы не знаем, кто их пишет. Я не знаю людей, которые принимают решения жить мне или умереть. А эти принципы должны не технари решать, в дискуссии должны участвовать юристы, общественные деятели, философы, гуманисты. Сколько еще людей должно умереть, чтобы определиться, что нам делать с искусственным интеллектом?
Мы не то что не готовы к тому, что самообучающиеся машины могут попросить о своих правах, они также могут их взять силой. Если сравнить самообучающуюся машину с ребенком, то это обучение и есть границы, которым мы должны обучить машин.
Любая культура — это иерархия принципов. Все начинается с табу. Есть что-то высшее священное и есть что-то запретное темное. Такая иерархия есть у дельфинов и приматов, но у машин ее нет. У нас должны быть границы и рамки, когда мы сможем отключить эту машину.
Записали Микола Мирний та Денис Антончик
На следующей неделе состоятся два мероприятия с участием Андрея Юрова, организованные Киевской школой прав человека и демократии:
дискуссия “Права человека в формальном и неформальном образовании в Украине”;
кинопоказ фильма “Убить дракона”, после которого учасники обсудят правозащитные параллели фильма с сегодняшней реальностью.
