«Большие идеи»: программа ли я дрожащая или право имею?

Что такое искусственный интеллект (ИИ) в юридическом смысле? Кто несет ответственность за то, что программа подвергла опасности жизнь человека или навредила его здоровью? Такими вопросами сейчас уже никого не удивишь на фоне активного развития ИИ, машинного обучения и внедрения их в жизнь. Правда, не всегда можно на них найти правильные ответы. «С(Ж» помог разобраться в этом профессор Владислав Архипов, приехавший в Университет «Сириус», чтобы принять участие в новом проекте «Большие идеи».

Человек и робот

Сегодня человекоподобные машины сходят со страниц фантастических романов, постепенно становясь частью нашей жизни. Но технологии пока не настолько развиты, чтобы даже самые продвинутые роботы зажили собственной жизнью.

О лекторе 

Владислав Архипов — доктор юридических наук, заведующий кафедрой теории и истории государства и права Санкт-Петербургского государственного университета, член консультативного совета уполномоченного органа по защите прав субъектов персональных данных (Роскомнадзора). Эксперт кластера «Игровая индустрия и киберспорт» Российской ассоциации электронных коммуникаций (РАЭК). 

 

 

Владислав Архипов Фото: © Юрий Славин / Пресс-служба «Сириуса»

Одна из наиболее продвинувшихся в этом направлении сфер — транспорт. Машины, которые водят сами (ездят не только по закрытым тестовым площадкам, но и по улицам городов). Хотя без водителя они справляются не всегда. Аварии с ними уже не редкость. Так, в конце 2019 года в пригороде Лос-Анджелеса два человека погибли в ДТП с автомобилем Tesla. Автомобилист ехал с включенной системой автопилота. На одном из съездов с дороги система не заметила красный сигнал светофора. Электромобиль на большой скорости врезался в другую машину, оба ее пассажира погибли. По инструкции, несмотря на включенную систему помощи при вождении, мужчина должен был следить за дорожной обстановкой, а не смотреть видео на планшете. Так, впервые в истории США водителю самоуправляемой машины предъявили обвинение в непредумышленном убийстве. Правда, семья погибших обвиняет не человека, а считает, что вина лежит на компании-производителе, поэтому подала на нее в суд, который назначен на 2023 год. 

А пока разобраться, кто в этом деле виноват, предложил на своей лекции в «Сириусе» Владислав Архипов. Для начала он дал понять, что за свою собственность отвечает владелец (в случае с ДТП хозяин машины) — он и есть виновник аварии. И в этом смысле нет разницы между домашним животным и роботом-пылесосом, который хоть и не живой, но, как и кошка, может сам передвигаться по квартире и убирать ее (в отличие от кошки). Тот же принцип действует и с другими продвинутыми устройствами. Но в случае с ИИ споры все равно возникают, ведь возможна ошибка в самой программе.

Чем больше умных машин, тем чаще возникают проблемы с контролем над ними и ответственностью. Эксперты в области юриспруденции уже не первый год бьются над вопросом: можно ли искусственный интеллект признать субъектом права, то есть физическим или юридическим лицом, имеющим те же права и обязанности, что и человек?

Не навреди

Дискуссия об искусственном интеллекте часто перерастает в разговор о восстании машин, которые со временем станут слишком умными и не захотят подчиняться своим создателям. Впервые про бунт роботов заговорили более ста лет назад. Поводом стала пьеса чешского драматурга Карла Чапека с загадочным названием «Р. У. Р» (Rossumovi Univerzální Roboti) — «Россумские универсальные роботы», которую он написал в 1920 году. Она о фабрике по производству человекоподобных механизмов, восставших против людей. Постановка оказалась успешной, и с тех пор возник образ разумной машины, угрожающей человеку.

Интересно, что в том же 1920 году в селе Петровичи Смоленской области на свет появился Исаак Озимов, которого позже мир узнает как Айзека Азимова, придумавшего кодекс роботов.

Биография Айзека Азимова

В 1923 году семья Азимова переехала в США. Благодаря своим неординарным способностям он окончил школу в 15 лет, потом поступил в юношеский колледж в Бруклине. Затем стал слушателем химического факультета Колумбийского университета в Нью-Йорке, где в 1939 году получил степень бакалавра, а в 1941-м — магистра по химии.

В 1942–1945 годах работал химиком на Военно-морской верфи Филадельфии. В 1948 году окончил аспирантуру, получил докторскую степень по химии. Работал преподавателем медицинского факультета в Бостонском университете. В 1979-м ему присвоили звание профессора. Айзек Азимов — автор трудов в области химии, книг научно-популярного жанра, но в первую очередь он известен благодаря фантастическим романам и рассказам.

 

В своем рассказе «Хоровод», вышедшем в 1942 году, Азимов впервые сформулировал обязательные правила поведения для роботов, известные как «Три закона робототехники».

Три закона робототехники Айзека Азимова:

 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

 2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

Спустя 44 года в романе «Роботы и Империя» Айзек Азимов предложил «Нулевой закон» — по сути, расширенный первый, который гласит: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

В 1956 году профессор Дартмутского колледжа Джон Маккарти в своем докладе впервые использовал новый термин — artificial intelligence (AI). В русском языке употребляют дословный перевод — «искусственный интеллект». Это система или машина, которые могут имитировать человеческое поведение, чтобы выполнять поставленные задачи. В отличие от обычных программ, ИИ постоянно совершенствуется, собирая новую информацию.

Реальные и виртуальные споры

Виртуальный мир, несмотря на свою кажущуюся иллюзорность, связан со множеством юридических проблем. Одни из них можно решить, другие не попадают в правовое поле. Например, если у кого-то необоснованно заблокировали аккаунт в социальной сети, а в его работу вложены деньги, то появляется основание для юридического вмешательства. Но если в компьютерной игре у участников возник спор из-за награды, которую они не могут поделить, то никакой суд общей юрисдикции не поможет.

Чаще всего к юристам обращаются для решения вопросов с лицензированием продукта интеллектуальной собственности или определения авторских прав на произведение, созданное с помощью ИИ.

В России юридически понятие «искусственный интеллект» впервые было сформулировано на подзаконном уровне Указом Президента РФ Владимира Путина от 10 октября 2019 года. Под ИИ понимают комплекс технологических решений, который позволяет имитировать когнитивные функции человека и получать результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека.

В 2022 году Президент поручил подготовить проект указа об обновленной стратегии развития искусственного интеллекта в России. Среди новых предложений — учредить премию молодым ученым за научные и конструкторские прорывы в области искусственного интеллекта.

Границы реального и виртуального постепенно стираются: мы испытываем жалость к застрявшему под диваном роботу-пылесосу и разговариваем с голосовым навигатором в машине. Но ассоциировать ИИ с человеком пока рано, считает Владислав Архипов.

«В праве главное — не то, что по факту представляет из себя объект, а то, как он себя ведет. Если что-то ведет себя как субъект права, то мы его склонны называть субъектом права. Если что-то ведет себя как собственность, то мы склонны называть это собственностью. Но, увы, самосознание у голосового помощника все равно не появляется. Нет у чат-бота и воли. В праве очень важно понятие воли, когда речь идет о направленности интересов на что-то. Нейросети все равно, потому что ей нечем испытывать этот интерес. Поэтому аналогия с человеком никак не пройдет», — считает Архипов.

Клипы от нейросети

В последние годы популярны клипы, созданные нейросетью: она генерирует видео на основе алгоритмов по заданному запросу. Для этого нужно ввести в программу текст.

Проект Sagans, созданный музыкантами, графическими дизайнерами и исследователями ИИ со всего мира.

«Нейросеть — разновидность машинного обучения, при котором программа работает по принципу человеческого мозга, однако она не может воспринимать целостный образ человека. В этом и заключается основной аргумент, почему ИИ никогда не станет субъектом права», — отмечает Владислав Архипов.

Программу не очеловечить — это понятно, но кому принадлежат права на созданные ею клипы? Современные правовые системы не могут дать четкого ответа на этот вопрос. Есть мнение, что в подобных случаях авторство будет принадлежать владельцу программного обеспечения этой нейросети.

Как приручить искусственный интеллект?

Читать

«Но этот самый правообладатель не сделал, может быть, ничего, для того чтобы произведение появилось. И возникает юридическая дилемма: как это справедливо разрешить? Вопрос не такой простой. Некоторые юристы уже на протяжении многих лет предлагают указывать в качестве автора такого произведения саму нейросеть. Это очень провокационный шаг. С точки зрения закона автором может быть только человек, который внес определенный творческий вклад. Человека нет, а охранять эти произведения надо», — констатирует лектор.

По его словам, именно способность к творчеству отличает человека от программы. Она лишь подставляет варианты, но ничего не переживает в духовном смысле, у нее нет самосознания. А для права этот аспект важен. 

Стоит ли наделить ответственностью искусственный интеллект и перестать считать его объектом права? Вопрос дискуссионный. В юриспруденции субъект, если виновен, должен понести наказание, а для этого он должен быть.

Права человека и искусственного интеллекта в будущем
Оцените статью
Поделись знанием

Рекомендуем

1
Полная афиша первого Весеннего музыкального фестиваля «Сириус» #Сириус #музыка #фестиваль 07 марта 2024 14:52
2
Что посмотреть в «Сириусе» гостям Всемирного фестиваля молодежи #Сириус #Южные культуры 27 февраля 2024 06:30
3
История всемирных фестивалей молодежи и студентов в нашей стране #Сириус #Россия #молодежь 01 марта 2024 00:38