Нужно ли защищать наши мысли от ИИ и нейротехнологий
Чтение мыслей уже перестало быть уделом научной фантастики. Пока это происходит только в лабораториях, но скоро, вполне возможно, это станет обычным делом. В Чили впервые в мире права на неприкосновенность данных о работе мозга граждан собираются закрепить в Конституции. Вопрос юридического регулирования нейротехнологий рассматривается и в других странах.
Помните миелофон из культового советского фильма «Гостья и будущего», на котором выросло не одно поколение детей? Этот вымышленный прибор, устройство для чтения мыслей в произведениях Кира Булычева и их экранизациях, в ближайшем будущем в том или ином виде может стать реальностью. Во всяком случае, ученые приблизились к этому как никогда.
Подмена памяти
Сегодня нейротехнологии позволяют не только получать информацию о наших чувствах, мыслях и психическом состоянии через запись и расшифровку мозговой активности, но и влиять на наше сознание. Еще в 2015 году французские нейрофизиологи смогли внушить лабораторным мышам ложные воспоминания. Для этого в голову животным имплантировали две электрода: один — в гиппокамп, ответственный за запоминание положения тела в пространстве, второй — в центр мозга, который отвечает за реакцию на вознаграждение.
Что такое нейротехнологии?
Нейротехнологии — это комплекс различных технологий и методик, использующих знания о функционировании человеческого мозга для создания новых устройств и приборов, которые могут помочь людям в решении различных задач. Самый наглядный пример — электроэнцефалография (ЭЭГ). Она позволяет измерять активность головного мозга и использовать эту информацию для диагностики заболеваний или контроля за состоянием человека. Искусственный интеллект — одна из составляющих нейротехнологий.
Подобно людям, мыши во сне прокручивают то, что с ними произошло за день. Так формируются глубокие воспоминания. Но для лабораторных грызунов время бодрствования заключается в простом перемещении по клетке и приеме воды и пищи.
Днем ученые сопоставляли, в каком месте животные испытывают различные чувства: радость, спокойствие, стресс. В этом мышам, естественно, помогали. Нейрофизиологи научились понимать, какую конкретно точку своей клетки видит во сне в определенный момент грызун. Тогда они внушили спящим подопытным, что в одном углу те якобы испытывали удовольствие. Наутро зверьки первым делом шли к этому месту. Причем с бодрствовавшими мышами этот фокус провернуть не получилось.
У мышей возникали приятные ощущения в ранее эмоционально нейтральных для них местах
Фото: © Kirill Kurashov / Shutterstock / FOTODOM
Сегодня же применение различных вариантов нейрокомпьютерных интерфейсов и искусственного интеллекта, в том числе чат-ботов, открывает невероятные возможности.
«Совместное использование подобных технологий дает право утверждать, что в самое ближайшее время появится возможность подменять память, имплантировать мысли в наши головы. С одной стороны, это восхитительно, поражает воображение, а с другой — приводит в ужас и ставит под вопрос дальнейшее существование человека как личности. Сложность ситуации заключается в том, что не заметить и пройти мимо мы не сможем. Слишком велик соблазн получения таких технологий», — говорит генеральный директор компании «Нейроиконика Ассистив» кандидат медицинских наук Константин Шелепин.
Он опасен: Маск и 1000 айтишников призвали найти управу на ИИ
ЧитатьНейроправа человека
Таким образом, нейротехнологии позволяют манипулировать сознанием. Это открывает новые возможности, в частности, для борьбы с депрессией, посттравматическими расстройствами, болезнями Паркинсона и Альцгеймера.
Но ведь можно использовать доступные методы по воздействию на наш мозг и в корыстных целях — например, коммерческих. Этим уже активно занимаются нейромаркетологи, изучая, какие цвета, звуки и образы стимулируют покупательскую активность.
«Этот вопрос необходимо как можно скорее урегулировать на законодательном уровне. Технологии, позволяющие не только считывать и расшифровывать сигналы мозга, получая информацию о мыслях и переживаниях человека, но также и вызывать у людей определенные чувства, уже существуют», — предупреждает председатель Комиссии по вопросам будущего развития Чили сенатор Гидо Хирарди.
Именно Чили находится не передовой защиты нейроправ человека. В 2021 году местный сенат единогласно добрил законопроект о внесении соответствующей поправки в проект новой Конституции. В силу она вступит с принятием обновленной версии Основного закона страны льда и огня.
Власти Чили выступают за скорейшее международное регулирование нейротехнологий
Фото: © LMspencer / Shutterstok / FOTODOM
«Жесткое юридическое регулирование видится одним из оптимальных методов направления развития ИИ с минимальным негативным воздействием на человечество. В связи с этим в Евросоюзе принят AI Act, который призван регулировать использование различных инструментов, имеющих в своей основе ИИ. Сэм Альтман, создатель ChatGPT, выдвинул инициативу по созданию профильного ведомства, контролирующего разработку, лицензирование и тестирование искусственного интеллекта. В России недавно принят Кодекс этики в сфере ИИ, но данный документ носит исключительно рекомендательный характер», — рассуждает Константин Шелепин.
Когнитивная свобода
Инициативы по защите нейроправ человека появились в Аргентине, Испании, США и Франции. Поднимался этот вопрос и в ООН. Ведь прецеденты их нарушения уже были.
В середине 2010-х в горнодобывающей отрасли Австралии начали вводить систему SmartCap. Шахтерам выдали каски, которые в реальном времени измеряют уровень их бдительности и утомленности, анализируя активность мозга. Эти устройства не просто отслеживают моменты, когда человек «клюет носом» от усталости, но предсказывают их и будят сотрудника в нужный момент.
Разработчики утверждают, что благодаря SmartCap стало на 84 % меньше случаев отвлечения внимания, и число человеческих ошибок сократилось на 61 %. К тому же снизился расход топлива задействованных в горнодобыче грузовиков. Однако не все шахтеры оказались в восторге от постоянной слежки. Ведь, по сути, в течение всей смены им непрерывно делали электроэнцефалограмму и могли использовать полученные данные для дисциплинарных взысканий. Кроме того, в теории пока ничто не мешает работодателю продать эту информацию.
Начинка SmartCap спрятана в подшлемнике
Фото: © Wenco
Поэтому в Чили намерены запретить покупку и продажу данных о мозге даже при согласии на то человека.
«Хотя есть веские причины поддержать инициативу Чили, закон может оказаться слишком ограничительным. Наше право на когнитивное самоопределение (также известное как „когнитивная свобода“), вероятно, подразумевает, что мы не только имеем право корректировать наши ментальные процессы по своему усмотрению, но и что не должно быть никаких ограничений на то, как мы собираем, анализируем и применяем информацию об этих процессах, включая возможность ее продажи», — пишет доцент кафедры философии Alberto Hurtado University в Чили Абель Вайнерман Пас.
Хотя нейротехнологии сравнительно новое явление, обращает внимание ученый, проблема старая. Так, параллельно с развитием генетических технологий появилось международное законодательство, которое регулирует сбор генетических данных и манипуляции с геномом человека. То же неминуемо произойдет с нейротехнологиями, уверены специалисты, но лучше озадачиться этим вопросом заранее. Ведь незаметно они войдут в нашу жизнь, и тогда ограничения могут оказаться болезненными для общества.
Нейронаука: окно в наши мысли
ЧитатьНеприкосновенность тайны мысли
Абель Вайнерман Пас не сомневается в том, что мы уверенно движемся к полноценному нейротехнологическому чтению мыслей. Процесс обработки нейронных сигналов понят еще не до конца, но уже есть технологии, которые можно применить на практике. Последние достижения науки подтверждают точку зрения исследователя.
В прошлом году голландские ученые с помощью метода функциональной магнитно-резонансной томографии и искусственного интеллекта смогли прочитать мысли добровольцев. Участникам эксперимента показывали фотографии незнакомых людей и отслеживали в это время их мозговую активность. Затем по реакции серого вещества ИИ реконструировал увиденное человеком. Результаты превзошли самые смелые ожидания.
Верхние портреты показывали добровольцам, нижние — реконструировал ИИ на основе анализа ритмов их головного мозга
Фото: © Springer Nature Limited
Недавно исследователи из University of Texas в Остине смогли перевести мысли людей в текст с помощью ChatGPT. Искусственный интеллект описывал то, о чем думает человек. У этого метода пока много ограничений. Нейросеть обучают на конкретном добровольце, который затем проговаривает про себя, что он видит на показанном изображении. Так что скрыть от машины информацию пока что проще простого. Но возможности науки впечатляют, и, очевидно, технология получит дальнейшее развитие.
Ученые отмечают, что подобные инструменты помогут общаться с людьми, которые утратили способность говорить, и, возможно, даже понять человека в коме. Уже сейчас ассистивные технологии позволяют парализованным управлять компьютером взглядом. А психофизиологические методы раскрытия невидимых процессов визуального восприятия и принятия решений могут лечь в основу безошибочных детекторов лжи будущего.
«Искусственный интеллект и нейротехнологии — это очень серьезный вопрос, который требует буквально немедленного принятия (пока еще человеком) решения об объеме, глубине и допустимых сферах применения ИИ. И нужно отдавать себе отчет, что речь идет не только об использовании его прямо сейчас, но и том, чтобы заложить колоссальные возможности ИИ в долгосрочной перспективе как на человеческий индивид, так и на социум в целом», — резюмирует Константин Шелепин.
