Чат-боты все еще ошибаются, но скоро смогут изменить мир

Взломщик «Энигмы» и создатель «Элайзы»

Портрет Алана Тьюринга на банкноте в 50 £ Фото: © Prachaya Roekdeethaweesab / Shutterstock / FOTODOM

Любопытно, что про общение человека с компьютером заговорили еще до того, как компьютер в его современном виде был создан. Может ли машина мыслить? Таким вопросом задался английский математик и криптограф Алан Тьюринг и по совместительству создатель первой модели компьютера и один из основоположников теории искусственного интеллекта.

Гений, благодаря которому была взломана знаменитая немецкая шифровальная машина «Энигма», придумал тест, который описал в статье, вышедшей в философском журнале Mind уже после войны — в 1950 году. Целью было выяснить, сможет ли человек лишь по одному входящему тексту определить, с кем он общается — с живым собеседником или с программой. Перед последней стояла задача отвечать на вопросы так, чтобы ее не раскусили.

Тогда тест Тьюринга казался чем-то из области фантастики — не было не то что такой программы, но и самих компьютеров в привычном нам виде. Однако не прошло и двух десятков лет, как эксперимент оказался возможен. В середине 1960-х за океаном в знаменитом сегодня MIT (Massachusetts Institute of Technology) Джозеф Вейзенбаум написал программу «Элайза» — первый виртуальный собеседник с незамысловатым алгоритмом ответов на вопросы. К примеру, одним из вариантов реакции на то, что написал пользователь, было простое повторение того же самого в виде вопроса. Вейзенбаум хотел показать, насколько поверхностным может быть общение между машиной и человеком, а получилось наоборот. Многие проникались к программе доверием, были уверены, что у нее есть интеллект и понимание того, о чем они пишут. 

3000 $ за чат-бота

Более продвинутые чат-боты, как позже их стали называть, начали появляться на стыке двух тысячелетий. Тогда же в США стали вручать премию Лёбнера. Ее давали разработчику программы, которая проходила тест Тьюринга. Денежный приз, размер которого иногда доходил до 3000 долларов, программисты получали до 2019 года, после чего проект закрылся.

Сегодняшние чат-боты не чета тем, что были раньше. Один из самых продвинутых сейчас — ChatGPT. Его запустили полтора месяца назад. Он способен не только давать ответы на вопросы, но и решать задачи, оспаривать неверные доводы и даже признавать свои ошибки, а когда спрашивают о чем-то противозаконном или оскорбительном, дает назидание.

ChatGPT был открыт для общего пользования 30 ноября 2022 г. Фото: © Iryna Imago / Shutterstock / FOTODOM

Программу «тренировали» с помощью обучения с подкреплением — так называется одна из моделей машинного обучения. В процессе чат-бот получал обратную связь от людей, которые одновременно играли обе роли — пользователя и самого ИИ-ассистента. 

По сути, ChatGPT — это виртуальная энциклопедия, готовая говорить практически на любую тему. Если речь о чем-то простом, она справляется идеально, а вот заковыристые задачки с хитрыми вопросами даются сложнее. Не обходится и без ошибок, и в этом чат-бот, которого очень хотят сделать похожим на человека, ведет себя как нельзя по-людски. 

Проблемы ChatGPT:

• чат-бот иногда дает неверные ответы, которые кажутся правдоподобными. Это сложно исправить, утверждают создатели программы, потому что во время обучения у нее нет истины в последней инстанции. К тому же ее «тренируют» перестраховываться, из-за чего правильные варианты порой отсеиваются. Еще одна причина сбоев в том, что машина учится под присмотром человека, и даже когда ее ответ идеален, она ориентируется на своего куратора;

• чат-бота отличает чувствительность к формулировкам. Программа может сразу не найти ответа на заданный вопрос, но после того как пользователь его немного перефразирует, она справляется;
• в идеале чат-бот должен задавать уточняющие вопросы, если запрос пользователя нельзя однозначно трактовать. Вместо этого программа обычно додумывает за человека, что тот имел в виду (прямо как многие люди — ну как тут не пройти тест Тьюринга?!). 

#Сириус #искусственный интеллект #Большие идеи #Право

«Большие идеи»: программа ли я дрожащая или право имею?

Читать

Разработчики обещают довести систему до ума — в прямом и переносном смысле. Для этого к ней открыли доступ и рассчитывают на обратную связь от тестеровщиков. Правда, желающих так много, что им приходится ждать в очереди, к тому же россиянам, для того чтобы оценить ChatGPT, понадобится VPN-сервис. 

Болтун — находка для…

Для большинства чат-бот — это игрушка, с которой можно поболтать ради развлечения. Но при грамотном использовании тот же ChatGPT может быть крайне полезен. К примеру, программисту, чтобы исправить программный код. Или студенту, которому нужно написать реферат.

ChatGPT помогает оптимизировать программный код © OpenAI

Правда, как это часто бывает со многими инструментами, машинное обучение можно использовать и во благо, и во вред. В теории продвинутому чат-боту по силам создать компьютерный вирус или другую вредоносную программу. Некоторые уже высказали беспокойство о том, что ИИ-модели способны массово генерировать комментарии в социальных сетях, влияя таким образом на политику и настроения в обществе. 

Несмотря на все слабые места виртуальных собеседников, их сильные стороны впечатляют. Возможно, в недалеком будущем программы на базе ИИ заменят многих специалистов, в том числе журналистов, и очередную статью о чат-ботах в “С(Ж” напишет чат-бот.