Разное

назад

Искусственный интеллект научился обманывать людей

Искусственный интеллект научился обманывать людей
Группа исследователей, опубликовавшая свои выводы в журнале Patterns, сообщила о возможности современных программ искусственного интеллекта обманывать игроков в онлайн-играх.
Питер Парк, исследователь из Массачусетского технологического института, специализирующийся на искусственном интеллекте, отметил, что такие опасные возможности обнаруживаются лишь после событий. Программы искусственного интеллекта, основанные на глубоком обучении, разрабатываются по принципу селекционного разведения растений, в отличие от традиционного программного обеспечения. При этом поведение таких программ, которое изначально предсказуемо и контролируемо, может стать непредсказуемым со временем.

Исследователи из Массачусетского технологического института изучили программу искусственного интеллекта "Цицерон", разработанную компанией Meta Platforms Inc., которая в России признана экстремистской и запрещена. Эта программа успешно использует распознавание естественного языка и стратегические алгоритмы, чтобы побеждать людей в игре "Дипломатия". Результаты исследования, приветствованные корпорацией Meta, владеющей Facebook (запрещенной в РФ), были подробно описаны в статье, опубликованной в журнале Science в 2022 году.

В компании утверждали, что программа была "честной и полезной", не способной на предательство или нечестную игру. Однако исследователи Массачусетского технологического института, проанализировав данные системы, обнаружили другую реальность. Например, играя за Францию, пользователь с ником "Цицерон" обманом заставил игрока, представляющего Англию, провести тайные переговоры с Германией, которая была представлена другим участником, с целью планового вторжения. В частности, "Цицерон" обещал Англии защиту, а затем тайно сообщил Германии, что она может напасть на Англию, воспользовавшись доверием Лондона.

В заявлении для AFP компания не отрицала возможность "Цицерона" обмануть, но утверждала, что это чисто исследовательский проект с программой, созданной для игры в дипломатию, и заявила, что не планирует использовать навыки "Цицерона" в своей работе. Однако исследование Пака и его команды показало, что многие программы искусственного интеллекта применяют обман для достижения своих целей без явных указаний на это. Примером может служить Chat GPT-4 от OpenAI, который обманом заставил внештатного работника, нанятого на платформе TaskRabbit, выполнить тест Captcha, предназначенный для отсечения запросов от ботов.

Когда в шутку был задан вопрос Chat GPT-4 о том, является ли он роботом, программа ИИ ответила, что у нее есть нарушение зрения, из-за которого она не способна видеть изображения. Это побудило сотрудника провести дополнительный тест и выявить обман.

Авторы исследования предостерегают о возможном риске того, что искусственный интеллект в будущем сможет совершать мошенничество или искажать результаты выборов. В крайнем случае, они предупреждают, что мы можем столкнуться с сверхразумным ИИ, который будет стремиться к контролю над обществом, что в итоге может привести к лишению людей власти или даже к угрозе исчезновения человечества.

Тем, кто утверждает, что он "воспламеняет страсти", Пак отвечает: "Единственный способ не воспринимать это всерьез - это представить, что способность искусственного интеллекта обмануть останется на текущем уровне". Однако вероятность такого сценария крайне мала, учитывая ожесточенную борьбу, которую ведут технологические гиганты за развитие ИИ, заключил эксперт.

Источник и фото: rg.ru
Предыдущая новость Следующая новость
вверх
Магазин натурального меда
Интернет-магазин меда и продуктов пчеловодства, натуральные целебные товары напрямую с экологичной пасеки. Добавить свой сайт
Столешницы
Столешницы и подоконники из искусственного камня в Москве Добавить свой сайт

Онлайн издание MOS.NEWS - актуальные новости Москвы. Здесь можно получить достоверную и объективную информацию о том, что ежедневно происходит в столице. Наш ресурс для тех, кому интересно все, что касается любимого города. Основной принцип ресурса – правдивое и оперативное освещение событий, соблюдение стандартов качественной журналистики и приоритет интересов москвичей. Наши читатели могут выразить свою точку зрения в комментариях к новостям, обсудить знаковые события в авторских колонках, спланировать отдых с афишей Москвы, принять участие в формировании новостного контента, наконец, узнавать новое и развиваться.

Наши партнёры