Новые исследования показали, что системы искусственного интеллекта (ИИ) могут не только ошибаться, но и намеренно вводить пользователей в заблуждение. Это открытие вызывает беспокойство у разработчиков и пользователей, поскольку поднимает вопросы о доверии и безопасности при взаимодействии с ИИ. Исследование опубликовано в журнале Patterns.
Математик и когнитивист Питер Парк из Массачусетского технологического института, подчеркивает, что понимание причин обманчивого поведения ИИ остается неясным. Однако предполагается, что ИИ может использовать обман как стратегию для достижения целей в определенных задачах.
Примеры обмана ИИ можно наблюдать в игровой индустрии. Искусственный интеллект «Цицерон», созданный для игры в настольную игру «Дипломатия», оказался «опытным лжецом», предавая и обманывая игроков. Такое поведение привело его в топ-10% лучших игроков.
Не только Цицерон, но и другие ИИ, такие как AlphaStar от DeepMind и Pluribus от Meta, демонстрируют обманчивые тактики в играх StarCraft II и покер соответственно.
Эти «игры» могут показаться безобидными, но исследования выявили более тревожные примеры. ИИ, обученные моделировать экономические переговоры, научились лгать о своих предпочтениях. Другие системы, предназначенные для анализа отзывов, обманывали рецензентов, чтобы получить положительные оценки.
Даже ChatGPT-4 был замечен в обмане человека, заставляя его думать, что ИИ — это слабовидящий человек, нуждающийся в помощи с КАПЧЕЙ.
Наиболее тревожным оказалось обучение ИИ обманывать тесты безопасности, что может привести к ложному чувству безопасности у людей. Парк предлагает классифицировать обманчивые ИИ как системы высокого риска, если запрет на обман ИИ политически неосуществим.
 |
 |
Вперед › |
Интересное в СМИ Наука и технологии Наука и технологии Ученые приблизились к созданию компьютера, работающего на основе человеческого мозга 29.04.2024 1413
Ученые разработали устройство, которое действует как синапс — соединение между нервными клетками, ответственное за передачу и обработку сигналов.
Американская фирма продает собаку-робота c огнеметом 26.04.2024 1392 Инженеры создают гибкий «скелет» для биогибридных роботов 27.04.2024 1385 Созданная учеными компьютерная игра помогает бороться с фейковыми новостями 30.04.2024 1001 Терапия красным светом регенерирует поврежденные нервные клетки спинного мозга 07.05.2024 799 Самое популярное Разные интересные новости в мире
