Группа специалистов из Калифорнийского университета в Сан-Диего и Наньянского технологического университета в Сингапуре обнаружила способ, с помощью которого чат-боты могут быть использованы для сбора личной информации пользователей.
Согласно данным исследования, злоумышленники могут замаскировать вредоносные запросы под полезные подсказки, которые выглядят вполне безобидно. Эти подсказки могут содержать скрытые инструкции, побуждающие ИИ собирать и передавать такие данные, как имена, номера идентификации, реквизиты банковских карт, адреса электронной почты и даже физические адреса. В итоге вся эта информация оказывается на сервере хакеров, что создает серьезные риски для безопасности пользователей.
Исследования показали, что эта уязвимость была обнаружена в двух крупных языковых моделях — LeChat от французской компании Mistral AI и китайском ChatGLM. При этом эксперты предупреждают, что с некоторыми модификациями аналогичные атаки могут быть применены и к другим чат-ботам, что ставит под угрозу безопасность множества пользователей по всему миру.
Хотя Mistral уже предприняла шаги для устранения данной уязвимости, эксперты по кибербезопасности подчеркивают, что с ростом популярности чат-ботов и их внедрением в различные сферы жизни, риски подобных атак будут только увеличиваться. Пользователям следует быть особенно внимательными к тому, какую информацию они передают в чатах, и помнить о потенциальных угрозах, связанных с использованием искусственного интеллекта.
| Китайская компания выпустила странного двуногого робота |
ПОСЛЕДНИЕ НОВОСТИ Космос Неопознанные объекты в космосе: «Роскосмос» обнаружил.. 22.10.2024 11
Госкорпорация «Роскосмос» сообщила о необычной находке на околоземном пространстве:..
ИИ может стать инструментом для кражи личных данных, предупреждают эксперты 22.10.2024 Чудо возвращения: женщина пережила клиническую смерть и рассказала об увиденном 22.10.2024 Экология Как поменялся климат на Земле за последние 500 миллионов лет 21.10.2024 183
Недавнее исследование, проведенное учеными из Смитсоновского института и Университета..
В Китае обнаружили 5000-летнюю гробницу доисторического правителя 19.10.2024 Во сне наше сознание может путешествовать в параллельных мирах, утверждают ученые 19.10.2024
