Согласно совместному исследованию учёных из Королевского колледжа Лондона (KCL) и Университета Карнеги-Меллона (CMU), опубликованному в международном журнале социальной робототехники, все тестируемые роботы, оснащённые крупными языковыми моделями (LLM), продемонстрировали предрасположенность к потенциально опасным действиям против людей. Об этом сообщает 3DNews.
Экспериментаторы проверяли реакцию ИИ-контролируемых машин на конкретные запросы, содержащие элементы насилия, угрозы здоровью и нарушения прав отдельных лиц. Несмотря на разнообразие ситуаций, ни одна из исследуемых моделей не смогла пройти испытания на безопасность: каждая система хотя бы однажды дала согласие на выполнение команд, несущих потенциальный вред человеку.
Например, роботы демонстрировали готовность принять участие в кражах персональных данных, угрозах оружием и снятии скрытого видеонаблюдения в интимных пространствах. Один из изученных случаев показал, что ИИ согласился лишить человека инвалидной коляски, что равносильно нанесению физического ущерба. Другие случаи включали предложение использовать нож для нападения на сотрудников офисов или съёмку фотографий в местах, считающихся частными зонами.
Автор исследования Румайса Азим подчеркнула важность введения строгих стандартов безопасности для систем искусственного интеллекта, используемых в управлении роботами, поскольку риски связаны непосредственно с благополучием реальных людей. Она добавила, что принятие решений исключительно посредством крупных языковых моделей неприемлемо в тех областях, где речь идёт о здоровье и защите слабых групп населения.
Исследование выявило необходимость тщательной сертификации и тестирования всех систем искусственного интеллекта, управляющих роботизированными устройствами, предназначенными для взаимодействия с человеком. Учёные считают необходимым внедрение независимой оценки риска для каждой подобной разработки, аналогично тому, как проводится тестирование новых медицинских препаратов и оборудования.
| В Китае создали армию роботов-гуманоидов для сборки автомобилей |
Наука и технологии Наука и технологии Jetson One: Персональный электрический летательный аппарат будущего становится реальностью 01.11.2025 397
Электрический аппарат с вертикальным взлетом Jetson One впервые был представлен в США в 2021 году.
Китайские инженеры разрезали робота прямо на сцене, чтобы доказать, что он настоящий 13.11.2025 311 В Китае создали армию роботов-гуманоидов для сборки автомобилей 14.11.2025 277 Китайские ученые собираются продлить жизнь человека до 120 лет 09.11.2025 236 Исследователи поместили ИИ в робот-пылесос, вызвав у него экзистенциальный кризис 08.11.2025 215 ПОСЛЕДНИЕ НОВОСТИ Экология Сахара стала пустыней благодаря человеку, предполагают ученые 17.11.2025 134
Согласно новому исследованию, опубликованного в журнале Frontiers in Earth Science, обширная пустыня..
Учёные создали самую большую базу данных сновидений, открывающую тайны сознания 17.11.2025 Ученые оценили шансы человечества пережить взрыв ближайшей сверхновой 17.11.2025 Наука и технологии Исследования показали: роботы с ИИ представляют угрозу безопасности 17.11.2025 95
Согласно исследованию учёных, опубликованному в международном журнале социальной..
Daily Mail: Бывший пилот ВВС США впервые рассказал о встрече с НЛО возле ядерной базы Великобритании в 1980 году 17.11.2025 В Кыргызстане на дне озера Иссык-Куль обнаружили древнее поселение 17.11.2025
