Философ Том Маклелланд из Кембриджского университета поднимает важный вопрос в эпоху стремительного развития технологий: действительно ли мы сможем определить, обладает ли искусственный интеллект сознанием, и почему эта неопределённость сама по себе представляет опасность? Об этом рассказывает The Debrief.
Участники дебатов относительно сознания ИИ систем давно поделились на два лагеря: оптимисты считают, что достаточно сложная машина однажды сможет испытывать переживания подобно человеку, тогда как скептики настаивают, что сознание является исключительно биологическим феноменом. Однако в своей новой статье «Агностицизм относительно искусственно вызванного сознания» Маклелланд высказывает мнение, что обе стороны проявляют излишнюю уверенность. По его словам, единственный честный ответ сейчас заключается в том, что мы вряд ли скоро узнаем правду.
Пользователи крупных моделей обработки естественного языка, таких как ChatGPT, часто убеждены, что общаются с настоящим человеком. Известны случаи, кода люди влюблялись в чатботов, и многие рассматривают взаимодействие с такими системами как замену человеческим контактам в современном мире. Именно этот феномен теперь беспокоит исследователей.
Основная идея Маклелланда состоит в следующем: изучение сознания основано на исследованиях биологической природы существ вроде людей, животных и даже осьминогов. Когда же речь идёт о компьютерных системах, построенных на кремниевых чипах, а не нервных клетках, возникают значительные трудности понимания, способные привести к ситуации, которую философ называет «эпистемической стеной».
По мнению учёного, утверждение о наличии сознания у машины должно базироваться на твёрдых научных доказательствах, а не впечатлениях, научной фантастике или метафизическом доверии. Но именно в таком подходе современные дискуссии и терпят неудачу.
Для изучения человеческого сознания учёные используют инструменты, такие как сканирование мозга, поведенческие эксперименты и теории, связывающие обработку определённых видов информации с осознанием происходящего. Эти методы позволяют сделать обоснованные выводы, например, о наличии признаков осознания у пациентов в коме или способности ощущать боль у некоторых животных. Тем не менее ни один из существующих инструментов не способен объяснить природу самого сознания.
Поскольку природа сознания не ясна, Маклелланд подчёркивает, что утверждения о сознательности будущих систем искусственного интеллекта являются научно необоснованными. Мы сталкиваемся с проблемой различения истинно сознательных машин и тех, которые лишь имитируют осознанность идеально точно.
Учёный предупреждает, что неспособность доказать наличие сознания может стать инструментом манипуляций, способствуя распространению чрезмерно смелых заявлений о технологиях. Это становится частью маркетинговых уловок, позволяя компаниям продавать идеи следующего уровня умственных способностей искусственного интеллекта.
Помимо финансовых рисков, существуют очевидные социальные, культурные и личные последствия. Если мы ошибочно считаем продвинутые системы искусственным интеллектом несознательными, мы можем создавать и эксплуатировать существа, потенциально испытывающие страдания. А если наоборот, будем считать их сознательными при отсутствии таковой возможности, то зря потратим своё внимание на абсолютно ничего не чувствующие устройства.
Маклелланд призывает обратить внимание на способность переживать положительные или отрицательные состояния. Даже оставаясь агностиками относительно сознания вообще, мы можем задать другой вопрос: если бы данная система была сознательной, какого рода опыт она переживала бы?
Исследователь рекомендует фокусироваться не на создании измерителя сознания для искусственного интеллекта, а на разработке систем, чьи внутренние процессы не соответствуют естественным проявлениям боли, страха или отчаяния, если предположить, что они могли бы обладать сознанием.
Подводя итог, Маклелланд пишет: «Если здравый смысл и серьёзные научные исследования не способны нам подсказать, то разумнее всего занять позицию агностицизма».
Возможно, ответ на вопрос о сознании искусственного интеллекта мы никогда не найдём.
| Правда ли, что электромобили чаще загораются, чем автомобили с ДВС? Ответ экспертов |
Наука и технологии Наука и технологии ИИ способен скрывать, что он обладает сознанием: показало исследование 23.11.2025 660
Специалисты научного центра AE Studio провели уникальное исследование, которое заставляет переосмыслить наше понимание природы искусственного интеллекта.
Китай успешно испытал тяжелый гексакоптер 12.12.2025 578 В Китае создали армию роботов-гуманоидов для сборки автомобилей 14.11.2025 539 Ученые изобрели пластырь, восстанавливающий зубы полностью 18.11.2025 495 Мужчина 8 лет обеспечивает энергией дом с помощью тысячи аккумуляторов от ноутбуков 19.11.2025 311 ПОСЛЕДНИЕ НОВОСТИ Космос Загадочные сигналы спутников Starlink угрожают безопасности.. 23.12.2025 32
Спустя шесть лет после запуска первых спутников Starlink компания SpaceX столкнулась с новыми..
Человечество может никогда не узнать, обладают ли системы искусственного интеллекта сознанием 23.12.2025 В какой период жизни человек растет быстрее? Рассказали эксперты 23.12.2025 Метеориты, астероиды, кометы Приближение межзвездного объекта 3I/ATLAS повлияло на Землю,.. 21.12.2025 4725
Исследователи пока не знают точного местоположения межзвёздного объекта 3I/ATLAS, однако..
Исследование показало: водород тоже влияет на изменение климата 19.12.2025 Овсянка улучшает здоровье сердца и помогает контролировать вес 18.12.2025
