Группа исследователей из Университета штата Аризона предупреждает, что не стоит воспринимать выдачу результатов от современных моделей искусственного интеллекта (ИИ) как продукт полноценного мыслительного процесса. Доклад на соответствующую тему опубликован на сайте препринтов arXiv.
Специалисты под руководством ученого Суббарао Камбхампати утверждают, что выдаваемый моделями ИИ текст часто воспринимается пользователями как продукт осмысленных размышлений. Тем не менее, подчеркивается, что это впечатление обманчиво: ответы представляют собой исключительно набор статистически подобранных последовательностей символов, не несущих подлинного смысла или алгоритмической глубины.
«Это похоже на культ карго, когда внешний вид имитирует нечто значительное, хотя на самом деле никакой внутренней сути нет», — поясняют авторы исследования.
Авторы называют полученные от нейросетей ответы не иначе как «поверхностными фрагментами текста». Согласно выводам экспертов, созданные людьми нейронные сети не демонстрируют никаких реальных проявлений интеллектуальных процессов. Вместо шагов настоящего мышления пользователи видят лишь результат сложных оптимизаций, производимых моделью.
Один из примеров приведенных доказательств — ситуации, когда модели выдают бессмысленные строки в ходе своего анализа, однако позже предоставляют точный конечный результат. Более того, разработчики намеренно вводят в систему искусственно сформированные элементы общения («хм», «ага»), создающие иллюзию живого собеседника.
В итоге авторы исследования предлагают обратить внимание разработчиков на повышение эффективности самих моделей, а не заниматься созданием искусственных следов когнитивной активности.
| Японские ученые создали игру в очках виртуальной реальности, которая может лечить близорукость |
.. ПОСЛЕДНИЕ НОВОСТИ Разные новости Нейрохирург заявил о доказательствах существования души 04.06.2025 65
Опытный американский нейрохирург Майкл Эгнор, выполнивший более семи тысяч операций,..
Ученые предупреждают: ответы ИИ — это не продукт мыслительного процесса 04.06.2025 Что произойдет с организмом, если две недели употреблять манго: новое исследование 04.06.2025 Метеориты, астероиды, кометы Тайны околоземных астероидов: Почему ученые ускорили свои исследования 04.06.2025 74
Рядом с Землей вращается около миллиона астероидов. Ежедневно астрономы наблюдают..
Добыча золота в Амазонии приводит к деградации почвы и препятствует восстановлению лесов 04.06.2025 Столкновение галактик больше не угрожает Земле 03.06.2025
