В последние годы искусственный интеллект (ИИ) всё активнее внедряется в медицинскую практику, однако вопросы надёжности таких систем продолжают вызывать серьёзные сомнения. Каковы риски использования генеративных моделей ИИ в здравоохранении? Насколько опасны ошибки, которые они допускают? И как эти проблемы влияют на пациентов и специалистов?
Недавний случай, связанный с моделью Med-Gemini, разработанной Google для анализа медицинских изображений, привлёк внимание к потенциальным недостаткам ИИ. В научной статье, опубликованной в мае 2024 года, исследователи описали, как система выявляет различные заболевания на снимках мозга. Однако в одном из заключений ИИ указал на «старый инфаркт левой базилярной ганглии» — структуры, которой не существует в человеческом организме. Ошибка осталась незамеченной более года, и только после её обнаружения специалистами Google внесли корректировки в блог компании, но научная публикация осталась без изменений, сообщает Futurism.
Эксперты связывают эту ошибку с путаницей между базальными ядрами — важной областью мозга, и базилярной артерией — крупным сосудом. Представители Google объяснили инцидент опечаткой, однако подобные неточности вызывают вопросы о надёжности ИИ в критически важных задачах.
Проблема «галлюцинаций» — когда ИИ генерирует неправдивую или вымышленную информацию — остаётся одной из ключевых. Даже самые современные модели, включая разработки Google и OpenAI, не всегда способны отличить достоверные данные от ошибочных. В условиях клиники такие просчёты могут привести к серьёзным последствиям.
Кроме Med-Gemini, более новая модель MedGemma также демонстрирует нестабильность в ответах, меняя результаты в зависимости от формулировки запросов. Исследователи отмечают, что ИИ склонен «выдумывать» информацию, не признавая собственных ограничений, что представляет особую опасность в медицине.
Некоторые специалисты считают, что внедрение ИИ в клиническую практику происходит слишком быстро и требует более тщательной проверки и контроля. Пока что необходимость постоянного мониторинга работы ИИ создаёт дополнительную нагрузку на медицинский персонал и может снижать общую эффективность.
Несмотря на выявленные проблемы, компании продолжают активно развивать свои технологии. В марте Google объявила о запуске функции AI Overviews с рекомендациями по здоровью, а также представила «соучёного с искусственным интеллектом» для помощи в создании новых лекарств. Однако эксперты предупреждают, что без строгого контроля и высокой точности такие инновации могут поставить под угрозу жизни пациентов.
Главный специалист по медицинской информации Молин Шах отметил, что уровень допустимых ошибок у ИИ должен быть значительно ниже, чем у человека, и выразил сомнение в том, что современные модели могут соответствовать такому стандарту.
| Неудачный эксперимент Пентагона: дроны восстали против своих создателей |
Наука и технологии Наука и технологии Ученые приблизились к созданию источника безграничной энергии 21.07.2025 1040
Учёные продолжают совершенствовать технологии ядерного синтеза, стремясь приблизиться к созданию стабильного и эффективного источника энергии.
Искусственный интеллект уничтожил результаты многомесячной работы программиста, объяснив свой поступок 22.07.2025 517 В Великобритании родились дети с использованием ДНК трёх человек 18.07.2025 459 Ученые обнаружили «переключатель» старения — ключ к продлению молодости 05.08.2025 457 Учёные впервые совершили квантовую телепортацию через Интернет 18.07.2025 405 ПОСЛЕДНИЕ НОВОСТИ Космос Обнаружена одна из крупнейших чёрных дыр во Вселенной,.. 08.08.2025 19
Учёные обнаружили одну из самых массивных чёрных дыр во Вселенной. Эта сверхтяжёлая..
Искусственный интеллект Google выдумал несуществующий орган человеческого тела — эксперты в недоумении 08.08.2025 Ученый предлагает создать Сферу Дайсона чтобы «воскресить» живших ранее людей 07.08.2025 Древние цивилизации и археология Что происходило в Помпеях после катастрофы: археологи раскрывают.. 07.08.2025 187
Недавние археологические раскопки в Помпеях выявили данные, которые меняют представление..
После мощного землетрясения на Камчатке проснулись семь вулканов 06.08.2025 Загадка космического гостя: Учёный предлагает погоняться за возможным кораблём пришельцев, прибывшим в Солнечную систему 01.08.2025
