Использование ИИ в медицинской сфере может привести к искажению информации сообщили учёные Университета Флиндерс

Использование ИИ в медицинской сфере может привести к искажению информации, сообщили учёные Университета Флиндерс


"Питерские заметки", 25.03.2024:

В недавнем исследовании, опубликованном 20 марта 2024 года в "British Medical Journal", учёные проанализировали эффективность существующих механизмов защиты крупных языковых моделей (LLM) и прозрачность при разработке систем искусственного интеллекта.

Специалисты из Университета Флиндерс выяснили, что механизмы защиты в рамках медицинской сферы работают не всегда одинаково, а прозрачность среди разработчиков ИИ оказалась недостаточной.

Языковые модели помогают усовершенствовать процесс мониторинга состояния пациентов, но при этом они создают угрозу распространения дезинформации о здоровье. Также эксперты отметили, что более 70% людей полагаются на Интернет для получения информации. Поэтому распространение непроверенных утверждений может потенциально привести к серьезным угрозам общественному здоровью.

Результаты исследования подчёркивают необходимость улучшения прозрачности, регулирования и аудита для решения обсуждаемых проблем.

"Питерские заметки" провели обзор публикаций российских исследователей, посвящённых этой важной проблеме. В своей работе научный сотрудник ГБУ "Научно-исследовательский институт организации здравоохранения и медицинского менеджмента Департамента здравоохранения города Москвы" Наталья Аликперова пишет о том, что внедрение искусственного интеллекта в сферу здравоохранения открывает широкие перспективы для улучшения медицинской помощи.

Однако, чтобы минимизировать риски и максимизировать преимущества этого процесса, необходимо предпринимать ряд мер.

Для устранения проблемы недостаточной точности при использовании ИИ в медицине важно тщательно подготовить данные, на которых будет обучаться система, а также правильно настроить алгоритмы. Регулярная проверка и обновление алгоритмов помогут обеспечить их точность и актуальность.

Ещё необходима дополнительная подготовка медицинских работников по освоению новых технологий, включая использование ИИ. Современному врачу важно обладать не только медицинскими, но и экономическими, и юридическими знаниями, а также разбираться в информационных технологиях.

Внимание! Информация на сайте представлена исключительно в ознакомительных целях, не является призывом к действию. Перед применением любых рекомендаций обязательно проконсультируйтесь со специалистом. Могут иметься противопоказания или индивидуальная непереносимость.

Свежее:

Гипертония увеличивает риск сердечно-сосудистых заболеваний и рака, сообщили сотрудники Пенсильванского университета

Силовые тренировки благотворно отражаются на психическом здоровье пожилых людей, заявили ученые IIEP

Растения семейства тыквенных обладают витаминами А и С, заявили ученые UAdeC

Соблюдение средиземноморской диеты во время беременности идет на пользу маме и малышу, заявили специалисты AMU

Сбалансированное употребление макронутриентов благотворно отражается на здоровье, заявили ученые PBRC