Использование ИИ в медицинской сфере может привести к искажению информации сообщили учёные Университета Флиндерс

Использование ИИ в медицинской сфере может привести к искажению информации, сообщили учёные Университета Флиндерс


"Питерские заметки", 25.03.2024:

В недавнем исследовании, опубликованном 20 марта 2024 года в "British Medical Journal", учёные проанализировали эффективность существующих механизмов защиты крупных языковых моделей (LLM) и прозрачность при разработке систем искусственного интеллекта.

Специалисты из Университета Флиндерс выяснили, что механизмы защиты в рамках медицинской сферы работают не всегда одинаково, а прозрачность среди разработчиков ИИ оказалась недостаточной.

Языковые модели помогают усовершенствовать процесс мониторинга состояния пациентов, но при этом они создают угрозу распространения дезинформации о здоровье. Также эксперты отметили, что более 70% людей полагаются на Интернет для получения информации. Поэтому распространение непроверенных утверждений может потенциально привести к серьезным угрозам общественному здоровью.

Результаты исследования подчёркивают необходимость улучшения прозрачности, регулирования и аудита для решения обсуждаемых проблем.

"Питерские заметки" провели обзор публикаций российских исследователей, посвящённых этой важной проблеме. В своей работе научный сотрудник ГБУ "Научно-исследовательский институт организации здравоохранения и медицинского менеджмента Департамента здравоохранения города Москвы" Наталья Аликперова пишет о том, что внедрение искусственного интеллекта в сферу здравоохранения открывает широкие перспективы для улучшения медицинской помощи.

Однако, чтобы минимизировать риски и максимизировать преимущества этого процесса, необходимо предпринимать ряд мер.

Для устранения проблемы недостаточной точности при использовании ИИ в медицине важно тщательно подготовить данные, на которых будет обучаться система, а также правильно настроить алгоритмы. Регулярная проверка и обновление алгоритмов помогут обеспечить их точность и актуальность.

Ещё необходима дополнительная подготовка медицинских работников по освоению новых технологий, включая использование ИИ. Современному врачу важно обладать не только медицинскими, но и экономическими, и юридическими знаниями, а также разбираться в информационных технологиях.

Внимание! Информация на сайте представлена исключительно в ознакомительных целях, не является призывом к действию. Перед применением любых рекомендаций обязательно проконсультируйтесь со специалистом. Могут иметься противопоказания или индивидуальная непереносимость.

Свежее:

Мастер-классы по звонарному искусству прошли в Великом Новгороде

Жители Великого Новгорода пожаловались на неудовлетворительное состояние дороги на Шелонском проезде

Презентация проекта "Собиратели земли русской" состоялась в Великом Новгороде

Открытие выставки «Новгород освобожденный». Живопись и графика А.К. Крылова» состоялось в Великом Новгороде

Жители Великого Новгорода попросили отключить отопление на Чудинцева, 11/62