Поделиться
Врачи моментально теряют навык диагностики, когда начинают использовать нейросети. После отказа от ИИ показатели падают ниже исходных
Как показало недавно проведенное исследование, использование инструментов ИИ врачами-эндоскопистами положительно сказывается на показателях выявления доброкачественных ноовобразований. Однако после длительного применения ИИ с последующим отказом от него показатели падают ниже исходных. Это свидетельствует о снижении уровня квалификации медицинского специалиста по вине ИИ, считают ученые.ИИ облегчает работу врачей, но отрицательно сказывается на их квалификации
Врачи-эндоскописты быстро теряют навыки выявления некоторых предраковых заболеваний после начала использовании вспомогательных технологий машинного зрения, пишет The Register.
Согласно результатам недавнего исследования, опубликованного в авторитетном журнале Lancet, применение ИИ-инструментов позволяет значительно повысить значение показателя выявленных колоректальных аденом (Adenoma Detection Rate; ADR) на 12,5%. ADR – отношение числа колоноскопий, при которых выявлена одна или несколько гистологически (путем изучение образцов тканей, полученных во время процедуры) подтвержденных аденом к общему числу выполненных колоноскопий. Аденома в общем случае – доброкачественная опухоль, при отсутствии адекватного и своевременного лечения, способная дать начало злокачественному росту с развитием рака простаты.
Другими словами, ИИ-инструменты действительно помогают врачам выявлять это весьма распространённое заболевание и, вероятно, спасать жизни людям. Однако, как вытекает из того же исследование, после отказа от использования таких инструментов – в силу тех или иных причин – уровень навыков специалистов в области эндоскопии не просто откатывается к исходному, но и значительно снижается в сравнении с ним.
«Постоянное воздействие ИИ может снизить ADR стандартной колоноскопии без использования ИИ, что свидетельствует о [его] негативном влиянии на поведение эндоскописта», — заключают авторы исследование.
Насколько снижается точность исследований, проведенных вручную
Анализ выполнен на основе данных четырех центров эндоскопии в Польше, собранных в период с сентября 2021 по март 2022 г. Из них следует, что показатель ADR процедуры, проведенной до начала использования вспомогательных ИИ-инструментов, упал с исходных 28,4% до 22,4% после отказа от этих инструментов – на 6 процентных пунктов.
Авторы исследования обращают внимание на тот факт, что в 2019 г. Европейского общество гастроинтестинальной эндоскопии (European Society of Gastrointestinal Endoscopy; ESGE) предупреждали коллег об опасности утраты навыков в своем руководстве «Расширенные возможности визуализации для выявления и дифференциации колоректальных неоплазий».
«Необходимо учитывать возможные существенные риски, связанные с внедрением [технологий ИИ], в частности, потерю квалификации эндоскопистами и чрезмерную зависимость от искусственного интеллекта, нерепрезентативных дата-сетов, использованных для обучения ИИ-моделей, и хакерских атак», – говорится в документе.
Ученые называют проведенное ими исследование первым в своем роде – в нем рассматривается влияние продолжительного применения ИИ-инструментов на клинические результаты, и выражают надежду на то, полученные в итоге выводы станут толчком к дальнейшим исследованиям влияния ИИ на сферу здравоохранения.
От ИИ-инструментов глупеют?
В июне 20025 г. ученые Массачусетского технологического института (MIT) опубликовали исследование на основе данных эхоэнцефалографии (ЭЭГ), которое показало, что при решении задач с использованием ботов на основе больших языковых моделей (LLM) вроде ChatGPT мозговая активность намного ниже, чем в случаях, когда оно осуществляется самостоятельно. Таким образом, применение ИИ может негативно отражаться на развитии когнитивных способностях человека, навыках критического мышления и уровне интеллектуальной независимости. Эта тема требует дальнейшего изучения, считают ученые.
Проблема не одной лишь медицинской сферы
О возможном негативном влиянии новых инструментов автоматизации на уровень квалификации специалистов в различных областях научное сообщество предупреждало задолго до нынешнего бума генеративного ИИ. В своей работе «Иронии автоматизации» (“Ironies of Automation”) 1983 г. психолог Лисанна Бейнбридж (Lisanne Bainbridge) показала, что автоматизация промышленных процессов может сыграть с занятыми в ней специалистами злую шутку.
Ученые университета Пердью (Индиана, США) в препринте недавней статьи «Утрата квалификации, когнитивная разгрузка и неравномерное распределение обязанностей: потенциальная ирония дизайна с использованием искусственного интеллекта» (“De-skilling, Cognitive Offloading, and Misplaced Responsibilities: Potential Ironies of AI-Assisted Design”) утверждают, что это касается и специалистов, занятых в UX-дизайне.
«Полученные нами результаты показывают, что, хотя автоматизация на основе ИИ и воспринимается как средство повышения эффективности, чрезмерное делегирование [задач ИИ] может непреднамеренно препятствовать развитию навыков», – заключают авторы работы.
В сентябре 2024 г. CNews писал, что, по мнению участников рынка, с ростом популярности нейросетей в России «катастрофически снижаются» компетенции программистов. Мнение о негативном влиянии ИИ-ассистентов программиста на навыки пользователей высказывают и зарубежные специалисты.
Короткая ссылка
