Израильские ученые решили доказать, что опасность вмешательства в результаты медицинских обследований достаточно велика и в данный момент информационная безопасность многих больниц организована на очень слабом уровне, пишет Washington Post. И сделали это предельно наглядным образом: их меняющий фотографии ИИ добавляет туда опухоли. Но также умеет и стирать их следы, снижая шансы на оказание своевременной помощи.
Даже без крайних мер потенциал воздействия программы очень велик. Например, WP напоминает, что, будучи кандидатом в президенты, Хиллари Клинтон в 2016 года выполнила компьютерную томографию легких. Она подтвердила наличие пневмонии, а не более серьезного заболевания. Это отчасти успокоило общественность, что позволило ей продолжать политическую гонку.
Команда создала вредоносное программное обеспечение, которое позволило автоматически добавлять злокачественные новообразования в КТ и МРТ еще до того, как результаты попадут на расшифровку рентгенологам.
В эксперименте ученые использовали реальные результаты сканирований легкий и изменили 70 из них, чтобы обмануть врачей. И им это удалось.
В 99% случаев врачи ошибались, если на снимке были «фальшивые» опухоли. Когда программа удаляла их из результатов сканирования, то врачи меняли вердикт в 94% случаев.
Даже когда врачам сообщили об эксперименте и предоставили новые реальные и измененные результаты сканирований, они все равно в большинстве случаев ошибались.
Эксперимент проводился на примере рака легких, однако вредоносная программа способна навредить и при других диагнозах — раке мозге, болезнях сердца и кровеносных сосудов, травмах позвоночника и многих других.
Наивные врачи
Ученые подчеркивают: основная проблема безопасности в медицинском оборудовании и внутренних сетях и базах данных больниц, которые не используют шифрование и цифровое кодирование. Одна из больниц пыталась использовать шифрование, но настроила его неверно, в результате чего доступ к изображениям все равно сохранялся, уточняют авторы.
Чтобы внедрить ПО, разработчикам даже не нужен физический доступ к сетям больницы. Все можно сделать через интернет.
В качестве примера авторы исследования за 30 секунд внедрили вирус в сеть израильской больницы. И никто из медицинского персонала этого не обнаружил.
Очевидная проблема еще долго может оставаться нерешенной, считают некоторые скептики. У многих медицинских учреждений нет средств на более безопасное оборудование, а у некоторых инфраструктура в принципе не сможет поддерживать новые технологии шифрования.
Несколько ограничивает опасность практика проверочных скринингов и тестов, которые проводят для каждого спорного случая и при подготовке к операции. Это поможет исключить заведомо ложные данные, однако очевидно, что на первых этапах постановки диагноза потенциальный стресс для пациента обеспечен.
Тем временем в Великобритании алгоритмы-секретари избавляют врачей от бумажной работы. Они уже освободили им более 500 часов рабочего времени. Возможно, такая разгрузка позволит врачам уделять больше времени пациентам и перепроверять все спорные результаты обследований.
