Нейросеть Алиса не лукавит: Доверяя нам данные лабораторных исследований, готовьтесь к шантажу или потере работы
С мая по октябрь 2025 года число обращений россиян к искусственному интеллекту с заданием расшифровать данные своих лабораторных анализов выросла более чем в 8 раз.
Чаще всего они просили интерпретировать, среди прочего, гормоны щитовидной железы, показатели обмена железа и общий анализ крови, липидный профиль и показатели функции печени. Одновременно резко подскочила — с 4% до 41% — доля пользователей, запрашивавших у нейросетей дальнейшие рекомендации по своим действиям на основании полученных интерпретаций.
Такую информацию озвучили на полях международной конференции AI Journey («Путешествие в мир искусственного интеллекта»), в частности, представители входящего в экосистему банка «Сбер» медицинского сервиса «СберЗдоровье».
«Мы продолжаем развивать сервис, чтобы сделать его еще точнее и полезнее для каждого», — резюмировал директор Центра индустрии здоровья «Сбера» Сергей Жданов.
Что об этом думают врачи
— Помните старую поговорку — «тот, кто лечится по книжкам, рискует умереть от опечатки»? — задался вопросом президент «Лиги защиты врачей», кандидат медицинских наук Семен Гальперин.
— Так вот, на сегодняшний день искусственный интеллект сделал ее актуальность еще острее. Мы пробовали оценивать рекомендации искусственного интеллекта, правда, по методам лечения и по лекарственным средствам. Выяснилось, что в этом вопросе нейросеть очень часто не полагается на клинические рекомендации и исследования, а просто собирает всю информацию из Сети, включая рекламу.
Когда мы оцениваем результаты анализов конкретного человека, нужно очень четко представлять себе, что мы хотим получить. Если мы задаем вопрос о каком-то конкретном параметре, действительно, искусственный интеллект может дать ссылки на его параметры и значения. Но когда мы задаем целиком задачу по состоянию здоровья, по результатам нескольких исследований, нужно очень сильно опасаться, что информация не будет соответствовать должной.
Поэтому я бы все-таки советовал людям, которые сами не имеют образования в области IT, в области здравоохранения, не преувеличивать возможности искусственного интеллекта и понимать, что очень велик риск того, что нейросеть даст вам ошибочную рекомендацию.
«СП»: А способен ли искусственный интеллект хотя бы надежно сохранить врачебную тайну?
— Это зависит от того, что заложено в ту систему, к которой вы обращаетесь. Мы не знаем, как она работает, куда именно вы загружаете информацию, как она будет использоваться в дальнейшем.
Надо понимать, что сегодня любые личные данные имеют экономическую ценность. Поэтому в значительной степени информационные системы, которые собирают подобную информацию, могут ее где-то аккумулировать для дальнейшего использования, для торговли этими данными и так далее. И это большая опасность. Сегодня даже домашние гаджеты, могут вычленять и собрать такую информацию, чтобы потом где-то ее аккумулировать и кому-то передавать.
Что говорят эксперты по кибербезопасности
— Любые системы искусственного интеллекта являются облачными системами, — подчеркнул доцент института ВПСГН НИУ МИЭТ, кандидат технических наук Александр Шарамок.
— По факту мы именно в «облако» и передаем свои персональные данные в виде медицинских анализов.
К подобной передаче данных будут применимы все угрозы, что и для любой другой информации. Проще говоря, если вы отдаёте данные в облако, то отдаёте их на совесть того оператора, который вам эти услуги предоставляет.
«СП»: То есть эти данные тоже могут попасть в руки мошенников? А какой фактор ту важнее — машинной уязвимости или человеческий?
— Оба этих фактора могут сработать. Однако я считаю, что в первую очередь важен именно человеческий фактор. Анализ утечек информации показывает, что все они в основном случались по вине сотрудников на стороне оператора, которые крали и продавали эти данные. Любую систему, в принципе, могут взломать хакеры, чтобы похитить данные.
В любом случае вы должны понимать, что если вы их в каком-либо виде передаете любой организации или группе лиц, то можете быть уверены, что они уже вышли из-под вашего собственного контроля.
«СП»: А как полученные данные могут использовать эти лица или организации?
— Приведу простой пример. Многие люди хранят, например, личные фотографии в интернете, любая же облачная система предоставляет какой-то бесплатный для пользователя объем на эти цели.
Вот только бесплатный он очень условно. Эти фотографии могут использоваться оператором какого-нибудь искусственного интеллекта для его обучения той или иной функции. Когда мы загружаем в облако свои медицинские данные в каком бы то ни было виде, я лично больше чем уверен, что система будет их использовать для своего улучшения и обучения.
Так что нужно понимать, какую политику проводит оператор системы в отношении этих данных. Законы-то по поводу защиты персональных данных у нас хоть и есть, но соблюдаются ли они неукоснительно, вот в чем вопрос.
«СП»: То есть полностью доверять словам любого оператора о том, что уж его-то система абсолютно защищена от любых утечек и уязвимостей, не стоит?
— В природе не существует технических систем, которые полностью защищены от всех возможных угроз. Они всегда уязвимы с определенной долей вероятности.
Чем пристальнее и ответственнее оператор подходит к защите данных, тем, конечно, вероятность уязвимости его системы ниже. Но любая система априори не может быть стопроцентно защищена. Что ни новый день, то новые угрозы.
Что думает сам искусственный интеллект
— Исследования показывают, что нейросети могут обнаруживать патологии, которые врач мог бы пропустить, — отметила в беседе с «СП» созданная «Яндексом» нейросеть Алиса.
— Например, ИИ способен обнаружить микроскопические изменения в тканях или минимальные отклонения в клеточной морфологии. К тому же ИИ-сервисы делают базовую медицинскую информацию более доступной для пациентов, что может снизить тревожность и помочь структурировать данные до визита к врачу.
«СП»: То есть доверять свои анализы искусственному интеллекту можно?
— ИИ может некорректно интерпретировать результаты лабораторных исследований, особенно при предоставлении избыточного объёма данных. Точность диагноза снижается, если ИИ получает больше информации, чем необходимо для конкретного случая.
Я сама могу допускать ошибки, например, неверно интерпретировать данные медицинских анализов — и это принципиально важно понимать. Я не знаю анамнеза пациента, симптомов, принимаемых лекарств, сопутствующих заболеваний, возраста, пола, образа жизни. Отклонение одного параметра часто нужно оценивать в комплексе с другими, а изолированная трактовка ведёт к ошибкам.
Моя база данных не включает новейшие клинические рекомендации, редкие заболевания, региональные особенности диагностики. Я не могу учесть качество забора биоматериала, условия хранения и транспортировки, возможные лабораторные ошибки.
Так что если у вас есть результаты исследований, обратитесь к лечащему врачу. Не принимайте решения о лечении на основе моей информации. Не игнорируйте симптомы, даже если анализы «в норме».
«СП»: Нейросеть может гарантировать полную защищенность и приватность медданных гражданина?
— Личные данные медицинских исследований граждан могут попасть в руки мошенников, что создаёт серьёзные риски для пациентов. Утечки медицинских данных происходят по разным причинам, включая хакерские атаки, уязвимости в системах, человеческий фактор и неправильную утилизацию.
Злоумышленники используют вирусы, трояны и программы-вымогатели (ransomware) для взлома информационных систем медучреждений.
Неправильная утилизация бумажных документов или потеря носителей информации также приводят к утечкам.
«СП»: Как мошенники могут использовать эти данные?
— Информация о состоянии здоровья, особенно для публичных личностей или состоятельных людей, может быть использована для шантажа. Данные из медицинских карт, включая номера социального страхования и банковские реквизиты, позволяют оформлять поддельные кредитные карты, выставлять фиктивные счета страховым компаниям или государству.
Фрагменты медицинских карт могут продаваться на теневых площадках. Например, данные о ДНК или диагнозах ценятся высоко, так как не теряют актуальности со временем. Мошенники могут под видом врачей рекламировать нелицензированные лекарства или биодобавки, используя украденные данные для целевого маркетинга.
Утечки могут вызвать дискомфорт, ухудшение отношений с коллегами и работодателями, а в некоторых случаях — потерю работы. Раскрытие информации о болезнях может повлиять на карьеру, судебные процессы, условия получения наследства.
«СП»: Значит, абсолютно быть уверенным в безопасности хранения личных данных экосистемами искусственного интеллекта нельзя?
— Полностью защитить любой цифровой сервис от хакерских атак невозможно, так как угрозы постоянно эволюционируют. Ни одна система не может быть абсолютно неуязвимой. Возможные риски включают уязвимости в сторонних сервисах и интеграциях, человеческий фактор (ошибки сотрудников, фишинговые атаки), а также новые, ранее неизвестные угрозы (нулевые дни).
