Сегодня ИИ активно внедряют во все области жизни. Однако использование нейросетей в социальных сферах, в том числе в медицине, — обоюдоострый вопрос. Что называется — и хочется, и колется. Так хочется ли — обсудили на BIS SUMMIT 2025.
ИИ негласно принято называть мерилом цифровой зрелости. Но для начала важно определиться, а нужен ли ИИ внутри тех процессов, которыми занимается тот или иной орган, при том, что вопросы безопасности нейросети разрешены не до конца.
За последние годы ИИ стал «модной штукой», которую внедряют во все сферы жизни. Но и сегодня никто до конца не понимает, как проверить безопасность искусственного интеллекта, на каких выборках он обучен и кто отвечает за действия нейросети.
Когда речь идет о применении ИИ в социальной сфере, в медицине, лучше сделать несколько шагов назад, чем опережать события, считает заместитель руководителя ФМБА России Николай Лишин.
Вопрос медицинского обследования всегда был наиболее чувствительным для граждан, от эффективности лечения зависит жизнь и здоровье людей.
И здесь возникает вопрос: а можем ли мы доверить лечение людей, диагностику, пусть даже частично, машине?
ИИ обучен на огромном массиве данных, большой выборке информации. Но какая это информация — вот вопрос. Когда мы всем миром отмечали светофоры, кошечек и собачек, чтобы подтвердить, что мы не роботы, мы все бесплатно обучали ИИ. Но вот в чем загвоздка: кошечку от собачки отличить может и маленький ребенок. А с кардиограммой дела посерьезнее, да и риски намного существеннее.
«Чтобы обучить искусственный интеллект в области медицины, нужен тот уровень квалификации, разметки данных, который позволит хотя бы не навредить человеку. Когда в практике появляется тяжелый случай, врачи собирают консилиум, потому что в сложных случаях ни один врач не готов взять ответственность. О каком искусственном интеллекте можно сейчас говорить», — отметил Лишин.
Источник: rg.ru