Когато AI замести лекаря: Навлиза ли технологията прекалено бързо в медицината?

Годината е 2021 г. Acclarent, едно от подразделенията на световния гигант в сферата на здравеопазването Johnson & Johnson, обявява „скок напред“. Той се изразява във внедряването на ново медицинско изделие, базирано на изкуствен интелект. Става дума за навигационна система, наречена TruDi, която се използва при операции на уши, нос и гърло, пише Reuters.

Към онзи момент технологията е получила разрешение за ползване от американската Агенция по храните и лекарствата (FDA), но без допълнителния AI софтуер. Дотогава институцията е получила сигнали за седем случая, в които технологията е показала неизправност, и за един, при който пациент е получил наранявания.

След внедряването на AI обаче броят на сигналите нараства лавинообразно – над 100. В голяма част от тях се твърди, че в периода 2021–2025 г. най-малко десет души са получили наранявания, докато са били на операционната маса. Каква е причината? Технологията подава грешни данни по време на операция, така че лекарите се объркват в коя точно част от главата на пациента се намират инструментите им. Така се стига дори до пробиване на черепа на един от оперираните. Други двама претърпяват инсулт заради засягане на артерия.

Последните двама завеждат дела с твърдението, че са пострадали тежко заради използваната технология. От Johnson & Johnson отказват да коментират темата и насочват въпросите към новия собственик на Acclarent – Integra LifeSciences. Допълват, че досега е установено единствено, че „системата TruDi е била използвана по време на операция, при която е възникнало нежелано събитие“, и че няма доказателства за причинно-следствена връзка между технологията и нараняванията.

Когато болницата е далеч, а лекарите не достигат: Китай залага на AI

Тези случаи са показателни, особено на фона на трансформацията на медицината заради навлизането на изкуствения интелект. Според поддръжниците на тази промяна AI ще помогне в редица области – лечение на редки болести, откриване на нови медикаменти и усъвършенстване на уменията на лекарите. В същото време има немалко сигнали за проблеми, които обаче не спират надпреварата за внедряване на AI.

Към момента американските власти са разрешили използването на 1 357 медицински изделия, базирани на изкуствен интелект – двойно увеличение спрямо издадените лицензи към края на 2022 г. Системата TruDi далеч не е единствената, за която има сигнали.

Наскоро учени от три университета – „Джон Хопкинс“, „Джорджтаун“ и „Йейл“ – установяват, че 60 разрешени продукта са били изтегляни от пазара общо 182 пъти, като в 43% от случаите това се е случило по-малко от година след одобрението.

Скоростното внедряване на AI технологиите в медицината е проблем за надзорните органи, споделят петима служители на FDA. Агенцията е с намален персонал, но същевременно се опитва „да не прекъсва потока“ от нови устройства на пазара.

AI модел на Google DeepMind разчита „кода на живота“ в ДНК

Преведено на прост език, това означава, че администрацията е по-слабо подготвена и все по-трудно се справя със заявките за нови технологии. Преди малко повече от четири години агенцията решава да разшири капацитета си, като назначава специалисти по изкуствен интелект. След това обаче идва новият мандат на Доналд Тръмп и съкращенията на бюджетни разходи. Така 15 от общо 40 служители в един от отделите са освободени. Натоварването на останалите се увеличава двойно. В същото време се изисква висок стандарт на работа и внимателна проверка на всеки продукт, което прави риска от пропуски по-голям.

Бумът на AI не се ограничава само до лекарите. Много пациенти използват технологията за самодиагностика, макар че повечето модели имат ограничения. Изкуственият интелект няма да предпише лечение, но може подробно да описва симптоми и възможните им причини.

Така технологията вече премина през своя бум и стана масова, а властите се опитват да наваксат. FDA започва да разрешава медицински изделия с елементи на AI още през 1995 г., главно за образна диагностика и откриване на тумори. Тези системи обаче са далеч по-прости от днешните.

И сегашните технологии не работят безпроблемно. В едно от делата се твърди, че през 2022 г. лекар използва TruDi при лечение на синузит. По време на процедурата е подведен от данните на системата и се стига до нараняване на сънната артерия. Пациентът получава инсулт и години по-късно все още не е възстановен.

При внедряването на AI в TruDi тогавашният ръководител на Acclarent Джеф Хопкинс е виждал в това силен маркетингов инструмент. Той е бил предупреден от хирург за проблеми в системата, но компанията въпреки това е избързала с пускането на продукта. Това се твърди в друго съдебно дело.

Как ще се развият делата е рано да се каже. Ясно е обаче, че заради съкращенията администрацията трудно упражнява контрол върху AI в медицината. В същото време натискът за одобрение е силен, тъй като за компаниите става дума за многомилионни печалби.

Тази комбинация вече показва потенциал за сериозни проблеми. Не е изключено подобни ситуации да се повторят и в други държави.