Штучний інтелект в медицині покалічив десятки пацієнтів
З кінця 2021 року по листопад 2025 року щонайменше 10 осіб отримали травми через ШІ
Виробники медичного обладнання поспішають додати штучний інтелект до своїх продуктів. Хоча прихильники стверджують, що нова технологія революціонізує медицину, регуляторні органи отримують все більше скарг про травми пацієнтів. Про це повідомляє «Главком» з посиланням на Reuters.
У 2021 році підрозділ медичного гіганта Johnson&Johnson оголосив про «стрибок вперед»: він додав штучний інтелект до медичного пристрою, що використовується для лікування хронічного синуситу, запалення пазух носа. Acclarent заявив, що програмне забезпечення для його навігаційної системи TruDi тепер використовуватиме алгоритм машинного навчання, щоб допомагати фахівцям з вуха, носа і горла під час операцій.
Пристрій вже був на ринку близько трьох років. До цього часу Управління з контролю за продуктами та ліками США (FDA) отримало непідтверджені повідомлення про сім випадків несправності пристрою та ще одне повідомлення про травму пацієнта. З моменту додавання штучного інтелекту до пристрою FDA отримало непідтверджені повідомлення про щонайменше 100 випадків несправності та небажаних подій.
На що скаржилися пацієнти?
Згідно з повідомленнями, з кінця 2021 року по листопад 2025 року щонайменше 10 осіб отримали травми. Більшість випадків, як стверджується, пов'язані з помилками, коли навігаційна система TruDi надавала хірургам неправдиву інформацію про розташування їхніх інструментів під час операцій у головах пацієнтів.
Як повідомляється, у одного пацієнта з носа витікала спинномозкова рідина. В іншому випадку хірург помилково проколов основу черепа пацієнта. У двох інших випадках пацієнти нібито перенесли інсульти після випадкового пошкодження великої артерії.
Двоє жертв інсульту подали позови в Техасі, стверджуючи, що штучний інтелект системи TruDi сприяв їхнім травмам.
Заява компанії
На запитання про звіти FDA щодо пристрою TruDi компанія Johnson & Johnson переадресувала питання до Integra LifeSciences, яка в 2024 році придбала Acclarent і навігаційну систему TruDi. Integra LifeSciences заявила, що звіти «лише вказують на те, що система TruDi використовувалася під час операції, під час якої стався небажаний випадок». Компанія додала, що «немає надійних доказів, які б свідчили про будь-який причинно-наслідковий зв'язок між навігаційною системою TruDi, технологією штучного інтелекту та будь-якими передбачуваними травмами».
Інші медпристрої
TruDi – не єдиний медичний пристрій із елементами штучного інтелекту, ефективність якого викликає питання. FDA повідомляє про десятки подібних випадків із іншими ШІ-рішеннями. Серед них – кардіомонітор, який, за повідомленнями, не зафіксував небезпечні порушення серцевого ритму, а також ультразвуковий апарат, що неправильно визначав частини тіла плода.
За результатами досліджень, 60 медичних пристроїв із використанням ШІ були пов’язані зі 182 відкликаннями продукції, схваленої FDA. Водночас 43% таких випадків сталися менш ніж через рік після отримання дозволу на використання.
До слова, жінка ледь не померла після того, як ChatGPT дав їй неправильну пораду щодо отруйної рослини. Про це розповіла YouTube-блогерка Крісті у своєму акаунті в Instagram.