Як медицина може використовувати зрозумілий ШІ?

Охорона здоров'я, фінанси, страхування та виробництво - це лише кілька галузей, де штучний інтелект (ШІ) має значний вплив. Розробляються складніші моделі штучного інтелекту, щоб відповідати вимогам конкретних випадків використання. Однак прогнози цих моделей штучного інтелекту виглядають як результати роботи "чорної скриньки", без жодного обґрунтування чи пояснення, чому вони були зроблені. Потреба дослідників, організацій та регуляторів зрозуміти, як моделі ШІ повністю дають пропозиції, прогнози тощо, призвела до появи пояснюваного ШІ (Explainable AI, XAI).

Пояснювальний штучний інтелект (Explainable artificial intelligence, XAI) - одна з найновіших галузей штучного інтелекту, що швидко розвивається. Підхід XAI має на меті запропонувати зрозуміле для людини пояснення моделі глибокого навчання. У критично важливих галузях, таких як охорона здоров'я або безпека, це надзвичайно важливо. Підходи, викладені в літературі протягом багатьох років, часто стверджують, що вони дадуть пряму відповідь на питання, як модель прийшла до свого висновку.

Розуміння того, коли XAI необхідний для охорони здоров'я

Фахівці в галузі охорони здоров'я використовують штучний інтелект для прискорення та покращення різних функцій, включаючи управління ризиками, прийняття рішень і навіть діагностику, скануючи медичні знімки, щоб знайти невидимі для людського ока аномалії та закономірності. Хоча ШІ став життєво важливим інструментом для багатьох медичних працівників, його складно зрозуміти, що розчаровує лікарів, особливо під час прийняття важливих рішень.

Будь-який з наступних сценаріїв вимагає XAI

  • Коли справедливість є головним пріоритетом, а клієнти або кінцеві користувачі потребують інформації, щоб зробити поінформований вибір
  • Коли помилкові рішення ШІ мають далекосяжні наслідки (наприклад, рекомендація щодо непотрібної операції)
  • Коли наслідки помилки серйозні, наприклад, неправильна класифікація злоякісних пухлин призводить до надмірних фінансових витрат, підвищених ризиків для здоров'я та особистої травми.
  • Коли АІ-система створює нову гіпотезу, яку повинні перевірити фахівці в певній галузі.
  • З метою дотримання нормативних актів, таких як Загальний регламент про захист даних (GDPR) ЄС, який гарантує "право на пояснення", коли автоматизовані процеси обробляють дані користувачів

На думку деяких експертів, відносно повільне впровадження систем штучного інтелекту в галузі охорони здоров'я пов'язане з майже повною неможливістю незалежного підтвердження результатів роботи систем "чорних ящиків".

Однак лікарі можуть використовувати XAI для визначення найкращого курсу лікування для пацієнта, визначивши, чому у нього такий високий ризик госпіталізації. Як результат, лікарі можуть базувати свої рішення на більш достовірній інформації. Крім того, це підвищує простежуваність і прозорість клінічних рішень. Процес схвалення фармацевтичних препаратів також може бути прискорений за допомогою XAI.

Як лікарі можуть отримати користь від XAI?



У багатьох людей наручні годинники і кардіомонітори можуть розтанути від думки про впровадження ШІ в медицину, але ми вважаємо, що цілком зрозумілий і моральний підхід буде "пустушкою". Він передбачатиме, що велика кількість історичних даних про пацієнтів і клінічних даних може бути використана для того, щоб допомогти лікарям та іншим медичним працівникам вчитися у ШІ, а також допомогти ШІ інформувати про плани лікування.

Це уможливить ефективний, керований даними процес, який оцінює і калібрує весь алгоритм щоразу, коли з'являється новий варіант лікування, і дозволяє відстежувати індивідуальні програми для кожного пацієнта. Для постійного вдосконалення своїх рекомендацій лікарям вона об'єднає дані тисяч людей з майже порівнянними захворюваннями.

XAI може використовуватися лікарями та медичними працівниками, як тільки вони можуть


  • Вчіться на даних замість того, щоб давати алгоритму владу.
  • Ставитися до пацієнтів неупереджено та етично, використовуючи велику кількість наукової та медичної інформації.
  • Створюйте ці знання за допомогою штучного інтелекту, не жертвуючи людським фактором.
  • Виявляйте проблеми на ранніх стадіях і вживайте більш ефективних заходів для швидкого відновлення здоров'я.
  • Покращуйте умови, своєчасність, бюджети та результати охорони здоров'я, зберігаючи при цьому низькі витрати.

Висновок

Коли мова заходить про стійку цифрову трансформацію, багато організацій вже користуються перевагами експоненціального зростання технологій. Ніколи ще не було кращого часу для постачальників медичних послуг і компаній у секторах медико-біологічних наук та біотехнологій, щоб зробити те саме, оскільки ми всі шукаємо кращі способи роботи після кількох турбулентних років.

Рішення для зрозумілості можуть допомогти медичним працівникам зберегти впевненість у собі під час вивчення інновацій. Крім того, коли уряди запроваджують суворі правила щодо технологій у сфері охорони здоров'я, зрозумілість може стати першим важливим кроком до розкриття "чорної скриньки" штучного інтелекту і зробити моделі прийняття рішень зрозумілими для всіх зацікавлених сторін.

ukУкраїнська