Vědci z předních amerických univerzit vyvinuli dva nové softwarové nástroje založené na strojovém učení, které mají za cíl odhalit a opravit skryté systematické chyby v medicínských datech. Tyto chyby, často neviditelné pro lidské oko, mohou vést k tomu, že umělá inteligence (AI) vyvodí zcela chybné klinické závěry, což v praxi přímo ohrožuje zdraví pacientů. Nové metody se zaměřují jak na analýzu trénovacích dat pro klinickou AI, tak na zpřesnění výzkumu lidského genomu.
- Nástroj G-AUDIT odhaluje skryté vzorce v trénovacích datech, které by umělou inteligenci mohly navést k chybným diagnózám.
- Software PATTY opravuje systematické zkreslení v populární metodě CUT&Tag používané pro analýzu epigenomu.
- Oba nástroje reagují na fenomén, kdy algoritmy dělají správná rozhodnutí na základě zcela nesprávných vodítek.
Když se AI chová jako chytrý kůň Hans
První z nástrojů, nazvaný G-AUDIT (Generalized Attribute Utility and Detectability-Induced Bias Testing), vznikl ze spolupráce Johns Hopkins University a amerického Úřadu pro kontrolu potravin a léčiv (FDA). Jeho úkolem je prověřovat obrovské soubory dat ještě předtím, než se na nich začne model AI trénovat. Výzkum publikovaný v časopise npj Digital Medicine upozorňuje na takzvaný „efekt chytrého Hanse“ – podle koně z počátku 20. století, který zdánlivě uměl počítat, ale ve skutečnosti jen reagoval na nepatrné změny v řeči těla svého chovatele.
„Modely dělají stejné zkratky,“ vysvětluje Mathias Unberath z Johns Hopkins University s tím, že například model vytrénovaný k určování pohlaví podle snímků očí se ve skutečnosti rozhodoval podle přítomnosti řasenky, nikoli podle biologických znaků.
Podobně se v lékařských datech může objevit zkreslení, pokud jsou snímky kožních nádorů z jedné kliniky foceny kvalitnějším fotoaparátem nebo obsahují pravítko pro měření velikosti léze. AI pak může chybně vyhodnotit přítomnost pravítka nebo kvalitu snímku jako hlavní příznak rakoviny. V reálném světě při použití běžného chytrého telefonu by pak takový model naprosto selhal a vytvořil nebezpečné rozdíly v péči o pacienty. G-AUDIT dokáže tato rizika v datech identifikovat a seřadit podle závažnosti.
Oprava chyb v mapování lidského genomu
Druhý nástroj, pojmenovaný PATTY (Propensity Analyzer for Tn5 Transposase Yielded bias), vyvinuli vědci z University of Virginia School of Medicine. Zaměřuje se na oblast epigenetiky, která zkoumá, jak vnější vlivy a chemické modifikace zapínají či vypínají jednotlivé geny, aniž by se měnila samotná sekvence DNA.
Výzkumníci odhalili závažný zdroj chyb v celosvětově populární metodě CUT&Tag, která slouží k mapování těchto epigenetických změn i z velmi malých vzorků buněk. Metoda využívá enzym Tn5 transposáza, který však přirozeně upřednostňuje otevřené a přístupnější oblasti genomu. To vytváří falešné biologické signály. Tým pod vedením Chongzhi Zanga analyzoval téměř 300 publikovaných datových sad a označil toto zkreslení za velmi závažné.
Bezplatný software pro čistší vědu
Nástroj PATTY, jehož detaily zveřejnil časopis Nature Communications, využívá strojové učení k tomu, aby odlišil skutečný biologický signál od šumu a technického artefaktu způsobeného enzymem. Na rozdíl od pouhého odečítání pozadí se model učí, jak se skutečný signál od chyby liší, a dokáže jej přesně očistit.
Tento software je nyní vědecké komunitě k dispozici zdarma jako open-source. Podle autorů by se očištění dat od systematických chyb mělo stát běžnou součástí genetického výzkumu. Přesnější data totiž zabrání tomu, aby vědci marnili čas a finanční prostředky zkoumáním falešných stop, což v důsledku urychlí vývoj nových léků a diagnostických metod.
