Haiglate AI-mudelid tuginevad osaliselt kahtlastel andmetel

Austraalia teadlased avastasid, et üle saja meditsiinilise tehisintellekti mudeli, mida haiglade insuldi- ja diabeediravitöös kasutatakse, põhinevad kahtlase päritoluga andmetel. Leitud probleem tõstatab küsimusi AI-süsteemide usaldusväärsuse ja patientide ohutuse üle.

Tehisintellekti kiire levik meditsiinivaldkonnas on toonud kaasa ka uusi väljakutseid. Haiglaasutused üle maailma on hakanud rakendama AI-mudeleid insuldi- ja diabeedihaigete diagnoosimisele ja ravile, kuid Austraalia teadlaste uurimused paljastasid olulise probleemi nende süsteemide alustes.

Teaduslike tööde analüüsi käigus leidsid uurijad, et rohkem kui saja meditsiinilise AI-mudeli arendumisel kasutati kahtlase päritoluga andmeid. See tähendab, et paljude haiglates praegu kasutusel olevate diagnoosisüsteemide vundament ei ole nii usaldusväärne, kui esmapilgul võiks arvata. Andmete päritolu on kriitiliselt oluline, sest halva kvaliteediga treeniandmed võivad viia ebatäpsete ennustuste ja potentsiaalselt ohtlike raviotsusteni.

Probleem on eriti murettekitav, arvestades, et tervishoiusüsteemid tuginevad järjest enam automatiseeritud otsustele. Kui AI-mudel treeni andmetel, mis pole korrektsed ega esindavad erinevaid populatsioone, võib see viia diskrimineeritud diagnostika ja ravi kehvemate tulemusteni teatud patsientgruppide seas.

Autraalia uurijate enda uuring pole aga veel edasi antud teiste teadlaste sõltumatul hindamisele, mis on normaalse teadusprotsessi oluline osa. Kuni peer-review protsess on lõpetamata, jäävad nende leiud akadeemiliselt kinnitamata. Sellegipoolest tõstatab avastus laiema küsimuse: kui paljudel teistel AI-süsteemidel meditsiinis võivad olla sarnased probleemid?