Politik

Chexnet, lunginflammation och AI: djuplärning inte så enkel som man trott

Artificiell Intelligens, som omfattar Maskinlärning, Djuplärning, Neuronnät och många andra teknologier utvecklas idag i allt snabbare takt. Så snabbt att experter har börjat tala om medborgarlön som en nödvändighet för att förhindra massarbetslöshet under de närmaste decennierna, allteftersom AI tar över all större delar av arbetslivet.

Ett bra exempel på hotet är ett projekt från Stanforduniversitetet, tillsammans med Berkeley ett av världens ledande forskningsuniversitet på AI-området:CheXNet: Radiologist-Level Pneumonia Detection on Chest X-Rays with Deep Learning.

Jag har redan refererat projektet tidigare, och projektet har rönt stor uppmärksamhet genom att visa att man har skapat CheXNet, en djuplärningsalgoritm som kan upptäcka lunginflammation på röntgenplåtar på en nivå som överstiger mänskliga radiologer.

Ett historiskt genombrott med väldiga konsekvenser, om det var sant.

Men som röntgenläkaren Luke Oakden-Rayner påpekar i ett uppmärksammat inlägg på sin blogg:
CheXNet: an in-depth review, så är identifieringen av lunginflammation en mycket komplicerad procedur som inte enbart kan göras kliniskt, dvs genom att analysera röntgenplåtar.

Inte bara det, djuplärningsmetodiken använder sig av existerande röntgenplåtar av lungor med lunginflammation, som först måste verifieras, och som måste hålla en hög nog kvalitet för att dom ska kunna användas av djuplärningstekknologin. Till det kommer att de läkare som märker de existerande röntgenplåtarna med lunginflammation måste göra det på ett grundligt sätt.

Det behövs alltså en omfattande procedur för att träna djuplärningsalgoritmen och försäkra sig om att den verkligen fungerar så att den kan ersätta en mänsklig röntgenolog.

Bálint Botz som är MD/PhD, Diagnostic radiology resident, och forskare som fokuserar på neuroinflammation är inne på samma spår i sin artikel i Medium, bl.a.: A Few Thoughts About CheXNet — And The Way Human Performance Should (And Should Not) Be Measured

The radiologists involved in the study had to do their best without any access to patient informations. This is a highly unusual, in fact entirely non-existent scenario in clinical practice. Since pneumonia itself is a great mimicker of numerous pathologies, in the daily routine we usually receive targeted questions inquiring about the presence of certain pathologies on the request form and have access to all clinical information including lab results.

Orsaken till att debatten om den metodik som Stanfordteamet har använt för att skapa vad dom anser är en algoritm som är bättre på att identifiera lunginflammation i röntgenbilder än mänskliga röntgenläkare är så viktig är att den visar hur oerhört komplicerat maskinlärning och djuplärning faktiskt är.

Förra året deltog jag i hackathonen Brainhack i London i Ontario och förvånades över att de AI-forskare som sysslade med att analysera hjärnan inte själva var läkare. Och det fungerar inte, problemet med djup och maskinlärning är att man måste vara både läkare och AI-forskare.

Den här striden om CheXNet betyder att det inte kommer att bli speciellt lätt att skapa AI-system som kan ersätta mänskliga röntgenologer för att identifiera lunginflammation.

Vägen till AI-samhället är säkert mycket längre än vi tror.

Leave a Reply

Your email address will not be published. Required fields are marked *