AI som stöd till sjukvården kräver en ny typ av godkännande från myndigheterna sida. Det brådskar.
När algoritmer kopplade till medicinsk utrustning spelar en allt viktigare roll måste FDA utveckla sina godkännande-processer – och samarbetet mellan parter öka markant.
Software as a medical device
Vid det här laget känner vi till uttrycket saas, “software as a service”, att användare bara betalar för den del av en mjukvara som de använder. Företeelsen som FDA nu måste tygla gäller samd, “software as a medical device” – där AI i vissa fall är själva produkten.
FDA’s uppdrag är fortfarande att patientsäkerheten inte utsätts för onödiga risker, men tillvägagångssättet måste utvecklas.
Vissa algoritmer är låsta, i bemärkelsen att de endast ändras av tillverkaren i samband med uppdateringar. Det kan jämföras med när en ny version av ett medicinsk hårdvara lanseras – det har man erfarenhet att hantera sedan gammalt.
Deep learning ska också godkännas
Det är svårare för FDA att hantera algoritmer som lär sig allteftersom mer data samlas in, genom s.k. deep learning. Risken är att en godkänd lösning förändras till något som det ursprungliga godkännandet inte täckte. Att i dessa fall börja om med godkännandet kommer ta onödigt lång tid.
FDA har inga planer på att stoppa smarta algoritmer, men ser över ramverket för godkännande. Alltifrån vad nya begrepp inom AI betyder, så att läkare, forskare , teknikutvecklare och patienter talar samma språk – till hur godkännandeprocesser för smarta AI-lösningar måste anpassas till den nya verkligheten.
FDA är ute på okänd mark
Man arbetar nu med att säkra organisationens kompetens inom AI, och har redan godkänt ett antal s.k. låsta algoritmer.
De algoritmer som fortsätter lära sig under användning – continuous learning algorithms – får vänta ett tag.
Algoritmerna som godkänts befinner sig som högst på nivå 2 på FDA’s 3-gradiga skala. Nivå 3-lösningar ställer högsta krav för godkännande, då de medför högre risk för patienter. På den nivån krävs en s.k. pre-market approval.
Nivå 2-lösningar – som en del AI-lösningar tillhör – bedöms medföra lägre risker och är därför något lättare att godkänna.
FDA bekräftar behovet av att i framtiden kunna godkänna algoritmer som lär sig allteftersom de används: “A new approach to these technologies would adress the need for the algorithms to learn and adapt when used in the real world. It would be a more tailored fit than our existing regulatory paradigm for software as a medical device.” (Scott Gottlieb, tidigare kommissionär på FDA.)
Fler algoritmer, på fler områden
År 2014 godkändes en AI-ansökan av FDA. 2016 blev det fyra, och 2017 totalt sex. 2018, slutligen, blev 23 software as medical device godkända. (Se även bifogad lista.)
De områden som varit mest lämpade för tillämpning av algoritmer är radiologi, cardiologi och cancer-diagnosticering. Det är ingen slump att bildigenkänning är en viktig del av verktygen i de godkända lösningarna – det är det område som växer snabbast inom AI just nu.
Hur vet man att just dessa områden fungerar, att de är för patienternas bästa? Bland annat för att man kan jämföra läkares bedömningar med AI-verktygens slutsatser. Redan nu kan AI – i vissa situationer – göra bättre analys av data än vad läkare kan.
Kan FDA öka takten ytterligare?
Det verkar tydligt att FDA vill bana vår för “tredje årtusendets stetoskop” – den nye chefen för den digital hälsa på FDA, Bakul Patel, har en skylt på sitt skrivbord: “Only dead fish swim downstream”.
Parallellt med att besvara traditionella frågor – om produkten är säker, levererar den vad som utlovas – så behöver man komma överens med aktörerna i branschen om grundläggande terminologi. Vad menas med “good machine learning practice”? Hur långt kan en AI-lösning som lär sig kontinuerligt utvecklas, innan den ska evalueras på nytt?
Till sist
Digitalisering av sjuk- och hälsovård är inte en teknikfråga. Den beskrivs istället som en grundläggande förändring inom hälsovården, där dagens aktörer måste samverka betydligt mer än tidigare. Det är inte läkare eller AI, det är både och.
Situationen kompliceras ytterligare av att lösningar som förr endast riktade sig till välutbildade och erfarna specialister nu får marknadsföras direkt till konsument. FDA har exempelvis godkänt att test för en viss sorts bröstcancer får säljas direkt till konsument.
De områden i världen som står för flest software as medical devices är Kina, Europa och USA – i nämnd ordning. FDA behöver öka takten!
Fem intressanta AI-lösningar som är godkända
• AmCAD-US – en algoritm som tolkar thyroid…. utifrån ultraljuds-undersökningar
• iCAD – som klassificerar densiteten i bröstvävnad och identifierar bröstcancer
• Icometrix – som bistår läkare med analys av MR-scan av hjärnan
• Baylabs är en av flera AI-lösningar för analys av ECG
• Svenska QbCheck AB – som utvecklat ett verktyg för diagnos och behandling av ADHD.
Krönika först publicerad i premiär-nyhetsbrevet Warp Future Health Program
