Hvorfor skal vi udvikle datadrevet beslutningsstøtte og kunstig intelligens (AI) i klinikken? Fordi vi skal forpligte os til at implementere datadrevet beslutningsstøtte og kunstig intelligens i klinikken, da det ligger implicit i lægeløftet. Vi skal gøre os umage og bruge alle tilgængelige sundhedsdata til at optimere behandlingen af den enkelte patient.
Opdateringen af sundhedsloven i juni 2025 understøtter, at vi anvender sundhedsdata til beslutningsstøtte i forbindelse med patientbehandling i tråd med implementering af European Health Data Space (EHDS), som muliggør sikker og troværdig videreanvendelse af sundhedsdata til forskning og innovation.
Implementeringen halter
Selv om kunstig intelligens har udviklet sig med kvantespring de seneste år, halter implementeringen af beslutningsstøtte baseret på AI i hverdagen i sundhedssektoren bagefter. Det på trods af, at værktøjerne vil kunne forbedre præcisionen, effektiviteten og individualiseringen af behandlingen i sundhedsvæsenet samt skabe det, jeg her vil benævne som datadrevet lægekunst.
Den haltende implementering skyldes en række tekniske og juridiske hindringer, som forsinker udviklingen og implementeringen af sundheds-AI. Jeg vil her benytte erfaringerne fra udviklingen og implementeringen af en machine-learning model: CLL-TIM: Chronic Lymfocytic Leukemia Treatment Infection Model[1] til at belyse udfordringerne og løsningsmulighederne for implementering af sundheds-AI.
CLL-TIM er i dag både implementeret i sundhedsplatformen og i et klinisk forsøg. 1,[2]
Projektet med udvikling af modellen udsprang af et klinisk problem: Patienter, som får diagnosen kronisk lymfatisk leukæmi (CLL) og ikke opfylder kriterierne for at skulle modtage behandling, har en større risiko for at blive ramt af en alvorlig infektion, end de har for at få brug for behandling for sygdommen. Efter en sådan alvorlig infektion har patienterne en høj risiko for at dø; 10 pct. dør inden for en måned fra infektionen.
Det understreger altså den første vigtige pointe:
- Når vi udvikler datadrevet beslutningsstøtte, skal der være et klart defineret klinisk behov for det redskab, vi udvikler – ikke blot en smart gadget, som forekommer sexet.
Kommer vi nogensinde derhen?
Når vi bruger begrebet AI, bliver det tit formidlet, som om vi kan erstatte den menneskelige intelligens; det som benævnes generaliseret kunstig intelligens. Det er slet ikke der, vi er endnu, og jeg ved ikke, om vi nogensinde kommer derhen.
Det vi kan med AI i dag er avanceret mønstergenkendelse og herudfra generere nye data eller kategorier. De sprogmodeller som oftest forbindes med AI, består dels af en kode-del (essentielt en multidimensional vektor, der repræsenterer det input, vi giver til AI-værktøjet), samt en afkoder, der genererer det output, vi får fra AI-værktøjet, typisk i form af en tekst eller et billede.
Når vi bruger AI i klinikken i dag, er vi typisk interesseret i at få kategoriseret og analyseret nogle data. De to mest udbredte eksempler, som jeg støder på i min kliniske hverdag, er den automatiske tolkning af et EKG og radiologiske vurderinger af f.eks. mammografi, hvor en AI-model kan erstatte den ene af to menneskelige vurderinger af mammografien. I begge tilfælde genererer AI-redskabet altså et forslag til en tolkning af undersøgelsen. Det er her vigtigt at være opmærksom på, at AI redskabet ikke giver information om, hvordan vi skal handle på tolkningen af analysen. Det er fortsat op til den behandlende læge.
Adgang til sundhedsdatasæt
Vi har gennem implementering af CLL-TIM-modellen i sundhedsplatformen og i et prospektivt, randomiseret klinisk fase 2-forsøg demonstreret, at modellen kan identificere patienter, der for nyligt har fået diagnosen CLL, som har høj risiko for alvorlige infektioner og/eller vil få tidligt behov for behandling.
Det tog os fire år at samle data til træning og validering af modellen, og derefter yderligere syv år at udvikle og gennemføre det kliniske forsøg. Algoritmen kan bare fortsat ikke fortælle os, hvad vi så skal gøre for disse patienter. Så:
- Datadrevet beslutningsstøtte kan tolke og kategorisere sundhedsdata og data fra undersøgelser, men AI-redskaber kan i dag ikke fortælle os, hvordan vi skal behandle de pågældende patienter.
Hvad skal der så til, for at vi kan udvikle eller validere datadrevet beslutningsstøtte i Danmark eller i internationalt samarbejde?
Først og fremmest skal vi sikre adgang for mange forskellige forskere og udviklere til standardiserede, store sundhedsdatasæt. Det, der har drevet udviklingen af AI-baserede sprogmodeller som Chat-GPT, er ikke en pludselig, genial idé, men trinvis udvikling af bedre og bedre modeller i konkurrence mellem forskellige forskere og udviklere, der får adgang til mere og mere data samtidig med, at de har fælles benchmark-datasæt, hvor de kan teste, hvordan modellerne performer i en åben konkurrence.
Sundhedsdata i separate siloer?
Der eksisterer stort set ingen store, standardiserede sundhedsdatasæt med åben adgang. Alle vores sundhedsdata ligger i separate siloer, hvor enkelte forskergrupper har adgang til deres egne datasæt.
Vi så ved udviklingen af CLL-TIM modellen, at det var næsten umuligt at få adgang til tilsvarende sundhedsdatasæt, og vi endte med at validere modellen på et datasæt fra et tysk klinisk forsøg. Vi måtte efterfølgende selv udvikle et internationalt, prospektivt klinisk forsøg for validering af modellen, så den kunne anvendes mere bredt til patienter med CLL.
Hensynet til at beskytte patienternes data begrænser muligheden for at dele data åbent, ligesom forskergruppers ønske om at holde mulighederne for at publicere på deres ‘egne’ data inden for gruppen kan begrænse åben adgang til sundhedsdata.
Men set som samlet, offentligt sundhedsvæsen, har vi en åbenlys forpligtelse til at fremme adgangen til standardiserede danske sundhedsdata for udvikling og testning af sundheds-AI på disse data.
Inden for det sidste års tid er der sket flere politiske og regulatoriske ændringer, som åbner for adgangen til brug af danske (og europæiske) sundhedsdata til udvikling af datadrevet beslutningsstøtte:
- EHDS, der bl.a. skal forbedre muligheden for brug af elektroniske sundhedsdata til forskning inkl. personlig medicin og patientsikkerhed, innovation, politikudformning og forebyggelse,
- opdateringen af sundhedsloven i juni 2025, der tillader og muliggør brugen af sekundære sundhedsdata (register-, forsknings- og administrative data) til beslutningsstøtte for den enkelte patient og til automatiserede resultater i kliniske forsøg, og
- etableringen af Digital Sundhed Danmark, DSD, der vil forbedre og forenkle adgangen til sundhedsdata bl.a. gennem etableringen af ét nationalt kontaktpunkt for sundhedsdata.
Bekendtgørelsen og vejledningen fra sundhedsministeriet om hvordan opdateringen af sundhedsloven kan implementeres forventes offentliggjort efteråret 2026 med tilladelse til og mulighed for at udvikle, kvalitetssikre, implementere og monitorere datadrevet beslutningsstøtte og sundheds AI-modeller på alle sundhedsdata, hvad enten det er sundhedsdata, man selv kontrollerer eller sundhedsdata, man har adgang til gennem nuværende eller kommende tilladelser.
Det skaber altså muligheden for, at et ubegrænset antal dataforskere kan arbejde på danske sundhedsdata, og det kan dermed speede processen med udvikling af sundheds-AI op, så vi kan forbedre behandlingen af den enkelte patient.
- De politiske og regulatoriske ændringer muliggør mere åben adgang til standardiserede danske sundhedsdata for udvikling, kvalitetssikring, implementering og monitorering af sundheds-AI-modeller og datadreven beslutningsstøtte.
Hvordan kommer vi i gang?
Man kan nemt lave en teoretisk gennemgang af, hvad der skal til for at implementere en datadrevet beslutningsstøtte i klinisk praksis. Det er dog sjældent, at teorien holder i praksis. Vi har derfor brugt vores konkrete erfaring med at implementere CLL-TIM modellen i sundhedsplatformen til at lave en kogebog for praktisk implementering af sundheds-AI3.
Det er vigtigt at implementeringen opleves gnidningsfri og logisk fra den behandlende læges synspunkt. Det har vi sikret ved visning af modellens resultater i kontekst for relevante patienter, ligesom den kun vises for relevant speciale, så der undgås unødig forstyrrelse.
Det tog os to år at implementere CLL-TIM modellen. Det arbejde kan nu lettes ved direkte integration af forskningsdata-journalen. Den tekniske implementering er open source, automatiseret og integreret i EPJ-systemet fuldt ejet og reguleret af sygehusejerne (Region Hovedstaden og Region Sjælland). Det muliggør løbende monitorering og tilpasning af modellen.
De vigtigste trin og krav man må stille i forbindelse med udvikling og implementering af datadrevet beslutningsstøtte drejer sig om forhold relateret til selve den udviklede AI-model, harmonisering af model og data, juridisk ramme for modellen samt selve implementeringen af modellen i journalsystemet inkl. monitorering af modellens performance før, under og efter implementering, jævnfør nedenstående figur.
De praktiske erfaringer fra implementeringen af CLL-TIM-modellen i sundhedsplatformen har allerede dannet baggrund for implementering af tilsvarende selvstændige modeller inden for psykiatri og kardiologi.
- Praktiske erfaringer fra implementering af datadreven beslutningsstøtte og AI-modeller skal udgøre basis for opdaterede vejledninger og kogebøger til brug ved udvikling, kvalitetssikring og implementering af fremtidige AI-modeller.
Vi er forpligtede til at sørge for basis for datadrevet lægekunst
Vi har en forpligtelse til at bruge danske sundhedsdata til at udvikle, kvalitetssikre og implementere. Det er det, jeg benævner som datadrevet lægekunst. Det underbygges og faciliteres af myndighedernes ændringer i reguleringen af brug af sundhedsdata til beslutningsstøtte.
Vi skal sikre at de udviklede AI-modeller adresserer relevante behov for patienterne, og at de implementeres på en måde, så den behandlende læge kan bruge dem aktivt til at målrette behandling og opfølgning for den enkelte patient. Vi er forpligtede som sundhedsprofessionelle og ledere i sundhedssystemet – og som forskere – til at sikre så åben adgang som muligt til standardiserede, danske sundhedsdata, ligesom vi er forpligtede til at dele og lære af de konkrete praktiske erfaringer fra implementering af sundheds-AI.
Datadrevet lægekunst er således muligt, hvorved vi lever op til lægeløftet og visionerne i EHDS, men det kræver, at alle aktører i sundhedsvæsnet samarbejder om at gøre os umage for at se under overfladen og bag horisonten.
NOTER
[1] Agius R, Brieghel B, Andersen MA, Pearson AT , Ledergerber B, Cozzi-Lepri A, Louzoun Y, Andersen CL, Bergstedt J, von Stemann JH, Jørgensen M, Tang ME, Fontes M, Bahlo J, Herling CD, Hallek M, Lundgren J, MacPherson CR, Larsen J, Niemann CU: Machine learning can identify newly diagnosed patients with CLL at high risk of infection, Nature Communications, 2020: https://www.nature.com/articles/s41467-019-14225-8
[2] Agius R, Riis-Jensen AC, Wimmer B, da Cunha-Bang C, Murray DD, Poulsen CB, Bertelsen MB, Schwartz B, Lundgren J, Langberg H, Niemann CU: Deployment and validation of the CLL treatment infection model adjoined to an EHR system: Proof of concept deployment of data-driven decision support, NPJ Dig Med, 2024: https://www.nature.com/articles/s41746-024-01132-6
3 https://fadlforlag.dk/produkt/kunstig-intelligens-i-sundhed/
