Den politiske aftale om en sundhedsreform, der blev offentliggjort i slutningen af 2024, er blevet flot modtaget. Den indeholder gode intentioner om et opgør med den geografiske ulighed, øget tilgængelighed for borgerne og et fokus på de større, kroniske folkesygdomme, der længe har fået stedmoderlig behandling.
Men der er ingen gratis frokoster. Danske Regioner har således allerede bebudet, at de øgede driftsomkostninger til det nære sundhedsvæsen kommer til at koste på hospitalernes budgetter. Og når sundhedsreformen samtidig, ligesom alle andre udspil og strategier de senere år, taler for, at øget digitalisering og brug af kunstig intelligens skal frigøre ressourcer i et allerede presset sundhedsvæsen, er der meget der tyder på, at ‘tilskyndelsen’ til at indføre yderligere digitalisering kun bliver større.
Bare inden for det seneste års tid har vi hørt, at AI skal hjælpe med at frigøre 10.000 stillinger i det offentlige. At der skal indføres et digitalt-først princip bredt i sundhedsvæsenet, ligesom robusthedskommissionen i 2023 anbefalede et fælles princip om ‘digitalt og teknologisk først’.
Alligevel er sundhedsvæsenet endnu i sin vorden, når det kommer til implementering af digitale og AI-baserede hjælpemidler.
Det er både en forside og en bagside
Perspektiverne omkring kunstig intelligens er da også store. Der findes allerede eksempler på lettede arbejdsgange og hjælp til diagnosticering, og listen af nye projekter, der skal forsøge at frigøre ressourcer og bedre diagnostik og behandling, bliver hastigt udvidet. Ideerne er mange, udsigterne gode og behovet måske større end nogensinde.
Alligevel er det vigtigt, vi ikke lader os rive med og overser de bagsider af medaljen, der kan være en del af pakken. Det er godt at være håbefuld, med plads til store armbevægelser, så ideerne kan afprøves. Men det er som bekendt også dumt at være naiv. Og netop dén fare, står vi overfor, hvis vi kun fokuserer på potentialerne og overser de afledte ændringer i vores sundhedsvæsen, der kan følge med.
Regeringens ekspertgruppe om techgiganter har med udgangspunkt i danske erfaringer for nyligt fremført fokuspunkter omkring digitalisering i det offentlige, vi med rette bør skele til i sundhedsvæsenet.
Et af dem er at undgå afhængighed. Som en nylig artikel i Politiken afdækker, er staten på få år blevet dybt afhængig af ydelser fra Microsoft, Adobe, Google og Amazon, og det har haft store konsekvenser for budgetterne. Som Region Hovedstadens IT-direktør Mette Harbo har udtalt, »er det første fix jo gratis«, hvorefter prisen skrues i vejret, når brugeren er afhængig. Udgifterne til it er i regionerne de seneste fem år vokset med 100 mio. kr. om året, svarende til 200 sygeplejerskestillinger – altså om året.
Ekspertgruppen peger også på de sikkerhedsmæssige sårbarheder ved at gøre sig afhængig af digitale tjenester, hvor dataindsamling indgår. Den risiko blev for nyligt tydelig, da PET måtte advare mod danske topforskeres omfattende samarbejde med det kinesiske selskab BGI Group, der er specialister i genomsekventering. Samarbejdet har resulteret i, at unikke sundhedsdata fra danske borgere nu befinder sig i Kina. Og ifølge PET kan de data derfor tilgås af kinesiske efterretningstjenester og det kinesiske militær.
Skiftende ejerskabsforhold kan yderligere besværliggøre transparensen omkring, hvem man deler data med. Det lå bl.a. bag miseren et par år tilbage, hvor dr.dk afslørede, at blodprøver fra danske gravide kvinder indsamlet til et forskningsprojekt på Statens Serum Institut endte med at kunne udnyttes kommercielt af Facebooks ejere. Sådanne sager kan i den grad udfordre den offentlige legitimitet bag deling af sundhedsdata.
Brugen af kunstig intelligens kan udfordre patientbehandlingen ved at medgøre bias i beslutningsstøtten og hæmme transparensen omkring resultater og anbefalinger. Bias kan skyldes mangelfulde eller skævvredne datasæt, og da kunstig intelligens ofte baseres på en black box-model, hvor beslutningsgrundlaget for resultatet er mere eller mindre ukendt, og transparensen altså er til at overse, kan fejlen opdages sent.
Et klassisk eksempel er AI-værktøjer indenfor dermatologi, der er trænet på billedmateriale fra lyse hudtyper, og som derved underdiagnosticerer, når det benyttes til mørkere hudtyper.
Transparens og forklarlighed er derfor væsentlige fokuspunkter, hvis man vil sikre både etik og klinisk anvendelighed.
Ansvar, kultur og relationer
Spørgsmålet om, hvem der har ansvaret, når noget går galt, er ligeså værd at holde for øje. Et er, når kunstig intelligens benyttes som støtteværktøj for klinikeren, der har tid og ekspertise til at verificere de AI-baserede fund. Men når AI-værktøjer benyttes af utrænet personale eller på en travl nattevagt, hvor tiden er knap, kan spørgsmålet om, hvem der står med ansvaret, hvis tolkningen er fejlbehæftet, være anderledes afgørende.
Det, jeg imidlertid er mest bekymret over, er, hvordan kulturen i sundhedsvæsenet kan risikere at ændres, når flere digitale virkemidler tages i brug.
Hvordan vil det påvirke relationen mellem os og patienterne, hvis vi ikke længere kan forklare, hvordan anbefalingerne fra AI-værktøjerne er fremkommet? Hvordan vil det påvirke vores identitet og arbejdsglæde som sundhedsprofessionelle, hvis vi ikke længere selv kan forstå, hvordan anbefalingerne frembringes? Eller vi føler os usikre på anbefalingerne, men ikke har tid og ekspertise til at verificere dem? Jeg frygter, at vi med et forkert fokus får en distancering til opgaven og vores patienter, der mindsker omsorgen i vores behandling, hvis for mange menneskelige led erstattes. At vi vil føle os mere afkoblede og måske endda ansvarsløse.
Har vi fået AI-itis?
For nyligt bragte Politiken en kronik af Mikkel Flyverbom, der er professor i kommunikation og digitale transformationer, medlem af Dataetisk Råd og formand for regeringens ekspertgruppe om techgiganter. Her problematiserer han, hvordan fokus for mange ledere tilsyneladende er fjernet fra kerneværdierne til fordel for kunstig intelligens som et gode i sig selv. Hvor absurd det er, at restaurantkæder som Taco Bell og Pizza Hut har en nyudviklet strategi om AI first i stedet for at fokusere på tacos og pizza. Og hvordan techindustriens »oppustede fortællinger om kunstig intelligens som en direkte vej til besparelser, effektivisering og vækst« synes at have smittet ledere landet over. De har fået AI-itis, som han siger. Den fælde må vi ikke falde i i sundhedsvæsenet.
Udfordringen ved at sikre vores kerneværdier samtidig med, at vi skal have mere digitalisering og beslutningsstøtte fra AI-værktøjer, er, at mens vi sagtens kan måle på, hvor digitale vi er blevet, kan vi ikke måle på, om vi samtidig mister den vigtigste af vores kerneværdier, nemlig omsorgen.
Sundhedsvæsenet handler om mennesker
Omsorg er svær at sætte på formel og svær at måle værdien af. Det, der er omsorg for den ene, er ikke nødvendigvis omsorg for den anden. At give omsorg kræver nærvær, empati og forståelse, og omsorg kan have mange former.
Omsorg er høj faglighed i behandlingen, men det er ikke alene livsforlængelse. Omsorg er at blive behandlet rettidigt, men ikke nødvendigvis at undergå et indgreb hurtigt. Omsorg er at være i trygge omgivelser så længe som muligt, men det er ikke hos alle, at hjemmet er det tryggeste sted at være. Eller at en telefonkonsultation altid er at foretrække, frem for det fysiske møde, hvor øjenkontakten og en varm hånd på skulderen for nogle kan have afgørende betydning. For nogle er det omsorg, at personalet tager sig lidt ekstra af en, spørger mere ind eller holder en i hånden. For andre vil det opleves grænseoverskridende og paternalistisk, og altså meget lidt omsorgsfuldt.
Det er det, der gør opgaven så svær. Vi har alle forskellige behov. Men den måde, vi mødes på af andre mennesker, er afgørende for, at vi kan føle os trygge i deres hænder. Og er derfor også afgørende for den gode behandling. Ligesom det at give omsorg til andre, også ofte er det, der giver os glæde som medarbejdere. Den menneskelige relation er helt væsentlig her.
Alligevel synes omsorgen at have veget pladsen for ambitioner om at være først, størst og bedst på digitalisering og kunstig intelligens.
Sundhedsvæsenet handler om mennesker. Og om hvordan vi sikrer dem omsorg i en sårbar og svær tid i deres liv. Det vækker ingen glød i mig som medarbejder, når jeg hører ambitioner om at være førende på digitalisering – bare for førstepladsens skyld. Digitalisering kan fint være et middel til at sikre den gode, omsorgsfulde behandling. Men den må aldrig være et mål i sig selv.
