Drøftelse og godkendelse af dataetiske aspekter ved brug af kunstig intelligens i Sundheds- og Omsorgsforvaltningen

Indstilling

Sundheds- og Omsorgsforvaltningen indstiller over for Sundheds- og Omsorgsudvalget,

• at udvalget drøfter retning og perspektiver for så vidt angår de dataetiske aspekter ved brug af AI i SUF – bl.a. med afsæt i de konkrete eksempler - for at fastlægge politisk retning for forvaltningens videre arbejde,

• at udvalget godkender brugen af de dataetiske aspekter og Dataetisk Råds anbefalinger for fremtidig brug af AI i SUF.

Problemstilling

AI anvendes og afprøves i stigende grad i den offentlige sektor, herunder på sundheds- og omsorgsområdet. Teknologien kan understøtte overblik, dokumentation, prædiktion, planlægning, kvalitetsudvikling og beslutningsstøtte. Den kan også skabe mulighed for mere ensartet behandling, tidligere opsporing og bedre prioritering af indsatser, hvis den anvendes inden for klare retlige, faglige og dataetiske rammer.

Udvalgets drøftelse skal give politisk retning for, hvilke dataetiske hensyn forvaltningen bør lægge til grund, når AI-løsninger udvikles, afprøves eller tages i brug. Drøftelsen træder ikke i stedet for konkrete juridiske, tekniske og faglige vurderinger i de enkelte projekter.

Løsning

SUF foreslår, at den videre dataetiske ramme for AI i SUF bygges op om Dataetisk Råds anbefalinger. Det indebærer, at AI ikke vurderes isoleret som en teknisk løsning, men som en del af en samlet myndighedsopgave, hvor borgerens rettigheder, faglighed, dokumentation og ansvar skal være tydelige fra starten, jf. bilag 1.

SUF arbejder løbende med at udvikle og afprøve tekniske løsninger, der kan understøtte både administrative og borgernære opgaver, herunder talegenkendelsesprojektet TALT. På sundhedsområdet begrænser det nuværende hjemmelsgrundlag dog fortsat mulighederne for anvendelse af en række tekniske løsninger.

Dataetisk Råds anbefalinger som ramme for SUF

Dataetisk Råd afgav nye anbefalinger om AI på sundhedsområdet d. 18. juni 2025, om ansvarlig AI i sundheds- og velfærdsteknologier hos offentlige myndigheder. Anbefalingerne er tilgængelige på: https://www.dataetiskraad.dk/dataetiske-temaer/generativ-ai

Dataetisk råd har bygget deres anbefalinger om følgende principper:

AI skal gøre gavn. AI bør kun udvikles eller tages i brug, hvis der er et klart formål, og hvis løsningen forventes at skabe reel gavn for borgere, pårørende, medarbejdere eller kvaliteten i opgaveløsningen.

AI skal udvikles og anvendes med inddragelse. Relevante aktører bør inddrages tidligt, herunder fagpersoner, ledelse, juridiske og databeskyttelsesfaglige funktioner samt, hvor det er relevant, borgere, pårørende og medarbejderrepræsentanter. Inddragelsen skal bidrage til, at løsningen er meningsfuld i praksis og ikke skaber utilsigtede konsekvenser for borgernes møde med kommunen.

AI skal kunne forklares. Borgere og medarbejdere skal kunne få en meningsfuld forklaring på, hvornår AI indgår, hvad løsningen anvendes til, hvilke data og antagelser den bygger på i overordnede træk, hvilke begrænsninger løsningen har, og hvem der har ansvaret for den endelige vurdering.

AI må ikke erstatte den faglige eller forvaltningsretlige vurdering i sager, hvor borgerens rettigheder, hjælp eller pligter påvirkes. Det skal være klart, hvem der har ansvar for vurderingen, og hvordan medarbejderen kan efterprøve, tilsidesætte eller korrigere et AI-output.

Klare formål, proportionalitet og borgerens rettigheder skal være styrende. Ved anvendelse af AI på sundheds- og omsorgsområdet skal formål, datagrundlag, hjemmel, behandlingsgrundlag og sikkerhed vurderes konkret. Særligt ved brug af følsomme oplysninger skal brug af data stå i mål med formålet, og borgerens mulighed for gennemsigtighed, aktindsigt, partsrettigheder og klage skal tænkes ind i løsningen.

Forvaltningen har på nuværende tidspunkt ikke en fast ramme for de dataetiske aspekter. Dataetisk Råds anbefalinger er generelt anvendte dataetiske pejlemærker på sundheds- og velfærdsområdet, og dette ses ligeledes afspejlet i arbejdet med vurdering af digitale sundhedsløsninger, herunder sundhedsapp-området.

Et nyt forskningsbrief fra CAISA - Det Nationale Center for AI i Samfundet - om AI I ældreplejen peger på, at brugen af AI kan skabe etiske spændinger mellem bl.a. tryghed og privatliv, effektivisering og menneskelig omsorg, samt borgernes selvbestemmelse. Briefet fremhæver, at hensynene må afvejes konkret, og at AI ikke fjerner behovet for menneskelig vurdering og dialog mellem medarbejdere, ledere, borgere og pårørende om de værdier, teknologien skal understøtte

Derfor anbefaler forvaltningen, at Dataetisk Råds principper danner ramme for forvaltningens arbejde med både AI-løsninger og lignende automatiseringsprocesser, der kan have betydning for borgerne.

Forvaltningens arbejde med dataetik i digitaliseringsprojekter

SUF har fokus på, at borgerens rettigheder og retssikkerhed vurderes tidligt i it-projekter, i særdeleshed hvor borgerdata indgår. I praksis betyder det, at relevante projekter skal vurderes systematisk på tværs af juridiske, databeskyttelsesretlige, informationssikkerhedsmæssige, faglige og dataetiske hensyn.

Dataetisk Råds anbefaler bl.a., at offentlige myndigheder begynder med brugsscenarier med lav risikoprofil, altså bruger AI til opgaver, hvor eventuelle fejl har begrænsede konsekvenser for borgeren.

Drøftelse af forvaltningens tilgang til AI

SUF arbejder løbende med at afklare, hvor AI-løsninger og andre digitale løsninger eller automatisering kan bidrage til en afbureaukratisering, samt højnet kvalitet i den borgernære drift.

Eksempel 1:

Et eksempel kan være, at en hjemmeplejemedarbejder efter et besøg hos en borger, indtaler sine observationer, hvorefter en AI-løsning laver et udkast til et journalnotat. På den ene side kan dette spare medarbejderen tid, og på den anden side, men AI-løsningen kan misforstå en oplysning eller udelade noget væsentligt, hvorfor medarbejderen skal kontrollere teksten. Dilemmaet er hvorvidt, tidsbesparelsen i sig selv er en tilstrækkelig gevinst, eller om SUF bør stille krav om, at løsningen også giver en tydelig sikkerhed på korrekte informationer hos borgeren.

Eksempel 2:

Et eksempel er et planlægningsredskab til hjemmeplejens besøg, så køretid og ventetid reduceres. Teknisk kan løsningen være effektiv, men omvendt kan den medføre, at borgeren oftere får besøg af forskellige medarbejdere eller får ændret sit sædvanlige besøgstidspunkt. Dilemmaet er dermed, om den mest effektive tekniske løsning også er den bedste løsning for borgerne og medarbejderne.

Eksempel 3

SUF er det tidligere arbejde med en AI-understøttet løsning til identifikation af borgere med behov for vedligeholdende træning og rehabiliterende indsats. Formålet var at understøtte medarbejdernes faglige vurdering og bidrage til, at flere borgere rettidigt kunne få gavn af træning og rehabilitering. Indsatsen kunne dog ikke igangsættes på grund af manglende hjemmel. Det vil medføre, at indsatserne målrettes, hvilket kan komme de borgere, der prioriteres til gavn, men det kan også betyde, at forvaltningen kommer sjældnere i et hjem og dermed ikke får støttet op om en måske begyndende ensomhed hos borgeren.

Politisk handlerum

Denne indstilling er til drøftelse, hvorfor der ikke er lagt op til, at der skal træffe politiske beslutninger.

Økonomi

Indstillingen har ingen økonomiske konsekvenser.

Videre proces

SUND’s bemærkninger vil indgå i SUF’s videre arbejde med de dataetiske rammer for anvendelse af AI. Forvaltningen vender tilbage til udvalget, når nærmere lovhjemmel for anvendelse af automatiserede løsninger på sundheds- og ældreområdet er etableret, herunder det nye udkast til AI-hjemmelslov.

Bilag

• Bilag 1. Databeskyttelsesforordningens grundlæggende principper