LÆSERDEBAT: En vestegnskommune har tilsyneladende brugt kunstig intelligens (AI) i sagsbehandling af en ansøgning vedrørende handicaphjælp. De oplysninger man i den forbindelse har givet til CoPilot og ChatGPT, er efterfølgende blevet slettet. Derfor kan det ikke af- eller bekræftes der er indgået personfølsomme data i anvendelsen af AI.
Mon man kan risikere det samme kan finde sted i Hvidovre? Det satte jeg mig for at undersøge. Først ved at tage et kig på, hvad der står om AI på kommunens hjemmeside og her fandt jeg følgende: ”De personoplysninger vi har om dig – såsom navn, adresse, alder, sagsoplysninger og henvendelser til kommunen, kan i nogle tilfælde indgå i træningen af systemer med kunstig intelligens (AI).”
Derefter spurgte jeg kommunens chatbot om, hvor de oplysninger jeg taster bliver brugt. Her kom dette svar: ”Oplysningerne kan omfatte både almindelige og følsomme data og anvendes til at følge din udvikling, give relevante tilbud, statistik og kvalitetsudvikling.”
Med andre ord anvender kommunen AI i deres sagsbehandling, men det er lidt svært at gennemskue om det reelt også omfatter behandling af følsomme data.
Nu er kunstig intelligens er jo ikke noget, der bare kører på medarbejderens lokale PC eller på kommunens servere. Når sådanne oplysninger skal indgå i en AI model, både i forbindelse med besvarelse af f.eks. spørgsmål eller når chatbotten skal supplere sin viden, så sker behandlingen på meget kraftige og energikrævende supercomputere. Disse supercomputere kan lige så godt være placeret i Amerika eller Asien som i Europa.
Det er altså til disse supercomputere dine oplysninger bliver sendt til. Uden din viden og uden du har muligheder for at få indsigt i de registrerede oplysninger eller gøre indsigelse overfor kommunens brug af dine data.
Er det betryggende og er der ingen grænser for hvad kunstig intelligens kan og må bruges til?
Er det kommunalbestyrelsen eller forvaltningen, der fastlægger reglerne for kommunens anvendelse af kunstig intelligens?
Jeg har netop deltaget i et seminar, hvor både gode og dårlige siden ved kunstig intelligens blev gennemgået. Konklusionen på seminaret var: ”Brug kunstig intelligens til at få mere generel viden – og brug så din viden i sagsbehandlingen. Brug aldrig en vurdering, en konklusion eller et forslag, som er genereret af kunstig intelligens”.
Vagn Majland
Svendebjergvej
