Kunstig intelligens (AI) er stort set altid skurken i sci-fi-film og -bøger. Men er der tale om en reel risiko, vi som samfund bør forholde os til? EU-Kommissionen siger ja.

Tidligere på året fremlagde EU-Kommissionen sit forslag til en AI-forordning samt en maskinforordning. Forordningerne skal sammen sikre tillid til sikkerheden ved brug af AI-systemer, herunder i maskiner. Og dét stiller krav til producenter og leverandører.

I det følgende fortæller DAHL Advokatpartnerselskab mere om, hvad AI-forordningen går ud på.

Helt kort stilles der krav til brugen af AI baseret på risikoen for menneskets rettigheder og sikkerhed. Højere risiko medfører strengere krav for brugen.

Det gælder eksempelvis systemer, der skal håndtere kritisk infrastruktur, hjælpe politiet med at håndhæve loven, systemer der anvendes af offentlige myndigheder, systemer til bedømmelse af eksaminer osv. Det vil sige systemer, hvor fejl kan få alvorlige konsekvenser.

Det er særligt sådanne systemer, der kræver opmærksomhed fra producenter og leverandører.

Visse AI-systemer forbydes

Forordningen går dog videre for bestemte typer AI-systemer, der er forbundet med uacceptabel, høj risiko. Disse forbydes.

Det gælder systemer, som udnytter menneskers sårbarheder (fysisk eller psykisk) med ubevidste teknikker, der rækker ud over menneskelig bevidsthed, til at fordreje adfærd på en skadelig måde, gennemfører »social cards« gennem overvågning eller anvender særlige former for ansigtsgenkendelse, for eksempel overvågningssystemer, der er beregnet til at opdele samfundet i klasser.

De fremhævede systemer er ikke ren sci-fi. Netop sådanne systemer implementeres p.t. i for eksempel Kina, hvor borgerne får en social score, der er afgørende for deres muligheder i samfundet.

Nye krav til AI

Heldigvis har langt de fleste AI-systemer positive virkninger for samfundet og vurderes ikke at udgøre en uacceptabel risiko for mennesket. Af den grund skal de selvfølgelig ikke forbydes.

Er der kun en minimal risiko forbundet med systemet, får de nye krav derfor minimal betydning for producenten bag. Er der modsat en høj risiko forbundet, skal producenter og leverandører være opmærksom på disse krav.

Særligt er følgende krav værd at notere sig:

• Teknisk dokumentation samt beviselig overholdelse af AI-forordningen.
• Etablering af sikkerheds- og kvalitetshåndteringssystem.
• Håndtering af cybersikkerhed.

Regelsættet lægger desuden op til en større gennemsigtighed for brugerne af avanceret teknologi. Det betyder, at alle AI-systemer, som interagerer med fysiske personer, skal designes, så personerne gøres opmærksom på, at de indgår i interaktion med et AI-system. Dette er et væsentligt krav til oplysning, som producenter og leverandør - i et eventuelt samarbejde - skal løse, for eksempel i en fællesudarbejdet brugerdokumentation.

Robotters (produkt)sikkerhed

Der stilles - som for alle andre maskiner - også sikkerhedskrav til udviklingen og salg af robotter. Disse krav findes i fremtiden i den føromtalte maskinforordning.

Regelsættet er en opdatering af de sikkerhedskrav, der allerede gælder i dag.

Formålet med opdateringen er at samle både nye og gamle krav til maskinsikkerhed og strømline reglerne i hele EU. Det er forventningen, at initiativet fremover vil gøre det langt nemmere for producenter at finde og overholde reglerne.

Helt overordnet går maskinforordningen ud på, at producenterne i alle produktionsled skal bidrage til produktets sikkerhed. Indeholder produktet AI-systemer, skal der tages højde for systemets udvikling i løbet af hele robottens levetid.

Overholdelsen af reglerne vil i fremtiden blive et krav som led i CE-mærkning.

Next step?

Reglerne er p.t. stillet som forslag. De gælder således ikke endnu. Det er dog en del af EU-Kommissionens mærkesager med blandt andre Margrethe Vestager som fortaler. Forventningen er, at de vil ende med en vedtagelse. Herefter vil reglerne være gældende efter en implementeringsperiode på typisk to år.

Vil du vide mere?

Hos DAHL følger vi udviklingen inden for kunstig intelligens tæt. Så hvis du vil vide mere eller har spørgsmål, er du velkommen til at kontakte vores advokat og partner Tim Krarup Nielsen, der er specialist inden for IT og teknologi.