AI-forordningen er nu trådt i kraft

• Af:
  
• Thomas Hasselriis

De første regler i EU’s AI-forordning er trådt i kraft og skal overholdes. Det får betydning for virksomheder og myndigheder, der udvikler, distribuerer eller benytter AI i deres daglige arbejde.

Reglerne skal sikre, at virksomheder og myndigheder ikke udvikler systemer, der udgør en trussel mod sikkerheden, borgernes rettigheder eller værdighed, og at medarbejdere i virksomheder og myndigheder, der anvender AI har de rette kompetencer til arbejdet.

”Formålet med forordningen er at skabe klare rammer for, hvordan kunstig intelligens må og ikke må benyttes for at sikre borgeres rettigheder samtidig med, at virksomhedernes muligheder for innovation styrkes”, fastslår vicedirektør Lars Bønløkke Lê, Digitaliseringsstyrelsen.

Han anbefaler, at myndigheder og virksomheder, der anvender kunstigt intelligens skaber sig et overblik over deres AI-systemer, og hvad de bruges til. De bør også vurdere, hvilken risikokategori i AI-forordningen deres AI-system falder under.

Forbudt er nu systemer, der vurderes at udgøre en klar trussel mod sikkerhed, borgernes rettigheder eller værdighed. Et eksempel på forbudt AI-praksis er AI-systemer, der kan bruges til at aflæse en persons følelsesmæssige tilstand på f.eks. en arbejdsplads eller en uddannelsesinstitution.

Systemer, der kan foretage en social scoring af fysiske personer, er et andet eksempel på et forbudt AI-system, da det vurderes at kunne føre til forskelsbehandling og udelukkelse af visse grupper.

Derudover skal virksomheder og myndigheder, der arbejder med AI sikre, at deres medarbejdere har et tilstrækkeligt niveau af AI-færdigheder blandt deres personale eller andre personer, der er involveret i driften eller anvendelsen af AI. Det gælder uanset hvad AI-systemerne bruges til.

For eksempel skal alle relevante aktører i AI-værdikæden have færdigheder til at kunne forstå og overholde AI-forordningen, der hvor den er gældende i det enkelte tilfælde.