Digitaliseringsstyrelsen udpeget som AI-tilsynsmyndighed

• Af:
  
• Thomas Hasselriis

Digitaliseringsstyrelsen er udpeget som tilsynsmyndighed for fem udvalgte bestemmelser i AI-forordningen.

Styrelsen er dermed en såkaldt 'markedsovervågningsmyndighed', og skalføre tilsyn med forbudte former for brug af kunstig intelligens, AI, som er listet i artikel 5 i AI-forordningen. Det drejer sig nærmere bestemt om reglerom AI-systemer, der anvendes til Skadelig manipulation og vildledning (artikel5, stk. 1, litra a). Skadelig udnyttelse af særlige sårbarheder (artikel 5,stk. 1, litra b). Social bedømmelse (artikel 5, stk. 1, litra c) Ikke-målrettet indsamling af ansigtsbilleder til at udvikle ansigtsgenkendelsesdatabaser(artikel 5, stk. 1, litra e). Følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner (artikel 5, stk. 1, litra f).

Annonce - artiklen fortsætter under banneret

De forbudte former for AI-praksis vurderes at udgøre en uacceptabel risiko for sundhed, sikkerhed og borgernes grundlæggende rettigheder. Disse former for AI-praksis kategoriseres derfor som forbudte inden for EU’s grænser. 

Digitaliseringsstyrelsen er ikke alene om at føre tilsyn med de forbudte former for AI-praksis.

Datatilsynet får ansvaret for at føre tilsyn med to forbudte former for AI-praksis. Den ene handler om AI-systemer, der anvendes til at foretage risikovurderinger af fysiske personer for at vurdere eller forudse risikoen for, at en fysisk person begår en strafbar handling. Den anden handler om AI-systemer, der anvendes til biometrisk kategorisering (artikel 5, stk. 1, litra d og g).

Derudover skal Domstolsstyrelsen føre tilsyn med de forbudte former for AI-praksis i forhold til domstolenes brug af AI-systemer, når de ikke handler i deres egenskab af domstol. 

I sager, som omhandler domstolenes brug af AI-systemer, træffes afgørelserne af de respektive retter.

Digitaliseringsstyrelsen varetager også rollen som nationalt koordinerende myndighed for AI-forordningen.