EDPB og EDPS vedtager fælles udtalelse om EU-kommissionens forslag til AI-forordningen

Generelle bemærkninger

EDPB og EDPS bifalder, at man nu vil adressere brugen af AI-systemer i EU, herunder også i EU-institutioner, organer eller agenturer, men udtrykker bekymring over udelukkelsen af det internationale samarbejde om retshåndhævelse fra forslagets anvendelsesområde.

EDPB og EDPS understreger derudover behovet for udtrykkeligt at præcisere, at eksisterende EU-lovgivning vedrørende databeskyttelse, herunder GDPR, finder anvendelse på al den behandling af personoplysninger, som også vil være omfattet af AI-forordningen. Derudover opfordrer man til, at det skal være et krav, at AI-systemer lever op til eksisterende EU-lovgivning om databeskyttelse, førend det kan CE-mærkes og benyttes på det europæiske marked.

Opfordring til forbud mod brugen af AI i visse tilfælde

EDPB og EDPS opfordrer dog til, at brugen af AI forbydes i en lang række tilfælde, hvor det vil medføre ekstremt høje risici for fysiske personer. Der opfordres til et generelt forbud mod enhver brug af AI til automatisk genkendelse af menneskelige træk i offentligt rum, herunder genkendelse af ansigt, gangart, fingeraftryk, DNA, stemme, tastetryk og andre biometriske eller adfærdsmæssige signaler.

Derudover anbefaler EDPB og EDPS et forbud mod systemer, der anvender biometri til at kategorisere enkeltpersoner i grupper baseret på etnicitet, køn, politisk eller seksuel orientering eller andre kategorier, på grundlag af hvilke, det er forbudt at forskelsbehandle.

EDPB og EDPS opfordrer også til, at brugen af AI-systemer til sociale pointsystemer og til at udlede følelser hos en fysisk person bør forbydes, bortset fra i meget specifikke tilfælde, herunder sundhedsmæssige sammenhænge, hvor genkendelsen af en patients følelser er vigtig.