Ny era för digital integritet: Nu begränsas ansiktsigenkänningens vilda västern

EU:s nya AI-förordning (förordning 2024/1689), som trädde i kraft i augusti 2024, har nått en viktig milstolpe. Sedan den 2 februari 2025 är det förbjudet att använda AI-system som skapar eller utökar databaser för ansiktsigenkänning genom oriktad insamling av ansiktsbilder från internet eller övervakningskameror. Detta innebär ett historiskt skifte i synen på biometrisk data och sätter en tydlig gräns för hur vårt yttersta personliga kännetecken – ansiktet – får hanteras.

Kedjans användning av ansiktsigenkänning genererade tusentals falska matchningar. Enligt FTC ledde detta till att oskyldiga kunder blev: Följda efter i butikerna av personal Visiterade av väktare * Felaktigt anklagade för stöld

Ingripandet resulterade i en uppgörelse med ett femårigt förbud mot att Rite Aid överhuvudtaget får använda tekniken för övervakning. Det visar på en ny tid av ansvarsutkrävande där organisationer inte längre kan gömma sig bakom bristfällig teknik.

• Frekvensen av falska matchningar var för vissa en-mot-en-jämförelser 10 till 100 gånger högre för asiatiska och afroamerikanska ansikten än för vita ansikten.
• Faktorer som belysning, kameravinklar, ålder och bildkvalitet påverkade resultatet kraftigt.

När en algoritm gör fel handlar det inte bara om en teknisk inställning. Tröskelvärdet som väljs för att avgöra en matchning fördelar i praktiken risken mellan människor. Att höja tröskeln minskar risken för att oskyldiga pekas ut, men ökar samtidigt risken för att verkliga träffar missas.

När du använder funktioner som Apples Face ID sker hela processen lokalt. Systemet använder infraröd avbildning och djupinformation, och ansiktsrepresentationen skyddas direkt på telefonens så kallade Secure Enclave. Inga vanliga kamerabilder skickas till externa servrar, vilket ger ett starkt och säkert vardagsskydd.

Motsatsen är när offentliga bilder från internet, sociala medier eller övervakningskameror samlas in centralt. Ansiktssökmotorer som PimEyes, där en användare kan ladda upp ett porträtt och söka efter liknande bilder på nätet, förändrar maktbalansen helt. För journalister, våldsutsatta eller personer med skyddade personuppgifter kan sådan sökbarhet innebära direkta säkerhetshot.

De nya lagarna och skärpta kraven innebär att vi rör oss bort från oreglerad massövervakning mot en framtid där den biometriska tekniken kan användas säkert – utan att vi förlorar rätten till vår egen identitet.