Les tecnologies de reconeixement facial de l'FBI no respecten la vostra privadesa i drets

Qui és el vigilant del gos de vigilància? L’Oficina de Responsabilitat del Govern, com indica el seu títol. El recent informe de la GAO sobre l’ús de tècniques de reconeixement facial del govern va trobar-se al públic el dimecres. Essencialment, ens vam posar una situació. Una mala situació. En resum: Amb els seus programes de reconeixement facial, l'FBI viola la vostra privadesa i no us ho explica. A més, el FBI no prova per garantir que aquests programes siguin precisos i fiables.

El FBI i la biometria van de nou: la relació amorosa va començar amb les bases de dades d’impremtes digitals. Però va molt més enllà que això, ara. "Biometria", a l'FBI i segons la GAO, significa "el reconeixement automatitzat d'individus basant-se en les seves característiques biològiques i de comportament". El 2011, l'FBI va llançar el pilot del seu sistema "Identificació de nova generació" (NGI) (NGI); quatre anys més tard, a l'abril de 2015, estava completament operatiu.

El NGI utilitza, en part, el sistema Interstate Photo System (IPS) per a l'anomenada biometria. Aquesta base de dades, a més de bases de dades externes de companyies privades, proporciona accés a més de 411 agències governamentals milions cara a les fotos (la població actual dels Estats Units és de només 319 milions). El Departament de Justícia afirma que la majoria d’aquestes fotos són de trets: “Més del 80% de les fotos de NGI-IPS són delictives”, però també es combinen amb nombrosos estats per accedir a les llicències del conductor i les fotografies del passaport. El GAO diu que el moment a sospitós està "reservat per a un delicte", es troba als llibres, és a dir, a la NGI-IPS.

El que no s’aconsegueix clarament de l’informe és el grau que fa el FBI amb les vostres fotos de mitjans socials. El FBI afirma que no els inclou en el NGI-IPS, però els fa servir:

"… les fotos preses de càmeres de seguretat o de xarxes socials no estan inscrites a NGI-IPS … Segons l'FBI, les bases de dades de fotografies externes no contenen fotos o fotografies obtingudes de manera privada a les xarxes socials i l'FBI no manté aquestes fotos; només els busca."

Val la pena assenyalar la quantitat de mitjans socials de les mines d'or. L’aplicació fotogràfica de l’ordinador té la capacitat de reconèixer-vos a vosaltres i als vostres amics. Facebook també ho fa, i és inquietant la bona catalogació de cada persona en una foto. Cada cop que feu servir una lent Snapchat, Snapchat mapeja els contorns únics de la vostra cara. I no s'atura allà: aquestes tecnologies són pràcticament a tot arreu.

Independentment, no només el FBI es diverteix amb la vostra cara: l’accés s’extén als departaments de policia locals. (Hi ha també això: "El sistema de reconeixement facial del Departament de Defensa s’utilitza per donar suport als lluitadors de guerra del camp per identificar combatents enemics". El FBI és l’única agència amb directa l’accés, però tothom simplement pot sol·licitar l’accés. Un cop es concedeixi l'accés, l'agència en qüestió envia una foto a l'FBI i sol·licita un nombre específic de coincidències potencials. (Pot ser que la foto sigui de gran resolució, però, sabent que hi ha càmeres de seguretat, probablement no.) Un cop allà, el NGI-IPS executa la foto a través de la seva base de dades, i després, segons el GAO, "l'anàlisi humana ha de ser realitzada". de "29 especialistes en imatges biomètriques entrenades en serveis de FACE Avaluació de comparació d'anàlisis facials", llavors dóna la paraula final. Per fi, el nombre necessari de coincidències potencials torna a l’agència. A continuació, s’apropa a l’agència determinar si aquests sospitosos aparents són o no sospitosos reals.

Aquí funciona com funciona:

"Concretament, la tecnologia extreu funcions de les cares i les posa en un format, sovint referit com a caràcter frontal, que es pot utilitzar per a la verificació, entre altres coses. Un cop creada la impressió facial, la tecnologia pot utilitzar un algoritme de reconeixement facial per comparar les impressions facials entre si per produir un únic valor de puntuació que representa el grau de similitud entre les dues cares."

Depenent de la vostra familiaritat amb la ciència ficció, això pot semblar o no un sistema fiable i fiable. No ho és. Aquí hi ha un secció capçalera dins de l’informe de la GAO:

"L'FBI té informació limitada sobre la precisió de les seves capacitats tecnològiques de reconeixement facial."

Tot el FBI sap que és això, quan ho va fer prova el percentatge d’exactitud de 50 partits potencials del programa, que va fer, de manera nerviosa, amb una base de dades de proves, i no la base de dades real, era del 86% precisa. L’FBI "no ha avaluat l’exactitud de les cerques de reconeixement facial de NGI-IPS en el seu entorn operatiu, l’ambient en què les fotografies inscrites, en lloc d’una base de dades de proves de fotografies, s’utilitzen per realitzar cerques de prospectes d’investigació". cura de quins sistemes de reconeixement facial de les empreses privades contractades són precisos: no hi ha auditories.

Vuitanta-sis per cent de precisió. En altres paraules: prop de quatre estrelles de cinc. Si el vostre restaurant de sushi local tenia quatre estrelles de cinc, podeu considerar demanar menjar per emportar. Però de la mateixa manera que un nombre baix de revisions pot inclinar la qualificació del restaurant, també ho farem alt el nombre de coincidències potencials pot inclinar la precisió de la NGI-IPS. Cinquanta partits potencials són les que poden sol·licitar les agències; el sistema pot escopir tan poc com dos. El GAO diu que, com més petita sigui la llista, menys precisa serà el sistema.

També hi ha tot el fals i positiu. "Els funcionaris de l'FBI van declarar que no van avaluar la freqüència amb què les cerques de reconeixement facial de NGI-IPS coincideixen erròniament amb una persona a la base de dades (la taxa falsa positiva)". Els falsos positius són: perdonin la meva llengua, per què poden "alterar la presumpció tradicional d’innocència en els casos penals mitjançant la col·locació d’una càrrega més gran per a l’acusat per demostrar que no és qui el sistema li identifica. ”El sistema pot descompondre en qualsevol dels extrems de l’equació: si la foto és de mala qualitat, les taxes d’èxit cauen en picat; si el programari és de mala qualitat, les taxes d’èxit cauen en picat. Les baixes taxes d’èxit signifiquen molts falsos positius.

Després de completar el seu informe, la GAO va donar sis recomanacions a la procuradora general dels Estats Units, Loretta Lynch i al director del FBI, James Comey. L'essencial: el Departament de Justícia té un problema d'opacitat. El públic pot saber que la seva privadesa està sent violada, però el públic no sap exactament com la seva privacitat està sent violada. A més, el Departament de Justícia ha de resoldre la manca de supervisió per assegurar-se que hi hagi un excés de privadesa mínim. Finalment, el Departament de Justícia ha d’assegurar - encara que de forma retroactiva - que aquests programes siguin fiables.

El Departament de Justícia només va acordar, íntegrament, amb una sola recomanació. "Acord parcialment" amb dos més, però va rebutjar els tres restants, dos dels quals van intentar establir pautes d’exactitud.