Reconocimiento facial: Malo cuando anda bien, peor cuando anda mal

En los últimos años, las fuerzas policiales de todo el mundo han invertido mucho esfuerzo para construir sistemas de videovigilancia y reconocimiento facial disponibles en todas partes, incorporando millones y millones de cámaras en todos los países. Y los resultados comienzan a aparecer. En una prueba hecha en diciembre de 2017 en Guiyang, una ciudad de 4,3 millones de personas en el suroeste de China, un reportero de la BBC fue arrestado en siete minutos después de que la policía añadiera su foto a una base de datos de reconocimiento facial. Mas allá del poder que da a los cuerpos de policía, esto tiene una cara oscura que es necesario conocer…

En la ciudad sudeste de Nanchang, la policía china afirma que arrestaron a un sospechoso buscado por “delitos económicos” luego de que un sistema de reconocimiento facial lo descubriera en un concierto de música pop en medio de 60,000 asistentes, situación parecida a la famosa escena de la película “El secreto de sus ojos”… Pero sin pasión futbolera, sólo software. Y es que el hecho de que algunos informes sostienen que la visión por computadora reconoce algunas imágenes con mayor precisión que los humanos, hace que parezca que el panóptico ha llegado oficialmente. Solo en los Estados Unidos, 117 millones de estadounidenses, o sea uno de cada dos adultos estadounidenses, tienen su imagen en alguna base de datos de reconocimiento facial del gobierno.

La serie “Persons of interest” desarrolló extensamente la cuestión del reconocimiento facial…

Pero la precisión y confiabilidad de esta tecnología es mucho más modesta que la promocionada, y esas imperfecciones hacen que el uso por parte de las fuerzas del orden sea potencialmente inquietante de una manera diferente. Son propensos tanto a los falsos positivos -un programa identifica incorrectamente a Pedro como Juan- como a los falsos negativos, en los que una persona no se identifica aunque esté en la base de datos.

Como ejemplo extremo de lo que puede salir mal, en los datos publicados recientemente a partir de una solicitud de la ONG “”Freedom of Information” de la UE y luego publicados por la policía de South Wales se muestra que en el juego final del campeonato en Cardiff el año pasado, la policía de South Wales identificó erróneamente a 2.297 personas como sospechosas, un índice de 92 por ciento de falsos positivos. Desde el punto de vista del gobierno, una red de arrastre que atrapa a mucha gente extra de la cual filtran lo que les interesa puede considerarse que funciona y puede que no les cueste demasiado, pero si es uno el que quedó preso como uno de estos falsos positivos, no le hará ninguna gracia y le parecerá enormemente injusto.

La serie “Persons of interest” desarrolló extensamente la cuestión del reconocimiento facial…

Quienes están preocupados acerca de cómo la tecnología de vigilancia detrás del reconocimiento facial puede afectar su privacidad personal pueden ver estos defectos como una ventaja potencial; un sistema falible podría ser más fácil de engañar. Pero en la práctica, estas deficiencias pueden hacer que personas inocentes sean señaladas como sospechosas e incluso sean arrestadas indebidamente. Por ejemplo, en los Estados Unidos, un habitante de Denver fue arrestado dos veces diferentes en relación con dos robos a bancos perpetrados por alguien que se parecía a él en las imágenes de las cámaras de seguridad, aunque luego se determinó que era otra persona.

Los investigadores también han encontrado que los prejuicios sociales, como los prejuicios raciales, se reflejan en los datos utilizados para entrenar los modelos de reconocimiento facial a partir de bancos de imágenes y en los propios algoritmos. Como ese sistema que suponía que si alguien estaba en la cocina, era una mujer.

Un error típico de los sistemas de reconocimiento de imágenes es suponer que: “si está en la cocina es una mujer”…

Los usos son múltiples, e inquietantes. También en China, la Secundaria No. 11 de Hangzhou está probando un sistema de manejo del comportamiento en un aula inteligente que utiliza cámaras y reconocimiento facial para realizar un seguimiento del rendimiento de los estudiantes. O sea que una cámara no sólo capta, sino que interpreta en tiempo real lo que sucede a espaldas del profesor.

Este sistema se puede utilizar para analizar el comportamiento de toda la clase. Puede chequear la asistencia a clase y verificar quién está presente en menos de un minuto. También puede medir el rendimiento de un maestro en función de las reacciones de los estudiantes, y obviamente identificar a quienes prestan atención a la clase a partir de su expresión facial.

Si esto parece entrar en el terreno de la ciencia ficción, hay muchas aplicaciones no conocidas para el público. En Oslo la computadora de una pizzería dejó de funcionar y en su pantalla se pudo ver que estaban capturando datos de reconocimiento facial de los clientes: edad, sexo, nivel de atención. En una pizzería. Esto recién empieza y perfila un horizonte ominoso.

Hace un tiempo Google comenzó a etiquetar a personas negras como gorilas y las fotos de los usuarios negros de Flickr se clasificaron como “chimpancés”, lo que generó críticas en todas partes.  El problema es que las herramientas de reconocimiento facial carecen de un marco regulatorio para su uso. En los Estados Unidos, “Customs and Border Protection” ya está empezando a usar el reconocimiento facial en las fronteras de los aeropuertos y también en un par de pasos fronterizos terrestres, y comienzan a usarlo en los aeropuertos, a partir de asociaciones con algunas aerolíneas privadas para identificar las personas que viajan en vuelos internacionales. Y los inconvenientes surgen cuando reconocen erróneamente a alguien, lo que se denomina un “falso positivo. Obviamente los problemas no hacen más que empezar para esa persona.

La serie “Persons of interest” desarrolló extensamente la cuestión del reconocimiento facial…

Si hay una ventaja sobre la incomodidad en torno a la tecnología de reconocimiento facial, tanto cuando funciona como cuando no funciona, es que las personas entienden intuitivamente las implicaciones de privacidad de la tecnología. Esa conexión visceral con las terribles consecuencias de la tecnología puede ayudar a los defensores de la privacidad a alentar la supervisión para garantizar que la tecnología se use de manera responsable. Pero para el público, las promesas de un mañana mejor regulado no ayudan a proteger a las personas hoy en día.

La tecnología de reconocimiento facial no es solo una herramienta de seguimiento de sospechosos, sino que está cada vez más incorporada a los servicios al consumidor, como Facebook. Pero mientras los usuarios tienen dudas, los investigadores siguen trabajando para mejorar los algoritmos. Y entretanto, los gobiernos de todo el mundo la están adoptando para diversas formas de vigilancia. A preocuparse.