Jay Stanley
Varias empresas han respondido a los recientes y terribles tiroteos masivos promocionando tecnología que aparentemente puede detectar a personas con armas. Dos empresas, en particular, han atraído mucha atención de la prensa por sus productos: una que fabrica detectores de metales mejorados por la IA y otra que vende un software de análisis de vídeo que «vigila» las transmisiones de las cámaras de vigilancia y hace sonar una alarma cuando la visión artificial cree ver a una persona con un arma.
Aunque estas tecnologías pueden tener su lugar, tenemos que pensar cuidadosamente como sociedad si queremos desplegarlas, cómo y dónde. A fin de cuentas, la vigilancia no puede ser la respuesta al problema de las armas.
Detectores de metales mejorados
Un producto, fabricado por una empresa llamada Evolv, es un detector de metales mejorado con aprendizaje automático, que según la empresa aumenta la precisión. Los detectores de metales y otros escáneres corporales ya están desplegados en varios lugares de Estados Unidos y, en nuestra opinión, muchos de estos despliegues son injustificados y perjudiciales. Sin embargo, en los lugares donde existen escáneres, hacerlos más precisos y menos intrusivos es algo positivo, en igualdad de condiciones.
El problema es que no todas las demás cosas son iguales. Evolv aboga por una fuerte expansión de los detectores de metales en la vida de los estadounidenses, y no simplemente por una mejora de las instalaciones existentes. La empresa, que ha obtenido 500 millones de dólares de financiación, afirma que actualmente escanea a más de tres cuartos de millón de personas cada día, y tiene la ambición de instalar miles de nuevos detectores en todo Estados Unidos y el mundo.
Mejorar los escáneres actuales es una cosa, pero ampliar el número de puestos de control de escaneo es otra. No queremos que Estados Unidos se convierta en un gran aeropuerto, una sociedad de puestos de control en la que tengamos que someternos a cacheos en cada reunión, incluidos los partidos de la liga infantil, y a partir de ahí.
Y los detectores de metales no funcionan solos. Dondequiera que se instale un puesto de control, habrá guardias. Pueden ladrarte órdenes, exigirte que abras tus bolsas, que te quites la chaqueta, etc. Por muy habituales que sean estos cacheos, no debemos perder de vista que suponen una importante invasión de la intimidad. Es posible que lleves cosas privadas, como equipos médicos, que no son asunto de nadie más que tuyo. Los guardias también pueden hacer perfiles raciales, o simplemente tener un comportamiento brusco y grosero.
Tal vez el peor lugar para que estos controles se extiendan aún más es en nuestras escuelas, que las empresas ven como un gran mercado. Los detectores de metales en las escuelas responden a un enfoque roto del bienestar de los estudiantes, el mismo enfoque que ha llevado a Estados Unidos a tener más agentes de policía que trabajadores sociales en nuestras escuelas. Los detectores de metales son caros, perturbadores, alienantes, vienen de la mano de tácticas policiales agresivas y tienen un impacto racialmente dispar en los estudiantes de color. Al igual que otros métodos de vigilancia, no son buenos para los niños. Además, numerosas investigaciones sugieren que los detectores de metales no mejoran la seguridad en las escuelas; incluso el Servicio Secreto de EE.UU. ha llegado a la conclusión de que es poco probable que estos dispositivos detengan los tiroteos en las escuelas.
La eficacia de los detectores de metales también es dudosa fuera de las escuelas, y por las mismas razones. Como dice Motherboard, «los expertos en seguridad creen en general que los escáneres corporales y los detectores de metales no evitan los tiroteos masivos». Aunque la publicación independiente de análisis de seguridad IPVM descubrió que Evolv es mejor que los detectores de metales tradicionales (y mucho más baratos) a la hora de no alarmar con las llaves y los teléfonos móviles, las afirmaciones sobre la precisión general de Evolv han sido muy cuestionadas por IPVM. En particular, una investigación de IPVM y la BBC descubrió que la empresa había trabajado con un laboratorio de pruebas «independiente» para exagerar el rendimiento de sus escáneres, que en realidad era peor que los detectores de metales normales en algunos casos.
Detección de armas por vídeo ZeroEyes
Una empresa llamada ZeroEyes está comercializando técnicas de análisis de vídeo que supuestamente pueden identificar cuando alguien tiene un arma de fuego en la alimentación de una cámara de vigilancia.
En muchos contextos, no hay ninguna razón para que alguien sostenga un arma de fuego, y suele ser legítimo que el personal de seguridad se alarme al ver a alguien blandiendo un arma en un lugar público. (En muchos estados, puede ser legal llevar un arma de fuego enfundada, ya sea oculta o abierta, pero sostener un arma en las manos en público suele ser ilegal en virtud de las leyes estatales de brandishing y agresión). Así que, a primera vista, mucha gente puede no ver ningún problema en un sistema que sólo emite alarmas cuando eso ocurre. Sin embargo, hay varios problemas que veo con este concepto.
La vigilancia omnipresente no es la solución a la violencia armada.
En primer lugar, este concepto incentiva la instalación de cámaras de vigilancia en todas partes. Y como la analítica de detección de armas actúa como un complemento de las cámaras existentes, no es que las cámaras en cuestión sólo se utilicen para buscar armas. Pueden utilizarse simultáneamente para toda la gama de usos de la vigilancia, incluido el reconocimiento facial, la búsqueda forense e incluso el marketing y la «inteligencia empresarial».
En segundo lugar, como todos los sistemas de alarma, y especialmente los sistemas de IA, habrá falsos positivos, potencialmente muchos. Cubrir los espacios públicos con detectores de armas de fuego puede aumentar la incidencia de enfrentamientos trágicos provocados por personas que sostienen teléfonos móviles, pistolas de juguete u otros objetos cotidianos que la policía ha confundido con armas de fuego. ZeroEyes cuenta con seres humanos que revisan las imágenes de las cámaras antes de que se envíen las alarmas, lo cual es útil, pero no es una garantía contra los errores. Y si este concepto tiene éxito, es probable que veamos a esta empresa o a sus competidores descartar el costoso y complicado elemento de la revisión humana.
En tercer lugar, como en el caso de los detectores de armas de Evolv, también hay dudas sobre la eficacia. El sistema se basa en la premisa de que un arma sea visible durante un periodo de tiempo significativo antes de que se produzca un tiroteo. ¿Con qué frecuencia ocurre eso? Además, si esta tecnología se generaliza, los futuros tiradores simplemente mantendrán su(s) arma(s) oculta(s) a la IA (lo que podría ser más fácil que ocultarla a un humano) hasta el último momento. Como concluyen los analistas del sector en IPVM, la analítica de vídeo «no puede detener los sucesos [violentos] y no añadirá un tiempo de advertencia significativo a un suceso».
En cuarto lugar, también es importante entender un contexto más amplio aquí: La detección de armas por vídeo forma parte de una tendencia más amplia que consiste en utilizar la visión artificial como sustituto barato de los humanos en las tareas de vigilancia y aplicación de la ley. Ya estamos empezando a ver cámaras mejoradas con IA que se despliegan para vigilar el comportamiento de los conductores y el uso de los teléfonos móviles, por ejemplo, y (como exploramos en este informe) es probable que eso sea sólo la punta del iceberg que se avecina y que podría conducir a niveles intrusivos y opresivos de vigilancia en toda nuestra vida.
Por último, tanto ZeroEyes como Evolv plantean cuestiones de transparencia. Es difícil que los responsables políticos y el público tomen decisiones sobre las tecnologías si no tienen información precisa y completa sobre sus tasas de falsos negativos y falsos positivos. De hecho, Evolv se ha negado a que el IPVM compre un escáner para realizar pruebas de precisión independientes.
A fin de cuentas, la vigilancia omnipresente no es la solución a la violencia armada. Los estadounidenses deberían decir no a las tecnologías intrusivas que amenazan la privacidad, aportan dudosos beneficios y tienen efectos secundarios negativos como la elaboración de perfiles raciales y la alteración de la educación.
Jay Stanley, es analista principal de políticas del Proyecto de Discurso, Privacidad y Tecnología de la Unión Americana de Libertades Civiles.
Leer más comentarios: ELSEMANARIO.US
