Se encuentra usted aquí

La opresión de los algoritmos

Miércoles, 14 de Agosto 2019 - 13:05

Autor

antoniog.trejo_.foto_2015.jpg
Antonio G Trejo

Compartir

la-opresion-de-los-algoritmos.jpg

...... Esto solo es negocio, no es nada personal ....
El Padrino. Francis F. Coppola.

 

El mundo actual no se podría explicar sin las computadoras, la tecnología, los sistemas y los aparatos electrónicos que nos rodean por todas partes. Inclusive, hay quienes consideran que nuestra vida cómoda y placentera está asegurada con los progresos de la ciencia y la tecnología. Alimentos suficientes, atención médica garantizada, vehículos sin falla, vacaciones con mucha diversión, etc.

Desafortunadamente, las cosas no son así, los gigantes de la tecnología: Google, Facebook, Microsoft, etc; están tomando nuestra privacidad, autonomía e identidad por asalto, haciendo de nuestra existencia una maraña que a veces es difícil de entender. Muchos asuntos cotidianos que antes eran simples y planos, ahora requieren el uso de aparatos, códigos, confirmaciones y transacciones inciertas que nos roban la tranquilidad y el sueño,….los tragos y el sosiego no saben igual.....

Hace algunos años, alguien tuvo la feliz ocurrencia de copiar las caras de las personas para acompañar las identificaciones, tal como si fuera un fichero de la cárcel, luego otro alguien empezó a trazar planos sobre las caras hasta lograr diagramas de ángulos y medidas en 45 punto de las caras. Las medidas recorrían y medían todo ángulo y distancia de las caras, éstas perdieron toda expresión, todo quedó reducido a líneas y croquis que fueron almacenados en un banco de datos, lo que apropiadamente se llama software. La identificación se lograba cuando la cara o la fotografía de la persona se mostraban ante la cámara y esta recorría el archivo hasta encontrar la cara que tenía almacenada en el sistema, igual que con las huellas digitales. Varias compañías desarrollaron sus sistemas y cada cual vendió sus productos. Estos sistemas de identificación automática estuvieron muy de moda hace 4 – 5 años, muchas estaciones de policía en el mundo fueron los primeros clientes, algunas los obtuvieron con cierta reserva, otros estados ni siquiera repararon en ninguna protesta. El caso era obtener el dato y la identificación lo mas rápido posible y aparentar la eficiencia.1 La identificación electrónica se volvió casi una obsesión, se usó abiertamente en los aeropuertos e inclusive sirvió para detectar individuos que debían ser objeto de una revisión más exhaustiva, muchos países europeos la usan sin problemas, algunos estados de la Unión Americana la usan con reserva, solo Illinois y Texas la usan legalmente. La usaron también como identificaciones magnéticas en plantas productivas y oficinas, como artefactos de promoción en tiendas y almacenes para promover e incrementar las ventas. En todos estos casos la identificación o la validación del individuo no reviste mayor importancia, sin embargo, en China las identificaciones pueden tener serias repercusiones, incluso la muerte.

China es el país donde más se usa este sistema de identificación, sirve para detectar cualquier mala conducta de un individuo en la calle o bien para identificar narcotraficantes o terroristas que posteriormente son ejecutados.  En la región noroeste de China, al borde con las fronteras con Kazajistan y Kirguistan existe el estado de Xinjiang, una vasta región donde habita la etnia Uighurs, que no se consideran ciudadanos Chinos, ni hablan el idioma ni siguen la cultura China, además son musulmanes. Esta etnia se ha opuesto a la expansión y los intereses del Partido Comunista y ha hecho difícil la colonización/culturización China y han opuesto una gran resistencia. Para controlarlos, el estado Chino ha emitido un censo y una identificación muy exhaustiva que le permita controlar cualquier rebelión o desobediencia. El sistema es brutal pues existen puntos de revisión cada 150 metros donde ellos tienen que identificarse y responder interminables cuestionarios, a la menor falla, son severamente castigados o ejecutados.2

¿Cómo trabaja el sistema?

El sistema es muy simple, trabaja con algoritmos. Los algoritmos son un circuito impreso en una pequeña plantilla que posee impreso un sistema de redes electrónicas capaces de realizar una secuencia de reacciones donde la cara del individuo es fragmentada en varias porciones proyectadas en una malla que contiene ángulos y medidas para diferenciar los rasgos del sujeto a la identificación. La cara del sujeto o su fotografía suelen usarse como muestra para comparación con los cientos o miles de caras que están almacenadas en la memoria del sistema. Estos algoritmos son diseñados y producidos por expertos en la materia y lo integran al sistema como una aplicación o todo un sistema independiente para usarse con una computadora portátil. Obviamente, cada algoritmo es patentado por sus creadores.

Los algoritmos han sido muy útiles en muchas decisiones administrativas, especialmente cuando tienen que analizar cientos de casos y resolver en corto tiempo. Un ejemplo muy demostrativo es la lectura/interpretación de cientos de curricula de candidatos para algún puesto. Los especialistas diseñarán una plantilla donde introducirán ciertas palabras o términos clave. Los curricula se compararán contra las plantillas, las calificaciones más altas serán las que muestren la afinidad de las palabras o los conceptos clave, las que no los tengan, se desecharán.3

 Otro ejemplo que ha sido muy usado es la adjudicación de ayuda familiar a familias pobres, donde los algoritmos leen las respuestas de los solicitantes y obviamente otorgaran las ayudas a quienes hayan redactado más términos o palabras semejantes o equivalentes a las asentadas en la plantilla previamente diseñada por los asesores.  Cabe aclarar que estas revisiones están exentas de cualquier interpretación o revisiones humanas, todo lo han hecho las plantillas, que son lo único donde el hombre ha metido la mano.     

Hasta aquí, todo parece estar funcionar bien, sin la influencia o la trampa del hombre, aparentemente el sistema esta libre de prejuicios y favoritismos. Aparentemente, pero no es así. Los gigantes de la industria de la Comunicación Electrónica en su mayoría son individuos blancos que han desarrollado los sistemas con el habitual criterio y valores de una sociedad supuestamente superior que desea manifestarnos sus logros recurriendo a acciones banales como la preparación de cuestionarios con altos estándares para que ninguna familia califique para obtener las ayudas familiares. O bien, diseñando las plantillas de tal manera que puedan asegurarse que los aspirantes blancos obtendrán los puestos en las industrias y despachos de mayorías blancas.  En el 2017, Michal Kosinski y Yilun Wang, investigadores de la Universidad de Stanford desarrollaron un algoritmo para detectar la orientación sexual de los hombres, la teoría es que al parecer los homosexuales tienen quijadas angostas y narices alargadas. Los intereses de este programa de investigación revelan algo malsano en el interés de los investigadores

Hacia finales del 2016, Amazon lanzó a la venta el programa Rekognition, su cliente potencial fueron los Departamentos de Policía.  Hasta donde se sabe, estos sistemas de identificación no tienen la sensibilidad requerida para identificar con la precisión que se requiere, especialmente porque el máximo que logran es el 81% cuando se usa una foto y un 61% cuando la identificación se hace en persona. Estos resultados han causado serias dificultades, máxime cuando el sistema falla al tratar de identificar individuos cuyo tono de piel es diferente al blanco. Al parecer, los sensores del sistema no reaccionan bien con la luz reflejada en los cuerpos de la gente de color. Esta deficiencia es sumamente peligrosa en las actuales circunstancias en el país; lo mas prudente sería no confiar en ella hasta que se corrija o de plano no utilizar estos sistemas para la identificación de los sospechosos, mucho menos si las pruebas se hacen con individuos que no tengan la piel blanca.4

Tal parece que la buena ciencia y tecnología lograda por los líderes de la comunicación electrónica, susceptible a corregir ciertos detalles del reflejo de la luz en las caras de los individuos morenos o negros, se ha visto opacada por la burda manipulación en la preparación de las plantillas standard utilizadas en la comparación con la base de datos.

Es necesario que el hombre, del color que sea, se compre otro espejo para que se vea y se sienta diferente.

 

REFERENCIAS.

  1. Anónimo., When your face reveals everything. The Week. November 24, 2017
  2. Anónimo., Apartheid with Chinese characteristics. The Economist. June 2nd, 2018
  3. Weisberg, Jacob., The Digital Poorhouse.  The New York Review of Books. June 7, 2018
  4. Anónimo. Law: Amazon’s facial recognition software. The Week. June 8, 2018.


Número 31 - Julio 2019
portada-revista-31.png
Descargar gratis