NEWS

The scandals behind the AI used by Ukraine in the war against Russia

artificial intelligence

Ukraine’s Ministry of Digital Transformation has said it is using Clearview AI technology to offer Russians a chance to experience the “true cost of war.”

Facial recognition technology is being used in warfare for the first time. It could be a new application of this technology in Ukraine, where it is being used to identify the dead and reunite families. But if we are not capable of respecting the ethics of this technology now, we could find ourselves before an instrument capable of violating human rights.

The Ukrainian Defense Ministry has been using Clearview AI facial recognition software since March 2022 with the intention of verifying war crimes by identifying the dead, both Russian and Ukrainian.

Ukraine’s Ministry of Digital Transformation has said it is using Clearview AI technology to offer Russians the chance to experience the “true cost of war” and to let families know that if they want to find the bodies of their loved ones deceased, will be “welcome to Ukraine”.

This software, which is free in Ukraine, is also being used at checkpoints and could help reunite refugees with their families.

UK controversy

Last month, the UK Data Protection Agency (the ICO) fined Clearview AI more than 7.5 million pounds sterling (about 8.7 million euros) for collecting images of people in the UK, elsewhere on the net and on social media.

Such images were ordered removed and the collection and use of UK residents’ personal data publicly available on the internet was prohibited.

According to the ICO, given the large number of UK social media users, it is highly likely that Clearview AI’s database of faces contains a significant number of images obtained and stored without consent.

Un abogado de Clearview AI, Lee Wolosky, sostiene que “la decisión de imponer una multa no está ajustada al derecho: Clearview AI no está sujeto a la jurisdicción de la ICO, y no hace negocios en el Reino Unido en este momento”.

La empresa espera tener cien mil millones de imágenes de rostros en su base de datos para principios de 2023, lo que equivale a 14 veces los habitantes de la Tierra. Múltiples fotos de la misma persona mejoran la precisión del sistema.

Según el sitio web de Clearview AI, su tecnología de reconocimiento facial ayuda a las fuerzas del orden público a combatir el crimen y permite a las empresas de transporte, otros bancos y empresas comerciales detectar robos, prevenir fraudes y verificar identidades.

Herramienta para la guerra

El director ejecutivo de Clearview AI, Hoan Ton-That, defiende que su software de reconocimiento facial ha permitido a las fuerzas del orden y al Gobierno de Ucrania almacenar más de 2.000 millones de imágenes de VKontakte, un servicio de redes sociales ruso. Hoan dijo que el programa puede ayudar a los funcionarios ucranianos a identificar soldados muertos de manera más eficiente que las huellas dactilares, y funciona incluso si la cara de un soldado está dañada.

Pero hay pruebas contradictorias sobre la eficacia del software de reconocimiento facial. Según el Departamento de Energía de EE. UU., la reducción del rostro de una persona puede reducir la precisión del programa. Por otro lado, estudios recientes han demostrado resultados relacionados con la identificación de personas muertas similares o mejores que la evaluación humana.

Las investigaciones científicas sugieren que las huellas dactilares, los registros dentales y el ADN siguen siendo las técnicas de identificación más confiables. Pero son herramientas para profesionales capacitados, mientras que el reconocimiento facial puede ser utilizado por no expertos.

Otro problema señalado por los expertos es que el reconocimiento facial puede emparejar por error dos imágenes o no hacer coincidir las fotos de la misma persona. En Ucrania, las consecuencias de cualquier posible error con la inteligencia artificial podrían ser desastrosas. Un civil inocente podria morir si se le identifica erróneamente como un soldado ruso.

Una historia controvertida

En 2016, Hoan comenzó a contratar ingenieros informáticos para crear el algoritmo de Clearview AI. Pero hasta 2019 la compañía estadounidense de reconocimiento facial no comenzó a proporcionar discretamente su software a la policía y las fuerzas del orden de EE. uu.

En enero de 2020, ‘The New York Times’ publicó un artículo titulado ‘La empresa secreta que podría acabar con la privacidad tal como la conocemos’. El texto llevó a más de 40 organizaciones tecnológicas y de derechos civiles a enviar una carta a la Junta de Supervisión de Privacidad y Libertades Civiles y a cuatro comités del Congreso de EE. UU., exigiendo la suspensión del software de reconocimiento facial de Clearview AI.

La conversación

En febrero de 2020 tras una filtración de datos de la lista de clientes de Clearview AI diferentes.

El 9 de mayo de 2022, Clearview AI logró dejar de vender el acceso a su base de datos de rostros a personas y empresas en los EE. UU., después de que la Unión Estadounidense de Libertades Civiles presente una demanda acusando a Clearview AI de violar una ley de privacidad de Illinois.

En los últimos dos años, las autoridades de protección de datos de Canadá, Francia, Italia, Austria y Grecia han multado, investigado o prohibido que Clearview AI recopile imágenes de personas.

A menos que se adopten leyes que rijan el uso del reconocimiento facial, el uso policial de esta tecnología corre el riesgo de violar los derechos de privacidad, la protección de datos y las leyes de igualdad.