Cerro Colorado 5240 Torre I, Piso 18

Las Condes, Santiago de Chile.

+56 2 2638 1527

contacto@ga-abogados.cl

Mantente siempre informado.

Blog

IBM ya no ofrecerá, desarrollará ni investigará tecnología de reconocimiento facial.

IBM ya no ofrecerá software de análisis o reconocimiento facial de propósito general, dijo hoy el CEO de IBM, Arvind Krishna, en una carta al Congreso . La compañía tampoco seguirá desarrollando o investigando la tecnología, IBM le dice a The Verge . Krishna dirigió la carta a los senadores Cory Booker (D-NJ) y Kamala Harris (D-CA) y las representantes Karen Bass (D-CA), Hakeem Jeffries (D-NY) y Jerrold Nadler (D-NY).

“IBM se opone firmemente y no tolerará el uso de ninguna tecnología [de reconocimiento facial], incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestro valores y principios de confianza y transparencia ”, dijo Krishna en la carta. “Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deben emplear la tecnología de reconocimiento facial y cómo”.

En 2018, la investigación realizada por Joy Buolamwini y Timnit Gebru reveló por primera vez la medida en que muchos sistemas comerciales de reconocimiento facial (incluidos los de IBM) estaban sesgados. Este trabajo y los estudios posteriores de la pareja llevaron a la crítica general de estos algoritmos y a los intentos continuos de rectificar el sesgo.

Un estudio del Instituto Nacional de Estándares y Tecnología de diciembre de 2019 encontró “evidencia empírica de la existencia de un amplio rango de precisión en las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que fueron evaluados”, por ejemplo. La tecnología también ha sido criticada por su papel en las violaciones de privacidad.

Cabe destacar que el estudio del NIST no incluyó tecnología de Amazon, que es una de las pocas compañías tecnológicas importantes que vende software de reconocimiento facial a las fuerzas del orden. Sin embargo, Rekognition, el nombre del programa, también ha sido criticado por su precisión. En 2018, la Unión Estadounidense de Libertades Civiles descubrió que Rekognition emparejó incorrectamente a 28 miembros del Congreso con rostros elegidos de 25,000 fotografías públicas, por ejemplo.

Otra compañía, Clearview AI, ha sido objeto de un intenso escrutinio a principios de este año cuando se descubrió que su herramienta de reconocimiento facial, construida con más de 3 mil millones de imágenes compiladas en parte a partir de sitios de redes sociales, estaba siendo ampliamente utilizada por empresas del sector privado y las fuerzas del orden. Desde entonces, Clearview recibió numerosas órdenes de cese y desistimiento y está en el centro de una serie de demandas de privacidad . Facebook también recibió la orden en enero de pagar $ 550 millones para resolver una demanda colectiva por el uso ilegal de la tecnología de reconocimiento facial.

IBM ha intentado ayudar con el tema del sesgo en el reconocimiento facial, lanzando un conjunto de datos públicos en 2018 diseñado para ayudar a reducir el sesgo como parte de los datos de entrenamiento para un modelo de reconocimiento facial. Pero también se descubrió que IBM compartía un conjunto de datos de capacitación por separado de casi un millón de fotos tomadas de Flickr en enero de 2019 sin el consentimiento de los sujetos, aunque las fotos se compartieron bajo una licencia Creative Commons. IBM le dijo a The Verg e en un comunicado en ese momento que los investigadores verificados solo accederían al conjunto de datos y que solo incluirían imágenes que estaban disponibles públicamente. La compañía también dijo que las personas pueden optar por no participar en el conjunto de datos.

En su carta, Krishna también abogó por la reforma policial, argumentando que más casos de mala conducta policial deberían someterse a la competencia del tribunal federal y que el Congreso debería hacer cambios a la doctrina de inmunidad calificada, entre otras medidas. Además, Krishna dijo que “necesitamos crear vías más abiertas y equitativas para que todos los estadounidenses adquieran habilidades y capacitación comercializables”, y sugirió que el Congreso considere ampliar el modelo de escuela P-TECH a nivel nacional y ampliar la elegibilidad para las Becas Pell.

Fuente: Inglés: https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software

Compartir

Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
Share on email