Un error en la tecnología podría costar la libertad de las personas. La Alta Comisionada de la ONU, Michelle Bachelet, advierte sobre los riesgos de la inteligencia artificial en materia de derechos humanos y la urgencia de aplicar restricciones en su uso; llama a los países a evaluar y reglamentar su aplicación con responsabilidad y transparencia.
De acuerdo con Informe anual del Alto Comisionado de las Naciones Unidas para los Derechos Humanos e informes de la Oficina del Alto Comisionado y el Secretario General (ACNUDH) se declara la tecnología ha permitido nuevas formas de explorar y alcanzar bienestar y conocimiento para la humanidad. Pero también representa un gran desafío y responsabilidad para los países y su legislación una tarea para todos.
En el 2019, el Secretario General de las Naciones Unidas subrayó que los avances tecnológicos no tienen que ocuparse para profundizar las desigualdades, incrementar la discriminación que persiste o violentar los esfuerzos en derechos humanos. Sino más bien, contribuir a que garanticen la equidad, la responsabilidad y la transparencia por mencionar algunos.
Riesgos de la inteligencia artificial
Privacidad en la era digital
¿Qué sucede con el derecho a la privacidad? Siguiendo con el informe del ACNUDH refiere que la información recaudada por medio de las IA no debe ser objeto de arbitrariedad o ilegalidad.
El término “ilegal” significa que los Estados pueden interferir con el derecho a la privacidad sólo sobre la base de la ley y de conformidad con esa ley. La propia ley debe cumplir con las disposiciones, propósitos y objetivos del Pacto Internacional de Derechos Civiles y Políticos y debe especificar en detalle las circunstancias precisas en las que dicha injerencia es permisible.
Así mismo el informe indica que el pacto incluye a las empresas comerciales que manejan datos personales de sus usuarios. Empresas y organizaciones deben garantizar el derecho fundamental a la privacidad.
Riesgos de la inteligencia artificial
Ley, seguridad nacional, justicia penal y gestión de fronteras
A menudo la IA se ocupa como herramienta de pronóstico para analizar grandes cantidades de datos. Permite evaluar riesgos y predecir tendencias futuras a decir de un objetivo. La creación de estos registros es capaz de crear perfiles de personas como posibles sospechosos o reincidentes de actividades criminales. Solo por algoritmo podríamos estar siendo vigilados o sesgados por nuestro perfil.
Otra cuestión no menos importante son los registros de detenciones, interrogatorios, arrestos que obran en manos del Estado. Podrían ser la base para detenciones arbitrarias, intimidaciones, persecuciones políticas debido a las predicciones empleadas por la IA. Los riesgos de la inteligencia artificial se hacen más eminentes en áreas donde la información es poco transparente o clara. Como actividades de las fuerzas antiterroristas. Rastreo de manifestantes.
Los periodistas y defensores de los derechos humanos juegan un papel indispensable en nuestras sociedades, y cuando son silenciados, todos sufrimos.
Michelle Bachelet. Alta Comisionada.
Reconocimiento biométrico
El reconocimiento biometrico en la comparación de la representación digital de ciertas características del individuo: rostro, huella digital, la iris, también tienen un efecto coercitivo en la libertad de expresión, reunión pacífica y asociación. Permite a las autoridades identificar y rastrear sistemáticamente a las personas en los espacios públicos. Entre los riesgos también se incluye rastreos erróneos por fallas del sistema.
La IA también ha desarrollado deducir estados emocionales y mentales a partir de expresiones faciales. De ahí también la preocupación del Alto Comisionado; podríamos representar una amenaza para la seguridad nacional bajo la premisa automática de un sistema de números. Poniendo en riesgo la libertad, veracidad e incluso el derecho a un juicio justo.
Ante esta situación, Michelle Bachelet, Alta Comisionada publicó un informe sobre la importancia de regular la venta y uso de la IA. Además de prohibir los sistemas de IA que no cumplan con la regulación internacional en derechos humanos.
Mientras mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la tecnología de IA… Pero dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo
Sistemas y servicios públicos
La tecnología ha permitido a los gobiernos extender la prestación de servicios de forma oportuna y precisa. Sin embargo empresas privadas tienen acceso a conjuntos descomunales de datos de la población. Cuál es el uso que se le otorga a esos datos.
Una regulación para reducir los riesgos de la inteligencia artificial es el papel que juegan las empresas en sus sistemas de transparencia y RSE. Así como verificar que sus sistemas cumplan con la normativa de derechos humanos y no sean sistemas obsoletos o dañados.
Otra preocupación que plantea el uso de datos por parte de las empresas privadas, es cómo estos datos pueden intervenir en las decisiones del gobierno. Como puede ser la asignación de recursos, toma de decisiones para impulsar programas o proyectos gubernamentales.
Desafío laboral
Los algoritmos son cada vez más empleados para la toma de decisiones incluyendo la contratación laboral. La automatización restringe contenido, incluso respuestas, el uso de filtros puede dejar fuera a candidatos que posiblemente contaban con el perfil.
Además con la reciente pandemia por COVID-19, las empresas mostraron una creciente necesidad por monitorear y gestionar a sus colaboradores mediante el uso de IA. Los llamados análisis de personas pretenden proporcionar información más eficiente y objetiva sobre los empleados cuando en realidad están violando su derecho a la privacidad.
Enfrentando los desafíos
El informe del ACNUDH plantea una serie de recomendaciones y principios para hacer frente a los riesgos de la inteligencia artificial.
-Incluir en las nuevas tecnologías un enfoque basado en los derechos humanos. Esto permitirá a las sociedades prevenir y limitar los daños en el uso de la IA.
-El uso y aplicación de la IA debe considerar como principios básicos: la igualdad, la no discriminación, y la rendición de cuentas. Además de contemplar los Objetivos de Desarrollo Sostenible y los Principios Rectores de las Empresas y Derechos humanos.
-En caso de sufrir daños o perjuicios por parte de la IA es necesario garantizar el acceso a recursos judiciales y extrajudiciales.
-El uso de la AI debe estar sujeta a las restricciones de la ley, de ser necesaria, legitima y con un objetivo preciso.
-Promover una regulación efectiva que contemple los derechos internacionales, marcos legales establecidos por el Estado.
-Asimismo los gobiernos deben fomentar que organismo independientes como observadores y evaluadores de estas medidas.
-Promover legislaciones que apoyen la privacidad de las personas e incluso el derecho de oponerse a decisiones automatizadas que afecten sus derechos.-
-Los gobiernos deben garantizar que los sistemas de IA lleven a cabo una diligencia integral en materia de derechos humanos cuando se adquieran, desarrollen, implementen y operen.
-También se recomienda que tanto los gobiernos como las empresas mantengan una política de transparencia conforme al uso de la IA.
La importancia de una regulación transparente es urgente. Los gobiernos tienen que sumar esfuerzos para trabajar en conjunto y evitar transgredir los derechos fundamentales de sus ciudadanos.
