Desde la Organización para el Desarrollo Sustentable participamos del “Seminario Internacional: Inteligencia Artificial en el Estado, su impacto en los Derechos Humanos” organizado por el Instituto Interamericano de Derechos Humanos (IIDH/ORS) y la INDDHH de Uruguay.
Te contamos a continuación de que se trataron las exposiciones de sus ponentes.

Para contextualizar vamos a definir a la inteligencia artificial como una rama de la informática que busca, a través de algoritmos matemáticos y lógicos, imitar el comportamiento humano. Pretende crear máquinas que tengan las mismas capacidades que los seres humanos.

Entre sus expositores encontramos a Romina Garrido. Ella es abogada y magíster en derecho y tecnología. Presentó un estudio sobre la utilización de herramientas de inteligencia artificial en oficinas públicas en Chile.

Se trata de un estudio exploratorio de Transparencia algorítmica en el sector público. El estudio lo realizaron analizando sistemas de información públicos, con instituciones que participaron de manera voluntaria.

A partir de la investigación hallaron en chile 92 sistemas, de los cuales 17 contaban con información pública disponible, 53 no tenían ningún tipo de información, otros 19 indicaban link de prensa donde habían publicado acerca del sistema.

La mayoría de estos sistemas informáticos hacían un gran uso de datos personales.

Con este estudio pudieron confirmar que se hace mucho uso de algoritmos en las políticas públicas de Chile. Se observó también un avance positivo en cuanto a la existencia de transparencia algorítmica, pero sin embargo faltaba información en las instituciones respecto a estos sistemas.

Entre los sistemas analizados Romina comentó acerca de un sistema de admisión escolar para determinar donde asisten los niños al colegio, el cual funciona a través de un algoritmo simple, establecidos a partir de la leyes y del reglamento de las instituciones. Atendiendo a estas reglas el sistema asigna a los niños a un establecimiento, también tiene un componente de aleatoriedad. Es un sistema de decisión automatizada de reglas simples, pero que requiere de una gran transparencia en su funcionamiento.

Por otro lado, Juan Corvalan, experto en inteligencia artificial en Argentina, habló desde su experiencia en la utilización de herramientas de inteligencia artificial aplicadas al estado en su país.

Sostuvo que los  sistemas de inteligencia artificial o los altamente automatizados repercuten en las formas en que se ejercen competencias públicas, cuando nos  referimos al uso de este tipo de sistemas, por parte de funcionarios públicos.

Trabajó también viendo el impacto algorítmico, comentó que existen 6 sistemas de autonomía cuando se analiza un sistema automatizado, se debe poder detectar el grado de autonomía proveniente de la máquina. Si entendemos los patrones se podrían detectar algunos focos de problemática con derechos humanos.

Sostuvo que es riesgoso aplicar la Inteligencia Artificial en ciertos campos, pero se desconoce que hay muchos algoritmos que no necesitan usar datos personales para realizar predicciones correctas.

Para saber si es riesgoso o no el uso de determinados algoritmos se debe tener en cuenta, si se involucra o no en el tratamiento a los datos personales y evaluar hasta qué punto esos algoritmos pretenden sustituir decisiones humanas.

Desde su punto de vista, el desafío para el sector público es ver cuál es el perfil que van a adoptar, ya que lo que se quiere es personalizar los servicios estatales y anticiparse a lo que hacen los ciudadanos. Se debe ver hasta qué punto este perfilado va a ser compatible con los derechos de las personas.

Maximiliano Maneiro es Gerente de tecnologías emergentes AGESIC de Uruguay. El comentó acerca de la estrategia en la que trabajó en conjunto con un grupo interdisciplinario de personas. Realizaron estrategias de inteligencia artificial para el estado, es decir, para la administración pública. Esta estrategia cuenta con principios, en los cuales se destaca el respeto de los derechos humanos, también el principio de ética, de responsabilidad. Trabajaron en 4 pilares teniendo en cuenta la gobernanza donde vieron que es lo que se esta haciendo en otros países, teniendo en cuenta también a la generación de capacidades, incluyendo la ciudadanía digital y entrenamiento artificial y también incorporaron el uso responsable de la inteligencia artificial.

Otro de los expositores fue Andres Morales, quien es especialista regional de ciencias sociales y humanas de UNESCO en América Latina y el Caribe.
Andres resaltó que la inteligencia artificial puede ser una herramienta garante y protectora de derechos, pero al mismo tiempo puede ser una amenaza y potencial herramienta para la violación de derechos. Esto es algo que preocupa a la gente y a las instituciones que trabajan en relación a la inteligencia artificial.

Comentó que existe una gran preocupación por el impacto de la Inteligencia Artificial en los derechos humanos y por la posibilidad de que tenga rasgos discriminatorios al momento de implementarlo.

Unesco realizó un documento para incluir la ÉTICA en el uso de la inteligencia artificial. Este documento busca marcar un camino en el modo de actuar de la inteligencia artificial, se destaca que es el primer marco ético consensuado a nivel global. Es una base que entiende a la inteligencia artificial al servicio de la humanidad y de la gente, del desarrollo sostenible y el medio ambiente.  Sostuvo que debe ser un pilar en el desarrollo de políticas públicas y marcos regulatorios. Se basa en la protección y garantía de los derechos humanos. Es un documento guía para todos quienes trabajen con Inteligencia Artificial (IA).

Este documento incluye entre sus valores, la relación de la Inteligencia Artificial con el medio ambiente y el impacto que esta produce. Destaca la importancia de la inclusión, la diversidad y la necesidad de utilizarla con fines pacíficos para tener sociedades interconectadas. Morales insistió en que deben considerarse principios guía a lo largo del desarrollo de la inteligencia artificial. También sostuvo que se debe apostar a la equidad de género en la inteligencia artificial.

Por otro lado, concluyó que el papel del sector privado también es muy importante, por lo que se debe trabajar en conjunto público con privado.

Desde la Organización para el Desarrollo Sustentable queremos acercarte información acerca de algunos temas que se debaten actualmente. Sabemos que la Inteligencia Artificial es algo que día a día va avanzando y se va apoderando de los sistemas de información de las entidades públicas y privadas, pero es importante que siempre se tenga presente el respeto de los derechos humanos ante todo.  Te invitamos a sumarte a nuestro Voluntariado ODS. Este programa le permite a todas las personas que se incorporan, poder investigar y estar conectados a las acciones concretas que se desarrollan para que la Agenda 2030 sea una realidad en cada uno de los países del mundo, para que nadie se quede atrás.