top of page

Inteligencia Artificial y Derechos Humanos

Patricia Tarre Moser

23 sept 2024

La inteligencia artificial está cambiando al mundo ¿Qué significa esto para los derechos humanos?


Para escuchar el episodio completo dale click aquí.


Hoy en día, la inteligencia artificial (IA) está prácticamente en todas partes. Desde los algoritmos que deciden qué vemos en redes sociales, hasta las herramientas que usamos para comprar en línea o pedir una consulta médica. Pero su uso no se queda ahí: la IA también está entrando en terrenos mucho más sensibles, como el sistema judicial y la protección de los derechos humanos.


¿Cómo afecta la IA a los derechos humanos en el sistema judicial?


La IA puede tener un impacto tanto positivo como negativo en el ámbito judicial. Por un lado, hace más fácil cosas como organizar los casos o traducir lo que se dice en las audiencias, lo que ayuda a que más gente pueda acceder a la justicia.


Sin embargo, también tiene sus riesgos. Uno de los mayores riesgos es que la IA puede reforzar sesgos o prejuicios que ya existen en la sociedad. Por ejemplo, si un sistema de IA ha sido entrenado con datos históricos que tienen discriminación (por género, raza, religión, etc.), podría repetir esos mismos prejuicios en sus recomendaciones o decisiones. Esto puede ser muy peligroso en casos judiciales, ya que podría influir en jueces o fiscales a tomar decisiones injustas, como predecir erróneamente que alguien volverá a cometer un crimen solo por pertenecer a un grupo discriminado.


Adicionalmente, también puede ser problemático si herramientas de traducción o de textualización cometieran errores al documentar lo dicho por una persona y esta información errónea sea la utilizada en el proceso judicial.


¿Qué se está haciendo para regular el uso de la IA en la justicia?


Varios países, como Colombia, están tomando pasos importantes para regular cómo se usa la inteligencia artificial en los tribunales. En Colombia, por ejemplo, el Consejo Superior de la Judicatura está trabajando en unas guías para que los jueces y magistrados usen la IA de manera responsable y ética. Estas guías no solo son recomendaciones, sino que establecerán reglas claras para evitar que la IA viole derechos humanos.


Además, se está haciendo un esfuerzo grande por capacitar a jueces y servidores judiciales para que entiendan mejor cómo funciona la IA y sus posibles riesgos. Por ejemplo, más de 1,700 jueces y magistrados en Colombia ya han tomado cursos sobre el uso de la IA en la justicia. Esto es crucial, porque la IA no es solo una herramienta técnica, también tiene impactos en la forma en que se toman decisiones que afectan a las personas.


A nivel global, la UNESCO está trabajando en guías para el uso de la IA en tribunales, basadas en una encuesta mundial que hicieron sobre cómo se está usando esta tecnología. Estas guías servirán como un punto de partida para que otros países puedan desarrollar sus propias reglas y lineamientos.


Episodio de Podcast

La IA promete muchas cosas buenas: automatizar tareas, hacer más rápido el trabajo, y ayudarnos a predecir situaciones, pero también puede traer problemas serios ¿Qué pasa si una IA, en lugar de ayudar, termina tomando decisiones injustas? ¿Qué sucede si reproduce prejuicios o discrimina a ciertas personas?


Juan David Gutiérrez


Juan David Gutiérrez es Profesor asociado de la Escuela de Gobierno de la Universidad de los Andes en donde enseña e investiga sobre políticas públicas, gestión pública, e inteligencia artificial. Doctor (PhD) y máster (MSc) en política pública de la Universidad de Oxford. Máster en derecho y economía (LLM) otorgado conjuntamente por la Universidad de Bolonia y la Universidad Erasmus de Rotterdam. Abogado de la Universidad Javeriana. Es integrante del grupo de expertos del Global Partnership on Artificial Intelligence – GPAI en donde colidera el proyecto sobre Transparencia Algorítmica en el Sector Público. Colidera la Mesa de Trabajo Multiactor sobre Regulación de Inteligencia Artificial. Fue coordinador académico del curso “Inteligencia artificial para la administración de justicia” ofrecido por el Consejo Superior de la Judicatura en asocio con la Universidad de los Andes. Juan David tiene casi 20 años de experiencia como consultor en asuntos legales y de políticas públicas, asesorando a gobiernos de América Latina y el Caribe, organizaciones multilaterales (UNESCO, BID, APEC), organizaciones de la sociedad civil (Ford Foundation, NRGI, CEJ), asociaciones gremiales y empresas.


Puedes seguir a Juan David en: https://x.com/JuanDGut


Transcripción





Recursos Adicionales


bottom of page