Derecho algorítmico: quién responde cuando decide una máquina

Derecho algorítmico: quién responde cuando decide una máquina

Un algoritmo rechaza tu crédito. Otro filtra tu CV antes de que un humano lo lea. Un tercero decide qué publicaciones ves y cuáles no. La pregunta que el…

· Cumplimiento de IA y datos

Un algoritmo rechaza tu crédito. Otro filtra tu CV antes de que un humano lo lea. Un tercero decide qué publicaciones ves y cuáles no. La pregunta que el derecho ya no puede ignorar es: ¿quién responde cuando ese sistema se equivoca, discrimina o te afecta injustamente? El proyecto de ley de IA en Chile y la Ley 21.719 empiezan a dar respuesta. Esto es lo que necesitas saber.

Cuando el que decide es un sistema

La automatización de decisiones no es nueva, pero su alcance actual sí lo es. Hoy es habitual que sistemas de inteligencia artificial participen en decisiones de crédito, contratación, asignación de servicios públicos, vigilancia y evaluación de riesgos. La eficiencia que ofrecen es real, pero surge un vacío igualmente real: si el sistema se equivoca o reproduce una discriminación, ¿quién es el responsable?

El derecho tradicional asigna responsabilidad a personas y organizaciones. Cuando el decisor es un modelo entrenado con millones de datos, esa cadena de responsabilidad se vuelve opaca. Eso es exactamente lo que el llamado "derecho algorítmico" intenta resolver.

Los problemas concretos que la regulación busca abordar

  • Sesgo y discriminación: un modelo entrenado con datos históricos puede reproducir patrones discriminatorios de género, etnia o clase socioeconómica, aunque nadie lo haya programado explícitamente para eso. Si el dataset de contratación histórica favorecía a hombres, el algoritmo tenderá a hacer lo mismo.
  • Opacidad ("caja negra"): muchos sistemas modernos de IA no pueden explicar en términos humanos por qué tomaron una decisión. Esto es problemático cuando esa decisión te afecta directamente y quieres recurrirla.
  • Responsabilidad difusa: ¿responde quien entrenó el modelo, quien lo desplegó o quien lo usó para tomar la decisión? Sin reglas claras, la víctima queda sin interlocutor.
  • Derecho a revisión humana: en decisiones que afectan derechos importantes, la tendencia regulatoria es que no basta con el resultado del algoritmo: debe haber un humano capaz de revisar y corregir.

El proyecto de ley de IA en Chile: cómo clasifica los riesgos

Chile aprobó en octubre de 2025 en la Cámara de Diputados un proyecto de ley sobre Inteligencia Artificial que actualmente sigue tramitándose en el Senado. Su enfoque es similar al del AI Act europeo: clasificar los sistemas de IA según el riesgo que representan para los derechos fundamentales.

  • Riesgo inaceptable: usos directamente prohibidos por ser incompatibles con los derechos fundamentales (por ejemplo, sistemas de puntuación social masiva o vigilancia biométrica indiscriminada).
  • Alto riesgo: sistemas que afectan decisiones sensibles —salud, crédito, empleo, educación, justicia— y que requieren mayor transparencia, documentación y supervisión humana.
  • Riesgo limitado: sistemas con potencial de manipulación menor, sujetos a obligaciones de transparencia básica (por ejemplo, informar que el usuario está hablando con un bot).
  • Sin riesgo evidente: usos de bajo impacto con mínimas restricciones.

El proyecto también crea un Consejo Asesor Técnico de IA bajo el Ministerio de Ciencia, y establece multas de hasta 20.000 UTM para quienes infrinjan la normativa. Puedes seguir su tramitación en la Cámara de Diputados.

Cómo se conecta con la Ley 21.719 de datos personales

Las decisiones algorítmicas casi siempre se basan en datos personales. Por eso la Ley 21.719, que entra en vigencia plena el 1 de diciembre de 2026, es complementaria: establece que las personas tienen derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados cuando esas decisiones les produzcan efectos jurídicos significativos o les afecten de modo similar. En esos casos, el titular tiene derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión.

En la práctica, esto significa que si un banco rechaza tu solicitud de crédito usando un modelo automático, tienes derecho a pedir que un humano revise esa decisión.

Un ejemplo concreto: el filtro automático de CVs

Muchas empresas usan sistemas de ATS (Applicant Tracking Systems) y, cada vez más, modelos de IA que puntúan los CVs antes de que lleguen a una persona. Si el modelo fue entrenado con datos de empleados previos —mayoritariamente varones, de cierta universidad, con cierto perfil—, tenderá a filtrar candidatos que no encajan en ese molde, aunque sean igualmente competentes.

Bajo el marco que se está construyendo en Chile, un sistema así sería de "alto riesgo" (decisión de empleo con impacto significativo). Eso implicaría documentación obligatoria, auditorías periódicas y la posibilidad de que el candidato rechazado solicite explicación y revisión humana.

Qué significa esto en la práctica

  • Si usas sistemas automáticos para tomar decisiones sobre clientes o trabajadores: la dirección regulatoria exige que puedas explicarlos, supervisarlos y documentarlos. Anticiparte hoy es más barato que adaptarse bajo presión.
  • Como persona afectada: tienes derecho a saber que una decisión fue automatizada, a pedir explicación y, en casos relevantes, a exigir revisión humana. Esos derechos ya están parcialmente en la Ley 21.719 y se reforzarán con la ley de IA.
  • Para profesionales del derecho y la tecnología: la intersección entre regulación de IA, protección de datos y responsabilidad civil es uno de los campos de mayor crecimiento en la práctica jurídica de los próximos años.

En síntesis

El derecho algorítmico responde a una necesidad real: que las decisiones que nos afectan —aunque las tome una máquina— sean explicables, supervisadas y recurribles. Chile avanza en esa dirección con el proyecto de ley de IA y la Ley 21.719. Para las empresas, el mensaje es claro: transparencia y supervisión humana ya no son opcionales. Para las personas, conocer estos derechos es dejar de quedar a merced de sistemas que nadie les explica.

Fuentes: Proyecto de ley IA — Cámara de Diputados de Chile; Ley 21.719 — BCN. Contenido informativo: no reemplaza asesoría profesional.

— Mindset & Code · Legal-Tech Chile · derecho y tecnología, explicados simple.

Te puede interesar