Projecte de llei d'IA a Xile: classificació de riscos i obligacions per a empreses

Projecte de llei d'IA a Xile: classificació de riscos i obligacions per a empreses

Xile està tramitant al Senat el seu projecte de llei d'Intel·ligència Artificial. Encara que no és llei, ja defineix el marc que ve: classificació de…

· Compliment d’IA i dades

Xile està tramitant al Senat el seu projecte de llei d'Intel·ligència Artificial. Encara que no és llei, ja defineix el marc que ve: classificació de riscos, prohibicions concretes, principis que les empreses hauran de complir. Si fas servir IA a la teva organització —i avui gairebé totes fan servir alguna cosa— convé entendre cap a on va la regulació abans que arribi.

D'on ve aquest projecte

Xile va aprovar l'octubre de 2025 a la Cambra de Diputats el projecte de llei que regula els sistemes d'intel·ligència artificial, i actualment es tramita al Senat, on l'estudia la Comissió de Desafiaments del Futur. Pots seguir l'estat de la tramitació al lloc de la Cambra. El seu disseny segueix l'enfocament de l'AI Act europeu, que Xile pren com a referència.

El principi central: regular segons el risc

El projecte no prohibeix la IA. El que fa és establir que a més risc d'afectar drets fonamentals, més grans són les obligacions de l'operador. Aquest principi de proporcionalitat genera quatre categories:

  • Risc inacceptable — prohibit: usos directament incompatibles amb drets fonamentals. L'exemple més clar són els sistemes de puntuació social massiva (com els que fan servir alguns governs autoritaris per avaluar el comportament de la població) o la vigilància biomètrica indiscriminada en espais públics.
  • Alt risc — obligacions estrictes: sistemes que afecten decisions sensibles: crèdit, ocupació, salut, educació, justícia penal, infraestructura crítica. Requereixen documentació tècnica, avaluacions de biaix, supervisió humana obligatòria i traçabilitat.
  • Risc limitat — transparència bàsica: sistemes amb potencial de manipulació o error menor. Per exemple, un xatbot que respon com si fos humà s'ha d'identificar com a sistema automàtic.
  • Sense risc evident: usos de baix impacte amb mínimes restriccions (filtres de brossa, eines de productivitat bàsica).

Els principis que tota IA ha de complir

El projecte estableix principis transversals que s'apliquen a tots els sistemes, independentment de la seva categoria de risc:

  • Supervisió humana: sempre ha de ser possible que un humà intervingui, corregeixi o aturi un sistema d'IA.
  • Seguretat tècnica: els sistemes han de ser robusts i resistents davant de fallades i atacs.
  • Protecció de dades: la IA que tracta dades personals ha de complir amb la Ley 21.719 (vigent en plenitud des del desembre de 2026).
  • Equitat: els sistemes no poden discriminar per gènere, raça, origen o altres característiques protegides.
  • Transparència: l'usuari afectat ha de poder saber que està interactuant amb un sistema d'IA i, en decisions rellevants, obtenir explicació del resultat.

Què crea el projecte: el Consell Assessor Tècnic d'IA

El projecte crea un Consell Assessor Tècnic d'IA sota el Ministeri de Ciència, Tecnologia, Coneixement i Innovació. Les seves funcions inclouen proposar quins sistemes classifiquen com a alt risc o risc limitat, avaluar la implementació de la llei cada tres anys, i fomentar la innovació responsable. No és un organisme sancionador; aquesta funció queda als ministeris sectorials i, per a tot el que involucri dades personals, a l'Agència de Protecció de Dades Personals.

Un exemple concret: un sistema de scoring de crèdit

Un banc o fintech que fa servir un model d'IA per aprovar o rebutjar crèdits està a la categoria d'alt risc sota el projecte: la decisió afecta drets econòmics significatius. Sota la futura llei, aquest banc hauria de documentar el model, fer auditories periòdiques de biaix, garantir que un analista humà pot revisar el resultat si el client ho demana, i demostrar que el model va ser entrenat sense fer servir categories protegides com gènere o ètnia com a variables discriminatòries.

Sancions: fins a 20.000 UTM

El projecte contempla multes de fins a 20.000 UTM per a qui infringeixi la normativa. La quantitat exacta depèn de la gravetat de la infracció, la categoria de risc del sistema involucrat i si és reincidència. No és una xifra menor: representa desenes de milions de pesos per a la UTM vigent.

Què fer mentre la llei es tramita

  • Inventariar quins sistemes d'IA fas servir i avaluar en quina categoria de risc caurien sota el projecte.
  • Revisar la política de dades: la IA que tracta dades personals ja està subjecta a la Ley 21.719 des que entri en vigor el desembre de 2026.
  • Implementar supervisió humana en decisions automàtiques que afectin persones de manera significativa. Fer-ho ara redueix risc legal i reputacional ja, abans que sigui obligatori.
  • Seguir la tramitació al Senat per conèixer les modificacions que s'introdueixin al text aprovat per la Cambra.

En síntesi

Xile està construint una regulació d'IA basada en riscos, similar al model europeu. Si la teva organització fa servir sistemes automàtics que afecten decisions sobre persones, la direcció és clara: documentar, supervisar, auditar i ser transparent. El projecte no busca frenar la innovació sinó donar-li un marc que protegeixi drets. Adaptar-se abans que sigui obligatori sempre és més fàcil que fer-ho sota pressió.

Fonts: Projecte de Llei IA — Cambra de Diputats; MinCiencia Xile. Contingut informatiu: no reemplaça assessorament professional.

— Mindset & Code · Legal-Tech Chile · dret i tecnologia, explicats simple.

Et pot interessar