Conveni IA i drets humans 2026: què han de fer les empreses tecnològiques

Dades clau

Les empreses que utilitzen intel·ligència artificial per prendre decisions sobre persones tenen ara una nova obligació internacional sobre la taula. El Conveni Marc del Consell d'Europa sobre Intel·ligència Artificial i Drets Humans, Democràcia i Estat de Dret, publicat el 13 de maig de 2026 amb referència OJ:L_202601081, és el primer tractat internacional legalment vinculant sobre IA del món.

No és una declaració d'intencions. És un tractat amb força legal que obliga els Estats part a garantir que els sistemes de IA respectin els drets humans, la democràcia i l'Estat de Dret. I això té conseqüències directes per a les organitzacions que desenvolupen o despleguen IA.

Què estableix aquesta normativa?

El Conveni Marc crea un marc d'obligacions estructurat al voltant de tres eixos principals que els Estats han de traslladar als seus ordenaments i que afecten directament les organitzacions que operen amb IA:

El conveni cobreix el cicle de vida complet dels sistemes de IA: des del seu disseny i desenvolupament fins al seu desplegament i retirada. No es limita a la fase d'ús.

Quant a la seva relació amb el Reglament europeu de IA (AI Act), aquest conveni no el substitueix ni el modifica: el complementa. Mentre l'AI Act regula principalment els riscos tècnics i de mercat, aquest conveni afegeix una capa de drets humans amb un abast geogràfic més ampli, ja que inclou països que no són membres de la UE però sí del Consell d'Europa, a més de la possibilitat d'adhesió de tercers països.

Impacte econòmic i operatiu

L'impacte no és una multa directa ni una taxa. És un cost d'adaptació operativa que les organitzacions han d'assumir per complir amb els nous estàndards. Els principals focus de despesa són:

• Auditories i avaluacions d'impacte: Les empreses que encara no han implementat processos formals d'avaluació d'impacte dels seus sistemes de IA hauran de dissenyar-los i integrar-los en els seus fluxos de treball.
• Documentació i transparència: Serà necessari documentar com funcionen els sistemes de IA, quines dades utilitzen i com afecten les persones, la qual cosa implica recursos tècnics i legals.
• Revisió de marcs de compliment: Les organitzacions que ja compleixen amb l'AI Act hauran de verificar si el seu marc de compliment cobreix també la dimensió de drets humans que exigeix aquest conveni.
• Formació interna: Els equips de tecnologia, legal i compliment han de conèixer les noves obligacions i com aplicar-les en el cicle de vida de cada sistema de IA.

Per a les empreses que ja tenen un programa de compliment de l'AI Act, l'esforç addicional serà menor. Per a les que encara no han iniciat aquest procés, aquest conveni afegeix urgència a l'adaptació.

A qui afecta?

• Empreses tecnològiques que desenvolupin sistemes de IA, plataformes, models o eines basades en intel·ligència artificial.
• Administracions públiques que utilitzin IA en processos de presa de decisions que afectin ciutadans (concessió d'ajudes, avaluació d'expedients, vigilància, etc.).
• Entitats del sector privat que despleguin IA en àrees amb impacte en drets fonamentals: selecció de personal, scoring creditici, atenció sanitària, serveis educatius, assegurances.
• Organitzacions amb operacions en països no membres de la UE que s'adhereixin al conveni, donat el seu abast geogràfic més ampli que l'AI Act.
• Assessors legals, consultores i auditores que prestin serveis de compliment normatiu a clients amb sistemes de IA.

Exemple pràctic

Una empresa de recursos humans utilitza un sistema de IA per filtrar candidatures i puntuar els candidats abans de l'entrevista. Sota aquest conveni, aquesta empresa ha de:

1. Realitzar una avaluació d'impacte sobre aquest sistema, documentant com pot afectar els drets dels candidats (no discriminació, privacitat, igualtat d'oportunitats).
2. Garantir transparència: els candidats han de poder saber que un sistema de IA ha intervingut en l'avaluació de la seva candidatura.
3. Establir un mecanisme de rendició de comptes: ha d'existir una persona responsable que pugui revisar, explicar i, si és necessari, corregir les decisions del sistema.

Si l'empresa ja compleix amb l'AI Act per a aquest tipus de sistema d'alt risc, probablement tingui gran part d'aquest treball fet. Si no, aquest conveni afegeix una raó més per iniciar l'adaptació sense demora.

Què han de fer les empreses ara?

1. Inventariar els sistemes de IA en ús: Identifica tots els sistemes de IA que la teva organització desenvolupa o desplegua, especialment els que intervenen en decisions que afecten persones.
2. Avaluar si hi ha impacte en drets fonamentals: Per a cada sistema identificat, analitza si pot afectar drets com la privacitat, la no discriminació, l'accés a serveis o la llibertat.
3. Revisar el marc de compliment existent: Si ja tens un programa de compliment de l'AI Act, verifica si cobreix també els requisits de drets humans que exigeix aquest conveni. Si no tens cap programa, aquest és el moment d'iniciar-lo.
4. Implementar o reforçar avaluacions d'impacte: Dissenya un procés formal d'avaluació d'impacte per als sistemes de IA amb potencial afectació a drets, i integra'l en el cicle de vida del sistema des del disseny.
5. Documentar transparència i rendició de comptes: Assegura't que existeix documentació clara sobre com funciona cada sistema, qui és responsable de les seves decisions i com poden impugnar-les les persones afectades.
6. Formar els equips implicats: Legal, tecnologia i compliment han de conèixer les obligacions del conveni i com aplicar-les en la pràctica diària.
7. Monitoritzar la transposició nacional: Donat que la data d'entrada en vigor no ha estat especificada, segueix de prop com cada Estat part trasllada les obligacions del conveni a la seva legislació nacional, ja que això determinarà els terminis i requisits concrets aplicables.