IA amb biaix de gènere: què han de revisar les empreses amb sistemes d'IA a RRHH i finances

Dades clau

Si tens un sistema d'IA que decideix qui passa a la següent fase d'un procés de selecció, qui rep un préstec o quin tractament mèdic es recomana, la teva empresa està en el focus d'aquesta nova supervisió. El conveni signat entre l'Agència Espanyola de Supervisió d'Intel·ligència Artificial (AESIA) i l'Institut de les Dones, publicat al BOE el 20 d'abril de 2026 (referència BOE-A-2026-8672), estableix un marc de col·laboració per supervisar aquests sistemes des d'una perspectiva de gènere i drets fonamentals.

No és una norma que imposi multes directes per si sola, però sí amplia l'abast i els criteris de la supervisió regulatòria existent. Les empreses que ja estaven adaptant-se al Reglament europeu d'IA han de saber que a Espanya aquesta adaptació inclou ara un control addicional específic sobre biaix de gènere.

Què estableix aquesta normativa?

El conveni articula tres línies d'actuació concretes entre l'AESIA i l'Institut de les Dones:

• Supervisió conjunta de sistemes d'IA amb criteris de no discriminació per raó de gènere i protecció de drets fonamentals.
• Alfabetització en IA amb enfocament d'igualtat, dirigida a professionals i ciutadania.
• Laboratoris d'idees conjunts per desenvolupar metodologies i marcs d'anàlisi de biaix de gènere en sistemes d'IA.

Des del punt de vista empresarial, l'element més rellevant és el primer: la supervisió regulatòria incorporarà de forma explícita criteris de no discriminació per gènere. Això significa que els organismes supervisors poden requerir informació, realitzar auditories o exigir modificacions en sistemes d'IA que operin en els sectors identificats com de major risc.

Impacte econòmic i operatiu

Aquest conveni no estableix sancions pròpies ni imports directes. El seu impacte econòmic i operatiu es materialitza a través dels mecanismes de supervisió que activa:

• Auditories addicionals: Els sistemes d'IA en els sectors assenyalats poden ser objecte de revisions específiques sobre biaix de gènere, més enllà de les ja previstes pel Reglament europeu d'IA.
• Requeriments de modificació: Si una auditoria detecta biaix de gènere en un sistema, l'empresa pot rebre requeriments per corregir-lo, amb els costos operatius i tècnics que això implica.
• Cost d'adaptació preventiva: Les empreses que actuïn abans de ser auditades hauran d'invertir en revisió de models, documentació de biaix i, en el seu cas, redisseny d'algoritmes.
• Risc reputacional: Una auditoria amb resultat negatiu en matèria de discriminació de gènere pot tenir impacte reputacional directe, especialment en empreses amb exposició pública.

El conveni reforça l'aplicació del Reglament europeu d'IA a Espanya amb una capa addicional de control. Les empreses que ja estaven invertint en compliment del Reglament d'IA han de revisar si aquest compliment inclou explícitament l'anàlisi de biaix de gènere.

A qui afecta?

• Empreses desenvolupadores de sistemes d'IA que comercialitzin solucions per selecció de personal, scoring creditici, salut o serveis públics.
• Empreses usuàries de sistemes d'IA en processos de RRHH (cribatge de CVs, entrevistes automatitzades, avaluació del desempeny).
• Entitats financeres que usin models d'IA per concessió de crèdit o avaluació de risc.
• Empreses del sector salut amb sistemes de diagnòstic o triatge automatitzats.
• Administracions públiques i empreses que prestin serveis públics amb sistemes d'assignació automatitzada.
• Departaments de RRHH i Compliance de qualsevol empresa mitjana o gran amb processos de selecció automatitzats.
• Proveïdors tecnològics que integrin IA en els seus productes per als sectors anteriors.

Exemple pràctic

Una empresa de 200 empleats usa un programari de selecció de personal basat en IA per cribar els CVs rebuts en els seus processos de contractació. El sistema puntua automàticament als candidats i filtra qui passa a l'entrevista.

Amb aquest conveni en vigor, l'AESIA —en col·laboració amb l'Institut de les Dones— pot iniciar una supervisió sobre aquest sistema per verificar si genera biaix de gènere: per exemple, si penalitza candidatures de dones en determinades posicions tècniques o directives, o si afavoreix perfils masculins en sectors històricament masculinitzats.

Si la supervisió detecta un biaix, l'empresa pot rebre un requeriment per modificar el model, documentar els canvis i acreditar que el sistema corregit no discrimina per gènere. Aquest procés té un cost tècnic real: revisió del model, ajust de paràmetres, nova validació i documentació per al regulador. Actuar de forma preventiva —abans de rebre aquest requeriment— és més barat i evita el risc reputacional associat a una auditoria amb resultat negatiu.

Què han de fer les empreses ara?

1. Identificar tots els sistemes d'IA en ús que intervinguin en processos de selecció, crèdit, salut o serveis públics. Inclou tant els desenvolupats internament com els adquirits a tercers.
2. Revisar si aquests sistemes inclouen anàlisi de biaix de gènere en la seva documentació tècnica i en els processos de validació. Si no ho inclouen, és una laguna que cal corregir.
3. Sol·licitar als proveïdors tecnològics que acreditin que els seus sistemes han estat validats front a biaix de gènere, especialment si operen en els sectors assenyalats pel conveni.
4. Actualitzar la documentació de compliment normatiu per incloure la perspectiva de gènere com a criteri explícit en l'avaluació de sistemes d'IA, alineant-la amb els requisits del Reglament europeu d'IA i aquest conveni.
5. Assignar responsabilitat interna (DPO, responsable de Compliance o de RRHH) per al seguiment dels requeriments que puguin derivar-se de la supervisió conjunta AESIA-Institut de les Dones.
6. Consultar amb un especialista en compliment d'IA si la teva empresa opera en algun dels sectors d'alt risc identificats, abans que arribi una auditoria.