La transparència de la IA
Les obligacions de transparència en l'ús de l'IA s'han ampliat aquest mes d'agost, amb l'entrada en vigor de bona part de les obligacions generals del Reglament (UE) 2024/1689, conegut com a AI Act o Reglament Europeu d'Intel·ligència Artificial.
- Risc innaceptable (prohibit): el reglament prohibeix les pràctiques d'IA que vulnerin drets fonamentals, com ara manipular el comportament de les persones mitjançant tècniques subliminals, utilitzar sistemes de puntuació social (recordes aquest capítol de Black Mirror?), o determinades formes de vigilància biomètrica o identificació biomètrica en temps real.
- IA d'alt risc (obligacions estrictes): són sistemes que poden afectar significativament a les persones, com ara la selecció i gestió de personal, l'accés a crèdits i serveis financers, sanitat, o aplicació de lleis. Aquests sistemes han de complir obligacions estrictes pel que fa a la gestió de riscos, la qualitat i governança de les dades, la supervisió humana, la ciberseguretat, etc.
- Risc limitat (transparència): inclou xatbots, sistemes que generen imatges, àudio o vídeo sintètics i, en general continguts generats per IA. L'usuari ha de saber que està interactuant amb una IA o que el contingut ha estat generat artificialment.
- Risc mínim (sense obligacions): moltes aplicacions d'IA amb les que interactuem de forma habitual entren en aquesta categoria, filtres antispam, recomanadors de contingut... Poden utilitzar-se lliurement i tenen poques obligacions,
El dia 2 d'agost és, doncs, una data clau, perquè passen a ser aplicables la major part d'obligacions generals del Reglament, que va entrar formalment en vigor l'1 d'agost de 2024 (i hi ha mesures que ja s'apliquen des del 2 de febrer de 2025). En aquesta segona fase,
- si l'usuari interactua amb una IA cal informar-lo,
- si el contingut generat amb IA podria semblar real cal etiquetar-lo,
- i si la IA analitza persones o les seves característiques biomètriques o emocionals, cal informar-ne explícitament.
La UE ha desenvolupat una sèrie d'icones que els creadors de contingut, publicistes i altres desenvolupadors poden utiltizar paer tal d'identificar adequadament l'ús de la IA.
Com a persones usuàries, això vol dir que si una empresa utilitza un xatbot per respondre consultes a la seva web, ens n'ha d'informar. També s'ha d'informar, per exemple, de l'ús de fotografies creades íntegrament amb IA, o si d'un servei telefònic utilitza una veu artificial que sona completament humana.
El Reglament d'IA preveu mecanismes perquè les persones puguin presentar reclamacions quan considerin que un sistema d'IA incompleix les seves obligacions. A Catalunya si la manca de transparència afecta dades personals es podria presentar una reclamació davant l'APDCAT, o a organismes de consum. A Espanya l'organisme de referència és l'AESIA.
Es preveu encara una tercera fase d'aplicació, amb un doble termini d'aplicació, desembre de 2026 i agost de 2028, amb obligacions específiques de sistemes d'alt risc vinculats a determinats productes.
En qualsevol cas, l'obligatorietat de transparència ens dona als usuaris més capacitats per conèixer els nostres drets i exercir-los. Trobareu més informació a la secció d'Actualitat internacional del web del CAC.