Brussel·les vol desactivar els companys d'IA per a menors

Desactivats de fàbrica, i sense fingir afecte

El pilar del text que toca de ple la intel·ligència artificial es diu seguretat per disseny, i abasta tots els serveis en línia que ofereixin xarxes socials, vídeo, videojocs en línia, companys d'IA o xatbots a usuaris menors de 18 anys. No distingeix entre una aplicació pensada per a nens i una d'adults on s'esmuny un adolescent: el que mana és l'edat de qui hi ha a l'altra banda de la pantalla.

La frase que ho resumeix ocupa una línia a la proposta. Els companys d'IA i els xatbots «han d'estar desactivats per defecte» i «no poden simular relacions interpersonals de manera que creïn dependència emocional». Desactivat per defecte vol dir que la funció no s'engega sola: si un menor la vol, algú l'ha d'anar a encendre.

El mateix pilar prohibeix les funcions addictives; els recomanadors basats en perfilat que arrosseguen el menor per espirals de contingut nociu; el scroll infinit sense punts de parada; els paranys de recompensa; les notificacions que sonen en hores de son, i el contacte no sol·licitat de desconeguts.

I canvia els valors amb què s'obre un compte de menor: perfil privat per defecte, amb geolocalització, càmera i micròfon desactivats. Els serveis haurien d'oferir a més maneres fàcils de bloquejar i silenciar altres usuaris, eines de gestió del temps i un recomanador que el mateix menor pugui controlar, ajustar i reiniciar de zero.

Què podria fer cada edat

El segon pilar endarrereix l'entrada a les xarxes socials. La proposta prohibeix a les plataformes l'accés dels nens menors de 13 anys i fixa una edat mínima de 15 anys a tota la Unió Europea perquè un menor obri un compte propi. Entremig apareix una figura nova.

Dels 13 als 14 anys el comandament el té el tutor: és ell qui crea minicomptes, i el menor hi entra a través del compte de l'adult. Aquests minicomptes s'han de dissenyar amb salvaguardes, i el text en nomena dues: contactes socials limitats i temps de pantalla limitat a un màxim d'una hora al dia.

Per als petits, de 3 a 12 anys, no hi ha xarxes socials de cap mena. Sí serveis de vídeo dissenyats per a menors, mitjançant comptes que gestiona el tutor. I hi ha una obligació pensada per a l'escena més corrent de qualsevol casa, la del pare que deixa el mòbil: les plataformes haurien de donar una eina fàcil per restringir l'ús del dispositiu de l'adult a aquests serveis quan el passa al nen, i limitar l'exposició a un màxim d'una hora al dia.

Com es comprova l'edat sense lliurar el DNI

Tot això depèn de saber qui hi ha al davant, així que el tercer pilar obliga els serveis en línia i les botigues d'aplicacions a fer servir eines de verificació de l'edat que preservin la privacitat. L'exemple que cita la mateixa Comissió és l'aplicació europea de verificació de l'edat, que no conserva documents d'identitat ni dades biomètriques.

A les xarxes socials i les plataformes de vídeo la comprovació es faria en obrir un compte nou. Per als comptes que ja existeixen —és a dir, el de gairebé tothom— el text es conforma a estimar l'edat a partir d'indicis raonables, i en posa dos exemples: la data de creació del compte i les dades de la targeta de crèdit.

Ara li toca demostrar-ho a la plataforma

El quart pilar és el que decideix si la resta es queda en paper. Fins ara, qui havia de demostrar que un servei feia mal a un menor era qui es queixava; la proposta inverteix la càrrega de la prova i la col·loca damunt dels proveïdors de plataformes en línia de mida molt gran.

A la pràctica, això vol dir presentar un pla de compliment a la Comissió i a un auditor independent, que ha d'avaluar a fons el nou servei, funció o funcionalitat. Si a la vista de l'informe de l'auditor la Comissió aprecia mancances en aquest pla, pot exigir al proveïdor que proposi mesures correctores. I perquè el tràmit no s'eternitzi, els procediments són accelerats: la Comissió hauria de concloure les investigacions en 90 dies.

Ursula von der Leyen, presidenta de la Comissió Europea, ho va resumir així: «Avui els nostres fills es relacionen amb les tecnologies més sofisticades que s'han creat mai. Tecnologia que no es va crear mai pensant en el seu benestar. La nostra KIDS Act inverteix la càrrega de la prova: són les plataformes les que han de demostrar que són segures per disseny. I tornem a posar els pares al volant, donant-los les eines per ajudar els seus fills a moure's per un món digital més segur».

D'on surt el text i on va ara

La proposta no neix d'un despatx de Brussel·les, sinó d'aquest panell d'experts, i arriba amb el vent de l'opinió pública a favor: segons l'Eurobaròmetre especial sobre la Dècada Digital de 2026, el 92 % dels europeus considera que reforçar la protecció dels menors en línia és una prioritat política màxima.

A partir d'aquí, el recorregut és el de qualsevol proposta legislativa europea. El text està en mans del Parlament Europeu i del Consell, que el poden aprovar, modificar o deixar encallat. Res del que s'ha descrit aquí no s'aplica encara, i el mateix text no fixa cap data perquè comenci a aplicar-se.