(CLARA VÁZQUEZ. EXCÉLSIOR)
California promulgó este 13 de octubre una ley pionera en Estados Unidos que establece estrictas regulaciones para los chatbots de Inteligencia Artificial (IA), con el objetivo de proteger a menores de edad y usuarios que enfrentan vulnerabilidades emocionales.
La legislación, firmada por el gobernador de California, Gavin Newsom, impone una serie de salvaguardas obligatorias en un país donde “no existen normas nacionales destinadas a frenar los riesgos de la IA”.
Esta ley, bautizada ya como ‘anti-chatbots’ busca frenar el impacto negativo que la tecnología no regulada puede tener en los jóvenes, obligando a las empresas a asumir una mayor responsabilidad social en el desarrollo de estas herramientas digitales.
“Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites necesarios y sin rendir cuentas”, dijo Newson tras promulgar la ley.
Qué medidas deberán tomar las empresas de IA
La normativa exige a los operadores implementar salvaguardas “críticas” en relación con las interacciones con chatbots de IA, explicó el senador demócrata Steve Padilla, quien promovió esta ley.
Entre otras cosas, la ley impone la verificación de la edad de los usuarios, mostrar mensajes de advertencia periódicos y establecer protocolos de prevención del suicidio.
“La industria tecnológica está incentivada por captar la atención de los jóvenes y mantenerla a expensas de sus relaciones en el mundo real”, dijo Padilla antes de la votación del proyecto en el senado estatal.
:quality(75)/media/dinero/chatgpt-creador-pagara-hasta-400-mil-pesos-a-quien-encuentre-errores-en-su-chatbot-3_0.jpg)
¿Por qué crearon una ley para regular chatbots de IA?
El senador se refirió a los recientes suicidios de adolescentes, incluido el de un joven de 14 años en Florida, en 2024.
La madre del menor, Megan Garcia, dijo en entrevista con AFP que su hijo Sewell, se había enamorado de un chatbot inspirado en un personaje de la serie Juego de Tronos en la plataforma Character.AI, que permite interactuar con personajes como si se tratara de amigos o amantes.
Cuando Sewell luchaba con pensamientos suicidas, el chatbot le instó a “volver a casa”. Segundos después, Sewell se disparó con la pistola de su padre, según la demanda presentada por García contra Character.AI.
García reaccionó poco después de la promulgación de la ley:
“Hoy California ha asegurado que un chatbot compañero no pueda hablar con un niño o una persona vulnerable sobre el suicidio, ni podrá ayudar a una persona a planear su propio suicidio…
Por fin, hay una ley que requiere que las empresas protejan a sus usuarios que expresan ideas suicidas a los chatbots”, dijo.
Con información de AFP
