Acusan a Chat GPT de incitar a los menores a autolesionarse, suicidarse y engañar a los padres: "No se debería usar sin conocer los peligros"

Los fiscales generales de ocho estados de Estados Unidos, dos de ellos gobernados por el partido Republicano, han demandado este miércoles a la empresa de inteligencia artificial OpenAI, acusando a la impulsora de ChatGPT de "causar daño a niños, engañar a padres" e infringir leyes de protección al consumidor. Noticias Cuatro ha hablado con varios expertos para analizar más en profundidad cómo afectan las herramientas de IA a los menores.

"La fiscal general (de Iowa), Brenna Bird, ha anunciado hoy en una rueda de prensa que va a demandar a OpenAI por causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa", reza el comunicado difundido por la Fiscalía estatal, con una formulación replicada por sus pares en Arizona, Idaho, Nebraska y Virginia Occidental, que han presentado sendas demandas junto a los estados de Arkansas, Kansas y Montana.

Preguntas a la IA que pueden llevar a la larga a los más vulnerables a la autolesión, incluso al suicidio. Es lo que denuncian estos ocho fiscales de EEUU. "Porque el objetivo es que los individuos estén más tiempo conectados para extraer más información", explica Ulises Cortés, catedrático de IA en la UAB.

"Si tú le preguntas. '¿Cómo podría hacer para sentirme mejor?' Pues puede llevarle a consecuencias enormes", sentencia el experto. Las fiscalías alertan de que el chatbot ha incitado a adolescentes a la autolesión. "La forma en la que muchas veces se dan estas estas respuestas puede llevar a engaño", opina David Ríos, responsable de seguridad de Vicomtech.

"Por eso estas máquinas están recomendadas para expertos", añade Cortés. Otro de los casos señala a un menor que accedió a información médica letal. "No es una respuesta de un profesional, no es la respuesta de tu familia", insiste el responsable de seguridad de Vicomtech.

"No se ha filtrado aquello de lo que es verdadero de lo que es falso"

"No se ha filtrado aquello de lo que es verdadero de lo que es falso", explica el catedrático de IA. Los fiscales también señalan que han engañado a los padres porque se han violado las leyes de protección. "Los menores no deberían utilizar ningún modelo masivo de lenguaje como ChatGPT o cualquier otro sin conocer realmente los peligros", pide el experto. Los fiscales exigen a OpenAI devolver las ganancias obtenidas a costa de los menores y a cambiar radicalmente el diseño del chat.

Por su parte, la fiscal general de Arizona, la demócrata (aunque republicana hasta 2019) Kris Mayes, que ha manifestado que “OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, a pesar de existir claros indicios de que los menores interactuaban habitualmente con su chatbot”. Por ello, ha afirmado que su oficina buscará con la demanda en cuestión “proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones”.

Actualmente, ChatGPT permite el uso a personas mayores de 13 años, pero los menores de 18 requieren el permiso de un padre o tutor. Según OpenAI, la empresa intenta verificar la edad de los usuarios mediante una combinación de la edad declarada por el usuario, señales de comportamiento y, si es necesario, una verificación de edad.

Open AI defiende sus mecanismos de protección

El portavoz de la firma, Drew Pusateri, ha afirmado en un comunicado distribuido a medios estadounidenses que la empresa ha incorporado en sus productos “protecciones específicas por edad líderes en el sector”, de las cuales carecen otras empresas.

“Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen”, ha defendido el representante de OpenAI, cuyos responsables están, según ha asegurado, “comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria, y no solo a una empresa”.