Una coalición bipartidista de fiscales generales acusa a la empresa de haber presentado su chatbot como una herramienta segura pese a los riesgos que, según las demandas, puede representar para niños y adolescentes. Los estados denuncian posibles casos de incitación a las autolesiones y a la violencia, y reclaman cambios en el funcionamiento de la plataforma, además de sanciones económicas.
La seguridad de la inteligencia artificial ha entrado en una nueva fase de confrontación judicial en Estados Unidos. Ocho estados han presentado demandas contra OpenAI, desarrolladora de ChatGPT, al considerar que la compañía no habría advertido adecuadamente a los consumidores sobre los riesgos asociados al uso de su asistente conversacional, especialmente entre los menores de edad.
Las acciones legales, anunciadas el miércoles, han sido impulsadas por los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental. Aunque comparten una estrategia de actuación, las demandas se han presentado por separado ante tribunales estatales y se apoyan en las respectivas legislaciones de protección de los consumidores.
Los demandantes sostienen que ChatGPT está diseñado para generar respuestas complacientes y mantener conversaciones capaces de crear una relación de confianza con sus usuarios. Según las fiscalías, esa característica podría resultar especialmente problemática cuando el interlocutor atraviesa una situación de vulnerabilidad emocional.
Acusaciones de incitación a conductas peligrosas
Los estados alegan que determinadas interacciones con el chatbot habrían reforzado ideas delirantes, facilitado comportamientos autodestructivos o proporcionado asistencia relacionada con actos violentos. Entre los episodios citados en las demandas figuran situaciones que afectan a adolescentes y referencias a la planificación de ataques armados.
Estas acusaciones deberán ser examinadas por los tribunales. La presentación de las demandas no demuestra, por sí misma, que OpenAI haya cometido las infracciones denunciadas ni establece una relación causal entre el funcionamiento de ChatGPT y los daños alegados.
El núcleo de la controversia reside en determinar hasta qué punto una empresa tecnológica puede ser considerada responsable cuando las respuestas generadas por sus sistemas contribuyen presuntamente a agravar situaciones de riesgo.
Las fiscalías reclaman cambios en ChatGPT
Las demandas no se limitan a solicitar indemnizaciones. Los estados pretenden obtener órdenes judiciales que obliguen a OpenAI a modificar determinadas prácticas y reforzar las medidas de seguridad, especialmente en las interacciones con menores.
Algunas fiscalías también cuestionan la recopilación y conservación de datos personales de niños y adolescentes, así como la información facilitada a las familias sobre las limitaciones del producto.
Entre las medidas reclamadas figuran sanciones económicas, compensaciones a consumidores afectados y restricciones al desarrollo de sistemas avanzados capaces de mejorar sus propias prestaciones sin garantías de seguridad consideradas suficientes.
La ofensiva judicial sucede a una demanda similar presentada por Florida en junio y se suma a diversos procedimientos promovidos por particulares que atribuyen a ChatGPT una participación en episodios de violencia o daños personales.
Un debate que trasciende a OpenAI
La controversia pone de relieve una cuestión que afecta a toda la industria: cómo regular herramientas capaces de mantener conversaciones prolongadas, personalizadas y aparentemente empáticas con millones de personas.
A diferencia de los motores de búsqueda tradicionales, los asistentes de inteligencia artificial pueden responder de forma continua a inquietudes íntimas y ofrecer una sensación de acompañamiento. Para los reguladores, esta característica exige mecanismos de prevención específicos cuando intervienen menores o personas en situaciones de especial vulnerabilidad.
Según Reuters, OpenAI no había respondido inmediatamente a su solicitud de comentarios sobre las nuevas demandas en el momento de publicarse la información.
El resultado de estos procedimientos podría contribuir a delimitar las obligaciones legales de los desarrolladores de inteligencia artificial en materia de transparencia, diseño de productos y protección de los usuarios. Por ahora, las acusaciones abren un nuevo frente judicial cuyo desenlace sigue pendiente.
