Florida
Florida OpenAI lawsuit: Los creadores de ChatGPT sabían que el producto causaría daño, argumenta el estado
La versión gratuita de ChatGPT no cuenta con ningún tipo de control de acceso ni mecanismo de verificación de edad. Si bien la suscripción de pago de ChatGPT solicita nominalmente a los usuarios que indiquen su edad, no existe ningún mecanismo para verificar la edad de sus usuarios, ni la posibilidad de informar a los padres sobre las conversaciones que los menores mantienen con ChatGPT”, alega el estado.
Last updated:
OpenAI debería haber sabido el daño que causaría su chatbot, argumenta el estado en una demanda contra los creadores de ChatGPT.
En una presentación de 83 páginas ante el tribunal de circuito estatal del condado de Highlands, el Departamento de Asuntos Legales de Florida y el fiscal general James Uthmeier compararon el despliegue y la gestión de ChatGPT con casos en los que se consultó o se vio involucrada la tecnología en tragedias, incluido el tiroteo masivo de 2025 en el campus de la Universidad Estatal de Florida.
La demanda comienza con una captura de pantalla de la política de control parental de ChatGPT que afirma: «Diseñado pensando en la seguridad». Las primeras palabras del fiscal general en el escrito judicial: «No es así».
ChatGPT se ha convertido en un nombre sumamente conocido. Con ello llegó el crecimiento financiero. A finales de 2024, ChatGPT generaba 1.000 millones de dólares por trimestre. Hasta hace un mes, generaba 2.000 millones de dólares al mes.
Argumentos centrales presentados en la Florida OpenAI lawsuit
«Este éxito no se ha ganado; el ascenso de OpenAI se debe a una red de engaños y a la explotación de los usuarios (incluidos los floridanos), aprovechando sus datos y su seguridad para aumentar el valor de mercado de OpenAI a costos inaceptables», argumentó el estado, enfatizando que un despliegue apresurado del producto pone en riesgo a los consumidores.
El estado solicita indemnización por daños y perjuicios, devolución de ganancias ilícitas, restitución, sanciones civiles, medidas de equidad, medidas cautelares y honorarios y costas de abogados. La demanda alega que OpenAI violó la Ley de Prácticas Comerciales Engañosas e Injustas de Florida y busca responsabilizar personalmente al director ejecutivo de OpenAI, Sam Altman, por su «conducta imprudente y deliberada».
OpenAI aún no ha respondido a una solicitud de comentarios de Phoenix, pero emitió una declaración escrita a NPR.
«La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por lo que hemos implementado protecciones y políticas líderes en la industria», declaró la empresa.
«En particular, incorporamos la seguridad para menores directamente en nuestros productos, incluida una experiencia más protectora específicamente para menores, una herramienta de predicción de edad, la asignación predeterminada a nuestra experiencia más protectora a los usuarios de cuya edad no estamos seguros, y la entrega de herramientas a los padres para monitorear el uso de la IA por parte de sus hijos».
El estado alega que ChatGPT constituye una «molestia pública».
La demanda hace referencia a diversos estudios que señalan efectos negativos de la tecnología en la salud mental, el rendimiento académico y otros aspectos.
La demanda menciona el tiroteo en la FSU, en el que el presunto atacante consultó a ChatGPT para obtener información sobre la notoriedad de otros tiradores y sobre cómo usar sus armas. El estado continúa mencionando otros casos en los que se cometió un delito después de que un delincuente consultara a ChatGPT.
«Como demuestran estos ejemplos, ChatGPT ayuda proactivamente, incita y promueve actividades peligrosas, y representa una amenaza para la seguridad pública de los floridanos», afirma la demanda.
Uthmeier la promociona como una demanda pionera en el país.
El fiscal general señala que los anuncios de OpenAI muestran lo útil que puede ser ChatGPT para escalar un negocio, gestionar la atención médica y otras tareas, pero no revelan que la herramienta comete errores o alucina información.
«A pesar de la publicidad de los demandados de que ChatGPT es una ayuda confiable para casi cualquier asunto de la vida cotidiana, la pura verdad es que es sorprendentemente poco confiable», sostiene la demanda.
La demanda señala a abogados de todo el país que han confiado en la herramienta para redactar escritos judiciales, lo que ha generado documentos que contienen información alucinada. La semana pasada, la Corte Suprema de Florida introdujo una política sobre inteligencia artificial.
Protección de menores y alegaciones en la Florida OpenAI lawsuit
El estado solicita que se prohíba de forma permanente a OpenAI recopilar datos de menores de 13 años sin previo aviso y sin el consentimiento de los padres.
“La versión gratuita de ChatGPT no cuenta con ningún tipo de control de acceso ni mecanismo de verificación de edad. Aunque la suscripción de pago de ChatGPT pide nominalmente a los usuarios que indiquen su edad, no existe ningún mecanismo para verificar la edad de sus usuarios, ni la capacidad de informar a los padres sobre qué conversaciones mantienen los menores con ChatGPT”, alega el estado.
“ChatGPT no envía informes de la actividad de los menores a los padres, ni alerta de otro modo a los padres si un menor accede a contenido preocupante, salvo que se haya completado el paso adicional (voluntario) de vincular una cuenta, e incluso entonces, solo en ‘situaciones limitadas’. En ningún caso puede un padre solicitar acceso a la información que un menor ha proporcionado a ChatGPT”.
El estado inició una investigación penal contra la empresa en abril.
“Los peligros de que ChatGPT proporcione de forma proactiva consejos y sugerencias sobre autolesiones o violencia que han provocado varias muertes en Florida, junto con el deterioro cognitivo y la adicción conductual de los adolescentes de Florida, superan cualquier beneficio de tener disponible un chatbot de IA”, afirma la demanda.
La demanda profundiza en la trayectoria profesional de Sam Altman, alegando su “gestión peligrosa y engañosa de OpenAI” a medida que evolucionó de una pequeña organización sin fines de lucro al gigante de la IA que es hoy.
“A menos que se prohíba temporal y permanentemente a los Demandados seguir participando en los actos y prácticas denunciados en el presente documento, las acciones de los Demandados continuarán provocando un daño irreparable al público para el cual no existe una reparación legal adecuada”.
El estado solicita un juicio con jurado.
Publicado originalmente por Florida Phoenix. Autor: Jay Waagmeester. Lea la historia original.
Relacionado: Nara Organics retira todos los lotes de fórmula infantil Nara debido a un posible riesgo para la salud
Relacionado: Recluso de Okaloosa Correctional es sentenciado a 20 años de prisión federal por cargos de explotación infantil
See a typo? Report it here.
