KVIG Informative

Nuevos demandantes se han sumado a una demanda federal contra xAI, de Elon Musk, y Stability AI, alegando que las herramientas de inteligencia artificial de las empresas se usaron para generar imágenes sexualmente explícitas de ellos cuando eran niños. El caso plantea una pregunta que ningún tribunal ha resuelto todavía: cuando un sistema de IA produce material de abuso sexual infantil, ¿quién es legalmente responsable?

Víctimas adicionales se han sumado a una demanda federal ya existente contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, y Stability AI, alegando que las herramientas de IA generativa de las empresas se usaron para crear imágenes sexualmente explícitas de ellos cuando eran menores de edad. Los nuevos demandantes afirman que su imagen fue usada sin consentimiento para generar material de abuso sexual infantil, y que las empresas sabían o debieron haber sabido que sus sistemas eran capaces de producir ese tipo de contenido, y no implementaron salvaguardas adecuadas para impedirlo.

La demanda apunta a dos de los nombres más prominentes de la IA generativa. xAI es la empresa detrás del asistente de IA Grok, que Musk lanzó como alternativa a ChatGPT y puso a disposición a través de la plataforma de redes sociales X. Stability AI es la empresa detrás de Stable Diffusion, un modelo de generación de imágenes de código abierto que ha sido ampliamente utilizado y ampliamente usado de forma indebida desde su lanzamiento público. Ambas empresas han declarado que prohíben la generación de contenido sexualmente explícito que involucre a menores y que sus sistemas incluyen filtros diseñados para impedirlo. Los demandantes alegan que esos filtros fueron insuficientes y que las decisiones comerciales de las empresas priorizaron la capacidad y el crecimiento por encima de la seguridad.

La teoría legal que persiguen los demandantes no ha sido puesta a prueba a esta escala. El material de abuso sexual infantil constituye un delito federal bajo el Título 18, Sección 2256 del Código de EE. UU., sin importar si representa a un niño real o una imagen sintética. La Ley PROTECT de 2003 extendió la ley federal de obscenidad para cubrir representaciones generadas por computadora de menores en conductas sexualmente explícitas. La pregunta que la demanda debe responder es si las empresas que crearon y distribuyeron las herramientas de IA cargan con responsabilidad civil cuando esas herramientas se usan para generar contenido prohibido, incluso si la generación específica fue activada por un usuario y no por las propias empresas.

Se espera que ambas empresas invoquen como defensa legal la Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a las plataformas en línea de responsabilidad por contenido generado por los usuarios. Si la Sección 230 se aplica al contenido generado por IA — a diferencia del contenido publicado por usuarios — es una pregunta sin resolver que varias demandas en curso están tratando de responder. La distinción importa porque un sistema de IA generativa no solo aloja lo que un usuario publica. Produce activamente contenido nuevo en respuesta a una instrucción. Si esa producción constituye la propia expresión de la empresa, o simplemente la facilitación de la expresión del usuario, es la línea legal que ahora se les pide trazar a los tribunales.

La investigación de Florida sobre ChatGPT de OpenAI tras el tiroteo de 2025 en la Universidad Estatal de Florida, que involucró más de 200 mensajes entre el tirador y el chatbot, sentó un precedente para el escrutinio regulatorio a nivel estatal sobre sistemas de IA en casos que involucran daño. La demanda federal contra xAI y Stability AI lleva esa pregunta al terreno de la responsabilidad civil y a la categoría más grave de daño que reconoce la ley: la explotación sexual de menores. Si los demandantes prevalecen, el fallo establecería que las empresas de IA cargan con responsabilidad no solo por lo que sus sistemas están diseñados para hacer, sino por lo que se les puede hacer hacer.

Los niños en estas imágenes son personas reales. Su imagen fue tomada sin consentimiento y usada para generar contenido que la ley ha prohibido durante décadas. Las empresas cuya tecnología hizo posible esa generación tienen abogados y teorías legales. Los demandantes también tienen abogados. Lo que ninguna de las dos partes tiene todavía es un fallo judicial sobre quién carga con la responsabilidad cuando el daño lo causa la máquina. Ese fallo está por llegar. Esta demanda podría ser la que lo produzca.