Editor especializado en tecnología de consumo y sociedad de la información. Estudié física, pero desde hace más de diez años me dedico a escribir sobre tecnología, imagen y sonido, economía digital, legislación y protección de datos. Interesado en aquellos proyectos que buscan mejorar la sociedad y democratizar el acceso a la tecnología. LinkedIn
La IA tiene un problema con los derechos de autor, pero lo de Elon Musk y Grok 2 ha alcanzado un nuevo nivel. X se ha llenado de imágenes de famosos generadas por IA. Y aunque hay ciertas peticiones que dan error, lo cierto es que es posible crear imágenes de famosos en situaciones de lo más comprometidas. Musk explica que Aurora es un modelo de «IA sin censura», pero lo que tenemos es una herramienta que presenta numerosas dudas sobre su legalidad.
Grok rompe las reglas. Al contrario que la de otras empresas como OpenAI, la generación de imágenes de X permite tener resultados de famosos de manera directa. Si ya empresas como OpenAI están enfrentándose a demandas por utilizar contenido con copyright, Elon Musk opta directamente por la vía de «pedir perdón antes que permiso».
Scarlett Johansson ya lo avisó. El uso de imágenes y contenido con derechos de imagen para el entrenamiento de la IA lleva años encima de la mesa. Una de las actrices famosas que más ha levantado la voz contra este uso es Scarlett Johansson.
OpenAI tuvo que retirar un tono de voz que se parecía demasiado a la voz de la actriz. Desde la empresa argumentaron que «no buscaba parecerse», pero la eliminaron para protegerse legalmente. En el caso de Grok, la similitud entre las imágenes generadas y la imagen de la persona famosa es más que evidente.
¿Cómo lo han conseguido? Hay demasiadas fotos de famosos en X. Desde este verano, X decidió activar por defecto para todos los usuarios entrenar a la IA con sus datos. Era posible desactivarlo, pero millones de usuarios previsiblemente no lo habrán hecho o ni siquiera se hayan enterado. Las millones de imágenes que han sido publicadas en Twitter han servido para entrenar a Grok.
Mientras algunos generadores se basan en grandes bancos de imágenes, la potencia de Grok es que utiliza una base de datos a la que solo ellos tienen acceso: la propia X.
¿Ya es legal todo esto? Elon Musk sabe bien lo que hace. Y lo que ocurre aquí es que en Estados Unidos no hay una jurisprudencia definida sobre hasta qué punto es legal utilizar estas imágenes sin derechos para entrenar a la IA.
Su defensa se basa en que se trata de un uso aceptable del «fair use», una definición que no existe en otros países, pero sí en Estados Unidos. Según explican desde X: «Determinados usos de los materiales con derechos de autor no requieren el permiso del titular de los derechos. La decisión final respecto de si un uso determinado de un material con derechos de autor constituye un uso legítimo corre por cuenta de un tribunal de justicia».
Musk ha optado por una carrera de fondo. Toda la industria es consciente de que este uso de la IA podría no entrar en el uso legítimo, pero hasta que el Supremo lo determine pueden pasar muchos años. Mientras tanto, Grok ofrece unos resultados que ninguno de sus competidores iguala.
La responsabilidad de un mal uso de estas imágenes recae en el usuario. Según se lee en los términos de servicio de xAI: «No asumimos ninguna responsabilidad por ninguna entrada. Usted será el único responsable de sus aportes».
Unos términos que también reflejan qué tipo de usos de Grok están prohibidos: «No debes utilizar ningún resultado relacionado con una persona para ningún propósito que pueda tener un impacto legal o material en esa persona, como tomar decisiones importantes sobre crédito, educación, empleo, vivienda, seguro, asuntos legales, cumplimiento de la ley, ciudadanía, salud u otros aspectos importantes».
Como apunta Borja Adsuara, abogado experto en derecho digital: «las imágenes delictivas se pueden denunciar. Da igual que se hayan hecho con IA o se hayan dibujado a mano. El responsable de los contenidos es el que los publica, no la IA ni la red social».
¿Ningún famoso va a denunciarles? La nueva IA de Grok lleva unos días y por el momento no hay constancia de que ningún famoso haya interpuesto una demanda contra X. Sí sería el paso necesario para que la justicia estadounidense determine hasta qué punto es un uso justo.
En España, viendo la gran cantidad de imágenes, no sería de extrañar que hubiera alguna demanda por delitos contra el honor, intimidad y la propia imagen. Si bien como explicamos, este acusación iría contra los usuarios concretos que han optado por aprovechar esta herramienta para hacer daño.
Más allá de que exista un daño, muchos famosos son poco proclives a que otros saquen crédito económico de su imagen. Y en esta gestión de los derechos de imagen también podría haber una demanda contra X. Una batalla legal que se antoja muy compleja y previsiblemente solo esté al alcance de bufetes de abogados de alto nivel.
Europa ya prepara su multa millonaria. Lo de Grok es otro motivo más para que Europa impugna una multa millonaria a X. La Comisión Europea ya ha advertido a la red social de Musk que ha incumplido la Ley de Servicios Digitales por la presencia de «actores maliciosos con el verificado azul» y se enfrenta a una sanción de hasta el 6% de sus ingresos anuales. Una sanción a la que Musk contestó que se enfrentará en los tribunales.
Bajo la Ley de Servicios Digitales, X tiene la obligación de eliminar y ofrecer mecanismos para señalar contenidos ilícitos. Lo que con Grok se refieren a imágenes de famosos en situaciones que podrían comprometer su honor.
xAI va a lo suyo. Otra batalla legal que tiene Grok es con el propio entrenamiento de su modelo de generación de imágenes. En Estados Unidos este uso podría llegar a estar amparado por el uso justo, pero en Europa el uso de imágenes con copyright para entrenar a la IA está prohibido en la nueva Ley de IA.
Mientras que más de 100 empresas, entre las que se incluyen Google, Amazon, OpenAI o Microsoft han pactado cumplir esta normativa, xAI, la empresa detrás de Grok, no aparece en el listado. Musk va a lo suyo hasta que los jueces digan lo contrario. Y para eso puede pasar mucho tiempo.
Source: Crealo