Seedance es un modelo de inteligencia artificial especializado en la generación de vídeos, desarrollado por ByteDance (la empresa matriz de TikTok). Realizan escenas hiperrealistas, actores que parecen reales, voces perfectamente sincronizadas, movimientos naturales, iluminación cinematográfica. Se critica que es una demostración pública de que la inteligencia artificial ya no solo automatiza tareas: automatiza capacidades. Si un sistema puede sustituir el juicio estético de un director de fotografía, la sensibilidad de un guionista y la expresividad de un actor, la pregunta aquí es esta: ¿qué otros trabajos intelectuales están al alcance de la automatización?
En los tribunales de justicia, también ha llegado la inteligencia artificial. Hay dos casos recientes que ilustran hasta qué punto el sistema institucional va muy por detrás de la propia tecnología. El primer caso ocurrió aquí, en España. Un abogado presentó un recurso de apelación ante el Tribunal Superior de Justicia de Canarias citando 48 sentencias del Tribunal Supremo: números de sentencia, fechas, identificadores, todo impecable en apariencia. Solo había un problema: las 48 eran completamente falsas. Estaban generadas por un modelo de lenguaje generalista tipo Chat GPT, que las fabricó con total convicción y con total formato perfecto, lo que en el ámbito técnico se denomina “alucinaciones de la inteligencia artificial”. Son respuestas inventadas que el sistema presenta como hechos que pueden estar verificados. Lo más grave no es que la IA se las inventara, lo grave es que el abogado no verificó ni una sola. El tribunal calificó lo ocurrido como una quiebra del deber básico de supervisión humana y estableció una multa de 420 euros. Es decir, el tribunal no prohíbe la IA, prohíbe usarla mal.
El segundo caso es todavía más profundo en sus implicaciones. Ocurrió en Nueva York. El acusado, en este caso, había utilizado un chatbot para preparar materiales relacionados con su defensa antes de ser arrestado. El FBI confiscó sus dispositivos y accedió a esas conversaciones. Compartir información con una IA equivale legalmente a contárselo a un tercero, a un amigo. Y enviar después esos chats a tu abogado no convierte la información en confidencial de forma retroactiva. Si estás en un proceso judicial, no le preguntes a Chat GPT nada sobre ese proceso.
Dicen que el verdadero campo de batalla son los datos. En la Revolución Industrial se industrializó el trabajo físico. Hoy estamos ante algo muy distinto: la industrialización de la información. Todo funciona con software, todo genera datos y ahora los programas pueden procesarlos en tiempo real. La inteligencia artificial no es magia, es la combinación de software y de datos masivos. No es inteligente de por sí, es la capacidad de gestión de esos datos de forma absolutamente inédita. Hay profesionales que trabajan en el corazón de estas empresas que están abandonando sus puestos de trabajo por razones éticas, denunciando la futura incorporación de publicidad personalizada en sistemas conversacionales que almacenan confesiones íntimas de millones de usuarios. La preocupación central aquí es que estos sistemas acumulan una cantidad inédita de datos personales profundos, miedos, problemas sentimentales, creencias religiosas, estado de salud mental, y podrían ser utilizados con fines publicitarios.
Expertos en la materia critican que la inmensa mayoría de gobiernos del mundo ni siquiera han comenzado a entender lo que deberían regular y por eso creen que prohibir es el mejor mecanismo. Existen varios escenarios posibles: o un modelo capitalista clásico, donde la IA eleva la productividad y genera nuevos empleos; o bien, un escenario oligárquico donde el poder se concentre en un puñado de corporaciones con centros de datos del tamaño de ciudades. Una utopía poscapitalista con renta básica universal y liberación creativa, o un escenario distópico de control social extremo mediante todos esos datos que vamos dejando por ahí. La pregunta no es si la inteligencia artificial avanzará. Las preguntas son estas: ¿quién controla los datos?, ¿qué límites legales se van a imponer?
María García. Sobre la inteligencia artificial
