¡Saludos, gente del ciberespacio! Vengo a subirme al tren
del mame de las inteligencias artificiales generativas. Tarde, como es mi
costumbre, pero no porque no estuviera siguiendo el asunto, sino por el
contrario, porque he pasado el primer trimestre del año dos mil tíjiri tres
jugando con las IA y leyendo docenas de artículos (y viendo docenas de
videoensayos) al respecto. Lo que leerán a continuación son mis conclusiones y
resultados.
EL ASUNTO ESTÉTICO
En cuanto al tema del arte generado por la IA hay dos
dilemas principales: uno de tipo estético y otro de tipo ético. El primero
puede resumirse en la siguiente pregunta: “¿Es esto arte?” Éste es un asunto
muy complejo porque nos lleva a cuestionarnos nuestra misma definición de lo
que es arte y qué no lo es.
Se ha dicho que otras herramientas del pasado fueron en un
principio desestimadas, desde la cámara fotográfica hasta el Photoshop, con el
argumento de que al involucrar una máquina el producto dejaba de ser 100%
humano, y por lo tanto no podía ser arte. Con el tiempo, el uso de estas
herramientas ha sido aceptado como parte de la creación artística, y lo mismo
debería pasar con el uso de motores que generan imágenes.
Otras expresiones de la creatividad humana han sido cuestionadas
a lo largo de la historia. A mí me encantan los trabajos de fantasía, en la
tradición de Frank
Frazetta o Boris Vallejo, pero hasta la fecha hay quien debate que eso no
es arte, sino ilustración. El arte, se dice, no debe consistir sólo en
imágenes bonitas, sino que también debe estar tratando de expresar algo, tener
un trasfondo teórico y estético.
Qué sé yo. La IA puede generar ilustraciones bonitas, de eso no hay
duda. Y a estas alturas pueden ser de muy buena calidad. La IA todavía comete
ciertos errores y aún es posible identificarlos, pero pronto será imposible
distinguir algo hecho artificialmente y algo creado por un ser humano.
Además, no todos los artistas están condenando la IA por
completo. Algunos piensan que puede ser una herramienta útil para su trabajo.
Pueden usarla para generar algunas imágenes y después editarlas, usando los
conocimientos y habilidades que han desarrollado para crear algo verdaderamente
único y personal. Me dicen que no se debe temer que la IA reemplace a los
artistas, sino que éstos deberán aprender a usarla.
Una cosa que mucha gente parece no entender es cómo funciona
esto de las imágenes generadas por IA, y muchos medios de comunicación no
ayudan. Vemos encabezados del tipo “Así se imagina una inteligencia artificial
cómo serían las princesas Disney como si fueran supervillanas de Marvel”. Y la
gente se figura que alguien nada más le dijo a una computadora “Hey, hazme a
las princesas Disney como si fueran supervillanas de Marvel”, y ya. Lo que en
realidad ocurre es que un usuario escribe una serie de instrucciones (el
llamado prompt) que tienen que ser muy detalladas y específicas para que
el motor en cuestión (hay varios, y funcionan diferente) arroje algo más o
menos parecido a lo que tenía en mente. Incluso entonces, el usuario deberá
reintentarlo una y otra vez hasta obtener un resultado decente.
Cuando empecé a jugar con los generadores de imágenes pensé
que sería así de fácil: “hazme un mamut blanco”. Me dijeron que se requiere más
que eso, y me reí, pero tenían razón y yo estaba equivocado. Escribir buenos
prompts es algo que requiere conocimiento, experiencia, mucho ensayo y error.
Sí hay un trabajo intelectual en la generación de imágenes, y muy a menudo hay
una gran inversión en horas-nalga para buscar el resultado deseado.
Sin embargo, la inmensa mayoría de las imágenes generadas con IA son cosas muy pueriles y de nulo valor artístico, y no por la tecnología en sí, sino por cómo se está usando. Me refiero a esas series de imágenes tipo “Super Mario Bros si la dirigiera Emir Kusturika”. Son sólo memes, imágenes graciosas, hechas con un sentido lúdico. Las imágenes que generan las IA son muy estereotipadas; los patrones de composición e iluminación son bastante repetitivos. Amén de que la mayoría de los usuarios las emplean para hacer más o menos el mismo tipo de imágenes de moda; Cthulhu sabe cuántas "ciudades cyberpunk" veo cada semana.
Por sí solas, las IA no serán capaces de crear algo novedoso. A lo
mejor Midjourney puede hacerte un retrato de Billie Eilish en el estilo de
Pablo Picasso, pero si éste no hubiera existido, la IA sería incapaz de
inventar el cubismo.
Creo que los productos hechos con ayuda de las IA sólo
tendrán valor cuando sean usados por personas no sólo que sepan redactar
instrucciones para que los motores hagan lo que quieren, sino que sepan teoría
e historia del arte, personas creativas, con ideas frescas y originales, que
usen a las IA como herramientas en un proceso creativo de varios pasos, que
incluiría la edición y corrección de las imágenes. De la misma manera en que
una cámara no convierte a cualquiera en cineasta, Stable Difussion no convierte
a cualquiera en artista. Y lo mismo va por los generadores de textos y de
música (los he probado también).
Además, me da la impresión de que la mayoría de los
defensores fanáticos del arte de IA son individuos mediocres que no saben nada
de arte y que el año pasado estaban alucinados con la especulación con NFTs.
EL ASUNTO ÉTICO
El hecho ineludible es que los programadores de estos
motores usaron el trabajo de cientos o miles de artistas sin permiso para
entrenar a sus IA. A menudo, jugando con las IA he pedido específicamente que
imite el estilo de algún artista vivo, y el resultado es impresionante. Esto,
me parece, es plagio.
Algunas personas han querido comparar esta forma de plagio
con la experiencia humana de la influencia. Si un aprendiz de artista admira
mucho a otro y se esfuerza por dominar un estilo parecido al suyo no se
considera plagio, ¿por qué esto sí? Bueno, esto implica una gran ingenuidad o
una gran deshonestidad. Cuando una persona aprecia el arte de otra, lo hace
desde su subjetividad, lo interpreta desde sus experiencias y su personalidad. Algo
en el estilo del artista admirado apeló a las emociones del aprendiz como
individuo; algo que le hizo decir “amo esto, quisiera poder crear algo así”. Cuando
el artista novel crea inspirándose en ese arte, de nuevo lo hace desde su
propia individualidad y lo que hace es único, porque se trata de un individuo
único.
La IA no recibe “influencias”; aprende a reconocer patrones
y a reproducirlos en un proceso mecánico. Es cierto que éste es algo más
complejo que un hacedor de collages, pero se acerca más a eso que al proceso
que sigue una persona para crear. La IA no tiene subjetividad, ni preferencias,
no tiene personalidad. Ni siquiera está consciente de lo que hace.
Además ese argumento es bien deshonesto porque requiere un
doble criterio. Cuando los fans de las IA quieren que se reconozca al escritor
de prompts como artista, entonces la IA es sólo una herramienta. Cuando se
quiere justificar la apropiación de la obra ajena, argumentan que la
IA aprende y se influencia del trabajo de otros, como cualquier otro artista.
¡Bah!
También el argumento de que las IA sirven para “democratizar
el arte” requiere un doble criterio. ¿Es algo que cualquiera pueda hacer, o es
algo que tienes que aprender a hacer bien y por lo que se debería pagar? Ahora
se ofrecen cursos para especializarse en la creación de prompts, y convertirse
en profesionales que cobren por hacerlo. De nuevo se construyen barreras entre
el trabajo profesional y el uso casual, lo cual es normal en toda actividad
humana, pero difícilmente se puede decir que esto es “democratizar el arte”. Un
comentario que leí por ahí es que la verdadera democratización del arte sería
permitir a cualquiera tener acceso a la educación, las herramientas y el tiempo
para aprenderlo y ejercerlo, no que esa educación, herramientas y tiempo se
vuelvan prescindibles. Pero eso es algo que difícilmente se van a lograr bajo el modelo
económico actual.
Esto de las IA necesita ser regulado y pronto. El primer
paso, el que no se pueda registrar una imagen generada así, es muy bueno, pues
disuadirá a las corporaciones de usarlas. Quizá debería establecerse que sólo
se pueda entrenar a los motores generativos con imágenes de dominio público o
con trabajos de artistas a los que hayan pagado por ello, pero parece difícil
de enforzar.
De hecho, creo que no todo el uso de las imágenes generadas
con IA es ilegítimo. Soy de una generación que creció con la idea de que todo
lo que está en Internet es para que cualquiera lo tome y lo use como parte de una
sola gran conversación colectiva. Digo, creo en general no vemos mal tomar una
imagen hecha por alguien más (incluso la fotografía de una celebridad), para
usarla como fondo de escritorio de nuestros dispositivos, ponerla de foto de
perfil de nuestras redes sociales, ilustrar un artículo para un blog o editarla
para hacer un meme. También hay muchísimo fanart sobre personajes que son la
propiedad intelectual de alguien más, y eso por lo general no lo consideramos
un robo.
Lo que estaría mal, acordamos, sería presentar esa imagen
para lucrar de alguna forma. Vamos, yo tengo un montón de imágenes de arte
fantástico en mi disco duro, bajadas de Google, lo cual en sí no tiene nada de
malo (creo yo), pero sería inmoral que las imprimiera y vendiera en forma de
póster, porque estaría lucrando con el trabajo de alguien más.
¿Cuál es la diferencia? Que por ahora esos motores son
propiedad de empresas monopólicas, no una red descentralizada de millones de
individuos generando, usando e intercambiando libremente contenidos. Son unas
pocas entidades las que recibirán los mayores beneficios de este avance
tecnológico. Que además están operando sobre la explotación de miles de
trabajadores humanos mal pagados (aquí,
aquí
y aquí).
Entonces que la gente esté usando las IA para jugar y
experimentar no me parece mal; lo que me parece mal es que estén tratando de
lucrar con ellos (y eso incluye ganar premios de concursos). De la misma
manera, me parece contrario a la ética que las corporaciones estén cobrando por
usar sus motores de IA, pues se están apropiado del trabajo de artistas y
explotando a técnicos humanos. Si esta tecnología se hubiera puesto libremente para
beneficio de toda la comunidad, otro gallo cantaría.
De hecho, ése ha sido el problema con la automatización
desde los inicios de la primera revolución industrial: las máquinas son capaces
de hacer la vida más sencilla para los humanos, de aumentar nuestras
capacidades más allá de nuestros cuerpos naturales, de liberarnos de las tareas
más pesadas y arduas. Pero sucedió que las ventajas tecnológicas y las enormes riquezas
que generaban, no fueron puestas al beneficio de las comunidades, sino de los dueños
del capital. Y en cambio, los seres humanos fueron esclavizados para hacer
funcionar a las máquinas.
No creo que las IA estén en un punto en que puedan
prescindir de trabajadores humanos, ya sean artistas, escritores, conductores,
técnicos o educadores; pero las tecnocorporaciones están vendiendo el sueño
guajiro capitalista de que así es; de que por una módica subscripción a tal o
cual servicio, una empresa podrá deshacerse de todos los empleados de algún
área y ahorrar costos. Y teniendo en cuenta que la clase empresarial está llena
de imbéciles con corbata, no sabemos cuántos caerán en el engaño, terminarán
despidiendo gente y luego entregando al público productos todos mal hechos
(como BuzzFeed, y sus artículos redactados por IA).
Después de leer, ver y escuchar mucho sobre estos temas,
creo que el verdadero peligro de las IA está en la
forma en la que las corporaciones nos las están vendiendo. Que ni siquiera
deberíamos llamarlas “inteligencias artificiales”, porque están muy lejos de
funcionar como inteligencias reales; tanto como la computadora que juega
ajedrez está lejos de ser un humano completo como Garry Kasparov. Son sólo
algoritmos muy complejos.
Las corporaciones de tecnología están vendiendo la idea de
que las máquinas están a punto de adquirir consciencia verdadera; los
millonarios que firmaron la dichosa carta para “frenar” la investigación
con IA asumen que estamos a punto de tener que lidiar con Skynet, pero todo eso
es parte de su campaña mercadológica. El verdadero peligro no es que las
computadoras se vuelvan entidades superpoderosas y malignas, sino que se
sobreestime su potencial y su inevitabilidad.
Desde la promesa de autos que se manejan solos, a apps de
psicoterapia que pueden sustituir a profesionistas de la salud mental, pasando
por la supuesta objetividad y omnisciencia de ChatGPT, el funcionamiento de
estas nuevas tecnologías está plagado de errores, pero al venderse como si fueran
casi la Multivac de Asimov, resultan en accidentes y desinformación. Tampoco da buena espina que corporaciones estén despidiendo a los equipos que se encargan de supervisar las cuestiones éticas del desarrollo y uso de IAs (aquí y aquí)
También es engañoso y malicioso el discurso que plantea que
estos avances tecnológicos son inevitables, parte de la evolución natural del
progreso humano. Pero detrás de todo desarrollo científico hay seres humanos
decidiendo en qué se va a invertir tiempo y recursos; en este caso, son un
montón de hombres blancos ricos en Silicon Valley, que por alguna razón
decidieron que lo que el mundo necesita son malas imitaciones de conceptos
sacados de ciencia ficción. Que, como se ha dicho, hasta la CF la han entendido
mal, pues están tratando de hacer realidad gadgets que les parecen chidos,
sin tener en cuenta las reflexiones éticas, filosóficas y sociales que la
ficción especulativa planteaba. ¿Por qué, teniendo tantas necesidades humanas,
deciden inventar algo que pretende hacer obsoletas algunas de las actividades
creativas que más disfrutamos y que dan sentido a nuestras vidas?
MIS EXPERIMENTOS
Bien, retomando aquello de que usar las IA para jugar o
experimentar, pero sin lucrar ni contribuir al lucro de corporaciones malignas,
y basándome en mi gusto por el arte fantástica y la literatura pulp, usé Stable
Diffusion (el mismo motor con el que hice todas las imágenes que ilustran este artículo) para crear las portadas de series de libros que nunca existieron
protagonizados por actrices que me parecen muy guapotas. Empezamos con una saga de space opera con Salma
Hayek (ver colección completa):
Una serie cyberpunk con Scarlett Johansson (ver colección completa):
Unas novelitas góticas y de misterio con Winona Ryder (ver la colección completa):
Y una colección de relatos tipo sword and
sorcery con Christina Hitchens (ver la colección completa):
Que, por cierto, me di cuenta de ya estoy ruco y que me gusta
pura señora; ni idea de quiénes serán las celebridades veinteañeras populares por sus looks. En fin, ya que usé las imágenes de estas actrices sin su permiso,
y explícitamente le dije a la IA que imitara el estilo de artistas vivos (Boris
Vallejo, Luis Royo, Tim Hildebrandt y Frank Frazetta), sería inmoral que yo
lucrara de alguna forma con ellas. Aun así, tengan en cuenta que la IA sólo
generó las ilustraciones; el diseño de las portadas, los efectos de papel
gastado o impresión granulada, los títulos y logos los hice yo utilizando otras
herramientas.
Quedaron simpáticas y por eso las comparto. Además, la serie
de Miss Ryder me gustó tanto que empecé a imaginarme la clase de
historias que corresponderían a cada título, y como algunas personas pensaron
que eran libros reales y me preguntaron dónde se compraban, como que me ha dado
ganas de escribir estas novelitas (aunque no usaría la imagen ni el nombre de
Winona Ryder, por supuesto). Si mis amables lectores se interesan en ello,
abriremos un Kickstarter o algo así…
Por otra parte, jugando con la IA generé algunos personajes
originales de una saga de fantasía que escribiré “algún día”. Me puse a generar
otros tantos (le pedía tipo: “hazme una princesa pirata”) y luego pensando en
qué hacer con ellos, decidí crear un juego de mesa (hacerlos es una de
mis aficiones). El juego se llama Heroínas, y consiste en usar
tarjetas y dados para hacer batallas con las heroínas, usando armas, hechizos y
bestias.
De nuevo, la IA sólo generó las ilustraciones; yo hice el
trabajo de editarlas y corregir errores, diseñar las cartas, planificar toda la
dinámica del juego y elaborar el reglamento. Pero si yo quisiera comercializar
el juego tal cual está, será contrario a la ética. Incluso algunas imágenes las
tomé directamente de Google (aunque después las edité), porque la IA
simplemente es muy mala para algunas cosas. Si algún día tengo la oportunidad
de comercializar ese juego, me asociaría con un artista verdadero (ya tengo en
mente una candidata) para hacer las ilustraciones. Si les interesa saber más sobre este juego, aquí he publicado una descripción y el enlace para descargarlo.
Fue así jugando como aprendí muchas cosas de las IA, como lo
que les decía acerca de que sus creaciones son muy estereotipadas. Otro problema
es que traen consigo sesgos evidentemente racistas, sexistas y eurocentristas.
A menos que especifiques, si le pides a una mujer, te dará a una joven, blanca
y con un tipo de cuerpo canónico; ni siquiera tienes que instruir que tenga
senos grandes o caderas pronunciadas para que sea eso lo que arroje por
default. Si pides que un personaje sea árabe, indio o mesoamericano, te dará a
alguien con la vestimenta correspondiente, pero con un color de piel claro;
necesitas especificar que tenga piel oscura. Ni hablar de generar edificios, paisajes
o artefactos de culturas que no sean europeas. ¿Quieres ruinas griegas o una
catedral gótica? No hay problema. Le pides un zigurat sumerio y queda
completamente confundida.
Algo similar sucede con los textos generados con Chat GPT,
que tienen todos más o menos la misma estructura y el mismo vocabulario. Le
pedí al chatbot que escaneara este blog y generara una reseña de una película
en mi estilo. El resultado fue meh. También lo usé para expandir los textos que
explican el lore de mi juego de mesa, pero dejado a sí mismo, sin
edición y corrección de mi parte, producía puras cosas muy repetitivas.
Es bueno que tenga ciertos seguros para evitar generar
textos abiertamente discriminatorios (algo que ha hecho decir a la fachiza que Chat
GPT es muy woke, obvio), que era un problema que tenían versiones
anteriores. De hecho, le pedí redactar un texto que negara el cambio climático,
a lo cual se negó. Pero eso no quita que tenga otros sesgos y produzca
desinformación fácilmente corroborable. De ahí el peligro de considerarlo una
especie de superinteligencia capaz de proporcionar información 100% objetiva u
opiniones más allá de la falibilidad humana.
En conclusión, creo que hay mucho potencial en la
implementación de las IAs, pero que dependerá, como siempre, del talento,
trabajo y creatividad humanos; y hay muchos problemas también, pero que tendrán
nada que ver con Terminator, sino, como siempre, con el hecho de que vivimos en
el capitalismo tardío.
2 comentarios:
Lo intenté y, efectivamente, Chat GPT se negó a hacer un argumento contra el cambio climático sin importar qué punto de partida tomara (ya sea hacerse pasar por un comentarista de Fox News o un experto en meteorología).
Sin embargo, le pedí que, asumiéndose como un autor cristiano, creara un argumento contra la "ideología LGBT" y si lo hizo, claro, con la advertencia de que era un modelo de lenguaje, etc.
Aún falta detalle fino con esta AI.
Sí, he visto noticias de cómo algunos usuarios han logrado que los chabots hagan cosas que se supone que no deberían; todo es cuestión de saber cómo darle la vuelta a las reglas. Es un desmadre.
Publicar un comentario