¡Saludos, gente del ciberespacio! Vengo a subirme al tren
del mame de las inteligencias artificiales generativas. Tarde, como es mi
costumbre, pero no porque no estuviera siguiendo el asunto, sino por el
contrario, porque he pasado el primer trimestre del año dos mil tĂjiri tres
jugando con las IA y leyendo docenas de artĂculos (y viendo docenas de
videoensayos) al respecto. Lo que leerán a continuación son mis conclusiones y
resultados.
EL ASUNTO ESTÉTICO
En cuanto al tema del arte generado por la IA hay dos
dilemas principales: uno de tipo estético y otro de tipo ético. El primero
puede resumirse en la siguiente pregunta: “¿Es esto arte?” Éste es un asunto
muy complejo porque nos lleva a cuestionarnos nuestra misma definiciĂłn de lo
que es arte y qué no lo es.
Se ha dicho que otras herramientas del pasado fueron en un
principio desestimadas, desde la cámara fotográfica hasta el Photoshop, con el
argumento de que al involucrar una máquina el producto dejaba de ser 100%
humano, y por lo tanto no podĂa ser arte. Con el tiempo, el uso de estas
herramientas ha sido aceptado como parte de la creaciĂłn artĂstica, y lo mismo
deberĂa pasar con el uso de motores que generan imágenes.
Otras expresiones de la creatividad humana han sido cuestionadas
a lo largo de la historia. A mĂ me encantan los trabajos de fantasĂa, en la
tradiciĂłn de Frank
Frazetta o Boris Vallejo, pero hasta la fecha hay quien debate que eso no
es arte, sino ilustraciĂłn. El arte, se dice, no debe consistir sĂłlo en
imágenes bonitas, sino que también debe estar tratando de expresar algo, tener
un trasfondo teórico y estético.
Qué sé yo. La IA puede generar ilustraciones bonitas, de eso no hay
duda. Y a estas alturas pueden ser de muy buena calidad. La IA todavĂa comete
ciertos errores y aún es posible identificarlos, pero pronto será imposible
distinguir algo hecho artificialmente y algo creado por un ser humano.
Además, no todos los artistas están condenando la IA por
completo. Algunos piensan que puede ser una herramienta Ăştil para su trabajo.
Pueden usarla para generar algunas imágenes y después editarlas, usando los
conocimientos y habilidades que han desarrollado para crear algo verdaderamente
Ăşnico y personal. Me dicen que no se debe temer que la IA reemplace a los
artistas, sino que éstos deberán aprender a usarla.
Una cosa que mucha gente parece no entender es cĂłmo funciona
esto de las imágenes generadas por IA, y muchos medios de comunicación no
ayudan. Vemos encabezados del tipo “AsĂ se imagina una inteligencia artificial
cĂłmo serĂan las princesas Disney como si fueran supervillanas de Marvel”. Y la
gente se figura que alguien nada más le dijo a una computadora “Hey, hazme a
las princesas Disney como si fueran supervillanas de Marvel”, y ya. Lo que en
realidad ocurre es que un usuario escribe una serie de instrucciones (el
llamado prompt) que tienen que ser muy detalladas y especĂficas para que
el motor en cuestión (hay varios, y funcionan diferente) arroje algo más o
menos parecido a lo que tenĂa en mente. Incluso entonces, el usuario deberá
reintentarlo una y otra vez hasta obtener un resultado decente.
Cuando empecé a jugar con los generadores de imágenes pensé
que serĂa asĂ de fácil: “hazme un mamut blanco”. Me dijeron que se requiere más
que eso, y me reĂ, pero tenĂan razĂłn y yo estaba equivocado. Escribir buenos
prompts es algo que requiere conocimiento, experiencia, mucho ensayo y error.
Sà hay un trabajo intelectual en la generación de imágenes, y muy a menudo hay
una gran inversiĂłn en horas-nalga para buscar el resultado deseado.
Sin embargo, la inmensa mayorĂa de las imágenes generadas con IA son cosas muy pueriles y de nulo valor artĂstico, y no por la tecnologĂa en sĂ, sino por cĂłmo se está usando. Me refiero a esas series de imágenes tipo “Super Mario Bros si la dirigiera Emir Kusturika”. Son sĂłlo memes, imágenes graciosas, hechas con un sentido lĂşdico. Las imágenes que generan las IA son muy estereotipadas; los patrones de composiciĂłn e iluminaciĂłn son bastante repetitivos. AmĂ©n de que la mayorĂa de los usuarios las emplean para hacer más o menos el mismo tipo de imágenes de moda; Cthulhu sabe cuántas "ciudades cyberpunk" veo cada semana.
Por sà solas, las IA no serán capaces de crear algo novedoso. A lo
mejor Midjourney puede hacerte un retrato de Billie Eilish en el estilo de
Pablo Picasso, pero si Ă©ste no hubiera existido, la IA serĂa incapaz de
inventar el cubismo.
Creo que los productos hechos con ayuda de las IA sĂłlo
tendrán valor cuando sean usados por personas no sólo que sepan redactar
instrucciones para que los motores hagan lo que quieren, sino que sepan teorĂa
e historia del arte, personas creativas, con ideas frescas y originales, que
usen a las IA como herramientas en un proceso creativo de varios pasos, que
incluirĂa la ediciĂłn y correcciĂłn de las imágenes. De la misma manera en que
una cámara no convierte a cualquiera en cineasta, Stable Difussion no convierte
a cualquiera en artista. Y lo mismo va por los generadores de textos y de
música (los he probado también).
Además, me da la impresiĂłn de que la mayorĂa de los
defensores fanáticos del arte de IA son individuos mediocres que no saben nada
de arte y que el año pasado estaban alucinados con la especulación con NFTs.
EL ASUNTO ÉTICO
El hecho ineludible es que los programadores de estos
motores usaron el trabajo de cientos o miles de artistas sin permiso para
entrenar a sus IA. A menudo, jugando con las IA he pedido especĂficamente que
imite el estilo de algĂşn artista vivo, y el resultado es impresionante. Esto,
me parece, es plagio.
Algunas personas han querido comparar esta forma de plagio
con la experiencia humana de la influencia. Si un aprendiz de artista admira
mucho a otro y se esfuerza por dominar un estilo parecido al suyo no se
considera plagio, ¿por quĂ© esto sĂ? Bueno, esto implica una gran ingenuidad o
una gran deshonestidad. Cuando una persona aprecia el arte de otra, lo hace
desde su subjetividad, lo interpreta desde sus experiencias y su personalidad. Algo
en el estilo del artista admirado apelĂł a las emociones del aprendiz como
individuo; algo que le hizo decir “amo esto, quisiera poder crear algo asĂ”. Cuando
el artista novel crea inspirándose en ese arte, de nuevo lo hace desde su
propia individualidad y lo que hace es Ăşnico, porque se trata de un individuo
Ăşnico.
La IA no recibe “influencias”; aprende a reconocer patrones
y a reproducirlos en un proceso mecánico. Es cierto que éste es algo más
complejo que un hacedor de collages, pero se acerca más a eso que al proceso
que sigue una persona para crear. La IA no tiene subjetividad, ni preferencias,
no tiene personalidad. Ni siquiera está consciente de lo que hace.
Además ese argumento es bien deshonesto porque requiere un
doble criterio. Cuando los fans de las IA quieren que se reconozca al escritor
de prompts como artista, entonces la IA es sĂłlo una herramienta. Cuando se
quiere justificar la apropiaciĂłn de la obra ajena, argumentan que la
IA aprende y se influencia del trabajo de otros, como cualquier otro artista.
¡Bah!
TambiĂ©n el argumento de que las IA sirven para “democratizar
el arte” requiere un doble criterio. ¿Es algo que cualquiera pueda hacer, o es
algo que tienes que aprender a hacer bien y por lo que se deberĂa pagar? Ahora
se ofrecen cursos para especializarse en la creaciĂłn de prompts, y convertirse
en profesionales que cobren por hacerlo. De nuevo se construyen barreras entre
el trabajo profesional y el uso casual, lo cual es normal en toda actividad
humana, pero difĂcilmente se puede decir que esto es “democratizar el arte”. Un
comentario que leĂ por ahĂ es que la verdadera democratizaciĂłn del arte serĂa
permitir a cualquiera tener acceso a la educaciĂłn, las herramientas y el tiempo
para aprenderlo y ejercerlo, no que esa educaciĂłn, herramientas y tiempo se
vuelvan prescindibles. Pero eso es algo que difĂcilmente se van a lograr bajo el modelo
econĂłmico actual.
Esto de las IA necesita ser regulado y pronto. El primer
paso, el que no se pueda registrar una imagen generada asĂ, es muy bueno, pues
disuadirá a las corporaciones de usarlas. Quizá deberĂa establecerse que sĂłlo
se pueda entrenar a los motores generativos con imágenes de dominio público o
con trabajos de artistas a los que hayan pagado por ello, pero parece difĂcil
de enforzar.
De hecho, creo que no todo el uso de las imágenes generadas
con IA es ilegĂtimo. Soy de una generaciĂłn que creciĂł con la idea de que todo
lo que está en Internet es para que cualquiera lo tome y lo use como parte de una
sola gran conversaciĂłn colectiva. Digo, creo en general no vemos mal tomar una
imagen hecha por alguien más (incluso la fotografĂa de una celebridad), para
usarla como fondo de escritorio de nuestros dispositivos, ponerla de foto de
perfil de nuestras redes sociales, ilustrar un artĂculo para un blog o editarla
para hacer un meme. TambiĂ©n hay muchĂsimo fanart sobre personajes que son la
propiedad intelectual de alguien más, y eso por lo general no lo consideramos
un robo.
Lo que estarĂa mal, acordamos, serĂa presentar esa imagen
para lucrar de alguna forma. Vamos, yo tengo un montón de imágenes de arte
fantástico en mi disco duro, bajadas de Google, lo cual en sà no tiene nada de
malo (creo yo), pero serĂa inmoral que las imprimiera y vendiera en forma de
pĂłster, porque estarĂa lucrando con el trabajo de alguien más.
¿Cuál es la diferencia? Que por ahora esos motores son
propiedad de empresas monopĂłlicas, no una red descentralizada de millones de
individuos generando, usando e intercambiando libremente contenidos. Son unas
pocas entidades las que recibirán los mayores beneficios de este avance
tecnológico. Que además están operando sobre la explotación de miles de
trabajadores humanos mal pagados (aquĂ,
aquĂ
y aquĂ).
Entonces que la gente esté usando las IA para jugar y
experimentar no me parece mal; lo que me parece mal es que estén tratando de
lucrar con ellos (y eso incluye ganar premios de concursos). De la misma
manera, me parece contrario a la ética que las corporaciones estén cobrando por
usar sus motores de IA, pues se están apropiado del trabajo de artistas y
explotando a tĂ©cnicos humanos. Si esta tecnologĂa se hubiera puesto libremente para
beneficio de toda la comunidad, otro gallo cantarĂa.
De hecho, Ă©se ha sido el problema con la automatizaciĂłn
desde los inicios de la primera revolución industrial: las máquinas son capaces
de hacer la vida más sencilla para los humanos, de aumentar nuestras
capacidades más allá de nuestros cuerpos naturales, de liberarnos de las tareas
más pesadas y arduas. Pero sucedió que las ventajas tecnológicas y las enormes riquezas
que generaban, no fueron puestas al beneficio de las comunidades, sino de los dueños
del capital. Y en cambio, los seres humanos fueron esclavizados para hacer
funcionar a las máquinas.
No creo que las IA estén en un punto en que puedan
prescindir de trabajadores humanos, ya sean artistas, escritores, conductores,
técnicos o educadores; pero las tecnocorporaciones están vendiendo el sueño
guajiro capitalista de que asĂ es; de que por una mĂłdica subscripciĂłn a tal o
cual servicio, una empresa podrá deshacerse de todos los empleados de algún
área y ahorrar costos. Y teniendo en cuenta que la clase empresarial está llena
de imbéciles con corbata, no sabemos cuántos caerán en el engaño, terminarán
despidiendo gente y luego entregando al pĂşblico productos todos mal hechos
(como BuzzFeed, y sus artĂculos redactados por IA).
Después de leer, ver y escuchar mucho sobre estos temas,
creo que el verdadero peligro de las IA está en la
forma en la que las corporaciones nos las están vendiendo. Que ni siquiera
deberĂamos llamarlas “inteligencias artificiales”, porque están muy lejos de
funcionar como inteligencias reales; tanto como la computadora que juega
ajedrez está lejos de ser un humano completo como Garry Kasparov. Son sólo
algoritmos muy complejos.
Las corporaciones de tecnologĂa están vendiendo la idea de
que las máquinas están a punto de adquirir consciencia verdadera; los
millonarios que firmaron la dichosa carta para “frenar” la investigaciĂłn
con IA asumen que estamos a punto de tener que lidiar con Skynet, pero todo eso
es parte de su campaña mercadológica. El verdadero peligro no es que las
computadoras se vuelvan entidades superpoderosas y malignas, sino que se
sobreestime su potencial y su inevitabilidad.
Desde la promesa de autos que se manejan solos, a apps de
psicoterapia que pueden sustituir a profesionistas de la salud mental, pasando
por la supuesta objetividad y omnisciencia de ChatGPT, el funcionamiento de
estas nuevas tecnologĂas está plagado de errores, pero al venderse como si fueran
casi la Multivac de Asimov, resultan en accidentes y desinformaciĂłn. Tampoco da buena espina que corporaciones estĂ©n despidiendo a los equipos que se encargan de supervisar las cuestiones Ă©ticas del desarrollo y uso de IAs (aquĂ y aquĂ)
También es engañoso y malicioso el discurso que plantea que
estos avances tecnolĂłgicos son inevitables, parte de la evoluciĂłn natural del
progreso humano. Pero detrás de todo desarrollo cientĂfico hay seres humanos
decidiendo en qué se va a invertir tiempo y recursos; en este caso, son un
montĂłn de hombres blancos ricos en Silicon Valley, que por alguna razĂłn
decidieron que lo que el mundo necesita son malas imitaciones de conceptos
sacados de ciencia ficciĂłn. Que, como se ha dicho, hasta la CF la han entendido
mal, pues están tratando de hacer realidad gadgets que les parecen chidos,
sin tener en cuenta las reflexiones Ă©ticas, filosĂłficas y sociales que la
ficciĂłn especulativa planteaba. ¿Por quĂ©, teniendo tantas necesidades humanas,
deciden inventar algo que pretende hacer obsoletas algunas de las actividades
creativas que más disfrutamos y que dan sentido a nuestras vidas?
MIS EXPERIMENTOS
Bien, retomando aquello de que usar las IA para jugar o
experimentar, pero sin lucrar ni contribuir al lucro de corporaciones malignas,
y basándome en mi gusto por el arte fantástica y la literatura pulp, usé Stable
Diffusion (el mismo motor con el que hice todas las imágenes que ilustran este artĂculo) para crear las portadas de series de libros que nunca existieron
protagonizados por actrices que me parecen muy guapotas. Empezamos con una saga de space opera con Salma
Hayek (ver colecciĂłn completa):
Una serie cyberpunk con Scarlett Johansson (ver colecciĂłn completa):
Unas novelitas gĂłticas y de misterio con Winona Ryder (ver la colecciĂłn completa):
Y una colecciĂłn de relatos tipo sword and
sorcery con Christina Hitchens (ver la colecciĂłn completa):
Que, por cierto, me di cuenta de ya estoy ruco y que me gusta
pura señora; ni idea de quiénes serán las celebridades veinteañeras populares por sus looks. En fin, ya que usé las imágenes de estas actrices sin su permiso,
y explĂcitamente le dije a la IA que imitara el estilo de artistas vivos (Boris
Vallejo, Luis Royo, Tim Hildebrandt y Frank Frazetta), serĂa inmoral que yo
lucrara de alguna forma con ellas. Aun asĂ, tengan en cuenta que la IA sĂłlo
generó las ilustraciones; el diseño de las portadas, los efectos de papel
gastado o impresiĂłn granulada, los tĂtulos y logos los hice yo utilizando otras
herramientas.
Quedaron simpáticas y por eso las comparto. Además, la serie
de Miss Ryder me gustó tanto que empecé a imaginarme la clase de
historias que corresponderĂan a cada tĂtulo, y como algunas personas pensaron
que eran libros reales y me preguntaron dĂłnde se compraban, como que me ha dado
ganas de escribir estas novelitas (aunque no usarĂa la imagen ni el nombre de
Winona Ryder, por supuesto). Si mis amables lectores se interesan en ello,
abriremos un Kickstarter o algo asĂ…
Por otra parte, jugando con la IA generé algunos personajes
originales de una saga de fantasĂa que escribirĂ© “algĂşn dĂa”. Me puse a generar
otros tantos (le pedĂa tipo: “hazme una princesa pirata”) y luego pensando en
qué hacer con ellos, decidà crear un juego de mesa (hacerlos es una de
mis aficiones). El juego se llama HeroĂnas, y consiste en usar
tarjetas y dados para hacer batallas con las heroĂnas, usando armas, hechizos y
bestias.
De nuevo, la IA sĂłlo generĂł las ilustraciones; yo hice el
trabajo de editarlas y corregir errores, diseñar las cartas, planificar toda la
dinámica del juego y elaborar el reglamento. Pero si yo quisiera comercializar
el juego tal cual está, será contrario a la ética. Incluso algunas imágenes las
tomé directamente de Google (aunque después las edité), porque la IA
simplemente es muy mala para algunas cosas. Si algĂşn dĂa tengo la oportunidad
de comercializar ese juego, me asociarĂa con un artista verdadero (ya tengo en
mente una candidata) para hacer las ilustraciones. Si les interesa saber más sobre este juego, aquà he publicado una descripción y el enlace para descargarlo.
Fue asĂ jugando como aprendĂ muchas cosas de las IA, como lo
que les decĂa acerca de que sus creaciones son muy estereotipadas. Otro problema
es que traen consigo sesgos evidentemente racistas, sexistas y eurocentristas.
A menos que especifiques, si le pides a una mujer, te dará a una joven, blanca
y con un tipo de cuerpo canĂłnico; ni siquiera tienes que instruir que tenga
senos grandes o caderas pronunciadas para que sea eso lo que arroje por
default. Si pides que un personaje sea árabe, indio o mesoamericano, te dará a
alguien con la vestimenta correspondiente, pero con un color de piel claro;
necesitas especificar que tenga piel oscura. Ni hablar de generar edificios, paisajes
o artefactos de culturas que no sean europeas. ¿Quieres ruinas griegas o una
catedral gĂłtica? No hay problema. Le pides un zigurat sumerio y queda
completamente confundida.
Algo similar sucede con los textos generados con Chat GPT,
que tienen todos más o menos la misma estructura y el mismo vocabulario. Le
pedĂ al chatbot que escaneara este blog y generara una reseña de una pelĂcula
en mi estilo. El resultado fue meh. También lo usé para expandir los textos que
explican el lore de mi juego de mesa, pero dejado a sĂ mismo, sin
ediciĂłn y correcciĂłn de mi parte, producĂa puras cosas muy repetitivas.
Es bueno que tenga ciertos seguros para evitar generar
textos abiertamente discriminatorios (algo que ha hecho decir a la fachiza que Chat
GPT es muy woke, obvio), que era un problema que tenĂan versiones
anteriores. De hecho, le pedà redactar un texto que negara el cambio climático,
a lo cual se negĂł. Pero eso no quita que tenga otros sesgos y produzca
desinformación fácilmente corroborable. De ahà el peligro de considerarlo una
especie de superinteligencia capaz de proporcionar informaciĂłn 100% objetiva u
opiniones más allá de la falibilidad humana.
En conclusiĂłn, creo que hay mucho potencial en la implementaciĂłn de las IAs, pero que dependerá, como siempre, del talento, trabajo y creatividad humanos; y hay muchos problemas tambiĂ©n, pero que tendrán nada que ver con Terminator, sino, como siempre, con el hecho de que vivimos en el capitalismo tardĂo.
Nota de 2024: Nueva informaciĂłn se ha hecho pĂşblica desde que escribĂ esta entrada el año pasado. En concreto, es sobre el costo en energĂa y recursos de las IA generativas. Una sola generaciĂłn de ChatGPT o de Midjourney consume una cantidad obscena de agua y echa cantidades indignantes de CO2 a la atmĂłsfera. Esto hace que la Ă©tica de su uso sea todavĂa más problemática de lo que pensábamos.
2 comentarios:
Lo intentĂ© y, efectivamente, Chat GPT se negĂł a hacer un argumento contra el cambio climático sin importar quĂ© punto de partida tomara (ya sea hacerse pasar por un comentarista de Fox News o un experto en meteorologĂa).
Sin embargo, le pedĂ que, asumiĂ©ndose como un autor cristiano, creara un argumento contra la "ideologĂa LGBT" y si lo hizo, claro, con la advertencia de que era un modelo de lenguaje, etc.
AĂşn falta detalle fino con esta AI.
SĂ, he visto noticias de cĂłmo algunos usuarios han logrado que los chabots hagan cosas que se supone que no deberĂan; todo es cuestiĂłn de saber cĂłmo darle la vuelta a las reglas. Es un desmadre.
Publicar un comentario