Estuve experimentando con inteligencias artificiales y estos son los resultados... - Ego Sum Qui Sum

Breaking

PROFESOR MAIK CIVEIRA & LA ALIANZA FRIKI ANTIFASCISTA

sábado, 15 de abril de 2023

Estuve experimentando con inteligencias artificiales y estos son los resultados...


¡Saludos, gente del ciberespacio! Vengo a subirme al tren del mame de las inteligencias artificiales generativas. Tarde, como es mi costumbre, pero no porque no estuviera siguiendo el asunto, sino por el contrario, porque he pasado el primer trimestre del año dos mil tĂ­jiri tres jugando con las IA y leyendo docenas de artĂ­culos (y viendo docenas de videoensayos) al respecto. Lo que leerán a continuaciĂłn son mis conclusiones y resultados.

 

EL ASUNTO ESTÉTICO

En cuanto al tema del arte generado por la IA hay dos dilemas principales: uno de tipo estĂ©tico y otro de tipo Ă©tico. El primero puede resumirse en la siguiente pregunta: “¿Es esto arte?” Éste es un asunto muy complejo porque nos lleva a cuestionarnos nuestra misma definiciĂłn de lo que es arte y quĂ© no lo es.

 

Se ha dicho que otras herramientas del pasado fueron en un principio desestimadas, desde la cámara fotográfica hasta el Photoshop, con el argumento de que al involucrar una máquina el producto dejaba de ser 100% humano, y por lo tanto no podía ser arte. Con el tiempo, el uso de estas herramientas ha sido aceptado como parte de la creación artística, y lo mismo debería pasar con el uso de motores que generan imágenes.

 

Otras expresiones de la creatividad humana han sido cuestionadas a lo largo de la historia. A mí me encantan los trabajos de fantasía, en la tradición de Frank Frazetta o Boris Vallejo, pero hasta la fecha hay quien debate que eso no es arte, sino ilustración. El arte, se dice, no debe consistir sólo en imágenes bonitas, sino que también debe estar tratando de expresar algo, tener un trasfondo teórico y estético.

 


Qué sé yo. La IA puede generar ilustraciones bonitas, de eso no hay duda. Y a estas alturas pueden ser de muy buena calidad. La IA todavía comete ciertos errores y aún es posible identificarlos, pero pronto será imposible distinguir algo hecho artificialmente y algo creado por un ser humano.

 

Además, no todos los artistas están condenando la IA por completo. Algunos piensan que puede ser una herramienta útil para su trabajo. Pueden usarla para generar algunas imágenes y después editarlas, usando los conocimientos y habilidades que han desarrollado para crear algo verdaderamente único y personal. Me dicen que no se debe temer que la IA reemplace a los artistas, sino que éstos deberán aprender a usarla.

Una cosa que mucha gente parece no entender es cĂłmo funciona esto de las imágenes generadas por IA, y muchos medios de comunicaciĂłn no ayudan. Vemos encabezados del tipo “AsĂ­ se imagina una inteligencia artificial cĂłmo serĂ­an las princesas Disney como si fueran supervillanas de Marvel”. Y la gente se figura que alguien nada más le dijo a una computadora “Hey, hazme a las princesas Disney como si fueran supervillanas de Marvel”, y ya. Lo que en realidad ocurre es que un usuario escribe una serie de instrucciones (el llamado prompt) que tienen que ser muy detalladas y especĂ­ficas para que el motor en cuestiĂłn (hay varios, y funcionan diferente) arroje algo más o menos parecido a lo que tenĂ­a en mente. Incluso entonces, el usuario deberá reintentarlo una y otra vez hasta obtener un resultado decente.

 

Cuando empecĂ© a jugar con los generadores de imágenes pensĂ© que serĂ­a asĂ­ de fácil: “hazme un mamut blanco”. Me dijeron que se requiere más que eso, y me reĂ­, pero tenĂ­an razĂłn y yo estaba equivocado. Escribir buenos prompts es algo que requiere conocimiento, experiencia, mucho ensayo y error. SĂ­ hay un trabajo intelectual en la generaciĂłn de imágenes, y muy a menudo hay una gran inversiĂłn en horas-nalga para buscar el resultado deseado.

 

Sin embargo, la inmensa mayorĂ­a de las imágenes generadas con IA son cosas muy pueriles y de nulo valor artĂ­stico, y no por la tecnologĂ­a en sĂ­, sino por cĂłmo se está usando. Me refiero a esas series de imágenes tipo “Super Mario Bros si la dirigiera Emir Kusturika”. Son sĂłlo memes, imágenes graciosas, hechas con un sentido lĂşdico. Las imágenes que generan las IA son muy estereotipadas; los patrones de composiciĂłn e iluminaciĂłn son bastante repetitivos. AmĂ©n de que la mayorĂ­a de los usuarios las emplean para hacer más o menos el mismo tipo de imágenes de moda; Cthulhu sabe cuántas "ciudades cyberpunk" veo cada semana. 


Por sí solas, las IA no serán capaces de crear algo novedoso. A lo mejor Midjourney puede hacerte un retrato de Billie Eilish en el estilo de Pablo Picasso, pero si éste no hubiera existido, la IA sería incapaz de inventar el cubismo.

 

Creo que los productos hechos con ayuda de las IA sólo tendrán valor cuando sean usados por personas no sólo que sepan redactar instrucciones para que los motores hagan lo que quieren, sino que sepan teoría e historia del arte, personas creativas, con ideas frescas y originales, que usen a las IA como herramientas en un proceso creativo de varios pasos, que incluiría la edición y corrección de las imágenes. De la misma manera en que una cámara no convierte a cualquiera en cineasta, Stable Difussion no convierte a cualquiera en artista. Y lo mismo va por los generadores de textos y de música (los he probado también).

 

Además, me da la impresión de que la mayoría de los defensores fanáticos del arte de IA son individuos mediocres que no saben nada de arte y que el año pasado estaban alucinados con la especulación con NFTs.

 

EL ASUNTO ÉTICO


El hecho ineludible es que los programadores de estos motores usaron el trabajo de cientos o miles de artistas sin permiso para entrenar a sus IA. A menudo, jugando con las IA he pedido especĂ­ficamente que imite el estilo de algĂşn artista vivo, y el resultado es impresionante. Esto, me parece, es plagio.

 

Algunas personas han querido comparar esta forma de plagio con la experiencia humana de la influencia. Si un aprendiz de artista admira mucho a otro y se esfuerza por dominar un estilo parecido al suyo no se considera plagio, ¿por quĂ© esto sĂ­? Bueno, esto implica una gran ingenuidad o una gran deshonestidad. Cuando una persona aprecia el arte de otra, lo hace desde su subjetividad, lo interpreta desde sus experiencias y su personalidad. Algo en el estilo del artista admirado apelĂł a las emociones del aprendiz como individuo; algo que le hizo decir “amo esto, quisiera poder crear algo asĂ­”. Cuando el artista novel crea inspirándose en ese arte, de nuevo lo hace desde su propia individualidad y lo que hace es Ăşnico, porque se trata de un individuo Ăşnico.

 

La IA no recibe “influencias”; aprende a reconocer patrones y a reproducirlos en un proceso mecánico. Es cierto que Ă©ste es algo más complejo que un hacedor de collages, pero se acerca más a eso que al proceso que sigue una persona para crear. La IA no tiene subjetividad, ni preferencias, no tiene personalidad. Ni siquiera está consciente de lo que hace.



Además ese argumento es bien deshonesto porque requiere un doble criterio. Cuando los fans de las IA quieren que se reconozca al escritor de prompts como artista, entonces la IA es sĂłlo una herramienta. Cuando se quiere justificar la apropiaciĂłn de la obra ajena, argumentan que la IA aprende y se influencia del trabajo de otros, como cualquier otro artista. ¡Bah!

 

TambiĂ©n el argumento de que las IA sirven para “democratizar el arte” requiere un doble criterio. ¿Es algo que cualquiera pueda hacer, o es algo que tienes que aprender a hacer bien y por lo que se deberĂ­a pagar? Ahora se ofrecen cursos para especializarse en la creaciĂłn de prompts, y convertirse en profesionales que cobren por hacerlo. De nuevo se construyen barreras entre el trabajo profesional y el uso casual, lo cual es normal en toda actividad humana, pero difĂ­cilmente se puede decir que esto es “democratizar el arte”. Un comentario que leĂ­ por ahĂ­ es que la verdadera democratizaciĂłn del arte serĂ­a permitir a cualquiera tener acceso a la educaciĂłn, las herramientas y el tiempo para aprenderlo y ejercerlo, no que esa educaciĂłn, herramientas y tiempo se vuelvan prescindibles. Pero eso es algo que difĂ­cilmente se van a lograr bajo el modelo econĂłmico actual.

 

Esto de las IA necesita ser regulado y pronto. El primer paso, el que no se pueda registrar una imagen generada así, es muy bueno, pues disuadirá a las corporaciones de usarlas. Quizá debería establecerse que sólo se pueda entrenar a los motores generativos con imágenes de dominio público o con trabajos de artistas a los que hayan pagado por ello, pero parece difícil de enforzar.

 

TRABAJO COLABORATIVO,
BENEFICIOS PRIVADOS


De hecho, creo que no todo el uso de las imágenes generadas con IA es ilegítimo. Soy de una generación que creció con la idea de que todo lo que está en Internet es para que cualquiera lo tome y lo use como parte de una sola gran conversación colectiva. Digo, creo en general no vemos mal tomar una imagen hecha por alguien más (incluso la fotografía de una celebridad), para usarla como fondo de escritorio de nuestros dispositivos, ponerla de foto de perfil de nuestras redes sociales, ilustrar un artículo para un blog o editarla para hacer un meme. También hay muchísimo fanart sobre personajes que son la propiedad intelectual de alguien más, y eso por lo general no lo consideramos un robo.

 

Lo que estaría mal, acordamos, sería presentar esa imagen para lucrar de alguna forma. Vamos, yo tengo un montón de imágenes de arte fantástico en mi disco duro, bajadas de Google, lo cual en sí no tiene nada de malo (creo yo), pero sería inmoral que las imprimiera y vendiera en forma de póster, porque estaría lucrando con el trabajo de alguien más.

 

¿Cuál es la diferencia? Que por ahora esos motores son propiedad de empresas monopĂłlicas, no una red descentralizada de millones de individuos generando, usando e intercambiando libremente contenidos. Son unas pocas entidades las que recibirán los mayores beneficios de este avance tecnolĂłgico. Que además están operando sobre la explotaciĂłn de miles de trabajadores humanos mal pagados (aquĂ­, aquĂ­ y aquĂ­).

 


Entonces que la gente esté usando las IA para jugar y experimentar no me parece mal; lo que me parece mal es que estén tratando de lucrar con ellos (y eso incluye ganar premios de concursos). De la misma manera, me parece contrario a la ética que las corporaciones estén cobrando por usar sus motores de IA, pues se están apropiado del trabajo de artistas y explotando a técnicos humanos. Si esta tecnología se hubiera puesto libremente para beneficio de toda la comunidad, otro gallo cantaría.

 

De hecho, ése ha sido el problema con la automatización desde los inicios de la primera revolución industrial: las máquinas son capaces de hacer la vida más sencilla para los humanos, de aumentar nuestras capacidades más allá de nuestros cuerpos naturales, de liberarnos de las tareas más pesadas y arduas. Pero sucedió que las ventajas tecnológicas y las enormes riquezas que generaban, no fueron puestas al beneficio de las comunidades, sino de los dueños del capital. Y en cambio, los seres humanos fueron esclavizados para hacer funcionar a las máquinas.

No creo que las IA estén en un punto en que puedan prescindir de trabajadores humanos, ya sean artistas, escritores, conductores, técnicos o educadores; pero las tecnocorporaciones están vendiendo el sueño guajiro capitalista de que así es; de que por una módica subscripción a tal o cual servicio, una empresa podrá deshacerse de todos los empleados de algún área y ahorrar costos. Y teniendo en cuenta que la clase empresarial está llena de imbéciles con corbata, no sabemos cuántos caerán en el engaño, terminarán despidiendo gente y luego entregando al público productos todos mal hechos (como BuzzFeed, y sus artículos redactados por IA).

 

DespuĂ©s de leer, ver y escuchar mucho sobre estos temas, creo que el verdadero peligro de las IA está en la forma en la que las corporaciones nos las están vendiendo. Que ni siquiera deberĂ­amos llamarlas “inteligencias artificiales”, porque están muy lejos de funcionar como inteligencias reales; tanto como la computadora que juega ajedrez está lejos de ser un humano completo como Garry Kasparov. Son sĂłlo algoritmos muy complejos.

 

Las corporaciones de tecnologĂ­a están vendiendo la idea de que las máquinas están a punto de adquirir consciencia verdadera; los millonarios que firmaron la dichosa carta para “frenar” la investigaciĂłn con IA asumen que estamos a punto de tener que lidiar con Skynet, pero todo eso es parte de su campaña mercadolĂłgica. El verdadero peligro no es que las computadoras se vuelvan entidades superpoderosas y malignas, sino que se sobreestime su potencial y su inevitabilidad.

 

Desde la promesa de autos que se manejan solos, a apps de psicoterapia que pueden sustituir a profesionistas de la salud mental, pasando por la supuesta objetividad y omnisciencia de ChatGPT, el funcionamiento de estas nuevas tecnologías está plagado de errores, pero al venderse como si fueran casi la Multivac de Asimov, resultan en accidentes y desinformación. Tampoco da buena espina que corporaciones estén despidiendo a los equipos que se encargan de supervisar las cuestiones éticas del desarrollo y uso de IAs (aquí y aquí)

 


TambiĂ©n es engañoso y malicioso el discurso que plantea que estos avances tecnolĂłgicos son inevitables, parte de la evoluciĂłn natural del progreso humano. Pero detrás de todo desarrollo cientĂ­fico hay seres humanos decidiendo en quĂ© se va a invertir tiempo y recursos; en este caso, son un montĂłn de hombres blancos ricos en Silicon Valley, que por alguna razĂłn decidieron que lo que el mundo necesita son malas imitaciones de conceptos sacados de ciencia ficciĂłn. Que, como se ha dicho, hasta la CF la han entendido mal, pues están tratando de hacer realidad gadgets que les parecen chidos, sin tener en cuenta las reflexiones Ă©ticas, filosĂłficas y sociales que la ficciĂłn especulativa planteaba. ¿Por quĂ©, teniendo tantas necesidades humanas, deciden inventar algo que pretende hacer obsoletas algunas de las actividades creativas que más disfrutamos y que dan sentido a nuestras vidas?

 

MIS EXPERIMENTOS

 

Bien, retomando aquello de que usar las IA para jugar o experimentar, pero sin lucrar ni contribuir al lucro de corporaciones malignas, y basándome en mi gusto por el arte fantástica y la literatura pulp, usé Stable Diffusion (el mismo motor con el que hice todas las imágenes que ilustran este artículo) para crear las portadas de series de libros que nunca existieron protagonizados por actrices que me parecen muy guapotas. Empezamos con una saga de space opera con Salma Hayek (ver colección completa):






Una serie cyberpunk con Scarlett Johansson (ver colecciĂłn completa):







Unas novelitas gĂłticas y de misterio con Winona Ryder (ver la colecciĂłn completa):







Y una colecciĂłn de relatos tipo sword and sorcery con Christina Hitchens (ver la colecciĂłn completa):






Que, por cierto, me di cuenta de ya estoy ruco y que me gusta pura señora; ni idea de quiénes serán las celebridades veinteañeras populares por sus looks. En fin, ya que usé las imágenes de estas actrices sin su permiso, y explícitamente le dije a la IA que imitara el estilo de artistas vivos (Boris Vallejo, Luis Royo, Tim Hildebrandt y Frank Frazetta), sería inmoral que yo lucrara de alguna forma con ellas. Aun así, tengan en cuenta que la IA sólo generó las ilustraciones; el diseño de las portadas, los efectos de papel gastado o impresión granulada, los títulos y logos los hice yo utilizando otras herramientas.

 

Quedaron simpáticas y por eso las comparto. Además, la serie de Miss Ryder me gustĂł tanto que empecĂ© a imaginarme la clase de historias que corresponderĂ­an a cada tĂ­tulo, y como algunas personas pensaron que eran libros reales y me preguntaron dĂłnde se compraban, como que me ha dado ganas de escribir estas novelitas (aunque no usarĂ­a la imagen ni el nombre de Winona Ryder, por supuesto). Si mis amables lectores se interesan en ello, abriremos un Kickstarter o algo asĂ­…

 

Por otra parte, jugando con la IA generĂ© algunos personajes originales de una saga de fantasĂ­a que escribirĂ© “algĂşn dĂ­a”. Me puse a generar otros tantos (le pedĂ­a tipo: “hazme una princesa pirata”) y luego pensando en quĂ© hacer con ellos, decidĂ­ crear un juego de mesa (hacerlos es una de mis aficiones). El juego se llama HeroĂ­nas, y consiste en usar tarjetas y dados para hacer batallas con las heroĂ­nas, usando armas, hechizos y bestias.

 







De nuevo, la IA sólo generó las ilustraciones; yo hice el trabajo de editarlas y corregir errores, diseñar las cartas, planificar toda la dinámica del juego y elaborar el reglamento. Pero si yo quisiera comercializar el juego tal cual está, será contrario a la ética. Incluso algunas imágenes las tomé directamente de Google (aunque después las edité), porque la IA simplemente es muy mala para algunas cosas. Si algún día tengo la oportunidad de comercializar ese juego, me asociaría con un artista verdadero (ya tengo en mente una candidata) para hacer las ilustraciones. Si les interesa saber más sobre este juego, aquí he publicado una descripción y el enlace para descargarlo.

 

Fue asĂ­ jugando como aprendĂ­ muchas cosas de las IA, como lo que les decĂ­a acerca de que sus creaciones son muy estereotipadas. Otro problema es que traen consigo sesgos evidentemente racistas, sexistas y eurocentristas. A menos que especifiques, si le pides a una mujer, te dará a una joven, blanca y con un tipo de cuerpo canĂłnico; ni siquiera tienes que instruir que tenga senos grandes o caderas pronunciadas para que sea eso lo que arroje por default. Si pides que un personaje sea árabe, indio o mesoamericano, te dará a alguien con la vestimenta correspondiente, pero con un color de piel claro; necesitas especificar que tenga piel oscura. Ni hablar de generar edificios, paisajes o artefactos de culturas que no sean europeas. ¿Quieres ruinas griegas o una catedral gĂłtica? No hay problema. Le pides un zigurat sumerio y queda completamente confundida.

 

Algo similar sucede con los textos generados con Chat GPT, que tienen todos más o menos la misma estructura y el mismo vocabulario. Le pedí al chatbot que escaneara este blog y generara una reseña de una película en mi estilo. El resultado fue meh. También lo usé para expandir los textos que explican el lore de mi juego de mesa, pero dejado a sí mismo, sin edición y corrección de mi parte, producía puras cosas muy repetitivas.

 

Es bueno que tenga ciertos seguros para evitar generar textos abiertamente discriminatorios (algo que ha hecho decir a la fachiza que Chat GPT es muy woke, obvio), que era un problema que tenían versiones anteriores. De hecho, le pedí redactar un texto que negara el cambio climático, a lo cual se negó. Pero eso no quita que tenga otros sesgos y produzca desinformación fácilmente corroborable. De ahí el peligro de considerarlo una especie de superinteligencia capaz de proporcionar información 100% objetiva u opiniones más allá de la falibilidad humana.

 

En conclusión, creo que hay mucho potencial en la implementación de las IAs, pero que dependerá, como siempre, del talento, trabajo y creatividad humanos; y hay muchos problemas también, pero que tendrán nada que ver con Terminator, sino, como siempre, con el hecho de que vivimos en el capitalismo tardío.


Nota de 2024: Nueva información se ha hecho pública desde que escribí esta entrada el año pasado. En concreto, es sobre el costo en energía y recursos de las IA generativas. Una sola generación de ChatGPT o de Midjourney consume una cantidad obscena de agua y echa cantidades indignantes de CO2 a la atmósfera. Esto hace que la ética de su uso sea todavía más problemática de lo que pensábamos.



¡Hola, gracias por leer! Me da gusto estar de vuelta tras unas muy necesarias vacaciones. Si te gusta mi trabajo, ando tambiĂ©n en YoutubeTik TokFacebook y Twitter. Si gustas ayudarme a seguir creando, te invito a unirte a mi Patreon. Si prefieres seguir leyendo, aquĂ­ tengo más cosas:

2 comentarios:

Aioros84 dijo...

Lo intenté y, efectivamente, Chat GPT se negó a hacer un argumento contra el cambio climático sin importar qué punto de partida tomara (ya sea hacerse pasar por un comentarista de Fox News o un experto en meteorología).

Sin embargo, le pedí que, asumiéndose como un autor cristiano, creara un argumento contra la "ideología LGBT" y si lo hizo, claro, con la advertencia de que era un modelo de lenguaje, etc.

AĂşn falta detalle fino con esta AI.

Maik Civeira dijo...

SĂ­, he visto noticias de cĂłmo algunos usuarios han logrado que los chabots hagan cosas que se supone que no deberĂ­an; todo es cuestiĂłn de saber cĂłmo darle la vuelta a las reglas. Es un desmadre.

ApĂłyame en Patreon

ApĂłyame en Patreon
Si te gusta mi contenido, pudes ayudarme a seguir creando