Reflexiones sobre GPT-3

Sékioz de Niafre

Cuando a 23/11/2021 releí y comenté las cinco primeras secciones de Jugando con GPT-3, me chocó mucho la última, Expandiendo blogs (de las cosas más interesantes que he generado con GPT-3, a mi juicio), que terminé censurando por motivos que voy a explicar a continuación. El experimento consistía en alimentar a GPT-3 con un blog precioso que había leído hacía poco y que me había impresionado mucho, y el resultado fue tal que sentí retrospectivamente que debía haber pedido permiso de antemano a la autora, así que contacté con ella para preguntarle su opinión sobre mi experimento y sobre los textos generados. También consideré a posteriori que publicar entre mis pruebas esa comodificación

1

Aunque no tengo activado AdSense y mi blog no es apenas frecuentado, no hay que olvidar que vivimos en una economía de la atención y de la inmediatez (GPT-3 se liberó al público a 18/11/2021), de modo que mi blog podría capturar parte de la posible viralidad momentánea de GPT-3, recentrando en ello el foco del discurso, y aguando así la fuerza del original.

de una entrada tan íntima y preciosa (que aun encima no era mía) me haría sentir extraño e incómodo, en una suerte de reapropiación cultural o recuperación (en el sentido de Debord). Más aún, aunque no viera una relación evidente entre el texto original y el generado por GPT-3, me costaría desacoplar del todo a ambos (de modo que se me haría difícil comentarlo y hacer juicios de valor de manera imparcial), en tanto que GPT-3 toma como inspiración, por decirlo de alguna manera, al texto de entrada.

2

También es verdad que en la historia del arte es habitual que se tome como inspiración algo para hacer otra cosa completamente distinta, por lo que tampoco los ligaría demasiado, pero aún así... no sé... al atacar los resultados de GPT-3 sentiría que estoy atacando también algo del original.

Para más inri, pocos días después leía en la documentación oficial de GPT-3: «We generally don’t approve chatbot personas of specific people, especially without explicit consent from the person it portrays. Deceased scientific figures are often a category of exception to this.» (tampoco que pretendiera hacer un chatbot, pero creo su recomendación aplica igual).

Ante esto, supongo que la pregunta natural es: «¿por qué lo hice?» No tanto para excusarme (lo hecho, hecho está), sino para comprender mis motivaciones (en parte inconscientes), el cómo lo estoy pensando (en parte implícitamente) y el contexto que me ha llevado a ello:

1. Se han usado Inteligencias Artificiales (IAs) para completar la décima sinfonía de Beethoven,
   3

   Beethoven X: The AI Project 10/2021.
   y también para crear nueva música que suene como Bach.
   4

   DeepBach: a Steerable Model for Bach Chorales Generation 2017.
   ¿Era ello necesario? Pues seguramente no. De hecho, Lily Alexandre The Surreal Dreams of AI-Generated Art | Video Essay 27:35-28:30 lo problematiza con agudeza, a lo que yo añadiría que esto también podría aumentar aún más la polarización y las burbujas informativas,
   5

   La expresión «burbuja informativa» suele aplicarse a los medios de comunicación, pero creo que puede extrapolarse a cualquier forma de información (en el sentido de Shannon).
   y dificultar el reconocimiento de nuevas voces.
   6

   Quiero decir, ya es bastante difícil hacerse un nombre en las artes, como para que ahora haya que competir también contra los clásicos.
   (Admito también que suena un tanto espeluznante y tóxico decir «quería más de ti, de tu música, blog, etc.».)
   7

   De hecho, esta clase de IAs podrían llevar las relaciones parasociales a un nuevo nivel.
2. Hay IAs que, en lugar de partir de (o estar entrenadas sobre) un autor concreto, parten de todo un corpus (e.g., el canon musical occidental) para generar nueva música, como Aiva (que, por cierto, estoy escuchando desde Spotify mientras escribo esto, por si alguien se quiere unir xd).
   8

   Para un estado del arte, cf. OpenAI Jukebox: A Generative Model for Music 2020 (soundcloud), donde se cita musegan, midinet y musenet. Otras IAs interesantes (más comerciales que académicas) son AUDOIR (2021), soundraw (2020), ecrett music (2019), boomy (2018)...
   En este entendido, supongo que podría repensarse estas IAs como estudiantes recién salidas de la academia (y sin influencias fuera de la misma) que van a reproducir sus sensibilidades (o patrones sintácticos, según lo buena que sea). (Por supuesto, la gracia no estaría en usar el Canon, sino una librería personalizada conformada por los favoritos de cada cual; algo así como la futurible medicina genómica, pero en las artes.)
   9

   Otra alternativa sería usarlas como asistentes, ya sea para la lluvia de ideas, o para cuadrar harmonizaciones y cuestiones más técnicas.
3. Hay IAs especializadas en el «style transfer» de una obra a otra. Los filtros de instagram (e.g., para dar un look «van Gogh» a una foto) o Deep Dream (que identifica o alucina patrones predeterminados sobre una imagen, proyectando sobre ella sus predicciones en base a sus sesgos, un poco a la mirada Lacaniana)
   10

   Cf. Is Reality a Controlled Hallucination? - with Anil Seth 31:10-33:30 a propósito de la computational (neuro)phenomenology.
   son un buen ejemplo de ello. Otro, quizá menos frívolo,
   11

   En defensa de la frivolidad, diré que AlphaGo (10/2015) y AlphaZero (12/2017) pavimentaron el camino a AlphaFold 1 y 2 (12/2018, 12/2020), además de revolucionar la Top Chess Engine Championship (tanto por la triunfal entrada de Leela Chess Zero al top, como por ceder Stockfish al uso de las redes neuronales con su NNU 2020). Y su evolución a MuZero (11/2019) me parece aún más prometedora, pues la ciencia consiste esencialmente en eso: «discovering for itself how to build a model and understand it just from first principles.», como pone de manifiesto Advancing mathematics by guiding human intuition with AI 12/2021 (divulgado en DeepMind’s AI helps untangle the mathematics of knots). A este respecto, me parece relevante Nicky Case How To Become A Centaur 2018.
   pero también más futurista e hipotético, sería poder responder a preguntas tipo: «¿Cómo habría descrito este sentimiento Flaubert?» ¿Menos frívolo? Sí, me explico:en derecho y literatura comparada, filosofía de la diferencia y post-estructuralista, etc. se parte, a mi entender, de la idea de que es la diferencia la que identifica, la que nos permite profundizar en cómo son las cosas. Así, e.g., contrastar el derecho continental al anglosajón me permite entender mejor sus pros y contras, sus puntos ciegos, etc. O volviendo sobre mi ejemplo de Flaubert, podría facilitarme la exploración y «desempaquetado» (¡toma anglicismo!)
   12

   Wordreference propone para unpack en sentido figurado usar desentrañar, que en esencia bebe de la misma metáfora (si bien más literalmente visceral), aunque nunca he visto usar desentrañar referido a la análisis introspectivo de un sentimiento.
   de un sentimiento complejo (a base de intentar describírselo a la IA), en una suerte de ejercicio de introspección. (Aunque ponga a Flaubert como ejemplo por el meme de «le mot juste», lo cierto es que cualquier diario personal y, por extensión, cualquier blog, en razón de su carácter introspectivo, puede ser un buen contendiente para ser usado como corpus de una tal IA, especialmente si quien escribe tiene una inteligencia emocional sobresaliente, que idealmente se transferiría a la prompt (input, entrada) del usuario. De este modo, la IA expandiría lo meramente aparente de la prompt, a partir de ciertos patrones o pistas de la misma, para sospechar o desentrañar lo se ocultase bajo sí, desempacandolo o desanudandolo.)
4. Hay IAs especializadas en «sentiment analysis» (aka minería de opinión). Recordando el biopic de Temple Grandin, esto podría ser interesante para quienes (como ocurre en el espectro autista) tienen dificultades para reconocer sus propias emociones o las de otras personas, o las intencionalidades de estas, etc.
5. En la línea de las dos anteriores, me pregunto si podría usarse como herramienta de auto-diagnóstico psicológico clínico, e.g., usando los diarios íntimos de uno mismo como entrada de datos. Pero claro, si fuera bueno en ello, probablemente también lo sería usando como entrada tweets, blogs personales, etc. de personas ajenas, de modo que se podrían sacar conclusiones certeras (asumiendo sinceridad en la entrada)
   13

   O no, según la calidad de la IA. A fin de cuentas, los terapeutas tienen que ver a través de las posibles mentiras de sus pacientes.
   de cualquier perfil público, imponiendo sobre ellos una suerte de transparencia obligatoria. (La verdad es que no tengo clara la moralidad de esto, y de ahí que saltaran mis alarmas tras releer con detenimiento mi experimento. Creo que de momento no hay nada de qué preocuparse, pero también creo que, si alguna vez se prohíbe tal uso, será tras algún escándalo. Y por eso me parece importante seguir el estado del arte de estas cuestiones y testear sus resultados para ser conscientes de sus capacidades: aunque yo no usara esta tecnología por considerarla inmoral, el resto del mundo podría estar usándola sobre mí.)

Por supuesto, para testear todos estos puntos podría haber usado cualquier texto de dominio público con más de cien años,

14

Desde un punto de vista pragmático, esto ya no me parece tan moralmente cuestionable, pues al menos no podría usar los resultados obtenidos para tratar de manipular a la persona en cuestión.

pero en la euforia del momento no fue lo que hice. (También podría simplemente haberme limitado a mis textos, pero ello no sólo limitaría los estilos de las entradas de mis pruebas, sino que también erradicaría el aspecto sociológico que apuntaba antes: la reacción e interpretación de los resultados de GPT-3 no es la misma cuando no conoces los porqué de un texto.)

Para cerrar, si alguien quiere conocer un poco mejor como funcionan a nivel técnico esta clase de IAs, recomiendo:

1. 3Blue1Brown Neural Networks
2. DotCSV APRENDE Qué son las Redes Neuronales?, ¿Qué es el Natural Language Processing? y ¡Testeando Inteligencia Artificial!