Reflexiones IA
entorno a la inteligencia

Sékioz de Niafre

1 El ajedrez no es para tanto

La literatura ajedrecista se remonta al menos a Al-Adli Kitab ash-shatranj (842, perdido) y Al-Suli Kitāb al-Shiṭranj (c. 908-941), popularizándose (al tiempo que estandariza las reglas del juego a la versión actual) con Luis Ramírez de Lucena Repetición de amores y arte de ajedrez 1497 y Ruy López de Segura Libro de la invencion liberal y arte del juego del axedrez 1561. No es de extrañar, pues, que el largo historial de catálogos y análisis de partidas completas, aperturas, medio juego y finales, la discusión de estrategias y heurísticas de posicionamiento de las distintas escuelas de pensamiento

1

Escuela de Philidor (Analyse du jeu des Échecs 1749), escuela modenesa (Lolli Osservazioni teorico-pratiche sopra il giuoco degli scacchi 1763, Ponziani Il giuoco incomparabile degli scacchi 1782), escuela inglesa (Staunton The Chess-player's Handbook 1847), escuela romántica (Inmortal 1851), escuela moderna (originada con Steinitz en los 1860, popularizada por Tarrasch en Die moderne Schachpartie 1912, y dominada por Lasker), hipermoderna (Nimzowitsch Mein System 1927, con Alekhine como máximo exponente), soviética (Bronstein Zurich International Chess Tournament 1953, 1978), nuevo dinamismo (Suba Dynamic Chess Strategy 1991), etc.

y, en definitiva, todo el corpus teórico acumulado,

2

Siendo justos, lo mismo puede decirse del go, siendo sus tratados aún más antiguos: Handan Chun Classic of Arts (s. II, fragmento), Dunhuang Qijing (502-550), Zhang Ni Qijing Shisanpian: The Classic of Weiqi in Thirteen Chapters (1049-55, texto fundacional, traducido por Paolo Zanon), Yan Defu Xuanxuan Qijing: The Very Mysterious Classic of Weqi (1348, antología de tratados y colección de problemas, de gran influencia), etc. Más aún, en 1612 se fundan las cuatro casas estatales de go en Japón, que popularizan su estudio, dando lugar al gran teórico Hon'inbō Dōsaku (1670s).

(Probablemente también es en esa época cuando se fijan las reglas actuales, aunque a juzgar por Chen Zuyuan The History of Go Rules 2011, esto es dificil de determinar: el primer registro comprensivo es de mediados del XX. Y si bien Zuyuan se centra en el sistema de conteo a propósito de Wang You Qing Le Ji 1100, Wikipedia afirma (en base a Sensei's Library Fixed stone placements y Charles Matthews Adding Asymmetry) que «Around this time [1578], free opening of the game started; before, the game started from a set position of several stones on the board.», de modo que cualquier posible teoría sobre aperturas/fusekis tendría que haber sido posterior. De hecho, la wiki japonesa, kotobank y otras fuentes generalistas afirman que los fuseki se originan en Japón y que no llegan a China y Corea, o al menos no oficialmente, hasta mediados del XX, llegando antes a Occidente a través de Korschelt a mediados del XIX.

No obstante, Yunguseng Dojang 13th season 2nd lecture (History of Fuseki) 2015 da un ejemplo de fuseki chino de 1682, y afirma, sin prueba, que en Japón se inician a siglo XIV, siendo cierto que Xuanxuan Qijing contiene ejercicios de fuseki. Más aún, es un poco injusto decir que no puede haber una teoría de fusekis simplemente porque los primeros 4 movimientos están fijados, como pone de manifiesto senseis Ancient Fuseki In Old China.)

Sin embargo, ora por motivos culturales o de complejidad, tengo la impresión de que la exploración y sistematización del juego (centrada en los jōseki, secuencias locales de movimientos, hasta mediados del XX) es mucho más superficial, como ejemplifica la larga hegemonía del fuseki Shusaku 1,3,5 (popularizado c. 1850 frente a los más tradicionales 3-3 y 4-4, y considerado como el inicio de la teoría moderna del fuseki a través de la exploración de sus variantes, cf. Rob Van Zeijst The player pros most admire is Shusaku Kuwahara), que no se desafía hasta Go Seigen 1933 con su propuesta del shinfuseki (cf. Fairbairn Shin Fuseki - for and against, donde se citan otros cinco nuevos fusekis que se estaban explorando en la época), que da lugar a una progresiva renovación con: sugou fuseki, two or three star fuseki, 1970s chinese fuseki y 1990s korean fusekis. Igualmente paradigmático es que en Wikipedia List of Go players se hable de «innovative» o «theory» sólo para Hon'inbō Dōsaku, Huang Longshi (coetáneo del anterior), Go Seigen, Minoru Kitani (colega del anterior) y Keigo Yamashita (1978).

Quizá de ahí, pues, los fracasos de los enfoques por sistemas expertos, así como la trascendencia de DeepMind (empezando por la derrota de Lee Sedol contra AlphaGo a 3/2016), discutida por los hermanos Shibano (Ryunosuke y Toramaru) en El impacto de AlphaZero 2018 (sin traducción), así como en la columna Fuseki Revolution (2019-?) de Toramaru, de la que bebe su libro Fuseki Revolution: How AI Has Changed Go 2021.

Resumiendo, aunque mucho de lo que voy a decir aquí también aplica al go, su complejidad está muchos ordenes de magnitud por encima del ajedrez (cf. Wikipedia Game complexity), por lo que podríamos estar ante un trueque de cantidad en calidad que ilegitimaría hacer la misma lectura de ambos juegos.

que incluye además un sistema simbólico para su representación,

3

Hasta el punto que Nagel y Newman Gödel's Proof 1958 utiliza al ajedrez como analogía para introducir el concepto de sistema formal, donde las piezas representan los símbolos matemáticos, su posición inicial representa los axiomas, las reglas de movimiento representan las reglas de demostración, y las posibles posiciones de las piezas representan los teoremas.

(Por supuesto, lo mismo podría decirse del tres en raya, las damas, el go, etc.; sobre la íntima relación entre la teoría de juegos y la lógica, cf., e.g., van Benthem et al. Logic in Action, Ch. 7 Logic, Games and Interaction o Pacui On the use (and abuse) of Logic in Game Theory 2013. Lo que aquí me parece reseñable es más bien la elección, seguramente informada por la concepción cultural que se tiene del ajedrez frente a otros juegos.)

haga del ajedrez un juego que se presta muy bien a la IA de sistemas expertos basados en reglas.

En efecto, el problema de construir una máquina que sea capaz de jugar al ajedrez a nivel competitivo se reduce entonces a la codificación en algoritmos de todo el saber contenido en estas partidas y estrategias con el fin de acotar de manera significativa el número de jugadas posibles en cada momento y hacer así computacionalmente viable su exploración por árboles de decisión (a base de restringirse a las coherentes con los catálogos y manuales),

4

A modo de referencia: «Deep Blue's evaluation function [que estima la calidad de una posición con el fin de informar la siguiente jugada; para más info, cf. markus7800 Writing a Chess Engine, Chessprogramming wiki Evaluation y Andrew Grant I declare that HCE is dead...] was initially written in a generalized form, with many to-be-determined parameters (e.g., how important is a safe king position compared to a space advantage in the center, etc.). Values for these parameters were determined by analyzing thousands of master games. The evaluation function was then split into 8,000 parts, many of them designed for special positions. The opening book encapsulated more than 4,000 positions and 700,000 grandmaster games, while the endgame database contained many six-piece endgames and all five and fewer piece endgames. An additional database named the “extended book” summarizes entire games played by Grandmasters. The system combines its searching ability of 200 million chess positions per second with summary information in the extended book to select opening moves. [... It] typically searched to a depth of six to eight moves, and twenty or more moves in some situations» (cf. Campbell Knowledge discovery in deep blue 1999), donde Levy y Newborn How Computers Play Chess 1991 estiman que «each additional ply (half-move) of forward insight increases the playing strength between 50 and 70 Elo points». Sin embargo, Kaspárov How Life Imitates Chess 2007 es más suspicaz respecto a la importancia de estos cálculos, cf. kingscrusher How many moves do you look ahead: Amazing Chess Game : Garry Kasparov vs Veselin Topalov - 1999.

creciendo su ELO de manera proporcional a las mejoras de hardware (de cómputo), que siguieron un crecimiento exponencial dado por la ley de escalado de los MOSFET (1959-2004), íntimamente relacionada con la ley de Koomey y Moore. De este modo, podría decirse que la programación y hardcodeado de los catálogos y manuales dentro de la máquina sería semejante a la abrupta y larga curva de aprendizaje (con toda la memorización que implica) por la que tiene que pasar una persona para llegar a GM,

5

En vistas a discusiones como Remote Chess Academy Stuck at Chess? How to Progress? | 3 Steps to 2000 ELO Rating o SteadfastOne How to get from 1500 to 2000 rating rapid., y guías como Gotham Chess Guide y Chess Steps de GothamChess (top elo 2400), es posible que esté siendo un tanto generoso con lo lejos que se puede llegar con sólo estudiar y conocer la teoría, pero tampoco me parece muy relevante si la diferencia recae entre estar en un percentil 90-99 (elo 1800-2200) y un 99.9 (2500+).

Por otra parte, si tomamos como criterio para el título de GM tener un ELO FIDE de al menos 2500, estamos hablando del orden de mil personas sobre una población FIDE de 350 mil, cf. chess.stackexchange How many chess players are over 2500 Elo? 2019, lo que hace una base relativamente pequeña de personas que están compitiendo de manera genuina («construyendo a hombros de gigantes» con renovada creatividad e inteligencia) y haciendo progresar el entendimiento del juego. (Aquí mi argumento es probabilístico/evolucionista: si hay poca gente innovando sobre el baseline de GM, suerte de proxy del estado del arte, habrá aún menos disrupciones relevantes, donde estoy asumiendo que éstas no se incorporarán a los manuales hasta pasados unos años, representando el potencial margen de ventaja sobre la máquina. Sin embargo, en vistas a la discusión de Campbell sobre Deep Blue, creo que estoy siendo muy ingenuo respecto a la importancia de la teoría ajedrecística, descontando tablas de aperturas y finales, en la programación pre-NNUE de motores de búsqueda de ajedrez: aunque puede jugar un papel en la definición de la HCE, esta también puede construirse en parte estadísticamente a través de los catálogos.)

A modo de curiosidad y referencia (del pool del que bebe la FIDE), se ha llegado a estimar (con muy baja confiabilidad) que pueden haber hasta 600 millones de jugadores, cf. Edward Winter How Many People Play Chess?, aunque a juzgar por el número de usuarios activos en chess.com (del orden de un millón, cf. CHESScom How Many Chess Players Are There In The World? 2017, equiparables a los suscriptores de 10 Best Chess Youtube Channels To Watch in 2022), y aun teniendo en cuenta usuarios de otras webs, idiomas y offline, estimarlo en 35 millones ya me parecería generoso.

poniéndolas en igualdad de condiciones (o no, porque la máquina ni olvida ni se despista), y pudiendo la fuerza bruta ser suficiente para batir el poco margen restante que le queda a la inteligencia y creatividad humana para defenderse.

Por todo ello digo que el ajedrez es una mala (o muy acotada y focalizada) métrica de inteligencia, como ya nota la paradoja de Moravec

6

«In general, we're least aware of what our minds do best [...] we're more aware of simple processes that don't work well than of complex ones that work flawlessly» Marvin Minsky The Society of Mind 1986.

«it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility» Hans Moravec Mind Children 1988.

«We do not usually complain that a medical expert system, or an analogy program cannot climb real mountains. It is clear that their domain of expertise is somewhat more limited, and that their designers were careful to pick a well circumscribed domain in which to work. Likewise it is unfair to claim that an elephant has no intelligence worth studying just because it does not play chess.» Rodney Brooks Elephants Don't Play Chess 1990

Una formulación algo distinta y más reciente de esta heurística puede verse en la entrevista por Jason Dean a Andrew Ng Why artificial intelligence is ‘the new electricity’ 2017: «There is one other rule of thumb, which is that almost anything a typical human can do with less than one second of mental thought, we can probably now or in the near future automate using AI.», en la línea de Yoshua Bengio From System 1 Deep Learning to System 2 Deep Learning (NeurIPS 12/2019), que hace referencia a la dual process theory (aunque sus raíces pueden remontarse al menos hasta William James Principles of Psychology 1890, el texto fundacional es Wason y Evans Dual processes in reasoning? 1974, acuñándose los términos «sistema 1 y 2» en Stanovich y West Individual difference in reasoning: implications for the rationality debate? 2000, y popularizándose en Kahneman Thinking, Fast and Slow 2011).

Sin embargo, creo que justo el ajedrez es un buen contraejemplo a esta última heurística, ya que contiene una complejidad inherente e irreducible que no puede automatizarse en sistema 1: si bien es cierto que en un torneo de rápidas se juega más por intuición e instinto, también lo es que ello merma la calidad de las jugadas (al no analizarse con el debido cuidado cada posición), y de ahí que en un torneo clásico se vean en acción ambos sistemas de razonamiento.

A fin de cuentas, la diferencia real entre la IA clásica (aka tradicional o convencional) de la «tribu simbólica» (Pedro Domingos The Master Algorithm 2015), basada en expertise y sin generalización, frente a la actual (o de moda) de la tribu conexionista, tildada de software 2.0 (Andrej Karpathy 2017), basada en redes neuronales artificiales profundas (DANNs) y de generalización local (valiéndole el título de IA débil o estrecha), es que en la primera el conocimiento está codificado en reglas y en la segunda en ejemplos (como insiste Cassie Kozyrkov en su desmitificación de la disciplina, e.g., en Making Friends with Machine Learning 2021); o usando jerga de filosofía del lenguaje y teoría de conjuntos, que se definen por intensión y extensión respectivamente, siendo «I know it when I see it» (Potter Stewart 1964), que podría enmarcarse en los juegos del lenguaje de Wittgenstein, la máxima del segundo. (Cabe aclarar que la tribu conexionista no es la única que ha logrado el estatus de IA débil o que se basa en el aprendizaje automático a partir de ejemplos, como muestra el éxito de las técnicas de KNN y SVM de la tribu de analogizadores o de la técnica de aprendizaje basado en árboles de decisión de la tribu simbólica, en el que las reglas las codifica la propia máquina, como puede verse en acción en BigML. Cabe recalcar también que, si bien Domingos habla de 5 tribus, hay quién cita 21, cf. Carlos E. Perez The Many Tribes of Artificial Intelligence 2017.)

Así pues, y recapitulando mi punto, yo puedo ser capaz de codificar un conocimiento ajedrecístico en reglas, y aun así tardarme en ejecutarlas bien (i.e., sin incurrir en atajos, que fallarán con un porcentaje proporcional a lo atajado): el tiempo invertido no es en verdad el quid de la cuestión.

o François Chollet et al. Abstraction & Reasoning in AI systems: Modern Perspectives 2020: a diferencia de la vida misma, es un juego cerrado (i.e., ajeno a variables exógenas) que funciona bajo unas reglas rígidas, prefijadas, prediseñadas y conocidas dentro de un campo de posibilidades muy limitado. De hecho, si tuviéramos un conocimiento perfecto del ajedrez, no requeriría de ninguna capacidad de adaptación ni generalización. En efecto, por el teorema de Zermelo (1913), se tiene que el ajedrez es un juego resoluble (aka decidible), por lo que, pensándolo fríamente, y desde el punto de vista de la teoría de juegos, no debería sorprendernos en exceso que una máquina pueda vencer al ajedrez a un humano sin necesidad de usar inteligencia ninguna, sino sólo siguiendo una serie de instrucciones que se podrían obtener (a priori)

7

Digo «a priori» y no «en teoría» porque los análisis que se han hecho desde la teoría de la complejidad son poco halagüeños, cf. Shannon Programming a Computer for Playing Chess 1950, Bremermann Quantum Noise and Information 1965, Fraenkel et al. Computing a perfect strategy for $n\times n$ chess requires time exponential in $n$ 1981, Steinerberger On the number of positions in chess without promotion 2014, syzygy-tables.info (resolución para 7 piezas, 2018).

a base de fuerza bruta; tema aparte es que nuestra capacidad de cómputo actual no lo permita ni de lejos.

8

A modo de referencia, el juego de las damas, con una complejidad del orden de la raíz cuadrada de la que tiene el ajedrez, fue resuelto débilmente en Schaeffer et al. Checkers Is Solved 2007.

Por lo tanto, la derrota de Kaspárov contra Deep Blue de IBM (1997) no debería tomarse como una prueba de inteligencia de la máquina,

9

A modo de referencia, «at the top level for humans and engines, a +2 advantage is needed to ensure rough equality.» At what handicap are humans as good as computer? 1/2019 (según los datos de Chess.com, que adquirió el motor de ajedrez Komodo a 5/2018, el cual no incorpora árboles de búsqueda Monte Carlo, claves en el desarrollo de AlphaZero, hasta el 12/2018, basándose en su lugar en alpha–beta pruning y minimax).

ni tampoco los comentarios de Kaspárov al respecto:

«Several times during both matches, Kasparov reported signs of mind in the machine. At times in the second tournament, he worried there might be humans behind the scenes, feeding Deep Blue strategic insight! [...] In all other chess computers, he reports a mechanical predictability stemming from their undiscriminating but limited lookahead, and absence of long-term strategy. In Deep Blue, to his consternation, he saw instead an “alien intelligence.” [...] the evidence for an intelligent mind lies in the machine's performance, not its makeup. [...] Deep Blue was not designed to think like a human, to form abstract strategies or see patterns as it races through the move/countermove tree as fast as possible.»

Moravec When Will Computer Hardware Match the Human Brain? 1998

En efecto, si alguien nos diera la resolución (por fuerza bruta u otros medios) del ajedrez y nos limitáramos a seguir las instrucciones del juego perfecto (aka «algoritmo de Dios»), si bien no diríamos que hay inteligencia en ello (pues toda ella estaría capturada en las instrucciones en sí), sí nos daría esa impresión que describe Kaspárov, pues cada jugada sería la mejor jugada, confiriendo o proyectando en esta un cierto carácter sobrenatural y prodigioso.

Sin embargo, como argumenta Moravec justo a continuación, ¿acaso es la inteligencia biológica tan distinta a esa fuerza bruta?,

10

Alguien podría argumentar que la inteligencia biológica (no necesariamente humana, como se reivindica en Janet Jones Horse Brain, Human Brain: The Neuroscience of Horsemanship 2020) es más eficiente que la artificial, en el sentido de que requiere de muchos menos ejemplos para funcionar. Sin embargo, en vistas a los avances en few, one and zero shot learning dados por los modelos fundacionales/preentrenados, esto no está tan claro. No en balde, «el conteo del número de ejemplos necesarios para el aprendizaje en humanos es confuso: ¿contamos como un ejemplo cada vez que un niño escucha una palabra o una frase, o quizá debería computarse como varios? Si la percepción humana tiene una frecuencia de 10 a 12 “fotogramas” por segundo, quizá deberíamos contar cada segundo de aprendizaje como 10 o 12 ejemplos. O si pensamos que un recuerdo [que podría entenderse como data augmentation, en el sentido de que no es del todo idéntico ni fidedigno a la percepción original] puede repetirse cientos de veces a lo largo de meses y años, un bebé escuchando hablar a su madre unos pocos minutos podría equivaler a decenas de miles de exposiciones entrenables.» (Santiago Sánchez-Migallón Jiménez En la mente de GPT-3 2/2022).

Y en cuanto al hardcoding, éste no es tan distinto a cómo nuestra genética encapsula ya un conocimiento aprendido evolutivamente (como ya defendía en mi Analítico vs sintético) que complementa al anterior, lo que me recuerda a su vez a la reivindicación de The Royal Institution How Do Neural Networks Grow Smarter? - with Robin Hiesinger 2021.

Y aun si alguien dijese que los resultados actuales no justifican estas insinuaciones, y que GPT-3 carece de abstracción y no pasa de loro estocástico, Santiago añade: «En cierto sentido, no es que GPT-3 carezca de semántica. Todo lo contrario, tiene muchísima, toda aquella de los autores que escribieron los millones de textos con los que está entrenado: tiene una semántica prestada.» (lo que graciosamente también ocurre en humanos, ora con malabaristas de buzzwords que venden humo, ora con trastornos de pensamientos de asociación laxa). Punto que deviene aún más evidente ante los resultados de OpenAI Multimodal Neurons in Artificial Neural Networks 3/2021 y los estudios de ablación (cf., e.g., Meyes et al. Ablation Studies in Artificial Neural Networks 2/2019).

¿no estaríamos ante un trueque de cantidad en calidad?:

«Deep Blue's creators know its quantitative superiority over other chess machines intimately, but lack the chess understanding to share Kasparov's deep appreciation of the difference in the quality of its play. I think this dichotomy will show up increasingly in coming years. Engineers who know the mechanism of advanced robots most intimately will be the last to admit they have real minds. From the inside, robots will indisputably be machines, acting according to mechanical principles, however elaborately layered. Only on the outside, where they can be appreciated as a whole, will the impression of intelligence emerge. A human brain, too, does not exhibit the intelligence under a neurobiologist's microscope that it does participating in a lively conversation.»

A este respecto, cabe recalcar que este escenario es completamente análogo al del experimento mental de la habitación China de Searle (Minds, Brains, and Programs 1980),

11

Y también al debate entorno a Blake Lemoine Is LaMDA Sentient? - an Interview 6/2022, o la reflexión de Dedekind en The nature and meaning of numbers 1887, Preface to the first edition sobre como «chains of inferences can be so long, unconscious, and even frightening, that we may not recognize them as purely logical, even if they are» (resumen de la IEP. Para una discusión, véase mi Analítico vs sintético).

y que aquí Moravec estaría defendiendo lo que Searle llama «The Other Minds Reply», posición sobre la que Moravec profundiza en Robot: Mere Machine to Transcendent Mind 1999, y que también está presente en Daniel Dennett The Intentional Stance 1989.

Recapitulando, aunque podemos encapsular el enorme conocimiento humano sobre el ajedrez en un motor de ajedrez convencional y discutir si ello (junto a la fuerza bruta de la capacidad de cómputo) constituye genuina inteligencia, no podemos olvidar que esta estaría restringida sólo a ese dominio de conocimiento, de modo que no podríamos calificarla de inteligencia a secas (dando a entender, implícitamente, inteligencia general o fuerte) sin trivializar el término. Más aún, podemos ver dicho encapsulamiento como el gran ecualizador, permitiendo que profesionales (o incluso amateurs) de estilo dinámico y agresivo (menos basado en la memorística, o con menos conocimientos teóricos) puedan competir en igualdad de condiciones, como pone de relieve Garry Kasparov The Chess Master and the Computer 2010 (reivindicado en Nicky Case How To Become A Centaur 2018):

12

Dirección sobre la que también se está trabajando desde la propia IA, cf. Any-Play: An Intrinsic Augmentation for Zero-Shot Coordination 2022.

«In 2005, the online chessplaying site Playchess.com hosted what it called a “freestyle” chess tournament in which anyone could compete in teams with other players or computers. [...] The surprise came at the conclusion of the event. The winner was revealed to be not a grandmaster with a state-of-the-art PC but a pair of amateur American chess players using three computers at the same time.»

Sin embargo, Rybkamura (GM Nakamura asistido por una versión antigua del motor Rybka, inferior en 200 puntos de ELO a su rival) vs Stockfish 5 (estado del arte del momento ligeramente capado), que terminó en tablas (8/2014), me deja con la duda de si esta aproximación sigue siendo efectiva, si bien es cierto que los escenarios no son del todo semejantes. Duda que se exacerba ante la aplastante victoria de AlphaZero contra Stockfish 8 (versión de 2016) a 12/2017, que pudo replicarse de manera independiente a 1/2019 por Leela Chess Zero (motor de ajedrez libre inspirado en AlphaZero).

13

La versión original es del 1/2018, pero no fue hasta la publicación de A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play 12/2018 que pudo mejorarse para alcanzar el nivel de DeepMind, obteniendo la victoria en el TCEC 15 (5/2019) contra Stockfish 10 (12/2018) tras un ajustado resultado en el TCEC 14 (2/2019). Sin embargo, Stockfish 12 (8/2020) incorporó con un enfoque híbrido a la escena del ajedrez computacional las NNUE (Efficiently Updatable Neural Network) del shogi computacional (4/2018), recuperando el podio.

Para un comentario de algunas partidas entre ambas IAs, cf. GothamChess Stockfish vs. Leela: 3600 ELO BATTLE 9/2021 y 3600 Elo Stockfish CRUSHED By Leela! 1/2022.

Aunque, a juzgar por Leon Watson How 4 plucky Englishmen held mighty AlphaZero to draw 12/2018, la duda persiste.

Sea como fuere, lo que sí es evidente es que nuestro entendimiento del juego ha mejorado, como pone de relieve Matthew Sadler y Natasha Regan Game Changer: AlphaZero's Groundbreaking Chess Strategies and the Promise of AI 3/2019, Nielsen When Magnus met AlphaZero 12/2019 o Joshua Doknjas The AI Revolution in Chess 2/2022. Pues, como declaraba Kaspárov a proposito de Kaspárov versus El Mundo (1999): «It is the greatest game in the history of chess. The sheer number of ideas, the complexity, and the contribution it has made to chess make it the most important game ever played.» (Harding 64 Great Chess Games 2002); i.e., lo importante no es quién gane, sino el enriquecimiento obtenido con la partida en sí misma.

2 Pero reconocer imágenes sí

Por contra a lo que pudiera pensarse, la capacidad de describir (en lenguaje natural) el mundo (e.g., a partir de una fotografía o un dibujo), que es algo que puede hacer con facilidad la mayoría de las personas (a diferencia de vencer al actual campeón de ajedrez), supone un reto mucho mayor para la IA, a pesar de la aparente inocencia de la tarea. Por supuesto, por poder, puede: nada me impide programar una IA clásica que tome una palabra aleatoria de un diccionario y se la asigne a la imagen, o que identifique su color predominante, o alguna cosa por el estilo igual de inútil. O, un poco más sofisticado, montar una DANN de detección de objetos basada en los datasets ImageNet (2009), MS-COCO (2015), etc. con una arquitectura tipo YOLOv3 (2018).

14

Enfoque presente en el DetectLabels de Amazon Rekognition (2016), cuando se empiezan a comoditizar en el cloud este tipo de servicios, liberando Google su código en Show and Tell: image captioning open sourced in TensorFlow 2016 (basado en su paper homónimo de 2014).

Curiosamente, a juzgar por What’s that? Microsoft’s latest breakthrough, now in Azure AI, describes images as well as people do 8/2020, MS siguió utilizando su correspondiente modelo (Rich Image Captioning in the Wild), de 2015, hasta 2020. Igualmente llamativo es que, a diferencia de las arquitecturas basadas en CNN+RNN de la época (discutidas en Abhijit Roy A Guide to Image Captioning 2020, y anteriores a la introducción del mecanismo de atención en el influyente Show, Attend and Tell: Neural Image Caption Generation with Visual Attention 2015), MS ya seguía un enfoque multimodal (basado en From captions to visual concepts and back 2014) más cercano a CLIP (Learning Transferable Visual Models From Natural Language Supervision 2/2021), en el que se sustituye la RNN directamente por un modelo del lenguaje (aunque quizá esto no sea coincidencia, teniendo en cuenta que MS se asocia con OpenAI a 7/2019, tal vez a raíz de la salida de GPT-2 a 2/2019).

Para una retrospectiva más amplia del campo (descubierta a través de esta bien documentada entrada de Wikipedia) que se remonta hasta la ingeniería de características de los 2000, cf. Wang et al An Integrative Review of Image Captioning Research 2021. Para el estado del arte, cf. BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding and Generation 2/2022 (disponible en Hugging Face).

Sin embargo, si queremos una verdadera descripción y no un mero listado de elementos (sobre, para más inri, un catálogo finito), es necesario seguir un enfoque multimodal que incorpore tanto lenguaje

15

Mediante enormes modelos del lenguaje preentrenados (aka PLMs) que hagan de codificadores, lo que implica que la moda del decoder-only (con GPT y PaLM, cf. The rise of decoder-only Transformer models 4/2022) no nos sirve. Y de ahí que Imagen o Parti usen T5 y BERT respectivamente, o que CLIP use un encoder entrenado ad hoc de apenas 63M de parámetros.

PS. Como aclaran en Scaling Autoregressive Models for Content-Rich Text-to-Image Generation 6/2022, que sigue la senda de DALL-E y CogView (2021) en vez de DALL-E 2 (2022, basado en modelos de difusión), el enfoque autoregresivo permite aproximarse al problema con PLMs decoder-only: «Visual tokenization essentially unifies the view of text and images so that both can be treated simply as sequences of discrete tokens—and thus amenable to sequence-to-sequence models. To that end, DALL-E and CogView employed decoder-only language models, similar to GPT [7], to learn from a large collection of potentially noisy text-image pairs»; como comentan en el anexo G, la mejora que les aporta BERT es marginal.

Y aunque en este trabajo no se usa PaLM, sí se mencionan sus correspondientes papers (20 y 75) en: «This simplicity makes it straightforward to scale our models using standard techniques and existing infrastructure [19, 20, 27, 28]», «autoregressive models for text-to-image generation remain appealing given extensive prior work on scaling large language models [17, 18, 19, 20]», «With image tokenization and de-tokenization, text-to-image generation is treated as a sequence-to-sequence problem amenable to language models with transformers, which provide opportunities of scaling such models by applying techniques and observations from large language models [7, 19, 75, 76].»

Sobre la importancia de hacer ese escalado, véase la larga lista de limitaciones de Parti en la sección 6.3, si bien el escalado no siempre mejora el resultado: «applying in the style of van Gogh actually produces more diverse outputs consistent of style for the 3B model, while outputs are pretty much dominated by Starry Night with the 20B one.» (en un metonímico sobreajuste; metonímico en el sentido de que van Gogh pasa a definirse por una única obra, como de hecho ocurre en cierta medida en el zeitgeist).

como imagen para tratar este problema específico del image captioning. E incluso así, el alineamiento de las descripciones a las imágenes seguirá dependiendo fuertemente de la calidad y variedad de su dataset de entrenamiento: si la IA nunca ha visto un cepillo de dientes, es fácil que lo confunda con algo con lo que sí se haya entrenado, incluso si ello es algo tan aparentemente distinto como un bate de béisbol.

16

Ejemplo extraído de Andrej Karpathy y Li Fei-Fei Deep Visual-Semantic Alignments for Generating Image Descriptions 2015; a modo de contexto, cf. Fei Fei Li How we're teaching computers to understand pictures 2015, TED.

Para un ejemplo más reciente y polémico, cf. BBC Google apologises for Photos app's racist blunder 7/2015, aún vigente en Wired When It Comes to Gorillas, Google Photos Remains Blind 1/2018 y NY Times Facebook Apologizes After A.I. Puts ‘Primates’ Label on Video of Black Men 10/2020, aunque tal vez Reuters EXCLUSIVE Google searches for new measure of skin tones to curb bias in products 6/2021, anunciado oficialmente en Improving skin tone representation across Google 5/2022 como parte de su ciclo de conferencias I/O, solucione el problema, al sustituir la escala de tono de piel de Fitzpatrick de los 1970 por la actual propuesta de Monk.

Sea como fuere, siendo este el estado del arte, es de esperar que la IA tenga dificultades para distinguir un rostro con barba (castaña, canosa...) vs con mascarilla facial (de celulosa, exfoliante, de arcilla, magnéticas...) vs manchado de chocolate (negro, con leche, blanco) vs con maquillaje de guerra vs manchado con pintura vs con trazas de vitíligo vs etc.

Es más, incluso aunque tuviéramos un dataset de ensueño que tuviera etiquetada a la perfección toda imagen registrable (cuestión no trivial ni siquiera a nivel teórico, como pone de manifiesto Disney's Creative Genome by Miquel Farré | PyTorch Ecosystem Day 2021, que reivindica el saber hacer de las ciencias de la información en la definición de una taxonomía adecuada al propósito designado) y una potencia de cómputo ilimitada para entrenar sobre tal dataset, este enfoque seguiría siendo carente: bastaría que alguien crease un nuevo electrodoméstico, transporte, gadget, etc. para que nuestra IA se quedase obsoleta y fallase de la misma estrepitosa manera, si bien quizá en un futuro sistemas como VOS: Learning What You Don't Know by Virtual Outlier Synthesis 2/2022 nos permitan dar como output «no lo sé» (por lo dicho, describir cualquier imagen tampoco es algo que pueda hacer un humano), y enfoques como LaMDA: Language Models for Dialog Applications 1/2022 posibiliten a la IA acceder a información factual actualizada sin necesidad de intervención humana.

Resumiendo, este es un problema a medio camino entre la generalización local y la amplia (en función de lo estricto o flexible que queramos ser, o de cuán acotado sea el dominio de actuación), y de ahí que sea un problema inabordable con IA clásica y de resultados aceptables pero limitados (como muestra, e.g., el servicio de image captioning de Azure) con IA débil. Ambivalencia también presente en la heurístia de Kahneman: si bien, por lo general, podemos describir de manera instintiva y rápida una imagen, habrá ocasiones en las que la imagen nos resulte ambigua (como en la ilusión óptica «duck rabbit», entre tantas otras que exploten los principios psicológicos de la Gestalt) o confusa (por tratarse de algo que no hemos visto nunca, o un caso de fotografía experimental con un enfocado, enmarcado, exposición, etc. extraño, o por tener aplicados filtros digitales que distorsionen fuertemente la imagen original, etc.). Cuestión que queda particularmente patente en los ataques adversarios.

17

Desde la pura ingenuidad se podría pensar que estos son evitables haciendo un aumentado de los datos de entrenamiento a sus ejemplos adversarios (lo que se conoce como «adversarial training»), pero ese aumentado tendría que hacerse en cada epoch (haciéndolo muy costoso computacionalmente) y haría además el aprendizaje de la red más dificil, como muestra la transparencia 35 de Stanford University School of Engineering Lecture 16 | Adversarial Examples and Adversarial Training ft. Goodfellow 2017. Más aún, «training a network to withstand one kind of attack could weaken it against others» (Kang et al. Testing Robustness Against Unforeseen Adversaries 2019).

Para una retrospectiva (el término se acuña en Intriguing properties of neural networks 2013, siendo uno de los papers de mayor impacto Robust Physical-World Attacks on Deep Learning Models 2017), cf. Heaven Why deep-learning AIs are so easy to fool 2019, donde se señalan otros enfoques para lidiar con ello: «François Chollet say researchers need to augment pattern-matching DNNs with extra abilities: for instance, making AIs that can explore the world for themselves, write their own code and retain memories. [...] Some researchers, such as psychologist Gary Marcus at New York University, say hybrid AI models are the way forward. “Deep learning is so useful in the short term that people have lost sight of the long term,” says Marcus, who is a long-time critic of the current deep-learning approach. In May, he co-founded a start-up called Robust AI in Palo Alto, California, which aims to mix deep learning with rule-based AI techniques to develop robots that can operate safely alongside people.»

Para un estado del arte, cf. Recent Advances in Adversarial Training for Adversarial Robustness 2021. Para un enfoque más teorético, cf. The difficulty of computing stable and accurate neural networks: On the barriers of deep learning and Smale’s 18th problem 3/2022: «Why does DL lead to unstable methods [i.e., affected by adversarial examples] and AI-generated hallucinations, even in scenarios where one can prove that stable and accurate neural networks exist? [...] To answer the above question we initiate a [research] program on the foundations of AI» que incluye una suerte de extensión del teorema de incompletitud de Gödel y el resultado negativo del Entscheidungsproblem de Turing, encapsulando el trade-off entre estabilidad y exactitud, así como una propuesta práctica de solución: «Under specific conditions that are typically present in, for example, MRI, there are algorithms that compute stable NNs [...] which we call fast iterative restarted networks (FIRENETs) [...]. Crucially, we prove that [...] they can even be used to stabilize unstable NNs» (introducida en Can stable and accurate neural networks be computed? -- On the barriers of deep learning and Smale's 18th problem 1/2021).

A modo de cierre, y viéndolo con frialdad, aunque los ejemplos adversarios suelen ser la primera gran decepción con la que alguien se enfrenta al iniciarse en la disciplina, tampoco deberían ser tan sorprendentes: como se nota con cierta sorna en 3Blue1Brown Gradient descent, how neural networks learn | Chapter 2, Deep learning 2017, las DANN no dejan de ser un esqueleto optimizado de pesos que no tienen porque llegar a desarrollar una «jerarquía de características», del mismo modo que el code golf y la programación en ensamblador (vigente en la demoscene) a menudo explotan rasgos específicos de un software y hardware particulares en pos de optimizar la brevedad, eficiencia, etc. a costa de sacrificar legibilidad y generalidad. Y de ahí la insistencia de Francois Chollet Deep Learning with Python 2017, 9.2 The limitations of deep learning (disponible en blog.keras.io como The limitations of deep learning) en que las DANN no pasan de generalización local.

3 Y batir a la bolsa de valores ya ni te digo

No es baladí que una de las máximas en inversión sea diversificar (aka «no poner todos los huevos en la misma cesta»): la bolsa ha sido calificada de sistema complejo

18

Cf. Ho et al. The evolution of complex systems theory and the advancement of econophysics methods in the study of stock market crashes 2016.

(aka en el que «el todo es más que la suma de sus partes»), y su historia nos muestra una y otra vez que su predicción se nos escapa por completo (encontrando un uso indistinto del sistema 1 y 2 de Kahneman con discutible éxito).

19

Hasta el punto que veritasium The 4 things it takes to be an expert 2022 califica al mercado de «entorno inválido», en el sentido de no contener suficientes regularidades como para hacerlo predecible. Juicio aparte, lo cierto es que sus cuatro condiciones de posibilidad para la expertitud también nos valen para la IA: entorno predecible con feedback inmediato (mediante etiquetado retrospectivo) sobre un conjunto amplio y variado/desafiante de experiencias (e.g., en forma de conjunto de entrenamiento masivo incluyendo casos límites y out-of-distribution [OOD]).

Por supuesto, existen modelos matemáticos estocásticos (como Black-Scholes, 1973)

20

«The real significance of the formula to the financial theory of investment lies not in itself, but rather in how it was derived. Ten years earlier the same formula had been derived by Case M. Sprenkle (1961) and A. James Boness (1964).» (Rubinstein A History of The Theory of Investments 2006), lo que les valió el Nobel en 1997.

que tratan de describir partes de dicho sistema (y que podría tentarnos usar en una IA clásica), pero por la naturaleza social del mercado, la introducción de dicho modelo al sistema altera al mismo tiempo al propio sistema (hasta el punto de que se llegara a culpar al mal uso de Black-Scholes de la crisis del 2008, cf. Ian Stewart The Mathematical Equation that Caused the Banks to Crash 2012

21

Haug y Taleb Option traders use (very) sophisticated heuristics, never the Black–Scholes–Merton formula 2011 es más suspicaz con ese señalamiento en concreto. Aun así, por la estrada han pasado varios otros constructos matemáticos:

Salmon Recipe for Disaster: The Formula that Killed Wall Street 2009 culpa a Li On Default Correlation: A Copula Function Approach 2000

Pablo Triana The Number That Killed Us: A Story of Modern Banking, Flawed Mathematics, and a Big Financial Crisis 2011 culpa la métrica «value at risk»

Scott Patterson The Quants: How a New Breed of Math Whizzes Conquered Wall Street and Nearly Destroyed It 2010 y Dark Pools: High-Speed Traders, A.I. Bandits, and the Threat to the Global Financial System 2012 culpa a la automatización (en forma de algoritmización, HFT, etc.)

Brown Whodunit? Rocket Scientists on Wall Street 2012 culpa a la explotación del volatility drag: «Much of the early success of quant traders was due to proper allocation of capital rather than finding exceptional edges.»

Sin embargo, también hay quién crítica a la disciplina de las finanzas cuantitativas (aka matemática/ingeniería financiera), con representantes como Renaissance Technologies (1982, Simons), en términos más transversales:

Wilmott y Derman Financial Modelers' Manifesto 2009, quienes ya habían denunciado la cuestión en, e.g., The Use, Misuse and Abuse of Mathematics in Finance 2000 y Model Risk 1996 respectivamente.

Nassim Taleb The Black Swan: The Impact of the Highly Improbable 2007

Y aún más en general: Velupillai The unreasonable ineffectiveness of mathematics in economics 2005 (sentimiento también expresado en biología y ciencias cognitivas, cf. Roberto Poli The unreasonable ineffectiveness of mathematics in cognitive sciences 1999 y Gelfand Mathematics Under the Microscope 2006)

Inefectividad que puede atribuirse a la ingenuidad de sus hipótesis («Too large a proportion of recent ‘mathematical’ economics are merely concoctions, as imprecise as the initial assumptions they rest on, which allow the author to lose sight of the complexities and interdependencies of the real world in a maze of pretentious and unhelpful symbols.» Keynes The General Theory of Employment, Interest and Money 1936; «resembling a science is different from being a science.» Heilbroner The end of the Dismal Science? 1999 describiendo el auge de la economía computacional de los 70 y 80 a propósito de la afirmación de Greg Mankiw de que la economía es una ciencia. Descrédito contestado por el instrumentalismo de Friedman Essays in Positive Economics 1953), y al no querer renunciar a ellas (¿por physics envy?) a pesar de verlas falsadas (parcheandolas en su lugar), como muestra la vigencia de la random walk hypothesis (Bachelier 1900) ante la evidencia que la desmiente en Mandelbrot The variation of certain Speculative Prices 1963, como se denuncia en Mandelbrot y Taleb How the Finance Gurus Get Risk All Wrong 2010 o el «Statement of Mr. James G. Rickards» en The Risks of Financial Modeling: VAR and the Economic Meltdown 2009.

). Tampoco ayuda que uno de los pilares de la económica (neo)clásica sea la asunción de racionalidad de los agentes que participan del mercado (e.g., en las distintas axiomatizaciones de la expected utility theory y la consumer theory),

22

Bernoulli Specimen theoriae novae de mensura sortis 1738

Frisch Sur un problème d'économie pure 1926

Ramsey Truth and Probability 1926

Samuelson A Note on the Pure Theory of Consumer's Behaviour 1938

von Neumann y Morgenstern Theory of Games and Economic Behavior 1944

Savage The Theory of Statistical Decision 1951

Arrow Social Choice and Individual Values 1951 (donde además se demuestra el infame teorema de imposibilidad de Arrow, del que tiende a hacerse una lectura fatalista injustificada, cf. Nicky Case To Build a Better Ballot 2016)

Debreu Theory of Value: An Axiomatic Analysis of Economic Equilibrium 1959 (lo que le valió el Nobel de 1983)

algo que fue desmentido empíricamente por las investigaciones de Kahneman y Tversky durante los 70 en su desarrollo de la prospect theory,

23

Advances in prospect theory: Cumulative representation of uncertainty 1992 fue lo que les valió el Nobel de economía de 2002.

frustrando cualquier intento ingenuo de tratar de modelar el mercado con una IA simbólica (que se prestaría bien a dichas axiomatizaciones) que no tenga en cuenta estas otras dimensiones de la economía conductual

24

Lo que no significa que no se pueda intentar, cf. Rieger Estimating cumulative prospect theory parameters from an international survey 2017.

u otras posibles futuras alternativas suyas

25

La teoría económica parece estar muy lejos de asentarse y estabilizarse, a mi juicio, como pone de manifiesto el canal Unlearning Economics.

.

Es más, y reincidiendo sobre el aspecto social de la bolsa y el cómo, e.g., las conversaciones privadas pueden influir en sus valores,

26

Como ejemplifica el experimento mental de The Last National Bank en Merton The Self-Fulfilling Prophecy 1948 (inspirado en el «teorema» de Thomas, 1928), así como la legislación vigente para prevenir tales (cf., e.g., iberley Delito de manipulación para alterar el precio de las cosas y Marc Fortuño Rumorología: El arte de mover el mercado 2015). Donde, como ponen de manifiesto las crypto whales, no es necesario que la conversación se difunda entre muchas personas: una sola puede bastar. De hecho, en el momento en que una acción individual de una serie de agentes (anónimos y no coordinados por defecto) puede tener tanta influencia en un mercado, el problema de predecirlo siempre va a estar sujeto al peligro de tales acciones esporádicas. Y aunque no todos los mercados están tan centralizados (si bien la influencia de la OPEP en el precio del petróleo, que a su vez influye en tantos otros, es otro buen ejemplo), la problemática de las ballenas puede trasladarse también a los cisnes negros, con ejemplos tan recientes y devastadores como el COVID-19, donde la predicción de su impacto en tiempo real desde la declaración internacional de la OMS del 30/1/2020 iría ligada a cuestiones epidemiologicas, geopolíticas, sociológicas, etc. difíciles de ponderar y determinar (en parte, insisto, porque dependen de acciones individuales, como la decisión de ir a trabajar enfermo por desconocimiento o necesidad, hacer declaraciones desde una posición de influencia, legislar de una cierta manera, etc.).

en tanto que una IA (ni nada) no puede acceder a esta información en tiempo real (nos interesa conocer los rumores antes de que sean de conocimiento público) para hacer sus predicciones, ni tampoco a un histórico de las mismas para su entrenamiento, las limitaciones de cualquier intento de predicción (con o sin IA) son evidentes.

27

En cierto modo, creo, aquí el problema de fondo es que no disponemos abiertamente de todos los datos necesarios para su predicción, pues estamos ante un juego de información incompleta y asimétrica, como refleja Adam Barone Four Scandalous Insider Trading Incidents 2022 y Oren Etzioni Commentary: How homeowners defeated Zillow’s AI, which led to Zillow Offers’ demise 2022, que es además sensible a la entrada de variables exógenas (i.e., externas al mercado en sí), como constatan Ochoa Efectos de un atentado terrorista en el mercado de renta fija y variable 2019, Holly Ellyatt How CEO Health Can Affect Your Wealth 2012, brexit...

Más aún, las relaciones causales entre todas estas dimensiones no están claras (y no disponemos de una AGI para que las deduzca), por lo que es dificil ponderar la relevancia de las distintas variables que podrían estar modelando un determinado mercado, stock, etc. O por usar una analogía matemática, no está claro cuánto y dónde tenemos que expandir nuestra aproximación por serie de Taylor para obtener unos resultados con un error aceptable (o en otras palabras, hasta que derivada tenemos que bajar).

Por supuesto, podemos soñar con una superinteligencia que pudiera establecer por sí misma dichas variables y encontrar proxys medibles de las mismas (e.g., deducir las figuras clave de una empresa y su salud y la de sus personas queridas a partir de las comunicaciones públicas de estas y otras personas indirectamente relacionadas con estas, etc.), pero dudo que ese sueño fuera más que pura especulación (si bien la teoría de la preferencia revelada de Samuelson, 1938, no se aleja mucho de dicha línea de razonamiento).

Por supuesto, todo ello no significa que no puedan existir robo-advisors (como EFTmatic) y asistentes virtuales (lo mismo que hay asesores financieros de carne y hueso) basados en DANN que encuentren ciertos patrones o tendencias generales en las cotizaciones explotables dentro de una ventana temporal concreta de baja incertidumbre/riesgo (como Danielfin), y otro tanto si dichos patrones los codifica un humano en una IA clásica; no podemos olvidar que para batir a la bolsa no es necesario acertar siempre (gracias a la diversificación) ni ser muy precisos (gracias al largo plazo). Pero tampoco podemos perder de vista que extrapolar ciegamente ese pasado al futuro conlleva un riesgo, dada la naturaleza volátil del mercado, y de ahí que tales aplicaciones sigan siempre el modelo human-in-the-loop (HITL), en donde la IA simplemente asesora y el humano es quién toma la decisión final (en tanto que la IA actual no es capaz adaptarse a cambios OOD en la entrada de datos en tiempo real, requiriendo de una reactiva

28

I.e., tras el hecho/fallo: los errores en IA acostumbran a ser silenciosos.

reprogramación o reentrenamiento).

4 Pero recuerda: la adivinación no es inteligencia

Con independencia de la complejidad que se esconda tras una predicción, no podemos olvidar que la inferencia estadística (o cualquier otra forma de razonamiento, en verdad), que es en lo que consiste en esencia el aprendizaje automático, no puede reconstruir nunca una información que ya no está ahí. Por ejemplo, si bien DeOldify (2018) puede colorear imágenes B&W, nada nos garantiza la veracidad de dicha coloración, del mismo modo que cualquier coloración que podamos imaginar de manera instintiva tampoco tendría porque ser factual, sino que se basaría sólo en lo que esperaríamos en función de lo que hemos vivido, inventándonos los colores de aquellos elementos que nunca antes hayamos visto, y proyectándonos cuando cualquier color fuera posible. En particular, es esperable que obtuviésemos resultados mucho más homogéneos que la realidad, como puede constatarse si convertimos a B&W un fotograma de la TED Talk Neil Harbisson: I listen to color y a continuación le aplicamos DeOldify.

29

Aunque puede acusarse al atuendo de Harbisson de OOD, lo cierto es que la ropa puede presentarse en cualquier color, haciéndola inherentemente impredecible. Insisto, el quid de la cuestión es que colores diferentes se mapean a un mismo valor de la escala de grises, de modo que no es posible recuperarlos, tomando en su lugar el habitual para dicha situación, una ponderación o lo que fuere, según lo que el algoritmo de entrenamiento trate de optimizar.

Mismamente, imaginemos que queremos construir una IA que identifica la personalidad de un sujeto en base a su historial de compras, en la línea de la teoría de la preferencia revelada de Samuelson. Para empezar, «personalidad» es un concepto muy complejo y esquivo para el que existen muchos constructos (psicométricos o no, y de variable robustez estadística

30

La significación estadística y el coeficiente kappa de Cohen están muy bien, pero la estadística por sí misma nunca puede constituir una ontología.

y neurocientífica) provenientes de distintas escuelas de psicología (Myers-Briggs Type Indicator basado en Carl Jung's Type theory, Thematic apperception test, Type A and Type B personality theory, Big Five, eneagramas, etc.), por lo que no es una tarea bien definida.

31

En lo personal, no soy nada fan del reduccionismo de particionar la conducta humana en unas pocas parcelas, incluso si estas estuvieran describiendo realidades objetivas y no meras ficciones prácticas, lo que de todos modos el post-estructuralismo problematizaría, e.g., argumentando que KNN puede dar resultados significativos pero distintos para un mismo sujeto según el número de clusteres predefinido, ya no digamos la métrica de distancia escogida; i.e., que cualquier análisis parte de una preconcepción del qué y cómo debe ser analizado.

Y no soy nada fan, digo, no por esta crítica a priori, sino por el condicionamiento que puede ocasionar (y que en efecto se observa a posteriori, como pone de manifiesto el efecto «amenaza del estereotipo», la indefensión aprendida, etc.), tanto del sujeto etiquetado como de quienes interactúan con él; i.e., y como en el caso de la bolsa, porque dichos constructos podrían interferir en el propio objeto que tratan de analizar, alterando su (auto)percepción: como notan en BrainCraft Why You Shouldn’t Trust Amazon’s Tone Analysis, un tal uso de IA es éticamente irresponsable

Por supuesto, yo no niego que estos constructos puedan ayudar a mejorar la inteligencia intra e inter personal (en tanto que excusa para la introspección, lo cual, si deficiente, también podría rebotar, obteniendo el resultado contrario) y dar una mínima orientación sobre cómo los humanos se navegan por el mundo, pero aun así me prevendría de tomarlos demasiado en serio, en especial en vistas al efecto Forer y el sesgo de confirmación.

Para seguir, incluso aunque nos fijáramos como estándar alguno de esos modelos (e.g., Big Five), el historial de compra es un proxy de personalidad bastante pobre. Por ejemplo, cualquier característica de la personalidad que no la haya comodificado el mercado, o que no esté disponible en las tiendas a las que el sujeto tenga acceso a un precio que le sea asequible, no podrá ser representada por el sistema en forma de input (y, por ende, mucho menos de output).

32

En la misma línea, otro problema interesante es la significación de una no-compra.

Más aún, la naturaleza contradictoria de ciertos productos (como una camiseta producida en masa con un mensaje anti-capitalista) daría lugar a lecturas ambiguas, y lo mismo con el fenómeno de la nueva sinceridad (bajo el cual se haría una compra por su valor irónico), o con el hecho de que ciertos objetos tengan distintas lecturas en distintas (sub)culturas (como ocurre con Pepe the Frog, resignificado en contextos tan distintos como la alt-right y las protestas de Hong Kong). Y todo ello sin entrar en que el historial de compras del sujeto puede estar formado (total o parcialmente) por regalos para otros, del mismo modo que las pertenencias que mejor le definan pueden haber sido regalos de terceros.

Por supuesto, que un proxy sea frágil no significa que no sirva para extraer alguna información relevante (como ejemplifican los fMRI,

33

En Conversaciones con K: Filosofía de la mente citaba algunos papers al respecto.

que en cualquier caso no son comparativamente tan frágiles). Por ejemplo, una compra periódica de libros de IA o de productos de deporte indicaría con aceptable probabilidad un interés por tales temas, siendo argumentablemente los intereses parte y reflejo de la personalidad. Pero, por todo lo anterior, la mayoría de las correlaciones estadísticas que pudiera encontrar una IA entre las compras y la personalidad de un individuo serían espurias y, cuando casualmente relevantes (demarcación que no podríamos hacer sino estudiando a la persona por otros medios), contingentes a un tiempo, cultura, etc. I.e., necesitaríamos, incluso para una pobre (sino nula) identificación de personalidad, o bien HITL con IA débil, o bien una generalización amplia que supiera reconocer y clusterizar estas contingencias, que se adaptara en el tiempo a los cambios en los productos disponibles en el mercado y sus significaciones, y que fuera capaz de discernir su relevancia (i.e., responder a «¿hay aquí una relación causal?»).

«On two occasions I have been asked, "Pray, Mr. Babbage, if you put into the machine wrong figures, will the right answers come out?" ... I am not able rightly to apprehend the kind of confusion of ideas that could provoke such a question.»

Charles Babbage Passages from the Life of a Philosopher 1864