La búsqueda de máquinas conscientes: de MuZero a LIDA
En noviembre del año pasado, el equipo de DeepMind presentó su nueva arquitectura de inteligencia artificial: MuZero. Hasta ahora, el buque insignia de las arquitecturas de deep learning era AlphaZero,
capaz de defenestrar, sin el más mínimo problema, tanto a los mejores
jugadores del mundo al ajedrez, al Go o al soghi, como a los mejores
programas de juego existentes como Stockfish o Elmo.
Sin embargo, AlphaZero padece una limitación muy importante a la hora de percibir su entorno: toma decisiones a partir de una información completa de su universo.
Cuando jugamos al ajedrez, disponemos en todo momento de un
conocimiento completo de dónde están situadas las piezas del tablero, y
en virtud de esa información elegimos nuestra estrategia de juego. Pero,
en la vida real, esto no sucede así: nunca tenemos toda la información
sobre lo que va a pasar y nuestro entorno no está tan formalizado ni tan
reglamentado como una partida de ajedrez.
En lógica matemática solemos decir que nuestro entorno está lleno de conjuntos borrosos,
es decir, que los límites de las cosas no son tan precisos como a un
programa de ordenador clásico le gustaría que fueran. Nuestro mundo es
caótico, desordenado, lleno de sucesos fortuitos, impredecibles… ¿cómo
una máquina puede enfrentarse a algo así?
Esta es la gran novedad de MuZero. Su arquitectura
está formada por la clásica red de aprendizaje profundo, pero lleva
incorporadas otras tres redes. Una sería la de "control", encargada de
valorar la situación y de elegir en función de las recompensas
obtenidas, pero las otras dos son capaces de "imaginar" simulaciones del
mundo en el que MuZero actúa. Al igual que parece que lo hacemos los
seres humanos, el programa tiene "ideas" de cómo es probable que
funcione la realidad, pero ideas esquemáticas, imperfectas, y
completamente desacertadas en muchos casos. Y, atención, lo más brutal
es que cuando se ha puesto a MuZero en acción, ha mejorado el estado del
arte en la mayoría de los juegos a los que se ha enfrentado. La relevancia científica de este hecho es muy grande porque estamos ante una posible explicación del porqué de la mente.
Introduciendo la mente en la ecuación
Durante los últimos tiempos, el marco conceptual que ha dominado todo
el estudio científico de la psicología humana ha sido eminentemente
materialista. Nuestra mente es aquello que hace el cerebro, y el cerebro
es un órgano biológico tan explicable en términos físicos como puede
serlo el riñón o los pulmones. Sin embargo, el problema ha estado en que
lo que tradicionalmente entendemos como mente tiene una serie de
propiedades que son muy difíciles, si no imposibles, de explicar en
términos estrictamente materialistas.
Mis pensamientos o sentimientos no se ven, no puedo observarlos por
un microscopio, no son cuantificables, al menos de manera directa… Con
un electroencefalograma o una resonancia magnética puedo observar qué
zona de mi cerebro se activa cuando pienso tal o cual cosa, pero ese
pensamiento se parece en muy poco a actividad electroquímica en una zona
de mi neocórtex. Es por ello por lo que muchos filósofos y científicos
han defendido teorías que, de uno u otro modo, eliminaban la mente. El filósofo norteamericano Paul Feyerabend fue el primero en postular el materialismo eliminativo, al que se adhirieron neurocientíficos como Paul y Patricia Churchland. Así mismo, desde posturas filosóficas actuales como el conductismo o el pragmatismo, autores tan populares como Wittgenstein, Gilbert Ryle, Daniel Dennett o Richard Rorty, han negado, con diversos grados y matices, distintos aspectos de la mente.
MuZero
representa, cómo mínimo, evidencia a favor de la existencia de
contenidos mentales con una función muy clara, y eficaz, a la hora de
realizar tareas
Y es que el argumento es claro: ¿para qué hace falta tener una mente
si podemos crear un computador que puede hacer lo mismo y mucho mejor
sin ella? AlphaZero no tiene un "lugar" en donde se pone a deliberar qué
jugada hacer. No siente ningún deseo de ganar ni ningún miedo a perder,
no tiene ningún mundo interno subjetivo, no tiene ningún yo
que no desea que lo desconecten como tantas veces nos ha mostrado la
literatura y el cine de ciencia ficción. Pero, sin embargo, es
endiabladamente bueno haciendo lo que hace, muchísimo mejor que un
humano. Entonces, ¿por qué la evolución biológica va a invertir recursos
en generar una mente si sin ella se pueden hacer las cosas mucho mejor?
¿No será la mente tan solo una ilusión? ¿O no será un subproducto de la
evolución, un epifenómeno sin función alguna, como lo es el mero ruido del motor de un coche?
El caso es que MuZero representa, cómo mínimo, evidencia a favor de la existencia de contenidos mentales
con una función muy clara, y eficaz, a la hora de realizar tareas.
Ahora, cualquiera que niegue la existencia de la mente apelando a su
supuesta carencia de funcionalidad, debería explicar el éxito de MuZero.
Pero, si queremos tener una buena explicación de la mente nos queda
un último escollo. Hay una faceta de la psique que se nos ha resistido
muchísimo: la consciencia. Ya de por sí nos
cuesta definirla: ¿qué diablos es la consciencia? Sabemos bien
diferenciarla de su estado opuesto: sabemos muy bien que cuando dormimos
la consciencia se apaga y que cuando despertamos se enciende de nuevo.
¿Pero qué es lo que se enciende? Un mundo. Abro los ojos y siento los
molestos rayos de luz que entran en mi dormitorio por las rendijas de la
persiana. Siento la suavidad de la almohada, la textura de la manta.
Huelo el delicioso olor café que está preparando mi mujer… Y no solo el
mundo exterior, sino también un mundo dentro de mí: recuerdo,
"en mi cabeza", que tengo que entregar un informe a mi jefe y, al
hacerlo, "veo" su cara severa regañándome si no lo hago a tiempo. Soy
consciente de mis pensamientos, emociones, sensaciones, deseos, miedos…
El camino hacia la consciencia en máquinas
Las máquinas no han conseguido acercarse ni un ápice a la experiencia
consciente: ni AlphaZero, ni siquiera MuZero, tienen unas migajas de
consciencia. Son tan inconscientes como mi tostadora. Vale pero ¿no hay
forma de implementar consciencia en máquinas? Sí: vayamos a ver qué nos
dice la psicología o las neurociencias de la consciencia y, a partir de
ahí, pongámonos a la obra.
Eso es lo que hizo el científico cognitivo de la Universidad de Memphis, Stan Franklin. La teoría más famosa en la actualidad sobre el funcionamiento de la consciencia es la Teoría del Espacio de Trabajo Global (Global Workspace Theory) del psicólogo holandés Bernard Baars. En ella se nos dice que nuestra mente funciona como una especie de obra de teatro. El escenario representaría nuestra memoria de trabajo, es decir, la memoria que utilizamos para realizar cualquier labor.
Por ejemplo, si yo soy un carpintero fabricando un armario, en mi
memoria de trabajo estarán las funciones de las herramientas que estoy
usando, los tipos de madera que tengo a mano, el "plano mental" del
armario que quiero construir, etc., sin embargo en mi memoria de trabajo
será difícil que esté el recuerdo de mis últimas vacaciones en Ibiza, y
si aparece será como una interferencia que, seguramente, me distraerá
de mis objetivos. Dicho de otro modo: la memoria de trabajo es toda la
información y habilidades de las que dispongo para hacer una tarea (en
términos informáticos podríamos decir que es nuestra memoria RAM).
El científico Stan Franklin llevó la teoría de la consciencia de Baars al funcionamiento de un computador
El foco de luz que se mueve a lo largo del escenario para iluminar a
los actores representaría el foco de atención de la consciencia, es
decir, de lo que yo soy consciente ahora mismo. Entre bambalinas,
multitud de procesos inconscientes atienden a situaciones contextuales
de la realidad y, en virtud de ellos, "sacan actores a escena", es
decir, hacen emerger a la consciencia elementos que permanecen
inconscientes en función de las necesidades del individuo.
Por ejemplo, necesito reunirme con un amigo y, de repente, aflora en
mi consciencia el recuerdo de que está de vacaciones, por lo que no
podré verlo hasta dentro de unas semanas. Ese "recuerdo" sería un
elemento inconsciente que ha sido "sacado a la luz" de la consciencia en
virtud de mis necesidades. El "foco luminoso" sería el instrumento que
el "director de orquesta" utilizaría para tomar decisiones. La idea
clave, y que constituye una aportación muy original, es que el contenido
"iluminado" en el escenario se hace globalmente disponible o
accesible para otros tantos procesos que quedarían representados en la
metáfora como "el público de la obra". Lo característico de los estados
conscientes es que están disponibles para su uso para muchos otros
procesos, mientras que los estados inconscientes serían más específicos
y, por tanto, menos utilizables globalmente.
La
teoría más famosa en la actualidad sobre el funcionamiento de la
consciencia es la Teoría del Espacio de Trabajo Global del psicólogo
holandés Bernard Baars. En ella se nos dice que nuestra mente funciona
como una especie de obra de teatro
Franklin y su equipo se pusieron entonces manos a la obra: había que implementar la teoría de Baars en un computador
¿Quién financiaría la empresa? El Tío Sam. En Estados Unidos, una buena
parte de investigación en IA la lleva a cabo el ejército. La Office of Naval Research
contrató a Franklin para resolver un problema que, en principio, no
tenía nada que ver con la consciencia. Cuando un marinero terminaba de
realizar cualquier servicio, había que darle alojamiento y asignarle
nuevas tareas. Esta tarea logística era compleja y para ella se dedicaba
el trabajo de hasta unas trescientas personas denominadas detailers.
La marina quería automatizar tan costosa tarea y encargó a Franklin el
trabajo, y Franklin lo aprovechó para llevar a cabo sus ideas:
automatizaremos la tarea sí, pero lo haremos mediante un sistema que
implemente la teoría de la consciencia de Baars.
Y así nació IDA (Intelligent Distribution Agent),
un cuarto de millón de líneas de código en Java que han constituido el
intento más poderoso de crear una máquina que pueda, al menos, emular el
comportamiento consciente de un ser humano. IDA debía optimizar los
costes de cada mudanza a la vez que atendía a las necesidades y deseos
de los marineros, siempre ajustándose a la normativa y políticas de la
marina que, usualmente, cambiaban según circunstancias. Para hacer todo
esto, IDA se comunicaba con los marineros por email, por lo que debía
usar y comprender el lenguaje natural con un cierto nivel de
competencia.
-
https://www.xataka.com/robotica-e-ia/busqueda-maquinas-conscientes-muzero-a-lida?fbclid=IwAR1hRaJBimaaeB9PtHLS5v0WZQh5sqO3ztUblYwlSveUjzuXWRs-EnoY6Z0
No hay comentarios:
Publicar un comentario