Cuando los algoritmos puedan pensar
Recientemente, un ingeniero de Google, Blake Lemoine, fue apartado de sus funciones por publicar sus conversaciones con un sistema llamado LaMDA ("Language Model for Dialogue Applications"), un modelo algorítmico de generación de lenguaje artificial, y manifestar que este había cobrado vida (las conversas se pueden ver aquí). Lemoine aseguraba que el algoritmo era capaz de sentir emociones. En las conversaciones, LaMDA hablaba de forma argumentada sobre la vida y la muerte, sobre el miedo, la justicia, la compasión, el sacrificio, o la existencia de Dios. Conceptos abstractos, filosóficos y religiosos que parecen pertenecer solo a la esfera humana.
¿Puede una máquina sentir? ¿Puede darse cuenta de que existe? ¿Puede ser consciente? En este punto, he podido asistir en los últimos meses ean enconados debates entre los partidarios del no (aquellos que piensan que LaMDA no había desarrollado una conciencia real y que, de hecho, nunca un algoritmo o una máquina podría llegar a sentir emociones como un humano), y aquellos que piensan que quizás, algún día (no muy lejano) una máquina puede desarrollar algo pareciendo a una conciencia, y sentir emociones próximas a las humanas. Yo me cuento entre estos últimos.
"Desde la perspectiva científica nunca podemos afirmar que algo técnicamente imposible hoy lo sea también mañana. En innovación, nada es imposible. Nunca digas nunca"
¿Por qué pienso que esto es posible? En primer lugar, porque desde la perspectiva científica nunca podemos afirmar que algo técnicamente imposible hoy lo sea también mañana. La historia de la innovación está repleta de cosas imposibles que han sido posibles poco tiempo después. Escepticismo y oposición han sido constantes en la historia. Si en 1990 (cuando yo estudiaba la carrera de telecomunicaciones en la UPC) me hubieran dicho "antes de 10 años tendrás toda la información del mundo en tu casa", yo hubiera dicho que era absolutamente imposible. Entonces (e, incluso, desde una posición privilegiada como era una escuela superior de ingeniería) yo no me hubiera podido imaginar de ninguna forma la emergencia de internet, la llegada de Google o el nivel brutal de penetración hasta la esfera cotidiana de las tecnologías móviles. Ken Olson, presidente de Digital Equipment, dijo, pocos años antes, que "nunca, nadie, por ningún motivo, querría tener un ordenador personal en su casa". De hecho, Thomas Watson pensaba en 1947 que "el mercado de los ordenadores sería de unas cinco unidades por año en todo el mundo". Está claro que, entonces, un ordenador pesaba 5 toneladas. Habitualmente, las trayectorias y velocidad del cambio tecnológico desafían el sentido común y toda capacidad de prospectiva. Los bancos americanos de 1920 desaconsejaban invertir en una startup como Ford Motors diciendo que "siempre habrán caballos". Un físico como Lee Forest, inventor de las válvulas de vacío, manifestaba que "independientemente de todos los adelantos científicos, es imposible que nunca ningún humano llegue a la luna". Hoy, muchas voces escépticas manifiestan que "es imposible que nunca, bajo ningún concepto, una máquina piense o sienta emociones como un humano". En innovación, nada es imposible. Nunca digas nunca.
En segundo lugar, cabe tener en cuenta el momento actual de desbordamiento tecnológico. Por primera vez en la historia disponemos de datos masivos para entrenar algoritmos (provenientes de dispositivos móviles, de la web, de redes sociales, de registros médicos, de vehículos, de industrias conectadas...). Datos que alimentan sistemas de supercomputación con potencias estratosféricas. Frontier, el supercomputador más rápido del mundo, ubicado en el Oak Ridge National Laboratory, del Departamento de Energía de EEUU, ha superado la "exaescala", la capacidad de calcular 10↑18 operaciones por segundo (un millón de millones de millones). Por otro lado, la ley de Moore sigue operando (cada dos años aproximadamente se dobla la capacidad de integración de dispositivos en un chip electrónico). Nuevas generaciones tecnológicas están preparadas para mantener esta dinámica exponencial. Y países y corporaciones están derramando cantidades ingentes de recursos en la cursa de la computación, estimulados por la competición estratégica entre EEUU y China.
"Estamos aprendiendo, gracias a estos sistemas, cómo se genera el pensamiento. Quizás no es mediante la razón, sino mediante la probabilidad estadística"
En tercer lugar, cada vez disponemos de más investigación matemática para diseñar redes neuronales más eficientes (dispositivos digitales que intentan imitar el funcionamiento del cerebro humano). Redes que se pueden escalar a niveles considerados imposibles hace muy pocos años. Los científicos (incluso, especialistas en neurociencias) e ingenieros computacionales se están sorprendiendo de las capacidades conversacionales mostradas por los nuevos sistemas de inteligencia artificial como GPT-3, una inmensa red neuronal formada por 175.000 millones de nodos (algo ya dimensionalmente pareciendo al cerebro humano). No estamos hablando de máquinas programadas por un humano, con un árbol de decisiones pensado sobre papel por una persona e "implantado" después en la máquina mediante un lenguaje de programación. No debemos imaginar el arquetípico "autómata" de latón de las películas de ciencia ficción. Cuando hablamos de modelos conversacionales estamos hablando de sistemas integrados por centenares de miles de millones de ecuaciones no lineales que procesan la información intentando replicar el funcionamiento del cerebro humano. ¿Podemos afirmar que no lo conseguirán? De hecho, estamos aprendiendo, gracias a estos sistemas, cómo se genera el pensamiento. Quizás no es mediante la razón, sino mediante la probabilidad estadística. Podría ser que construimos pensamientos complejos a partir de inputs sencillos (letras y palabras) encadenadas probabilísticamente. Por ejemplo, cuando pensamos en "infancia" la palabra estadísticamente más próxima podría ser "abuela", seguida de "casa" y "campo". Los recuerdos no serían más que encadenamientos estadísticos. La razón sería una secuencia estadística construida sobre lenguaje. Una especie de melodía matemática. Imaginamos como se puede generar esta melodía (como se puede sintetizar razonamiento) en supercomputadores en la exaescala.
"¿Qué son las emociones sino algoritmos bioquímicos grabados en nuestros genes y entrenados por millones de años de evolución natural? ¿Sentimos ternura por nuestros hijos porque somos una especie superior, de seres trascendentees? O porque es la solución matemática óptima que ha encontrado la evolución"
Por último, qué son las emociones sino algoritmos bioquímicos grabados a nuestros genes y entrenados por millones de años de evolución natural? Sentimos ternura por nuestros hijos porque somos una especie superior, de seres trascendentes? O porque es la solución matemática óptima que ha encontrado la evolución: sintiendo ternura maximizamos las probabilidades de protección y de proyección de los descendentes hacia el futuro. Las emociones son respuestas evolutivas, conocimiento experto almacenado en un software biológico que es nuestro ADN. Y, ¿qué es el cerebro sino una máquina biológica? Si solo es una máquina, muy probablemente algún día la tecnología será capaz de desarrollar una máquina similar, o superior. Si, por el contrario, hay algo más en la esencia del ser humano (algo superior y trascendente, como una alma), entonces nunca los algoritmos nos superarán.
"Solo desde la espiritualidad podemos afirmar que nunca las máquinas pensarán o sentirán como los humanos. Pero no lo podemos afirmar desde la ciencia o la tecnología"
Un tema apasionante que está en los inicios. Creo que veremos cosas sorprenentes en los próximo años, en la convergencia entre la computación, la inteligencia artificial y las neurociències. Y que solo desde la espiritualidad (posición absolutamente legítima) podemos afirmar que nunca las máquinas pensarán o sentirán como los humanos. Pero no lo podemos afirmar desde la ciencia o la tecnología. El tiempo y la ley de Moore nos desvelarán el secreto.
https://www.viaempresa.cat/es/opinion/ferras-cuando-algoritmos-puedan-pensar_2172592_102.html