Las dudas de Oppenheimer

Viernes, 01/Sep/2023 Félix Ovejero Lucas El Mundo

El estreno de Oppenheimer ha coincidido con el manifiesto firmado por importantes científicos invitando a embridar el desarrollo de la Inteligencia Artificial (IA) ante sus potenciales peligros. Son asuntos serios que merecen alguna reflexión. Como siempre, la mejor manera de abordarla es comenzar con algunas distinciones elementales. Por una parte, está el dominio de la ciencia, que responde a la pregunta: ¿X es verdadero? Por otra, el de la felicidad, el bienestar o la moral, de contornos más imprecisos, que arracima preguntas como: ¿X nos parece bien? ¿X resulta deseable? En el primer lote se incluyen enunciados de largo alcance, como las leyes de la termodinámica, y otros de vuelo rasante, como «la Tierra tiene un satélite». En el segundo, otros más controvertidos como «los recursos deben distribuirse según las necesidades» o «la tortura es condenable».

Se puede dar otro paso no menos firme. Los enunciados científicos no son evaluables moralmente. No cabe condenar por injustas las leyes de Newton ni descalificar la explicación genética de una enfermedad. Y los otros, sujetos a discrepancias, no son resolubles con más ciencia. Podemos coincidir en que el abuso infantil está mal, pero no decir que es falso. Apelar a la superstición «lo condena Dios» es solo resolver una complicación acudiendo a un embrollo. Los debates morales carecen de los criterios de resolución propias de los científicos.

Sean Mackaoui

Según algunos, las consideraciones anteriores confirmarían que no hay razón fuera de la ciencia. Y, por lo tanto, no deberíamos entrometernos en sus negociados. Cualquier invitación a frenar el progreso científico por consideraciones morales sería volver al oscurantismo de Belarmino, aquel inquisidor que complicó la vida a Bruno y Galileo. La conclusión me parece precipitada. Pero, antes de argumentarlo, sigamos por terreno firme.

Lo primero: reconocer que la bomba y la IA no son ciencia sino tecnología, ciencia aplicada. Y esta no puede prescindir de la moral. Tecnología son las vacunas, las armas, los puentes y disciplinas enteras, como la medicina o la ingeniera: hacen uso de teorías científicas (físicas, bioquímicas, etc.) para resolver problemas prácticos. Para ver las diferencias ayuda contemplar la ciencia desde otra perspectiva. Así, las teorías también se pueden presentar como enunciados del tipo: «Siempre que sucede C, dadas ciertas condiciones, se produce E». Los economistas dirán que «cuando sube la tasa de interés, si todo lo demás permanece constante, baja la inflación», y los físicos que «si aumentamos la presión, con un volumen constante, aumenta la temperatura». En esas afirmaciones no hay sombra de apreciaciones morales o políticas. No hay esclavismo en el teorema de Pitágoras ni fascismo en la genética.

La tecnología presenta otro guion. Dispone del conocimiento, científico o común, al servicio de requerimientos humanos. Por razones morales o políticas nos parece bien un objetivo y utilizamos el conocimiento para obtenerlo. En este caso, el esquema anterior (siempre que C se produce E) deja paso a otro: deseamos el resultado E, por tanto, debemos crear o construir las condiciones C. El objetivo E depende de valoraciones, de que E nos parece bien: controlar la temperatura; dotar de ingresos a la población; la salud.

En principio, el reparto de responsabilidades es nítido: el político señala lo deseable y el científico se limita a ofrecer la tecnología. No decide los objetivos. Lo deja claro Truman: Oppenheimer no se mancha las manos, sino él. Para «salvar a los muchachos», opta por lanzar la bomba y matar a cientos de miles de japoneses. El científico solo descubre la fusión nuclear o calcula el número de muertos. Lo dicho: «Si se hace C, se produce E». Nada de objetivos colaterales, civiles por lo derecho. Hoy sabemos que Truman mentía, que mataba japoneses para avisar a los rusos. Y todos lo sabían. Lo documenta Peter Watson en su Historia secreta de la bomba atómica. Japón se había atascado al redactar su rendición, en «encontrar una fórmula verbal que les permitiera conservar al emperador». Los americanos rentabilizaron las dudas.

Desgraciadamente, en el presente todo es menos claro. Con 13.000 cabezas nucleares en circulación, sabemos que Truman era un energúmeno miope y que el físico acertó en su previsión. Había una poderosa razón para atender a sus reservas: conocía las consecuencias de su creación. También sabemos que la carrera armamentística es una competencia insensata: una vez desatada nadie se puede apear, aun si para todos sería mejor buscar acuerdos para detenerla. Algo que alcanzará precisión con la teoría de juegos, creación, por cierto, de otro científico también presente en Los Álamos, quizá el más listo de todos, defensor de la bomba H y víctima de la radiación a la que allí se expuso: Von Neumann.

¿Qué ha cambiado? Pues que nuestra ciencia, y la tecnología basada en ella, no son las del siglo XIX. El primer cambio es el paso de la small science a la big science, de la ciencia de lápiz y papel a otra que, hasta en los experimentos más elementales, compromete recursos cada vez mayores: el acelerador de partículas de Los Álamos, el Ciclotrón, es un juguete infantil comparado con los actuales, por ejemplo, el del CERN. Dicho de otro modo: la investigación en la ciencia más básica supone asignar recursos públicos, esto es, establecer prioridades morales y políticas. Siempre ha sido así, pero ahora a gran escala. Más resumido: hasta la comprobación de una teoría es una decisión moral. En realidad, nada nuevo. Por inmorales descartamos los experimentos nazis con humanos o, ahora, con animales.

El segundo cambio afecta a la relación entre ciencia y tecnología: se ha contraído el tiempo entre la aparición de una teoría y sus aplicaciones prácticas. Durante la mayor parte de la historia la técnica no tenía base científica. Catedrales y puentes se levantaban con conocimientos comunes, artesanales. La medicina no tenía otro sostén que la prueba y el error. Un medicamento funcionaba, aunque no se conocían los mecanismos bioquímicos que operaban. Y, cuando se disponía de teorías, sus potenciales aplicaciones tardaban décadas en explorarse. Esos cambios tienen dos implicaciones. El primero, la prioridad de las necesidades: se busca la teoría que pueda ayudar a los objetivos prácticos. Los proyectos de investigación están guiados por requerimientos políticos y morales. Eso, obviamente, presenta límites: el descubrimiento teórico, por descubrimiento, no se conoce antes de disponer de él. Pero eso no quita para que, en la pelea por los recursos, se venda humo. Recuérdenlo cuando lean noticias del tipo «estos resultados permiten pensar en la curación de..».. No se engañen, eso es mercancía trucada para unos políticos que no pueden tasar el producto. Ni ellos ni los ciudadanos comunes; solo los propios científicos, que van a lo suyo. El placer del pensamiento abstracto queda reservado, si acaso, a unos cuantos matemáticos.

La segunda implicación atañe al poder de la nueva tecnociencia. No es lo mismo la hibridación que la ingeniería genética. La primera, la practicada con caballos, perros o plantas, se manejaba con lo que podía, con lo que tenía a mano; la segunda, con lo que quiere: elige genes a la carta. En corto: la nueva técnica tiene un enorme potencial. Para bien, sin duda. La ingeniería genética puede ayudar a combatir hambrunas y acabar con enfermedades. Pero también para mal. Y ese mal es absoluto: el exterminio. Un virus con el genoma modificado puede acabar con la especie en semanas. Una teoría elemental de la decisión racional, que pondera la probabilidad por el riesgo, dada la magnitud de lo que está en juego, obligaría a frenar en seco. Esa teoría, de Bernoulli, resulta demasiado tosca: nadie saldría a la calle porque le puede caer una maceta. Pero, en versiones más sofisticadas, también invita a pensárselo antes de «avanzar a ciegas», sin explorar las consecuencias.

Consideraciones como las anteriores llevaron a genetistas de primera en los 70 del pasado siglo a reclamar una moratoria en investigación. En ciencia básica, no en ingeniería genética. Lo mismo que sucede ahora con los investigadores en IA.

Unas consideraciones morales impecablemente racionales. Porque la ciencia es una parte de la razón, no toda la razón. Es más, preguntas básicas del ejercicio de la investigación, desde «¿está justificado investigar?» hasta «¿esta teoría es verdadera?», en rigor, no son ciencia, sino sobre la ciencia. No nos dicen nada sobre la realidad, sino sobre las teorías.

Así que no, los Oppenheimer del mundo no son Belarminos. O mejor: todos somos Belarminos. Y está bien que así sea.

A R., que aquel día compartió mis temores.

Félix Ovejero es profesor de Filosofía Política y Ciencias Sociales en la Universidad de Barcelona.

En el artículo se razona la asimetría entre las bondades potenciales (muchas, enormes) y las maldades (riesgo de acabar con la ciencia), precisamente por la magnitud de la nueva ciencia, por su buena calidad epistémica...

A Oppenheimer jamás se le ocurrió pedir una moratoria sobre ciencia básica, solo sobre la industria armamentística, algo bastante diferente. Censurar ciencia básica basándose en las posibles complicaciones futuras no difiere en nada de censurar el pensamiento esgrimiendo el bien social, lo que ahora está tan en auge. Impedir la búsqueda de la verdad. Sí, si no hubiéramos permitido investigar a Fermi o a los Curie no hubiera habido Hiroshima.  

Preferiría que fueran las leyes las que limitaran los malos usos del conocimiento humano. Los malos usos, no el conocimiento en sí. 

-

No tengo claro que lo que se engloba bajo el término de "IA" (equívoco donde los haya) corresponda a una tecnología.

 A diferencia de la bomba atómica, no corresponde a ningún problema práctico, ni tampoco a una metodología unificada. Sí hay tecnologías de IA (basadas en ésta, si se quiere), que intentan resolver problemas prácticos (muy distintos entre sí: el reconocimiento facial y de imágenes, la exploración molecular para encontrar medicamentos, la simulación de lenguaje humano, los algoritmos de recomendación, la optimización dinámica de sistemas descentralizados en red) con avances, resultados y métodos procedentes de la nebulosa IA (que incluye o puede incluir grandes porciones de las matemáticas, la estadística o la informática/automática, según se piense). Pero la IA en sí se puede relacionar con una familia de preguntas científicas fundamentales: qué es la inteligencia, qué es un sistema inteligente, en qué entornos son posibles los sistemas inteligentes, qué propiedades y mecanismos necesitan para poderse considerar como tales.

En parte, por eso el llamamiento a "parar (o suspender) la IA" resulta tan confuso (o insincero). Una cosa es plantearse la mejor forma de emplear enormes recursos de energía y computación, si para entrenar unos sistemas automáticos diseñados para propósitos precisos, o para otras cosas; y otra cosa es sugerir que se detenga la investigación "hasta poder planificarla" porque "desaparecen los empleos" y "perdemos el control de la civilización". Lo primero tiene sentido, lo segundo son los otomanos restringiendo las imprentas en su territorio, con el éxito conocido.

 

Hay que tener en cuenta que la capacidad para dirigir la investigación está solo al alcance de quienes la lideran, llevan cuerpos de ventaja sobre los demás, y explotan esa ventaja... y tan solo hasta cierto punto. No creo que esa ventaja exista hoy con suficiente amplitud. Las carreras armamentísticas no son fenómenos tecnológicos, sino dinámicas de poder en contextos de cuasi equilibrio o de equilibrio inestable, real o percibido, que se manifiestan en términos tecnológicos. Y, a diferencia de la bomba atómica (pero no de la disuasión atómica), la IA (en su forma más de ciencia-ficción) puede concebirse como un instrumento no de aniquilación, sino de poder y de hegemonía.

 

Los gringos con una demostración en una isla desierta hubiesen conseguido el mismo efecto

 

https://articulosclaves.blogspot.com/2023/08/oppenheimer-la-pelicula-de-nolan.html

https://articulosclaves.blogspot.com/2023/08/por-que-oppenheimer-nunca-gano-un.html 

https://articulosclaves.blogspot.com/2023/08/prof-feynman.html

Oppenheimer, la película de Christopher Nolan, se ha convertido en uno de los grandes éxitos cinematográficos del momento, una buena opción para las tardes de verano. La película es larga y exhaustiva si vamos con la expectativa de conocer una historia más, sin mayores pretensiones que evadirnos de la rutina cotidiana. En cambio, nos parecerá que no sobra ni el más mínimo detalle, e incluso se nos hará corta, si nos interesa en detalle la vida de este físico, considerado el padre de la bomba atómica; el contexto y circunstancias históricas y las consecuencias y repercusiones de su trabajo. A través del proceso de descrédito mediante juicio sumarísimo, amañado y sin pruebas, al que se vio sometido Oppenheimer, y que desembocó en su exilio académico, por su libertad de expresión contra el poder establecido y sus simpatías con el partido comunista, se puede constatar una vez más cómo se comportan incluso los colegas más próximos ante este tipo de situaciones: reminiscencias del experimento de Milgram.

Otro fenómeno, nada nuevo, que podemos observar en esta película es el sempiterno silencio y olvido que recae sobre las mujeres. Toda la película gira en torno a Oppenheimer, Albert Einstein (¿deberíamos hablar más de Mileva Maric y menos de Einstein?) y otros físicos varones, con una marcada mirada androcéntrica. La figura de Lise Meitner, científica que descubrió la fisión nuclear que hizo posible la creación de la bomba atómica; la de Elda Emma Anderson, primera persona en obtener una muestra pública de uranio, y las de otras científicas no aparecen y ni siquiera se las menciona. Seguimos sin rescatar a importantes mujeres de la ciencia y la cultura que pueden servir como referentes a futuras generaciones.

En el otro extremo del mundo, en Japón, hay una gran oposición a que la película llegue a las pantallas de sus cines por considerarse irrespetuosa con las víctimas de las bombas atómicas de Hiroshima y Nagasaki. Una actitud más que comprensible teniendo en cuenta que las heridas siguen abiertas y que no han pasado aún ni dos generaciones. Todos los 6 de agosto vemos en los medios de comunicación el respetuoso y sentido homenaje que Japón rinde en Hiroshima a sus víctimas, que hasta hace muy poco han seguido muriendo por las devastadoras consecuencias del bombardeo. Para conocer el horror de la bomba atómica de primera mano nada mejor que leer el testimonio de Pedro Arrupe (1907-1991), bilbaíno de nacimiento, Yo viví la bomba atómica. Considerado el héroe español de Hiroshima, estaba diciendo misa en esa ciudad en el mismo momento en que cayó la bomba, y allí siguió socorriendo a las víctimas, al pie de la destrucción, con muy pocos medios pero auxiliado por sus conocimientos como doctor en Medicina. En Japón, el fenómeno social y el consiguiente revuelo que ha causado esta película, junto con la taquillera Barbie, se ha denominado Barbenheimer.

Qué duda cabe de que ambas bombas causaron una de las mayores tragedias humanas de la historia, arrasando todo a su paso y devastando la vida y los sueños de millones de personas y de familias. También es cierto que siempre hay que ver más allá de la información cotidiana y profundizar en los hechos con el fin de esclarecerlos y arrojar luz para que no vuelvan a repetirse. Lo que no es tan conocido es el hecho de que Japón siempre ha ocultado y marginado —les negaron los cuidados más básicos y fueron tratados como apestados— a las víctimas (hibakusha) de la radiación, que quedaron muertos en vida con heridas y enfermedades crónicas, físicas y mentales; situación considerada como “paz negativa” por el científico noruego Johan Galtung. A menudo se cancelan sibilinamente documentales sobre el tema o eventos u homenajes a estas víctimas. Recordaban un pasado que Japón se empeñaba en olvidar a toda costa, al menos a corto plazo, y eran incómodas para sus objetivos más inmediatos: resurgir de sus cenizas cual ave fénix y demostrar al mundo el milagro japonés que se llevó a cabo en los Juegos Olímpicos de Tokio en 1964.

Y como en cada empresa titánica y descomunal que emprende el ser humano, siempre hay que pagar un precio, siempre se deja algo por el camino. Y el milagro japonés no fue una excepción. Millares de familias crecieron con un padre ausente que trabajaba de sol a sol y que vivía en la empresa; millares de trabajadores fallecieron por el colapso cerebral que acarrea trabajar a destajo sin descanso alguno y por un mal entendido amor a la patria. Esta enfermedad tiene un nombre en japonés: karoshi, literalmente, muerte por exceso de trabajo, algo quizá tan antiguo como la vida sobre la tierra y que nunca ha dejado de producirse. De hecho, la mayoría de las muertes en el actual Japón se producen por dicha causa o por el suicidio (80 personas al día) al que aboca semejante callejón sin salida.

Robert Oppenheimer también pagó su precio. El precio de expresar libre y públicamente sus opiniones y dilemas morales sobre las armas nucleares. El precio de la envidia al convertirse en el científico más famoso y recibir honores y cargos importantes tras la Segunda Guerra Mundial.

Elena Gallego Andrada es profesora del Departamento de Estudios Hispánicos de la Universidad Sofía de Tokio y traductora.