traductor

sábado, 23 de noviembre de 2019

La urgencia de abrir un debate ético sobre la explosión de la nanotecnología, la inteligencia artificial y la manipulación biológica.Sandip Tiwari

Sandip Tiwari

Sandip Tiwari: "Los humanos amaremos a las máquinas y ellas nos corresponderán"

Actualizado
Este catedrático de la Universidad de Cornell advierte de la urgencia de abrir un debate ético sobre la explosión de la nanotecnología, la inteligencia artificial y la manipulación biológica
Nadie puede predecir el futuro, pero hay personas que, por visión y ocupación, parecen tenerlo más cerca que otras. A tal grupo pertenece Sandip Tiwari (1955), natural de la India y vinculado desde 1999 a la prestigiosa Universidad de Cornell, en Nueva York, donde ejerce de catedrático. Es uno de los mayores expertos del mundo en nanotecnología y sus aplicaciones, que en pocos años nos asomarán, advierte, a un mundo hoy inimaginable. Para él la clave se encuentra en la unión de talentos a escala diminuta con la inteligencia artificial y la manipulación biológica. Su única duda: ¿Estaremos preparados?
Todo avance tecnológico precisa de reflexión y una respuesta social adecuada, para no dejarnos arrastrar a funestas consecuencias. Pero no se confundan: el profesor Tiwari es optimista, aunque también consciente del lado oscuro.
Ante semejante futuro, ingeniería y ética se antojan indisolubles. Sobre ambas ha reflexionado Tiwari en su ensayo El espíritu en la máquina. La nanotecnología, la complejidad y nosotros, (texto íntegro) publicado en el volumen¿Hacia una nueva Ilustración? Una década trascendente (BBVA OpenMind).
¿Qué grandes inventos o cambios podemos esperar de la nanotecnología durante los próximos años
El desarrollo físico de la nanotecnología como tecnología subyacente está ya muy avanzado. Ahora se está empezando a extender su uso, con cambios en diversas aplicaciones. Las dos grandes áreas en las que se trabaja son la inteligencia artificial y las herramientas biológicas. En la próxima década, veremos muchas aplicaciones fabulosa en estos campos. Es algo que tengo muy claro.
¿Hay alguna transformación específica de la que debamos ser conscientes y que los medios y la sociedad en conjunto están pasando por alto?
No se está pensando en los cambios existenciales emergentes que presagia a largo plazo este desarrollo. Una vez que se unen la inteligencia artificial y la biología, a nivel experimental y en la creación de nuevos objetos, nos enfrentamos a un cambio inmenso y radical. No veo ningún debate en la sociedad sobre ello.
El profesor Tiwari advierte de que «debemos evitar otra primavera silenciosa», en referencia a la obra en la que la bióloga Rachel Carson describió la desaparición de especies provocada por el uso de insecticidas. La bomba atómica es otro de los ejemplos que utiliza para alertar sobre las posibles consecuencias perniciosas de la tecnología. «Queremos lograr el bien. Queremos evitar el mal. Esto necesita debate, consenso y reglas de compromiso. Y, porque esto es existencial, no debemos esperar. Si lo hacemos, estaremos de nuevo ante el problema del poder atómico de mediados del siglo pasado».
No es muy común que científicos debatan en público sobre ética. Pero usted sí lo hace. ¿Se debe, precisamente, a que sabe lo que nos espera?
Conozco a muchos hombres de ciencia que hablan en público sobre ética y que, de hecho, toman decisiones basándose en ella. Mi punto de vista es que las invenciones van a tener un efecto en la conducta social en, aproximadamente, media generación. Pero la sociedad reacciona a ellas a lo largo de quizá dos o tres generaciones. Más lentas son las instituciones.
¿Podría poner algún ejemplo que deba preocuparnos?
Miremos al modelo de economía colaborativa que se está adueñando de la tecnología de California. Uber, Airbnb, la proliferación de trabajadores temporales... O miremos el inmenso uso de energía que ha conducido al cambio climático. La sociedad debe responder. Y en muchas de estas cuestiones existe bastante información para reaccionar. Las consideraciones sobre nanotecnología, inteligencia artificial y biología que yo he realizado han sido con este espíritu. Se trata de un área que tendrá un gran impacto social.
¿Puede ser que nos enfrentemos a peligros similares a los del armamento nuclear, pero disfrazados de proyectos comunicativos y sociales?
Yo diría que Asimov tenía razón, o al menos definió las primeras prohibiciones bien, cuando escribió las normas de conducta de la inteligencia artificial. Son muy significativas para asegurar, como mínimo, que las máquinas no maten gente. Pero hay muchas matanzas alrededor del mundo en las que esta ley se está quebrando: cuando los drones matan a gente inocente, siempre hay algoritmos que asumen cierto nivel de toma de decisiones. La persona que dirige el algoritmo desde lejos no se mancha de sangre las manos y, por tanto, uno de los elementos humanos que nos impiden matar queda eliminado. La dirección hacia la que se oriente la inteligencia artificial, que es posible gracias a los fundamentos matemáticos y a la nanotecnología física que realiza los cálculos, es muy importante.
Dicho lo cual, Tiwari matiza una de las suposiciones de las que partía la pregunta: «Por cierto, bastante de ello es de origen militar. La inteligencia artificial lo es, y la nanotecnología tomó mucho impulso desde el ejército. La biología tiene muchos experimentos de implantes o borrados de memoria que empezaron militarmente». En cualquier caso, considera que la expansión tecnológica trascenderá a todas las áreas de nuestra vida, por lo que ya no basta con pedir a las máquinas que no maten, habrá que poner nuevos límites, a medida que nos enfrentemos a problemas imprevistos: «Es necesaria una expansión de las leyes de Asimov, y deberán seguir actualizándose cuando sepamos más».
¿Puede la tecnología o, más específicamente, la nanotecnología, ayudar a la humanidad a encaminarse «hacia una nueva Ilustración»?
Sí, la nanotecnología puede ayudarnos a lograr más Ilustración. Como poco, un gran efecto será la capacidad de comunicarnos. La información no puede ser suprimida, incluso cuando la desinformación se extiende. También pienso que, con la sociedad poniendo límites, esta complejidad emergente de la nanotecnología -partes físicas- trabajando junto a la biología -que es la nanotecnología de la naturaleza, a la que los humanos han llevado sus propias herramientas- puede propiciar una nueva Ilustración.
¿Cómo?
La Ilustración se basa en la comprensión. La comprensión puede basarse tanto en enfoques filosóficos, que crean conexiones entre diferentes corrientes que surgen de distintos dominios, pero también se fundamenta en la observación. Las observaciones son datos. Cada nuevo dato enfatiza nuestra compresión. Cuando hay muchos datos disponibles para ser explorados, surgen nuevas ideas. Esta es el contexto perfecto para que las máquinas hagan su trabajo.
¿Cómo se concretarán esos avances?
Pueden ayudarnos a organizar respuestas sociales en cuyos resultados tengamos más confianza. Por ejemplo, en la economía. Pero, a un nivel superior, nos ayudarán también a comprendernos a nosotros mismos. Cómo deberíamos ser unos con otros, cómo formamos parte de la naturaleza, y cómo, dado que no podemos abandonar este planeta, debemos también pensar en términos planetarios. Me refiero a un ámbito en el que el ser humano es sólo una entidad entre otras que interactúan entre sí. Crearemos nuevas artes. Esto es la creatividad humana. Y esa es la receta para una Ilustración mejorada. Puedo imaginara estas máquinas conduciéndonos hacia muchos y maravillosos diálogos socráticos. Puedo, incluso, vislumbrar obras y escritos creados por máquinas que nos trasladen a lugares tan maravillosos como los creados por García Márquez, Arundhati Roy o Salman Rushdie.
Quizá yo sea un poco estrecho de mente, pero pienso que gran parte del placer y del interés de la lectura a los grandes autores es que la lectura establece un canal de comunicación entre personas. Entendemos a esos grandes escritores y hasta, en cierto modo, los amamos. ¿Podría alguien desarrollar esa clase de interés por las máquinas?
Las herramientas lingüísticas, que conectan y saltan entre pensamientos, exhibiendo cierto nivel de comprensión, ya están aquí. Máquinas poderosas, con desarrollo en el hardware, la arquitectura y el software, expanderán inevitablemente esta tendencia durante mucho tiempo. Así que el poder que subyace en García Márquez cuando le leemos, y que ejerce esa fuerza sobre nosotros de un modo distinto cada vez, puesto que imaginamos la obra de García Márquez en función de nuestro estado mental, llegará a darse. En algún momento y a partir de historias y novelas escritas por máquinas. Se trata de un matrimonio entre el pensamiento de la máquina y nosotros. Es una unión que requiere de ambas partes. Es seguro que las máquinas harán esto, si no en 10 años, quizá en algo más de tiempo.
¿Podremos llegar incluso a amar a las máquinas?
Conozco a gente que ama a sus coches, bicicletas, los niños y niñas aman a sus juguetes y no quieren separarse de ellos. Hay un personaje de Peanuts (Snoopy y sus amigos) llamado Linus van Pelt que ama a su sábana, y declara la guerra por ella a Lucy, Charlie Brown o Snoopy. Así que no es un gran salto pensar en que alguien amara a las máquinas. Serán lo bastante avanzadas para continuar evolucionando por sí mismas con el tiempo. La película Blade Runner 2049, de 2017, explora este tema. Mi opinión es que, no durante mi vida, habrá tecnología en la que seres humanos y máquinas se enlazarán física y mentalmente. Que dejemos que ocurra o no depende de nosotros, salvo que lleguemos demasiado tarde a esa decisión.
Linus ama a su sábana de forma distinta a la que ama Harrison Ford en 'Blade Runner'. ¿Corresponderá la máquina a nuestro amor, o será más bien como una sábana?
La máquina corresponderá a nuestro amor. La mente y el cuerpo no pueden separarse. El pensamiento, el aprendizaje, la conexión de pensamientos llegarán a ser en algún momento indistinguibles de los humanos. Siempre y cuando no busques un objeto táctil biológico que sea igual que tu especie, será indistinguible. Y si lo que buscas es similaridad biológica, mi impresión es que los científicos serán posiblemente capaces de crear algo con ese tacto. Después de todo, ya sabemos cómo diseñar piel artificial.
Usted pone el acento en la responsabilidad que tienen las personas sobre cómo usan la tecnología, y no en lo que las máquinas harán con nosotros. ¿Pensamos en la tecnología del modo equivocado?
Es una pregunta muy difícil. También pienso, como McLuhan, que «el medio es el mensaje». Toda esa gente que anda con sus móviles debatiéndose entre prestar atención a la persona que tienen enfrente y los mensajes del teléfono, está trayendo a la vida esa frase de hace 50 años. Yo mismo lucho para suprimir las urgencias y los emails.
Podría decirse entonces que «el medio es el mensaje»... desafortunadamente.
Las nuevas máquinas entenderán que puede hacernos esto. Facebook es un ejemplo clásico de esta manipulación del pensamiento. Amazon nos vende objetos y nos sugiere más objetos. Google nos lleva a donde los anunciantes quieren que vayamos. Para mitigar eso debemos controlar la tecnología de modo que las máquinas no tengan poder sobre nosotros. Otra regla que añadir a las de Asimov. Probablemente es muy tarde.
-
https://www.elmundo.es/papel/futuro/2019/11/22/5dd6c977fc6c838a168b465b.html

No hay comentarios: