Daniel Dennett: "Estamos rodeados de herramientas para pensar; eso es lo que distingue el cerebro humano"

Fisica e intelectualmente imponente, con su larga barba blanca y su bastón curvado (un trozo de madera que encontró durante sus paseos por Long Island con inscripciones en inglés y en islandés), Daniel Dennett tiene aires de profeta. Navegante, agricultor aficionado en su chacra de Maine (cuando necesitaba alejarse de problemas que se le resistían para volver a abordarlos desde otro punto de vista), este filósofo amigable y de risa fácil es una especie de rara avis tan atraído por la experimentación como por la reflexión. Ferviente seguidor de Darwin (sus oponentes lo tildan de "ultradarwinista"), fan de Borges y prolífico escritor para el gran público, sus estudios sobre el fenómeno de la conciencia, la naturaleza de la mente y la transformación de materia biológica en pensamiento le ganaron un homenaje durante la 20° Reunión de la Sociedad para el Estudio Científico de la Conciencia, que se realizó la semana última en Buenos Aires.

http://www.lanacion.com.ar/1910497-daniel-dennett-estamos-rodeados-de-herramientas-para-pensar-eso-es-lo-que-distingue-el-cerebro-humano

-Doctor Dennett, ¿qué lo llevó a este tema?

-A los 17 años leí las Meditaciones, de Descartes. Me pareció fascinante y equivocado. Pensé: "Voy a ver si puedo mostrar los errores, no debería llevarme más que algunas semanas". [Ríe.] Y cincuenta años después sigo trabajando en esto.

-Tradicionalmente, filósofos y científicos no parecían poder trabajar juntos. ¿Cree que eso está cambiando?

-Oh sí... La razón de que no lo hicieran es precisamente la tradición. Si uno se remonta a la edad dorada de la filosofía y la ciencia, el siglo XVII, los filósofos eran los científicos. Descartes era un científico, Leibniz era un científico, Spinoza no lo era, pero fabricaba lentes. Los filósofos de esa época estaban íntimamente involucrados con la ciencia de su tiempo. Después, en el siglo XIX, nos alejamos, y los científicos pensaron que podían independizarse de la filosofía. Pero, como me gusta decir: no hay ciencia sin filosofía, sólo hay ciencia hecha con filosofía que no fue analizada. Algunos científicos pueden arreglárselas muy bien, pero otros cometen grandes errores, porque no piensan sobre los presupuestos que están utilizando. Eso es especialmente cierto en psicología y neurociencias.

-Y los filósofos, ¿pueden arreglárselas sin tener en cuenta la ciencia?

-Bueno, algunos sí, pero creo que están equivocados. Yo pasé toda mi carrera argumentando que si uno va a hacer filosofía de la mente, la conciencia, el pensamiento, las creencias, el libre albedrío, hay que empezar por conocer la ciencia relevante. El filósofo "de sillón" que confía en las intuiciones está atrasado 100 años, porque muchas de esas intuiciones son ciencia obsoleta.

-No hace tanto, muchos científicos pensaban que nunca se iba a poder explicar la conciencia. ¿Qué se modificó?

-Era una opinión muy tentadora, muy amable. Había tanta ignorancia sobre cómo funciona el cerebro, que resultaba consolador pensar que nunca habría una teoría apropiada. Hoy estamos progresando muy rápido. Sólo en los últimos diez años hubo enormes avances. Todavía hay controversias. Representantes de ambos bandos están en este meeting. No nos vamos a convencer, pero... Convenceremos a nuestros respectivos alumnos. Por lo menos, yo espero convencer a los estudiantes de ellos. [Se ríe.]

-Es cierto que hoy medimos numerosas señales de la actividad cerebral. Pero, ¿sabemos qué quieren decir? ¿Entendemos la fenomenología de la conciencia?

-Hay dos investigaciones muy distintas: una sobre la fenomenología [las manifestaciones], como usted la llama, y otra sobre la maquinaria. Y lo que sabemos es que cada detalle de la fenomenología depende de detalles de la maquinaria. A medida que decodificamos cómo funciona la máquina, averiguamos claves sobre la fenomenología, y ya estamos en el punto en el que por nuestro conocimiento de cómo el cerebro hace varias cosas podemos crear nuevas ilusiones visuales, ilusiones cognitivas nunca antes vistas. Podemos crearlas y confiar en que van a funcionar porque sabemos cómo funciona el backstage. Cuando digo backstage, me resigno a la peor metáfora, el "teatro de la conciencia". No existe tal cosa, el teatro cartesiano es una imagen perennemente atractiva, incluso irresistible, pero una de las cosas que hay que superar para trabajar en esta área es que no hay tal teatro cartesiano.

-Dicho en otros términos, nuestros comportamientos emergen lisa y llanamente de la biología...

-Así es, pero tenemos que ser cuidadosos con lo que queremos decir por "biología". Mi próximo libro es sobre la evolución cultural; eso también es biología, no sólo los genes. Por ejemplo, en inglés, cuando una mujer adopta chicos, se habla de la madre "adoptiva" y la "biológica". Pero una madre adoptiva es tan biológica como una madre genética. La cultura también es biología.

-Una gran cantidad de estudios indica que nuestras experiencias tempranas pueden alterar el "cableado" de los circuitos cerebrales y que la mayor parte de nuestra vida mental es inconsciente. ¿Queda lugar para el libre albedrío?

-La idea tradicional, que separa el libre albedrío de la causalidad, es completamente incoherente. No, no tenemos libre albedrío en ese sentido, pero tampoco lo necesitamos. El tipo de libre albedrío que necesitamos para ser moralmente responsables es compatible con la materialidad del cerebro, con el determinismo. Ahora, muchas veces hacemos cosas que no teníamos intención de hacer, tal vez nos obligaron a hacerlas o padecemos una enfermedad del cerebro. ¡Entonces no somos responsables! No consideramos responsables a los niños. No somos perfectos, pero sí lo suficientemente buenos como para firmar un contrato, para hacer una promesa en la que debería confiarse.

-¿Cuáles son los efectos legales de esta visión del libre albedrío?

-Las consecuencias son muchas y es tiempo de que empecemos a trabajar en ellas. Siempre estoy discutiendo con mis colegas que piensan que el libre albedrío exige indeterminismo. Yo quiero hacer una distinción entre el tirador de Orlando y una persona que engaña a una viejita y le roba su herencia, o un cibercriminal. Creo que podemos establecer esas diferencias muy bien, y ya tenemos leyes para juzgar todo eso. Siempre habrá casos fronterizos. Bernie Madoff es uno. No es un hombre violento, pero sin duda es un sociópata. Hay psicópatas entre los CEOs de corporaciones internacionales, y entre los abogados, los médicos, los políticos...

-¿Cuál es el rol del lenguaje en la conciencia?

-Buena pregunta. Soy conocido por haberle dado al lenguaje un papel importante en la conciencia humana. Y lo mantengo. Creo que la conciencia humana no es sólo hablar con uno mismo y, sí, hay gente que no puede hablar consigo misma, pero tiene una forma de conciencia humana. Sin embargo, su conciencia está empobrecida en órdenes de magnitud comparada con la nuestra. Los chimpancés, los perros o los delfines están despiertos, tienen emociones y sentimientos, pero no tienen una vida mental. Desde el punto de vista evolutivo, tener una vida mental es caro. Y el equipo que necesitamos para nuestro tipo de conciencia es el más caro en términos de diseño, mantenimiento y consumo de energía. En mi próximo libro me refiero a lo que llamo "aptitud sin comprensión". Analizo el caso de animales que tienen comportamientos muy astutos y cómo tenemos tendencia a asumir que entienden lo que están haciendo. No... No necesitan. Cuando el pichón rompe el huevo y empuja a los otros fuera del nido para no competir por la comida de sus padres, no sabe lo que está haciendo. Nosotros somos los "entendedores", la única especie que tiene que entender lo que está haciendo. Muchas instituciones humanas fueron brillantemente diseñadas, sin necesidad de que hubiera un arquitecto, ningún sacerdote, o político o rey al que se le ocurrió que ésa era la manera de organizarnos. Son productos de la evolución cultural, de la misma manera en que el ala del pájaro es producto de la evolución genética. Se prueban muchas cosas, las que tienen éxito se mantienen y las que no, se descartan. Hay una fantástica cita de un filósofo francés llamado Alain sobre los barcos de pescadores en Bretaña. Él dice que allí los fabricantes de barcos los copian de los que hicieron los padres y abuelos. Envían los barcos al mar y copian los que vuelven. Así funciona la selección natural. No necesitás entender qué hace que un bote sea bueno: si vuelve, copialo.

-Algunas de nuestras costumbres no son tan buenas y, sin embargo, las replicamos....

-¡Lo mismo sucede en la evolución! Tenemos muchas instituciones, costumbres, hábitos, tradiciones, que sobreviven a su utilidad. Pueden haber sido útiles en algún punto, y algunos ítems culturales están excelentemente diseñados para beneficiarse... a sí mismos. Son parásitos culturales que viven de nosotros, no nos hacen ningún bien y sólo son buenos para hacer más copias de sí mismos. Como las ratas y las cucarachas: son especies culturales "sinantrópicas": evolucionan para vivir en compañía de los seres humanos, pero no están domesticadas.

-¿Piensa que en el futuro habrá prótesis para potenciar la conciencia?

-¡Pero si ya hay muchas! Ahora usted está usando una: el grabador. La computadora. El papel y el lápiz. Empecemos por papel y lápiz. Es un brillante dispositivo para descargar la memoria y hacer más grande su espacio de trabajo. ¿Alguna vez jugó al scrabble? ¿Le gustaría hacerlo sin las pequeñas fichas con letras? Podría, pero no lo aconsejo. Eso es un dispositivo prostético para facilitar la manipulación, para aliviar su mente. Estamos rodeados de herramientas para pensar y de hecho esa es una de las principales cosas que distingue a nuestro cerebro de los de otras criaturas. Que tenemos tantas herramientas para pensar.

-Si tuviera que dar una respuesta breve, ¿cómo definiría la conciencia?

-Ja. Eso es como preguntarle a un biólogo qué es la vida. O preguntarle a un físico qué es la realidad. Las definiciones cortas tal vez sean buenas para concursos publicitarios, pero fuera de eso no son muy valiosas. Creo que la debilidad de un filósofo es pasar tanto tiempo definiendo las palabras que no le queda tiempo para hacer investigación. Una vez que tengamos una buena idea de qué son los fenómenos, podremos volver atrás y encontrar una buena definición. Hoy tenemos una buena definición de la vida en tres términos: si tiene captura de energía (metabolismo), reproducción y autorreparación, tiene vida. Pero nadie podría haber llegado a esa definición hace un par de siglos.

-¿Tal vez en otro par de siglos seremos capaces de definir la conciencia?

-Sí, y cuando lo hagamos, yo predigo que no tendrá nada de vitalismo. En la definición de la vida no hay ningún ingrediente mágico, son elementos de todos los días, proteínas y moléculas de ADN. No hay élan vital. Y lo mismo pasará con la conciencia.

-¿No tenemos una personita adentro de la cabeza dirigiendo nuestras acciones?

-No, por eso nuestra definición tal vez decepcione. Para mucha gente la conciencia es una suerte de magia. Es como la magia del escenario. Y de la misma forma en que nos desilusionamos si nos damos cuenta de cómo un mago hace sus trucos, tenemos que prepararnos para la decepción.

Bio

Profesión: filósofo

Edad: 74 años

Dirige el Centro de Estudios Cognitivos de la Universidad de Tufts. Es autor de numerosos libros para el público general, como Contenido y conciencia, El ojo de la mente (con Douglas Hoftstadter), Dulces sueños: Obstáculos filosóficos para una ciencia de la conciencia y La evolución de la libertad, entre otros

Las bacterias de la Tierra primitiva ya eran complejas

Los seres vivos más simples que conocemos, las bacterias actuales, son ya unas entidades muy complejas, dotadas de unas maquinarias multiproteicas (compuestas de varias proteínas) sofisticadas, modulares y versátiles. La hipótesis dominante es que toda esa complejidad es el producto de 3.500 millones de años de evolución, y que por tanto las bacterias primitivas debían ser más simples. Pero una investigación rompedora revela ahora que no es así: las bacterias de la Tierra primitiva poseían unas maquinarias tan complejas como las actuales.

La Tierra tiene 4.500 millones de años, pero seguramente fue un infierno incompatible con la vida durante los primeros 500 millones. Los indicios de bacterias fósiles de hace 3.900 millones han sido muy discutidos por los geólogos, de modo que las evidencias fósiles más antiguas aceptadas generalmente datan de 3.500 millones de años atrás. Esos fósiles, naturalmente, no ofrecen ninguna información sobre las proteínas que contuvieron en vida. Entonces, ¿cómo han podido examinarlas los científicos?

Publicidad

Con una ingeniosa máquina de tiempo conceptual. Las comparaciones entre los genomas de 50 especies de bacterias actuales generan un árbol genealógico (o filogenético, en la jerga): las bacterias con genomas muy similares se separaron hace pocos millones de años, y ahora son dos ramitas vecinas terminales del árbol; si se parecen menos, se separaron hace más millones de años, y ahora estás en dos ramas diferentes; las bacterias actuales más dispares solo están conectadas por el tronco y, de hecho, definen cómo era el tronco hace 3.500 millones de años: qué genes y proteínas tenía, y cuál era su secuencia exacta (gatacca…).

Todo lo anterior son matemáticas, y lo que generan son secuencias que se pueden escribir en un papel. Pero la tecnología actual permite resucitar una proteína a partir de esos textos. Y eso es lo que ha hecho el biofísico Reinhard Sterner junto a sus colegas de la Universidad de Regensburg, en Alemania. Han resucitado un complejo de proteínas llamado triptófano sintasa (porque sintetiza el triptófano, uno de los aminoácidos esenciales de la vida), y han demostrado en el laboratorio que funciona de una forma tan eficaz y sofisticada como su versión actual. Presentan los resultados en Cell Chemical Biology.

Es una sorpresa porque la evolución biológica solo empezó hace unos 4.000 millones de años

“Hay una teoría generalmente aceptada”, explica Sterner, “que sostiene que las enzimas [proteínas que catalizan reacciones químicas] muy viejas no eran tan sofisticadas como las de ahora; pero hemos usado el método de reconstrucción de las secuencias ancestrales para remontarnos todo lo posible en el tiempo, y demostramos así que el complejo triptófano sintasa del último ancestro común de todas las bacterias ya era sofisticado, con la misma alta actividad enzimática y la misma comunicación entre las subunidades que se observa en los complejos enzimáticos modernos”.

“Es una sorpresa”, añade otro de los autores, Rainer Merkl, también de Regensburg, “porque la evolución biológica solo empezó hace unos 4.000 millones de años; concluimos que en esa fase muy primitiva de la evolución –entre 4.000 y 3.500 millones de años atrás— había probablemente enzimas primitivas de baja eficacia, pero que esos primeros 500 millones de años fueron suficientes para que las enzimas se volvieran plenamente sofisticadas”.

Los resultados también implican que, pasada esa fase primigenia, la complejidad de las máquinas enzimáticas no se ha incrementado durante los 3.500 millones de años subsiguientes. Esta es una paradoja que se repite en otros incrementos de complejidad de la evolución. Una clave para el conocimiento futuro

http://elpais.com/elpais/2016/06/09/ciencia/1465482820_475333.html

Killer robots won’t doom humanity–but our fears of AI might-

Written by

Amitai Etzioni & Oren Etzioni

http://qz.com/702051/a-new-study-of-250-million-patients-shows-medicine-is-still-full-of-guesswork/

Just how worried should we be about killer robots? To go by the opinions of a highly regarded group of scholars, including Stephen Hawking, Max Tegmark, Franz Wilczek, and Stuart Russell, we should be wary of the prospect of artificial intelligence rebelling against its makers.

“One can imagine (AI) outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand,” Hawking wrote in a 2014 article for The Independent. “Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.”

The fear that our irresponsible creations might bring about the end of humanity is a common one. In Goethe’s poem “The Sorcerer’s Apprentice,” an apprentice enchants a broom to do his work but then cannot control it. Jewish narratives tell the story of the golem, a powerful creature made of clay that was forged to serve the community but wound up threatening it.

These dystopian visions of the future cause little harm if they are merely fodder for cocktail parties and speculative essays. However, ethicists such as Wendell Wallach have suggested that the AI community needs to curb the pace of research and development until risks are properly assessed. Others, including Tesla founder Elon Musk, have recommended that public-policy makers exert control over AI projects. But slowing down innovation in AI poses far more of a threat to us than killer robots. In fact, if we really care about the future of the human race, we need more AI projects, not less.

Coping with doomsday predictions

The problem with end-of-the-world predictions is that they are very difficult to disprove. Even if history offers no foundation for the basis of such fears, there is always the chance that things will turn out differently next time.

Just how worried should we be about killer robots? To go by the opinions of a highly regarded group of scholars, including Stephen Hawking, Max Tegmark, Franz Wilczek, and Stuart Russell, we should be wary of the prospect of artificial intelligence rebelling against its makers.

“One can imagine (AI) outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand,” Hawking wrote in a 2014 article for The Independent. “Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.”

The fear that our irresponsible creations might bring about the end of humanity is a common one. In Goethe’s poem “The Sorcerer’s Apprentice,” an apprentice enchants a broom to do his work but then cannot control it. Jewish narratives tell the story of the golem, a powerful creature made of clay that was forged to serve the community but wound up threatening it.

These dystopian visions of the future cause little harm if they are merely fodder for cocktail parties and speculative essays. However, ethicists such as Wendell Wallach have suggested that the AI community needs to curb the pace of research and development until risks are properly assessed. Others, including Tesla founder Elon Musk, have recommended that public-policy makers exert control over AI projects. But slowing down innovation in AI poses far more of a threat to us than killer robots. In fact, if we really care about the future of the human race, we need more AI projects, not less.

Coping with doomsday predictions

The problem with end-of-the-world predictions is that they are very difficult to disprove. Even if history offers no foundation for the basis of such fears, there is always the chance that things will turn out differently next time.

But AI research and development is already carried out by so many different actors, both in academia and in the business sector, and in many countries around the world, that putting a lid on it seems highly impractical. Moreover, one must take into account the great benefits of AI.

 If we really want to keep AI from straying into nefarious territory, we need more of it to supervise the technology we already have. For instance, by introducing measures that alert drivers when they are getting too close to other cars, AI is already saving tens of thousands of lives, and soon many more. AI is assisting doctors through the use of robotic surgery, and it helps pilots in many thousands of flights every day to reach their destination.

Indeed, we should ask ourselves why certain AI programs were not available when we badly needed them. When the reactors in Fukushima, Japan started to melt down in the aftermath of the April 2011 earthquake and tsunami, the staff had to leave before they could shut down the reactors. Had an AI robot been in place at the time, it could have taken over and prevented the calamity that followed.

Let AI supervise itself

If we really want to keep AI from straying into nefarious territory, we need more of it to supervise the technology we already have. After all, AI may be autonomous, but it has no intentions or motivations of its own unless humans program those intentions in. So long as we ensure that programming for smart machines is subject to accountability and oversight, there is no reason to fear they will choose evil goals on their own.

We are now calling upon the AI community to develop a whole new slew of AI oversight programs that can hold accountable AI operations programs. This effort is known as AI Guardians.

AI operations systems need a great degree of latitude in order to follow the lessons of their learning from additional data mining and experience, and to be able to render at least semi-autonomous decisions. However, all operational systems need some boundaries—both in order to not violate the law and to heed ethical guidelines. Oversight here can be relatively flat and flexible, but not avoided.

This oversight system can help determine who or what was at fault when AI is involved in a situation that causes harm to humans—say, when a driverless car crashed into another. Was the crash attributable to the programmer’s mistakes or ill intent, or to decisions made by the autonomous AI operational system of the car?

 Ethics bots can instruct cars whether they should drive at whatever speed the law allows or in ways that conserve fuel. AI enforcement mechanisms are also needed to ensure that AI operations systems adhere to legal and ethical guidelines—for example, avoiding any discrimination against minorities when it comes to how search engines display jobs, credit and housing information.

One solution is ethics bots, which we need to inform the operational AI systems of the values that owners and operators want to honor. These bots can instruct cars whether they should drive at whatever speed the law allows or in ways that conserve fuel, or if they should stay in the slower lanes when children are in the car. They can also signal when it’s time to alert humans to a problem—such as, say, waking up a sleeping passenger if the car passes a traffic accident.

In short, there is no reason to introduce unnecessary and restrictive oversight into the AI world. However, there is plenty of room for guidance. The time has come for the industry to receive guidance that will ensure AI operational systems adhere to our legal and moral values—and that robots don’t come after us while we sleep.

We welcome your comments at ideas@qz.com.

Las células tienen energía nuclear

• ”Es el descubrimiento más importante que he hecho en mi vida”, declara Miguel Beato

En una investigación que cambia la visión de cómo funcionan nuestras células, científicos del Centre de Regulació Genòmica (CRG) de Barcelona han descubierto que el núcleo celular es capaz de producir energía. Es, literalmente, energía nuclear.

http://www.lavanguardia.com/ciencia/20160602/402233228871/celulas-energia-nucleo-atp-beato-crg.html

Se trata de una solución de emergencia que las células utilizan cuando necesitan modificar la actividad de sus genes a gran escala. Esto ocurre, por ejemplo, cuando las células madre se convierten en células de hígado, de piel o de cualquier otro tejido. O bien cuando las células cancerosas evolucionan y se vuelven resistentes a los tratamientos.

Bloquear la producción de energía en el núcleo de las células podría convertirse en un tratamiento eficaz para frenar la progresión del cáncer, concluyen los investigadores del CRG en la revista Science, donde hoy presentan sus resultados.

“Es el descubrimiento más importante que he hecho en mi vida”, declara Miguel Beato, director de la investigación, que lleva cincuenta años de carrera científica. Es importante porque rompe con la visión clásica que postula que toda la energía de las células se produce fuera del núcleo; porque revela un mecanismo fundamental de adaptación y supervivencia de las células; y porque abre todo un nuevo campo de investigación con ramificaciones en medicina regenerativa y en oncología.

La investigación se inició a partir de “un hecho que no comprendíamos”, explica Beato. Hay momentos en la vida de una célula en que necesita reordenar masivamente la actividad de sus genes, lo que requiere una gran cantidad de energía en el núcleo. La energía producida fuera del núcleo, que en condiciones normales es suficiente para asegurar el funcionamiento de la célula, “parece insuficiente cuando se dan estas condiciones inusuales”.

Lo que Beato y su equipo han descubierto es que, cuando las condiciones son excepcionales, la célula aplica medidas excepcionales. Durante unos 30 minutos, el tiempo necesario para reprogramarse, bloquea la producción normal de energía y concentra todo el esfuerzo en el núcleo.“Es el equivalente biológico de ‘en caso de incendio, rompa el cristal’”, explica Beato.

La investigación se ha basado en células de cáncer de mama que han sido expuestas a la hormona progestina. La hormona ha modificado la actividad de unos 3.000 genes en las células estudiadas. Para ello, las células han tenido que hacer obras a gran escala en su núcleo. Concretamente, han tenido que reorganizar la cromatina, que es la estructura que regula que unos genes estén activos y otros silenciados. Es esta modificación de la cromatina, que es como desmontar un edificio y volverlo a construir a escala microscópica, lo que requiere una cantidad enorme de energía.

Según los resultados presentados en Science, cuando a la célula le hace falta tanta energía en el núcleo, empieza a producir ATP allí. El ATP (nombre completo: adenosín trifosfato) es el combustible de las células. En condiciones normales se produce mayoritariamente en las mitocondrias, que se encuentran fuera del núcleo. De ahí que las mitocondrias sean descritas como las centrales energéticas de las células.

Los investigadores del CRG han identificado la secuencia completa de reacciones químicas que llevan a la producción de ATP en el núcleo. Entre las distintas moléculas involucradas, destaca una enzima llamada NUDIX5.

Estudios anteriores han observado en distintos tipos de cáncer, incluidos los de mama, que el pronóstico de los pacientes es peor cuando los niveles de NUDIX5 son elevados. Esto sugiere que la progresión del cáncer depende de la capacidad de las células tumorales para producir ATP en su núcleo. Y que bloquear NUDIX5 podría convertirse en un tratamiento eficaz en el futuro para cánceres que actualmente tienen mal pronóstico.

“Es una línea en la que ya estamos trabajando”, declara Beato. “Estamos buscando cómo inhibir la síntesis de ATP en el núcleo para atacar de manera selectiva las células tumorales”.