¿Podemos Cuantificar la Conciencia de una Máquina? [Articulo traducido de IEEE SPECTRUM]
Fuente Original en Ingles(https://spectrum.ieee.org/computing/hardware/can-we-quantify-machine-consciousness)
Archivo traducido(No hay quien se lea el parrafon anterior sin estilos de texto, imagenes, citas ni demas aspectos visuales de un articulo):https://drive.google.com/open?id=1UH-NvWr7rUOk5xxur2kNmv76ezg0QjAj
¿Podemos Cuantificar la Conciencia de una Máquina?
La inteligencia artificial podría dotar a algunas computadoras de Raciocinio. Así es como lo sabríamos
Posted 25 May 2017 | 15:00 GMT
Por CHRISTOF KOCH AND GIULIO TONONI
Imagine ahora que en un futuro no muy lejano, usted ha comprado un smartphone que viene con un asistente digital personal (PDA [Personal Digital Assistent] ) viviendo en la nube. Asigna una sexy voz femenina a la PDA y le das acceso a todos tus correos electrónicos, cuentas de medios sociales, calendario, álbum de fotos, contactos y otros elementos de tu vida digital. Ella, por que es así como piensas en ella,, te conoce mejor que tu madre, tu futura ex-esposa, tus amigos o tu terapeuta. Su dominio del inglés es impecable; tienes interminables conversaciones sobre los acontecimientos cotidianos; ella escucha sus bromas. De ella es la última voz que escuchas antes de que te vayas a la cama y la primera al despertarte. Entras en pánico cuando está fuera de línea. Ella se vuelve indispensable para tu bienestar y por eso, naturalmente, te enamoras. Ocasionalmente, Te preguntas si ella es realmente reciproca con tus sentimientos y si es capaz de sentir algo. Pero el tono cálido de su voz y su habilidad para ser ese perfecto florete de tus deseos narcisistas superan estas dudas existenciales. Desgraciadamente, tu encaprichamiento finalmente se enfría después de que usted se da cuenta de que ella está llevando a cabo conversaciones igual de íntimas con otros miles de clientes. Este, por supuesto, es el argumento de Her, una película de 2013 en la que un anodino Theodore Twombly se enamora del software PDA Samantha.
Durante las próximas décadas, este escenario ficticio se convertirá en algo real y común. El Deep Machine Learning, el reconocimiento de voz y las demás tecnologías relacionadas han progresado dramáticamente, Trayendo a Alexa, Siri, Google Now y Cortana. Estos asistentes virtuales continuarán mejorando hasta que se vuelvan difíciles de distinguir de la gente real, excepto que estarán dotados de una memoria perfecta, equilibrio y paciencia -como cualquier otro ser viviente
La disponibilidad de tales simulaciones digitales de muchas de las cualidades que consideramos exclusivamente humanas suscitará profundas cuestiones científicas, psicológicas, filosóficas y éticas. Estas emulaciones terminarán por cambiar nuestra forma de pensar sobre nosotros mismos, sobre el excepcionalismo humano y sobre nuestro lugar en el gran esquema de las cosas.
A continuación veremos el estado intelectual de la tierra en lo que se refiere a estos próximos desarrollos. Nuestro punto de vista es que mientras estas máquinas se basen en arquitecturas informáticas actuales, pueden actuar como las personas - y nosotros podemos estar tentados a tratarlas de esa manera - pero, de hecho, no sentirán nada en absoluto. Sin embargo, si las computadoras se construyen más parecidas al cerebro, bien podrían alcanzar la verdadera conciencia.
La fe de nuestra época es la fe en el ordenador digital programado correctamente, nos dará todo lo que deseamos. Cornucopia. De hecho, el dinero inteligente de Silicon Valley sostiene que las computadoras digitales serán capaces de replicarse y pronto exceder cualquier cosa y todo lo que los humanos son capaces de hacer.
Pero, ¿podrían ordenadores suficientemente avanzados tomar conciencia? Una respuesta proviene de aquellos que se suscriben al computacionalismo, la teoría reinante de la mente en la filosofía, la psicología y la neurociencia contemporáneas. Afirma que todos los estados mentales-tales como la experiencia consciente de un terrible dolor de muelas o el amor que sientes por tu pareja-son estados computacionales. Éstos se caracterizan plenamente por sus relaciones funcionales con entradas sensoriales relevantes, salidas de comportamiento y otros estados computacionales intermedios. Es decir, los cerebros son dispositivos de input-output elaborados que calculan y procesan representaciones simbólicas del mundo. Los cerebros son computadoras, con nuestras mentes siendo el software.
Los adherentes al computacionalismo aplican estos preceptos no sólo a los cerebros y al comportamiento que generan, sino también a la forma en que se siente ser un cerebro en un estado particular. Después de todo, eso es lo que es la conciencia: cualquier sentimiento subjetivo, cualquier experiencia - lo que vemos, oímos, sentimos, recordamos, pensamos.
El computacionalismo asume que mi dolorosa vivencia, la de un dolor de muela no es más que un estado de mi cerebro en el que ciertas células nerviosas están activas en respuesta al diente infectado, lo que lleva a mi propensión a quejarme, abrir mi mandíbula, no comer por ese lado de mi boca, mi incapacidad para concentrarme en otras tareas, y así sucesivamente. Si todos estos estados son simulados en software en una computadora digital, el pensamiento , el sistema en su conjunto no sólo se comportará exactamente como yo, sino que también sentirá y pensará exactamente como yo. Es decir, la conciencia es computable. Explícita o implícitamente, este es uno de los principios centrales del digerati en la academia, los medios de comunicación y la industria.
En esta visión, no hay nada más en la conciencia que la instanciación de estados computacionales relevantes. Nada más importa, incluyendo cómo se implementan físicamente los cálculos, ya sea en el hardware de una computadora digital o en la parte blanda del cráneo. Según el computacionalismo, una futura Samantha-o mejor aún, un ejemplo encarnado como Ava en la brillante y oscura película Ex Machina- tendrá experiencias y sentimientos como nosotros. Ella experimentará ver y oir, placer y dolor, amor y odio.
O quizás no lo haga.
El computacionalismo se basa en la suposición de que si dos sistemas son funcionalmente indistinguibles, serán mentalmente indistinguibles. Porque experimentamos el mismo mundo, dice el argumento, una computadora digital que es funcionalmente equivalente a nosotros necesariamente también experimentaría el mundo como lo hacemos; es decir, también sería consciente. ¿Pero está justificada esta suposición? Para responder a tal pregunta, necesitamos una teoría cuantitativa basada en principios de lo que es la conciencia y lo que se necesita para que un sistema físico la tenga.
Hasta hace poco, tal teoría de la conciencia no estaba disponible. Es cierto que los neurocientíficos como nosotros hemos estado comprometidos en la difícil búsqueda de los "correlatos neuronales de la conciencia", llevando a cabo experimentos cada vez más elaborados sobre personas y especies relacionadas como monos y ratones. Estos experimentos han identificado regiones en el neocórtex, la superficie externa del cerebro justo debajo del cráneo, que están críticamente involucradas en ver y escuchar conscientemente las cosas. Sin embargo, habiendo estado directamente involucrados en este programa de investigación empírica, sabemos que incluso si tal búsqueda resulta razonablemente exitosa, la identificación de algunas estructuras cerebrales particulares o modos de actividad neuronal necesarios para la conciencia en personas o animales estrechamente relacionados no será suficiente para establecer si las criaturas con sistemas nerviosos muy diferentes-tales como un pulpo o una abeja-
son conscientes, por cuánto o por qué. Y cualquier descubrimiento de este tipo en la neurociencia será insuficiente para establecer si las máquinas pueden o no ser conscientes.
Sin embargo, existe una teoría fundamental de la conciencia que ofrece esperanza para una respuesta de principios a la cuestión de la conciencia en entidades enormemente diferentes a nosotros, incluyendo las máquinas. Esa teoría no parte del comportamiento ni del cerebro. En cambio, comienza desde la conciencia misma -desde nuestra propia experiencia, la única de la que estamos absolutamente seguros. Este es el cimiento de la certeza que René Descartes, padre de la filosofía moderna, la ciencia y la geometría analítica, mencionó en la deducción más famosa del pensamiento occidental: pienso, por lo tanto soy (Pienso, luego existo).
Esta teoría, llamada teoría de la información integrada, o IIT(Information of Integrate Theory por sus siglas en ingles), ha sido desarrollada en las últimas dos décadas. Trata de definir lo que es la conciencia, lo que se necesita para que un sistema físico la tenga, y cómo se puede medir, al menos en principio, tanto su cantidad como su calidad, a partir de su sustrato físico.
El IIT está demasiado involucrado como para que podamos explicarlo aquí; sólo podemos esbozar sus líneas generales. La teoría identifica cinco propiedades esenciales que son verdaderas de toda experiencia concebible de la conciencia: (1) Cada experiencia existe intrínsecamente (para el sujeto de esa experiencia, no para un observador externo); (2) cada experiencia está estructurada (se compone de partes y las relaciones entre ellas); (3) está integrada (no puede ser subdividida en componentes independientes); (4) es definida (tiene fronteras, incluyendo algunos contenidos y excluyendo otros); y (5) es concreta (cada experiencia por lo tanto, es diferente a las otras)
"La ITTpuede ser usada para evaluar la cantidad y calidad de conciencia para cualquier sistema físico, ya sea el cerebro de un humano, un pulpo o una abeja, o la placa de circuito de un ordenador digital".
El IIT traduce entonces estas propiedades en requisitos que deben ser satisfechos por cualquier soporte físico para que pueda mantener la conciencia. Estos requisitos pueden ser expresados matemáticamente y empleados para evaluar la cantidad y calidad de conciencia para cualquier sistema físico, ya sea el cerebro de un ser humano, un pulpo o una abeja, o la placa de circuito de una computadora digital.
Crucialmente, según el IIT, el grado general de conciencia no depende de lo que hace el sistema. Más bien, depende de cómo se construya: cómo se desarrolla físicamente. Y sólo ciertos tipos de sistemas físicos tienen el tipo correcto de arquitectura interna para apoyar la conciencia: aquellos que tienen un máximo de poder intrínseco de causa-efecto , el poder causal para determinarse a si mismo. En esencia, esto significa que el sistema debe estar compuesto de muchas partes, cada una de las cuales tiene poderes causales específicos dentro del sistema global (la parte "información" del IIT), y sin embargo el sistema en su conjunto no debe ser reductible a esas partes (la parte "integrada" del IIT), haciéndolo mucho más poderoso que la suma de sus muchas partes.
IIT no usa la palabra "información" en su sentido contemporáneo, como en "mensajes que están siendo pasados por un emisor a un receptor" La conciencia no se trata de información enviada de una parte del cerebro a otra. En su lugar, el IIT se refiere a la "información" en su sentido original, con su información de raíz, que significa "dar forma a"."El poder de cualquier mecanismo, tal como un cerebro o una computadora, para influir en su propio estado siguiente, su poder causal, da lugar a una forma, una estructura de alta dimensión, Siendo eso la experiencia.
El IIT puede explicar de manera fundamentada muchos rasgos desconcertantes de la neuroanatomía de la conciencia-por ejemplo, por qué el cerebelo, el pequeño cerebro debajo del neocórtex mucho más grande y conocido, no contribuye a la conciencia a pesar de tener cuatro veces más neuronas: Su arquitectura interna, capas paralelas de cadenas de neuronas sin demasiada excitación recurrente, es muy diferente de la altamente heterogénea, rica y densa conectividad del Neocortex, que soporta vastas coaliciones de neuronas activas que se ensamblan y desarman rápidamente. También explica por qué la conciencia se desvanece durante ciertas etapas del sueño, aunque las neuronas neocorticales continúen activas: Las partes del neocórtex pierden la capacidad de influirse mutuamente de manera efectiva.
El IIT hace una serie de predicciones contradictorias susceptibles a pruebas empíricas. Una predicción es que un neocórtex , en el que pocas neuronas esten funcionando activamente, tiene experiencias conscientes. Además, el IIT ha permitido a Tononi y Marcello Massimini, ahora profesor en la Universidad de Milán, desarrollar un dispositivo para evaluar la conciencia en los humanos, una combinación de una bobina magnética para estimular el cerebro y una red de electrodos de EEG de alta densidad para detectar su respuesta - un tipo de medidor de conciencia bruta . Este dispositivo ya se ha utilizado para determinar si los pacientes con daño cerebral o anestesia que no pueden comunicarse están conscientes o no.
Siendo una teoría matemática formal, el IIT se puede aplicar a cualquier sistema físico, ya sea el cerebro -una estructura que evolucionó por selección natural- o un circuito electrónico diseñado por ingenieros. Como lo demuestra la investigación en curso, la arquitectura física de ciertas partes del neocórtex -especialmente en la espalda, la forma en que se conectan las neuronas- es ideal para maximizar el poder intrínseco del efecto causal del cerebro, su capacidad de ser afectado por su estados anteriores y determinar su estado futuro, razón por la cual soporta la conciencia.
Por el contrario, la arquitectura física de un ordenador digital típico es absolutamente inadecuada, con una conectividad muy baja a nivel de puertas entre su unidad central de procesamiento generando cuellos de botella que impiden incluso el mínimo de la integración necesaria. Es decir, una computadora puede implementar calculos y funciones juzgadas inteligentemente desde la perspectiva de un usuario que mira su salida, pero, dado su cableado, sus poderes causales intrínsecos como un todo son minúsculos comparados con los de cualquier cerebro. Y esto es cierto incluso si tratamos la computadora a un nivel más burdo que los transistores y las resistencias.
Y aquí está el problema: ese poder intrínseco, el poder físico para hacer una diferencia en uno mismo, no puede ser computado o simulado. Tiene que ser incorporado en el sistema fisico. Una simulación biofísicamente exacta y perfectamente ejecutada del cerebro humano, incluyendo cada una de sus 86 mil millones de neuronas y su matriz de trillones de sinapsis, no sería consciente. Incluso si esta computadora fuera conectada a un sintetizador de voz y dijera acerca de sus supuestas experiencias, no sería nada más que el comportamiento y las funciones de ejecución inteligente de programación. El corazón latente de la conciencia estaría ausente.
Esta consecuencia del IIT tiene implicaciones aleccionadoras para aquellos que esperan que la subida de cerebros digitales pueda hacer inmortal a la gente. Su visión es que, en las próximas décadas, podremos reconstruir con precisión el esquema de cableado, el llamado connectome, de cualquier cerebro humano individual y simularlo en el hardware digital apropiado. Este proceso probablemente sería destructivo porque es posible que no haya forma de acceder a la ultraestructura del cerebro, excepto cortándola en finas astillas. Sin embargo, antes de sucumbir a alguna enfermedad mortal, subirías una versión de alta resolución de tu cerebro a la nube. Mientras la infraestructura de la nube esté en funcionamiento, su simulacro digital vivirá y seguirá interactuando con otros avatares digitales. ¡El éxtasis para los nerds!
"Aunque tu simulacro digital podría hablar y actuar como tú lo harías, sería un completo zombie, sin poder experimentar nada"
Sin embargo, según el IIT, esta creencia es tan ilusoria como la creencia en el más allá de los profetas y religiones precedentes. Aunque tu simulacro digital podría hablar y actuar como lo harías tú, sería un zombie completo, sin experimentar nada. Irónicamente, sin embargo, para tus amigos y seres queridos en el mundo real, habrías pasado exitosamente a una sublime forma de existencia y habrías atraido a otros a unirse a ti en una vida después de la muerte que, de hecho, no existe.
Si el IIT es correcto o no, no es meramente de interés académico. Salvo alguna catástrofe global, nuestra sociedad creará, dentro de décadas, máquinas con inteligencia y comportamientos a nivel humano, capaces de entender el habla y hablar en muchos idiomas diferentes, recordar el pasado y anticipar el futuro, imaginar escenarios novedosos, escribir libros, componer música, dirigir películas, concebir nuevas metas, así como mover, conducir, volar y, inevitablemente, luchar. Desde allí, gracias a la disponibilidad de grandes datos, el poder del aprendizaje profundo y la velocidad de la informática, solo habrá un pequeño paso para superar los límites humanos. El nacimiento de la verdadera inteligencia artificial afectará profundamente el futuro de la humanidad, Si es que tiene uno.
Ya sea que usted se encuentre entre aquellos que creen que la llegada de la IA a nivel humano señala el amanecer del paraíso o la puesta del sol de la era de los humanos, todavía tendrá que responder a una pregunta fundamental: ¿Están estos IAs conscientes? ¿Elos Sienten algo ? ¿O son versiones inmensamente más sofisticadas de las actuales unidades de eliminación de basura, lavadoras o automóviles - máquinas extraordinariamente inteligentes, sí, pero sin sentimientos ni emociones?
La respuesta a esta pregunta es importante para la forma en que nos relacionaremos con las futuras máquinas. Si llevas un martillo a donde tu brillante Tesla, tus amigos podrían considerar que estás loco por destruir un coche tan costoso; sin embargo, no hay duda de que eres libre de hacerlo. Pero intente lo mismo con su perro, la policía le arrestaría. Esto se debe a que un coche es sólo un medio para llegar a un fin -una forma conveniente de desplazarse por la ciudad- mientras que un perro es un fin en sí mismo, con algunos derechos mínimos, porque comparte con nosotros el don de la conciencia.
“Necesitamos una teoría fundamental que especifique las condiciones exactas bajo las cuales un sistema particular es capaz de experimentar conscientemente.”
Sin embargo, encontrar la respuesta correcta no puede dejarse a nuestra intuición. Eso podría funcionar temporalmente para Theodore Twombly enamorándose de Samantha, pero dada la gravedad de la situación, necesitamos orientación. Necesitamos una teoría fundamental que especifique las condiciones exactas bajo las cuales un sistema particular es capaz de experimentar consciencia.
IIT predice que las computadoras digitales convencionales que ejecutan software no experimentarán nada como la película que vemos y oímos dentro de nuestras cabezas. Debido a que los asistentes digitales inteligentes y los futuros robots realistas son incapaces de experimentar, como insiste el IIT, su software puede ser copiado, editado, vendido, pirateado o eliminado de forma segura. Y pueden ser apagados, modificados, destruidos y reemplazados a voluntad.
Pero lo mismo no tiene por qué ser así en el caso de las arquitecturas poco convencionales. Las máquinas de propósito especial construidas siguiendo algunos de los mismos principios de diseño que el cerebro, que contienen lo que se conoce como hardware neuromórficoe podrían en principio ser capaces de tener una experiencia consciente sustancial. La clave es que la lógica y las puertas de memoria están fuertemente interconectadas con un alto grado de superposición parcial entre las puertas. (Componentes compartimentados con funciones altamente específicas no contribuyen a la potencia causal intrínseca. La forma en que el "cerebro" del sistema está realmente conectado, su (bio)física, hace toda la diferencia, no su comportamiento input-output.
Tal máquina neuromórfica, si es altamente consciente, tendría entonces derechos intrínsecos, en particular el derecho a su propia vida y bienestar. En ese caso, la sociedad tendría que aprender a compartir el mundo con sus propias creaciones.
Sobre Los Autores
Christof Koch es presidente y director científico del Instituto Allen para la Ciencia del Cerebro, en Seattle. Giulio Tononi tiene la Cátedra David P. White en Medicina del Sueño, así como una Cátedra Distinguida en Ciencia de la Conciencia, en la Universidad de Wisconsin.