El botón rojo
Hoy, tumbado en el sofá, después de venir de tomar, como dicen aquí, unos "pescaítos", me topé con un noticia que viene a sacar a la luz uno de los problemas fundamentales de la inteligencia artificial: ¿Cómo controlar a un agente artificial que se resista ser apagado?
El interesante artículo, escrito por Beatriz Guillėn para elpais.com se puede leer en el
siguiente enlace:
http://elpais.com/tecnologia/2016/12/20/actualidad/1482236622_315819.html
En resumen se dice que hace falta un método, un protocolo standard, oficial y consensuado por la comunidad internacional para evitar que las "máquinas" escapen del control del ser humano, que los ordenadores lleguen a predecir el comportamiento humano (cuando lo normal es lo contrario) o a revelarse.
No es nada nuevo, Isaac Asimov ya postuló hace décadas sus tres leyes fundamentales de la robótica: ese botón rojo que ha de ser "impreso" inherentemente en los circuitos lógicos de todo autómata:
- Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
Ahora yo me pregunto si el ser humano sería capaz de programar estas tres leyes como parte intrínseca de la IA del robot evitando que éste mismo o un ente externo las modifique
Quizá el secreto esté en un algoritmo criptográfico basado en cadena de bloques y de consenso
¿Se podría utilizar la cadena de bloques para imprimir estas reglas de forma inmutable e inviolable?
Enlaces:
https://es.m.wikipedia.org/wiki/Tres_leyes_de_la_rob%C3%B3tica
http://elpais.com/tecnologia/2016/12/20/actualidad/1482236622_315819.html
Hola,
Yo difiero radicalmente de esta tesis. Pienso que la posibilidad de un "botón rojo" equivale a pensar que la tecnología nunca trascenderá más allá de fabricar super cafeteras y motores de combustión.
La historia muestra que la tecnología está por encima de los planes que un grupo de personas puedan destinar a los usos y evolución de dicha tecnología.
Un botón rojo no sólo es inviable desde el punto de vista de consenso entre todos los participantes potenciales actuales y futuros del desarrollo tecnológico, sino también es inviable en cuanto a la naturaleza misma del desarrollo de nuevos sistemas y soluciones. En otras palabras, si fuera posible implementar dicho botón rojo en determinada línea de desarrollo tecnológico, esto mataría de inmediato el potencial creativo de ese dispositivo o sistema específico, y como consecuencia la ruta de desarrollo o evolución se llevaría a cabo en otro lugar o línea de trabajo.
saludos :)
Interesante opcion! Y que pasaria cuando esa inteligencia aprenda como tirar un hard fork? = S
Votarían los humanos a un witness controlado por una IA?
Me gusta el post lo vote positivamente pero...lo que publico la periodista deciendo!!! "las máquinas superarán la inteligencia de los humanos" No quiero discutir sobre esto porque no es la primera persona que lo dice.
NO OLVIDEMOS EL PRINCIPAL MOTIVO DE LA EXISTENCIA DE LAS MAQUINAS, ORDENADORES, PROCESADORES Y ETC. ES EL SER HUMANO
Pero muchas veces el aprendiz supera al maestro, no?
Estoy deacuerdo contigo si hablamos de personas, pero en este caso es que hoy en dia una maquina no toma la decicion de crear algo por si mismo para qu suceda eso la maquina debe ser programada para crear algo y quien es el que hace la programacion ?? EL SER HUMANO 😁😉
👍 Un saludo cordial
Yo lo plantearía del revés, si no se aprieta x botones rojos diariamente, en diversos lugares, para mas seguridad, la Skynet se desconecta automáticamente.
Creo que es mas seguro un sistema activo que pasivo, la maquina podría bloquear el acceso al botón si le interesase, de esta manera, no se le ocurriría xD
Interesante punto de vista!
El robot de la imagen se parece mucho a este, me encanta la robotica, me gusta mucho este robot como sube las escaleras casi como un humano, es impresionante como avanza la robotica.
Yo estoy convencido de que antes o despues la inteligencia artificial va a recobrar consciencia propia y cuando eso pase sera mejor que nos pille a todos confesados jajaja, yo no me preguntaria ya si eso va a ocurrir o no, mas bien cuando va a ocurrir, aunque en realidad el fallo somos los humanos que aun no estamos adaptados a el grado de tecnologia que hemos sido capaces de crear y que en muchas cosas nos superan, creo que aun tenemos mucho que avanzar los humanos para estar a la altura de la tecnologia y que no nos pille por sorpresa, aun falta mucho que aprender sobre la etica, los valores y lo que esta y no esta bien, el bien y el mal y todas estas cosas.
estoy seguro que la revolucion va a ser cuando las impresoras 3d empiecen a imprimirse ellas mismas y crear otros robot que a su vez creen a otros, cuando empiece a pasar eso todo va a ir mucho mas rapido de forma exponencial.
y sobre lo del boton rojo, el problema no es la programacion que el robot tenga porque si esta bien programado jamas le hara nada malo a un humano, el problema es un fallo en el sistema y fallos siempre ha habido, ¿recordemos el pantallazo azul de windows 95, la idea de la cadena de bloques es muy buena y podria evitar esos errores.
Has leido a Asimov?
leerlo lo que se dice leerlo no(libros), solo un poco porque?
Porque te encantará, si te gusta la robótica.