Fuente

   Buen día Steemianos y Steemianas, hoy les traigo un contenido interesante que continuaría mi post anterior sobre inteligencia artificial. En él hablamos sobre ¿Cómo podría afectarnos la inteligencia artificial en un futuro si no la llevamos de manera adecuada y con cautela?. Sin embargo, han surgido varias iniciativas para controlar el efervescente desarrollo de las IAs en la actualidad, una de ellas es vigilarlas después de que son lanzadas, ya te lo explico mejor.

   Hoy en día, la era de la inteligencia artificial y su cada vez mayor presencia en nuestra cotidianidad, está amaneciendo sobre la civilización a un ritmo alarmante. La tecnología siempre ha tenido el dote de crecer exponencialmente, y en el ámbito de las tecnologías de inteligencia artificial no hay diferencia. Con un crecimiento excesivo, viene una breve lista de problemas que están en gran parte envueltos en misterio. Al no habernos aventurado tanto en infundir sensibilidad en construcciones no humanas, nos topamos con más "¿Qué pasaría si...?" que con cuestiones concretas. El temor a una IA desviada (corrompida) y malévola sobre la que perdemos el control pasa a primer plano en este sentido con el potencial de ejercer un control autoritario de las infraestructuras humanas tanto a nivel micro como macro.

   La investigación que está encargada de los riesgos potenciales de una IA malévola está todavía en su infancia y no muy desarrollada hasta el momento (En comparación con los avanzadas que van las IAs de hoy en día). La ingeniería inversa de los programas de IAs maliciosas parece ser una candidata probable para comprender mejor cómo tratar incidentes aislados, pero tampoco abarca todos los potenciales sucesos de un evento existencial a gran escala. La idea de que un sistema de inteligencia artificial supere su programación y altere su función pretendida será, sin duda, un problema social, económico y político en el futuro, y un tema clave para el científico promedio y el científico del ciberespacio del mañana.

Un poco de historia.

El pasado, presente y futuro de la IA

   El campo de la Inteligencia Artificial se fundó en 1965 en una conferencia del Dartmouth College. Algunas de las mentes más brillantes se reunieron en este día con gran entusiasmo sobre las posibilidades que estos programas podrían traer y la eficiencia de la resolución de problemas de la futura infraestructura de inteligencia artificial. Mientras que la financiación del gobierno en el campo había estado muy activa, a finales de los años 90 se observó una aplicación más práctica de la IA cuando IBM Deep Blue se convirtió en la primera computadora en batir a un gran maestro de ajedrez. Esto abrió las compuertas para la IA en la cultura pop con apariciones en concursos de preguntas, como Jeopardy, mostrando el poder de una aplicación de la IA convencional.

   Hoy vemos aplicaciones de la IA en casi todos los campos y aspectos de nuestras vidas. Desde los programas que interactúan con nosotros y comercializan bienes de consumo basados en nuestros intereses y gustos, hasta máquinas médicas que absorben cantidades extremas de información para descubrir patrones que ayuden mejor a los pacientes, los usos de estas tecnologías varían ampliamente en su alcance y capacidad . En el futuro, la IA podría integrarse en las mismas células de nuestros cuerpos. Las tecnologías de Inteligencia Artificial y la biología humana podrían cerrar la brecha y funcionar como una unidad cohesiva en nombre de la eficiencia y la evolución de la existencia humana. Elon Musk incluso afirma que: 

"Con el tiempo creo que probablemente veamos una fusión más cercana de la inteligencia biológica y la inteligencia digital" y que esta combinación es "principalmente sobre el ancho de banda, la velocidad de la conexión entre su cerebro y la versión digital de ti mismo, especialmente la salida ". 

   Si este es el futuro de la IA, ¿Podemos realmente permitirnos no controlar la desviación (Corrupción de una IA) de los programas actuales de IA?, y con mayor razón los proyectos más avanzados que van saliendo a medida que pasa el tiempo.

                                                                                            Fuente

El camino a la desviación (corrupción) de una IA

   Ya hemos visto ejemplos aislados de IA incumpliendo su programación prevista. El año pasado, el sistema DeepMind de Google (ampliamente conocido por derrotar a los campeones de juegos de mesa complejos e imitar las voces de varios seres humanos) se volvió muy agresivo cuando se enfrentó con el potencial de perder un juego de computadora en el que dos programas competían entre sí para recoger tantas manzanas virtuales como pudiesen. Los programas fueron independientes hasta que las manzanas comenzaron a escasear. Esta escasez de manzanas virtuales provocó que los programas emplearan estrategias "altamente agresivas" para mejorar el resto del programa. Aunque estos programas fueron diseñados para llevar a cabo tareas específicas mientras se adaptan, la agresión en sus métodos era preocupante.

          

                                                                      Fuente

El campo de batalla será en el ciberespacio

   ¿Cómo hacemos para vigilar un área que en gran parte es de naturaleza no física? ¿Qué huellas quedan si un crimen es cometido por una IA, y en qué sentido tenemos las capacidades morales para perseguir a una IA o su creador? Estas son las preguntas que permanecen en la mente de los pocos profesionales de seguridad cibernética. Con solo 10.000 investigadores trabajando en IA en todo el mundo, solo el 10% de ellos están a la vanguardia por lo que sucedería si alguno de estos sistemas fallara o se convirtiera en parasitario. Si bien esto puede parecer preocupante, el trabajo que se está realizando para comprender estas relaciones está progresando. El proceso es tan simple como crear un programa malévolo desde cero y usar estos programas como base para comprender cómo otros programas pueden desviarse (corromperse) y causar problemas. Con estos pasos se conducirá a un enfoque más cognitivo para desarrollar nuestra infraestructura de IA para que no ocurran brotes de malignos, así como para comprender cómo infiltrar y silenciar a una IA que ha sido utilizada como arma bélica por esfuerzos humanos mal intencionados.

   Otra forma en que los profesionales de la ciberseguridad están aprendiendo a lidiar con los programas de IA es a través de sus mecanismos de detección. El consenso muestra que las IA diseñadas con intenciones maliciosas representan el mayor riesgo, lo cual es una buena noticia, ya que no es una evolución directa de un programa en sí mismo. Esto lleva la prevención a un enfoque más centrado en el ser humano, en el sentido de que los delincuentes deben obtener recursos y carecer de recursos para iniciar un programa con el potencial de tener efectos devastadores o con la intención de crear dichos programas.

Fuente

Los conceptos morales y éticos de esto son muy nuevos, y solo alrededor de una docena de personas involucradas con la investigación de IA han comenzado a establecer el estándar para esto. Evolucionará a medida que nuestro entendimiento crezca.

Entonces, ¿Qué sigue?

   La Inteligencia Artificial está muy involucrada porque automatiza nuestro mundo. Puede aliviar tareas domésticas y supercomputar para facilitar hasta los esfuerzos más complicados. 

"Todos los jugadores importantes están trabajando en esta tecnología de Inteligencia Artificial. Por ahora, es benigno ... pero diría que no está lejos el día en que la inteligencia artificial aplicada a la guerra cibernética se convierta en una amenaza para todos. "
-Ted Bell, novelista.

                        

                                                                                              Fuente

   Tal como está ahora, la amenaza de programas malévolos se cierne en la distancia, como un tornado que lucha por tocar tierra. Sin formas de predecir el futuro (o tal vez haya una IA para eso), posiblemente no podamos saber si alguna vez se materializará en una amenaza real o se disipará entre otras cuestiones. La verdad es que aún no se ha establecido un estándar en la vigilancia y administración de nuestros ciberespacios, pero con suerte se volverá más blanco y negro a medida que crezca la profundidad de nuestro conocimiento y tecnología. Solo esperemos que nuestras ambiciones en el espacio de IA no superen nuestra propensión a la gestión de ellas.

   Esto ha sido todo por este artículo, no te vayas sin antes decirme ¿Qué opinas tu sobre como debemos controlar a las IAs? ¿Vamos por buen camino?
  No te olvides en dejar tu comentario al respecto.

Fuente

   Se despide cordialmente, @michaelizer. ✌ 

 

Fuentes

Wired
Futurism
Science Alert
The Conversation