En total acuerdo @mllg, por mucho intento por perfeccionar siempre habrán márgenes de errores. Los humanos no somos perfectos, por ende la IA tampoco lo será. Es necesario controlar las acciones porque definitivamente puede ser peligrosas.

Leí un artículo que me gustaría rescatar de nuevo, lo perdí no sé como. Allí se expone un caso sobre la creación de un algoritmo que al final se convierte en una tortura para sus creadores porque al parecer este algoritmo se creo solo y cuando ataca, no hay forma ni manera de controlarlo, se desconoce como hacerlo.

Es una evidencia de lo errores que puede cometer el ser humano, normales por cierto, nadie lo critica. Pero, fíjate la magnitud del peligro. Un abrazo amiga, gusto en responderte doblemente.