Clasificación de la IA según su nivel de riesgo | Opinión
Clasificación de la IA según su nivel de riesgo
Opinión
Saludos amigos de Cotinaast, unas semanas atrás el parlamento de la Eurocamara, presento una ley para regular la inteligencia artificial Ver [1] . Aunque entrará en vigencia en 2026, ya se están tomando acciones para establecer reglamentaciones al respecto.
Según entiendo la ley establece las bases para proteger los derechos de los ciudadanos, garantizar transparencia y responsabilidad en el desarrollo y despliegue de la tecnología y usos de la inteligencia artificial.
Clasificación según el riesgo
Particularmente me llamó la atención es que presentan una clasificación de la inteligencia artificial según el nivel de riesgo que esta representa. A continuación, les presento la categorización de tres niveles: alto riesgo, riesgo limitado y bajo riesgo y ejemplos de cada categoría, para hacer más entendible la ley.
Los tipos de Inteligencia Artificial según el riego se establece en función del grado e impacto negativo para la vida y los derechos humanos.
1. IA de Alto Riesgo:
Dirigido controlar y hasta prohibir el desarrollo y uso de modelos y sistemas que represente un riesgo inaceptable para la salud, la seguridad o los derechos fundamentales
✅ - Sistemas de reconocimiento facial y vigilancia en espacios públicos: pues esto otorga un control excesivo sobre la libertad de tránsito y privacidad de las personas.
✅ - Sistemas utilizados en el ámbito médico para el diagnóstico y tratamiento de enfermedades graves.
✅ - Sistemas de vehículos autónomos: ¿se imaginan que pasaría si esos vehículos (terrestres y aéreos) fueran cada vez más independientes?
2. IA de Riesgo limitado:
Modelos y sistemas de inteligencia artificial que presentan riesgos menores, pero aún requieren medidas de control.
✅ - Chatbots y asistentes virtuales utilizados en servicios de atención al cliente.
✅ - Sistemas de recomendación utilizados en plataformas de streaming y comercio electrónico.
✅ - Sistemas de reconocimiento de voz e imágenes utilizados en aplicaciones de asistencia personal.
3. IA de Bajo Riesgo:
Esta clasificación se aplica a sistemas y modelos que representan un riesgo mínimo para la seguridad y los derechos de las personas. Algunos ejemplos son:
✅- Algoritmos de búsqueda utilizados en motores de búsqueda en línea.
✅- Sistemas de reconocimiento óptico de caracteres utilizados en escáneres de documentos.
Opinión
Me parece importante destacar que la clasificación de la inteligencia artificial según el riesgo tiene un lado muy positivo hacia una regulación más sólida y equilibrada de la tecnología y modelos de IA. Por otro lado, desde el punto de vista negativo las medidas implementadas podrían obstaculizar y limitar la innovación y el desarrollo de la inteligencia artificial.
Se hace necesario entonces encontrar un equilibrio entre la protección de los derechos de los ciudadanos y la promoción de la investigación y el avance tecnológico.
Es preciso en mi opinión, desarrollar mecanismos de supervisión y control que garanticen el cumplimiento de las regulaciones y evitar posibles abusos. La transparencia y la responsabilidad deben ser pilares fundamentales en el desarrollo y uso de la inteligencia artificial.
En resumen:
La aprobación de la ley para regular la inteligencia artificial ha impulsado importantes avances en la protección de los derechos de los ciudadanos. La clasificación según el riesgo proporciona una base sólida para establecer medidas de control y seguridad. Sin embargo, es necesario mantener un equilibrio entre la regulación y la innovación, y garantizar la transparencia y la responsabilidad en el desarrollo y despliegue de la inteligencia artificial.
Fuentes Consultadas
[1] Ley de IA de la UE: primera normativa sobre inteligencia artificial actualizada el: 13/04/24
[2] Las claves de la nueva ley de Inteligencia Artificial actualizad0 el: 25/01/24
Imágenes
- Las imágenes y gif son de mi creación a partir de Promts editados en Ideogram.ai. Dicha aplicación emplea la Inteligencia Artificial, para generar imágenes, a partir de frases y oraciones escritas. Estas son libres de derechos. [1] Ver mi galería en Ideogram.ai: joslud
Mi post de presentación a Steemit : ¿Quién soy? en 7 niveles
Original production by @joslud -- #wox-joslud |
https://x.com/josluds/status/1780621149606404158
Hi, @joslud,
Your post has been voted on by the @ecosynthesizer curation team.
Thank you for your contribution to the Steem ecosystem.
- Explore Steem using our Steem Blockchain Explorer
- Easily create accounts on Steem using JoinSteem
- Delegate to @ecosynthesizer and wtiness vote @symbionts to support us.