Analiza frases tóxicas y engañosas - IA Google

in technology •  6 days ago

Buenas amigos de Steemit hoy les traigo un nuevo Post, tratándose de la IA de Google que indentifica frases tóxicas y engañosas con palabras bonitas en internet



FuenteLink

Google viene desde hace algún tiempo trabajando en un sistema de inteligencia artificial capaz de reconocer y por lo tanto castigar de alguna manera los comentarios o post de odio y ofensa que circulan en internet. Usando un algoritmo que identifica por medio de palabras clave lo que puede contener lenguaje obscena o violento, Google analiza la entrada y la considera negativa usando un sistema de porcentaje.

El problema es que no es tan difícil así por ahora engañar a este sistema y hacer que no identifique las groserías y las palabras, por ejemplo en un comentario. En el pasado, el simple hecho de escribir las palabras con algún error de ortografía o insertar un carácter diferente, como un punto en medio de la palabra ayudaba bastante en la tarea de engañar la inteligencia artificial.


FuenteLink

Muchas de ellas ya se ha mejorado, aunque todavía está lejos de la perfección, pero una nueva manera de descubrir el algoritmo de Google es insertar palabras positivas en medio de los comentarios al azar, como "amor". La presencia de palabras así reduce bastante la nota que se da en porcentaje siendo que cuanto más cerca del 100% más seguro es de que el comentario sea negativo.

Así, de la misma forma que cada palabrita añadida en una frase aumenta su nota, cada palabra positiva la disminuye, siendo posible engañar la inteligencia artificial que podría dejar pasar comentarios horribles enmascarados con términos bonitos.

En cualquier caso, identificar el problema no deja de ser un paso en busca de un sistema perfecto, o tal vez más próximo. Y ya nos indica que sólo el análisis de palabras clave no es suficiente. La idea ahora es exactamente que la inteligencia artificial sea aún más inteligente para tener una internet cada vez menos tóxica.


Es todo por hoy, Muchas Gracias!


@informatica


Authors get paid when people like you upvote their post.
If you enjoyed what you read here, create your account today and start earning FREE STEEM!
Sort Order:  

The fact that Goog is even thinking about censoring hate speech is a red flag. It is time to leave Goog to rot in a barrel.

  • The Christian, hates those who kill children.
  • The Atheist hates Christians who don't approve of their drinking young blood.

Both are hate speech and I know which one the AI is looking for so it never comes up on searches.

Free speech, a human right given by God, is not to be limited! But they will try. And I will set my search engine to DuckDuckGo.com or zandex.com - Death to goog for attempting to kill my free speech.

Nothing new: God said, "And then shall many be offended, and shall betray one another, and shall hate one another." Matthew 24:10

Welcome to another fulfilled prophecy!

·

Las intenciones están muy buenas, ¿en que casos se analizan las palabras o frases? En blogspot, artificios, redes sociales?. Sería bueno si algo así funciona. Buen post.

·
·

Segun tengo entendido seria todo lo que es filtrado por google, en caso de redes sociales es mi duda,Gracias por Comentar

·

it's good point @ sponge-bob, with that we would have limitations to our expressions and feelings

Lo veo bastante difícil de lograr, hay una palabra por ahí que tira abajo todos los conceptos de porcentajes y cuenta de palabras buenas y malas, se llama "ironía" y es tan difícil de detectar que a la mayoría de las personas les es muy complejo reconocerla.

·

Realmente amigo, eso si sera muy dificil de detectar, Gracias por Comentar

Hay muchas formas de evadir eso, solo escribir con espacios o con signos no se... buen post

·

Si amigo y eso es lo que ya estan solucionando, Gracias por Comentar.