Buenas amigos de Steemit hoy les traigo un nuevo Post, tratándose de la IA de Google que indentifica frases tóxicas y engañosas con palabras bonitas en internet

^FuenteLink

Google viene desde hace algún tiempo trabajando en un sistema de inteligencia artificial capaz de reconocer y por lo tanto castigar de alguna manera los comentarios o post de odio y ofensa que circulan en internet. Usando un algoritmo que identifica por medio de palabras clave lo que puede contener lenguaje obscena o violento, Google analiza la entrada y la considera negativa usando un sistema de porcentaje.

El problema es que no es tan difícil así por ahora engañar a este sistema y hacer que no identifique las groserías y las palabras, por ejemplo en un comentario. En el pasado, el simple hecho de escribir las palabras con algún error de ortografía o insertar un carácter diferente, como un punto en medio de la palabra ayudaba bastante en la tarea de engañar la inteligencia artificial.

^FuenteLink

Muchas de ellas ya se ha mejorado, aunque todavía está lejos de la perfección, pero una nueva manera de descubrir el algoritmo de Google es insertar palabras positivas en medio de los comentarios al azar, como "amor". La presencia de palabras así reduce bastante la nota que se da en porcentaje siendo que cuanto más cerca del 100% más seguro es de que el comentario sea negativo.

Así, de la misma forma que cada palabrita añadida en una frase aumenta su nota, cada palabra positiva la disminuye, siendo posible engañar la inteligencia artificial que podría dejar pasar comentarios horribles enmascarados con términos bonitos.

En cualquier caso, identificar el problema no deja de ser un paso en busca de un sistema perfecto, o tal vez más próximo. Y ya nos indica que sólo el análisis de palabras clave no es suficiente. La idea ahora es exactamente que la inteligencia artificial sea aún más inteligente para tener una internet cada vez menos tóxica.

Es todo por hoy, Muchas Gracias!

@informatica