¡Cuidado! Nuevo virus se propaga en Facebook

Un virus no malicioso en los sistemas internos de Facebook liberó una herramienta en fase prueba de la red social que serviría para detectar “discursos de odio”. A raíz de este virus, hubo usuarios a quienes Facebook preguntaba “Does This post contain hate speech?” (“¿este post contiene un discurso de odio?”) cuando publicaban cualquier cosa en su perfil.

La filtración sucedió en el marco de la conferencia anual para desarrolladores de Facebook, la F8, donde se anunció la nueva función, junto con otras, igualmente importantes como: opción de borrar historial de datos o un nuevo algoritmo que dará prioridad a aquellas noticias que provengan de fuentes confiables.

A los 20 minutos de haber detectado la “infección”, el vicepresidente de la compañía, Guy Rosen, informó a través de Twitter que “Algunas personas vieron ‘¿este post contiene un discurso de odio?’ en publicaciones realizadas hoy. Esto era un prueba –y un virus que revertimos en menos de 20 minutos.”

La prueba fue liberada sólo para usuarios de Estados Unidos, e incluso antes de recibir cualquier explicación de parte de Guy Rosen o cualquier otro responsable en Facebook, hubo algunos usuarios, como el escritor Matt Walsh, que señalaron este movimiento como algo intencional, a fin de bloquear cualquier discurso conservador en la red social.

Esta utilización de inteligencia artificial (IA) para la detección de discursos de odio ha levantado dudas sobre el proceso de discriminación de información de Facebook.

Al respecto, el sitio de noticias Wired, recordó que un mes antes de su comparecencia ante el Congreso, Mark Zuckerberg discutió el problema de detectar discursos de odio a través de IA, sin embargo dijo sentirse optimista de que en los próximos 5 o 10 años, la IA será capaz de profundizar en algunos de los matices lingüísticos de diferentes tipos de contenido.

Zuckerberg batalló entonces para dar una definición clara de lo que era un discurso de odio: “La pregunta de qué es un discurso de odio y qué es un discurso político legítimo es algo sobre lo que recibimos mucha crítica tanto de la derecha como de la izquierda. Está matizado, tratamos de establecer esto en nuestros estándares para la comunidad.”