Mark Zuckerberg dijo en febrero que la empresa está desarrollando tecnología de reconocimiento de contenido para ser utilizada en Facebook y Facebook Live, pero está en una “etapa inicial de desarrollo”. De haber sido utilizada, tal vez se pudo haber evitado la viralización del vídeo en el que Steven Stephens asesinó a un hombre a sangre fría en Cleveland este fin de semana. Pero esta no es la primera vez que se filtran imágenes violentas en la red social.

Se pensó que el vídeo se había grabado utilizando Facebook Live, pero uno de los portavoces de la red social desmintió que se utilizara la herramienta para grabarlo. De todas formas, el asesino sí utilizó la aplicación para narrar sus problemas y decir que había asesinado a muchas otras personas. La empresa se apoya en los usuarios para reportar el contenido de los vídeos, lo que toma tiempo y expone a los usuarios a situaciones perturbadoras.

Al revisar los vídeos es difícil comprender que Facebook busque hacer dinero con la aplicación ya que pocos anunciantes querrían pautar en vídeos de mala calidad o de contenido pobre, aun cuando la empresa tiene asociados produciendo vídeos, según la revista digital Recode. Hay excepciones, como el vídeo Chewbacca Mom, que fue genial, pero su éxito nada tuvo que ver con haber utilizado la aplicación al tener miles de visitas después de haber sido grabado.

La propuesta no es “desconectar la Internet” porque haya cosas malas, se trata de analizar si es útil y viable el utilizar una herramienta que no es capaz de filtrar el contenido al que miles de usuarios están expuestos. Una opción puede ser poner la aplicación en el cajón mientras se termina de desarrollar la tecnología necesaria para identificar el contenido de los vídeos. ¿Usted qué opina?