Se trata un software que se utiliza desde 2017, a través del cual se busca material potencialmente abusivo u ofensivo en imágenes y comentarios que son dados de baja automáticamente por el sistema.
Adam Mosseri, el nuevo titular de Instagram, la red social que apunta a la comunicación por medio de imágenes y videos, anunció que además de la posibilidad de que cualquier usuario reporte una fotografía o comentario considerado ofensivo ahora se agrega la inteligencia artificial para combatir el ciberbullying incluso en los videos en vivo.
De esta manera, cuando el software encuentre algo potencialmente abusivo se bajará automáticamente de la plataforma y se informará al equipo de manejo de la comunidad quien tendrá la última palabra y podrá tomar una decisión contra el atacante.
Mosseri dijo en su blog que “este cambio nos ayudará a identificar y remover más significativamente el bullying. Esto es un paso crucial, ya que mucha gente que es víctima o testigo del acoso virtual, no lo denuncia”.
Agregó que esto está dirigido sobre todo a ayudar a los “instagrammers” más jóvenes, grupo etario que siempre sufre los porcentajes más altos de bullying online.
La aplicación ya utilizaba desde 2017 una herramienta de machine learning (la aplicación aprende sola sin necesitar de la colaboración humana) para combatir el spam y los comentarios ofensivos.
