A poco de las revelaciones de una exempleada de Facebook -que aseguró que esa compañía privilegia las ganancias por sobre el bienestar de los usuarios- la empresa (ahora llamada Meta) habla de “prevalencia social” y comparte estadísticas relativas a diversas formas de bullying en sus plataformas y remarca cuáles son las medidas que toma para frenar el acoso y los discursos de odio, también en Instagram.
Meta está desarrollando un sistema de inteligencia artificial para reconocer situaciones de bullying.
No te olvides de seguirnos en Google Noticias para mantenerte informado
Acoso e intimidación en Facebook e Instagram: qué es la “prevalencia”
Meta divulga las mencionadas estadísticas en su último informe trimestral de transparencia. Esto ocurre mientras la empresa estadounidense se enfrenta a numerosas críticas que apuntan a su laxitud para proteger a los usuarios y hacer cumplir las reglas en sus servicios.
Según informa el sitio web TN Tecno, en el reporte comparten métricas de prevalencia que, según la firma, representan la cantidad de contenido que viola las normas y que los usuarios “realmente ven en sus pantallas”. Esto quiere decir que no incluyen en la estadística el contenido violento que no llegó a los usuarios.
Leer más ► Google debe pagar una multa multimillonaria a Europa por abuso de posición dominante
En Facebook la prevalencia del contenido de intimidación estuvo en torno al 0.15%. Es decir, fue visto 15 veces por cada 1.000 visitas.En Instagram la prevalencia fue del 0.05%: se vio 5 veces por cada 10.000 vistas.
Bullying en las redes: prevalencia, una variable polémica
Tal como nota Engadget, la métrica de prevalencia solamente tiene en cuenta el contenido que se elimina sin informes de usuario. “Esto significa que sólo captura un conjunto de todo el contenido de intimidación”, señala la fuente apuntando que los discursos de odio “no siempre son fáciles de identificar para un sistema automatizado”.
Documentos de Facebook revelados por la exempleada Frances Haugen mostraron que los propios investigadores de la compañía de redes sociales estiman que sólo pueden abordar del 3 al 5% del contenido de acoso en su plataforma. Esto quiere decir que gran parte pasa desapercibido.
Acoso en las redes: ¿cuál es la postura de Facebook?
La firma que dirige Mark Zuckerberg rechazó aquellas afirmaciones y dijo que sus estadísticas de prevalencia son fiables. Ahora bien, ¿los sistemas de detección automática son eficientes? Informes previos mostraron que los discursos de odio en Facebook se filtran en mayor medida cuando son escritos en idiomas diferentes al inglés. La propia Haugen apuntó a su exempleador por privilegiar las ganancias por sobre la experiencia de los usuarios en las plataformas. En ese marco, la ingeniera divulgó un documento que mostró que la empresa era consciente de los efectos nocivos de Instagram entre la audiencia adolescente.
“No tenemos absolutamente ningún incentivo, ya sea comercial o de otro tipo, para hacer algo más que asegurarnos de que la gente tenga una experiencia positiva”, dijo Guy Rosen, ejecutivo de la firma, esta semana al divulgar el informe de transparencia. “Estamos refinando constantemente la forma en que clasificamos (el contenido) para abordar estos problemas”, agregó. En ese marco, Meta informó que el discurso de odio disminuyó por cuarto trimestre consecutivo en sus servicios.
Leer más ► Microsoft utiliza a OneDrive para obligar a sus usuarios a actualizar Windows
Además, siguiendo a la fuente, desde Meta comentaron que sus investigadores están trabajando en “un área relativamente nueva de investigación con inteligencia artificial que les permitiría entrenar modelos automáticos mucho más rápidamente. No indicaron cuánto tiempo tomaría poner en práctica esta investigación, pero sugiere que la compañía todavía está buscando avances para abordar los problemas en sus plataformas, incluyendo el bullying y la proliferación de contenido intimidatorio.
