Un ejercicio independiente de diligencia debida sobre el impacto de Meta en los derechos humanos en Israel y Palestina durante la escalada de mayo de 2021

0
2
Un ejercicio independiente de diligencia debida sobre el impacto de Meta en los derechos humanos en Israel y Palestina durante la escalada de mayo de 2021

Queremos que nuestros servicios sean un lugar donde las personas puedan expresarse con libertad y seguridad en todo el mundo. Esto es especialmente cierto en situaciones en las que las redes sociales pueden utilizarse para difundir el odio, alimentar la tensión e incitar a la violencia sobre el terreno. Es por eso que tenemos reglas claras contra terrorismo, El discurso del odio y incitación a la violenciay expertos en la materia que ayudan a desarrollar y hacer cumplir esas reglas. También tenemos una empresa Política de derechos humanos y un dedicado equipo de derechos humanos — que nos ayudan a gestionar los riesgos de derechos humanos y comprender mejor cómo nuestros productos y tecnologías impactan en diferentes países y comunidades.

Como parte de nuestro compromiso de ayudar a crear un entorno donde las personas puedan expresarse con libertad y seguridad, y siguiendo una recomendación de la Junta de Supervisión en octubre 2021, solicitamos a Business for Social Responsibility (BSR), una organización independiente con experiencia en derechos humanos, que realice un ejercicio de diligencia debida sobre el impacto de nuestras políticas y procesos en Israel y Palestina durante la escalada de mayo de 2021, incluido un examen de si estos las políticas y los procesos se aplicaron sin prejuicios. En el transcurso del año pasado, BSR realizó un análisis detallado, incluido el compromiso con grupos y titulares de derechos en Israel, Palestina y en todo el mundo, para informar su informe. Hoy publicamos estos hallazgos y nuestra respuesta.

Perspectivas de diligencia debida

Como BSR reconoció en su informe, los eventos de mayo de 2021 pusieron de manifiesto desafíos de larga data en toda la industria en torno a la moderación de contenido en regiones afectadas por conflictos y la necesidad de proteger la libertad de expresión al tiempo que se reduce el riesgo de que los servicios en línea se utilicen para difundir el odio. el oro incita a la violencia. El informe también destacó cómo la gestión de estos problemas se hizo más difícil debido a las complejas condiciones que rodean el conflicto, incluida su dinámica social e histórica, varios eventos violentos de rápido movimiento y las acciones y actividades de las organizaciones terroristas.

A pesar de estas complicaciones, BSR identificó una serie de áreas de “buenas prácticas” en nuestra respuesta. Estos incluyeron nuestros esfuerzos para priorizar las medidas para reducir el riesgo de que la plataforma se use para alentar la violencia o el daño, incluido el establecimiento rápido de un Centro de Operaciones Especiales dedicado para responder a la actividad en nuestras aplicaciones en tiempo real. Este centro contó con equipos de expertos, incluidos expertos regionales y hablantes nativos de árabe y hebreo, que trabajaron para eliminar el contenido que violaba nuestras políticas y, al mismo tiempo, se aseguraron de abordar los errores en nuestra aplicación tan pronto como nos dimos cuenta de ellos. También incluyó nuestros esfuerzos para eliminar contenido proporcionado y en línea con los estándares globales de derechos humanos.

Además de estas áreas de buenas prácticas, BSR concluyó que los diferentes puntos de vista, nacionalidades, etnias y religiones estaban bien representados en los equipos que trabajaban en Meta. No encontraron evidencia de sesgo intencional por ninguno de estos motivos entre ninguno de estos empleados. Tampoco encontraron evidencia de que al desarrollar o implementar cualquiera de nuestras políticas buscáramos beneficiar o dañar a alguna comunidad en particular.

Dicho esto, BSR planteó preocupaciones importantes sobre la aplicación insuficiente del contenido, incluida la incitación a la violencia contra israelíes y judíos en nuestras plataformas, y casos específicos en los que consideraron que nuestras políticas y procesos tuvieron un impacto no intencional en las comunidades árabes y palestinas, principalmente en su libertad. de expresión. BSR hizo 21 recomendaciones específicas como resultado de su debida diligencia, cubriendo áreas relacionadas con nuestras políticas, cómo se aplican esas políticas y nuestros esfuerzos para brindar transparencia a nuestros usuarios.

Nuestras acciones en respuesta a las recomendaciones

Desde que recibimos el informe final, hemos revisado cuidadosamente estas recomendaciones para ayudarnos a saber dónde y cómo podemos mejorar. Nuestra respuesta detalla nuestro compromiso de implementar 10 de las recomendaciones, implementando parcialmente cuatro, y estamos evaluando la viabilidad de otras seis. No tomaremos más medidas sobre una recomendación.

No hay soluciones rápidas y de la noche a la mañana para muchas de estas recomendaciones, como deja en claro BSR. Si bien ya hemos realizado cambios significativos como resultado de este ejercicio, este proceso llevará tiempo, incluido el tiempo para comprender cómo se pueden abordar mejor algunas de estas recomendaciones y si son técnicamente factibles.

Aquí hay una actualización de nuestro trabajo para abordar algunas de las áreas clave identificadas en el informe:

Nuestras Políticas

BSR recomendó que revisemos nuestras políticas sobre incitación a la violencia y Individuos y Organizaciones Peligrosas (DOI): reglas que tenemos vigentes que prohíben que grupos como terroristas, organizaciones criminales y de odio, tal como se definen en nuestras políticas, que proclamen una misión violenta o participen en actos violentos tengan presencia en Facebook o Instagram. Evaluamos a estas entidades en función de su comportamiento tanto en línea como fuera de línea; lo más importante, sus vínculos con la violencia. Nos hemos comprometido a implementar estas recomendaciones, incluido el lanzamiento de una revisión de estas dos áreas de políticas para examinar cómo abordamos la discusión política de los grupos prohibidos y cómo podemos hacer más para abordar el contenido que glorifica la violencia. Como parte de esta revisión integral, consultaremos extensamente con un amplio espectro de expertos, académicos y partes interesadas, no solo en la región, sino en todo el mundo.

BSR también recomendó que nivelemos el sistema de huelgas y sanciones aplicamos cuando las personas violan nuestra política DOI. Nos hemos comprometido a evaluar la viabilidad de esta recomendación en particular, pero ya hemos comenzado a trabajar para hacer que este sistema sea más simple, más transparente y más proporcionado.

Además, BSR nos alentó a involucrarnos con las partes interesadas y garantizar la transparencia en nuestras obligaciones legales de EE. UU. en esta área. Nos hemos comprometido a implementar parcialmente esta recomendación. Si bien llevamos a cabo regularmente una amplia participación de las partes interesadas en estas políticas y cómo se aplican, confiamos en el asesoramiento legal y las autoridades sancionadoras relevantes para comprender nuestras obligaciones de cumplimiento específicas en esta área. Estamos de acuerdo en que la transparencia es de vital importancia aquí y a través de nuestro Normas comunitariasbrindamos detalles sobre cómo definimos a los grupos terroristas, cómo los clasificamos en niveles y cómo estos niveles afectan las sanciones que aplicamos a las personas que infringen nuestras reglas.

Aplicación de nuestras políticas

BSR hizo una serie de recomendaciones centradas en nuestro enfoque para revisar el contenido en hebreo y árabe.

BSR recomendó que sigamos trabajando en el desarrollo y la implementación de clasificadores de aprendizaje automático que funcionen en hebreo. Nos hemos comprometido a implementar esta recomendación y, desde mayo de 2021, hemos lanzado un clasificador de “discurso hostil” en hebreo para ayudarnos a detectar de manera proactiva más contenido en hebreo infractor. Creemos que esto mejorará significativamente nuestra capacidad para manejar situaciones como esta, donde vemos picos importantes en el contenido violatorio.

BSR también recomendó que continuáramos trabajando para establecer procesos para enrutar mejor el contenido árabe potencialmente infractor por dialecto para la revisión del contenido. Estamos evaluando la viabilidad de esta recomendación. Contamos con equipos grandes y diversos para revisar el contenido árabe, con habilidades en el idioma nativo y una comprensión del contexto cultural local en toda la región, incluso en Palestina. También contamos con sistemas que usan tecnología para ayudar a determinar en qué idioma está el contenido, de modo que podamos asegurarnos de que sea revisado por revisores de contenido relevantes. Estamos explorando una variedad de opciones para ver cómo podemos mejorar este proceso. Esto incluye revisar la contratación de más revisores de contenido con diversas capacidades de idiomas y dialectos, y trabajar para comprender si podemos entrenar nuestros sistemas para distinguir mejor entre diferentes dialectos árabes para ayudar a enrutar y revisar el contenido árabe.

El análisis de BSR señala que Facebook e Instagram prohíben el contenido antisemita como parte de su política de incitación al odio, que no permite ataques contra nadie en función de su religión o cualquier otra característica protegida. BSR también señala que, debido a que actualmente no rastreamos los objetivos del discurso de odio, no podemos medir la prevalencia del contenido antisemita, y recomendaron que desarrollemos un mecanismo que nos permita hacer esto. Estamos de acuerdo en que valdría la pena comprender mejor la prevalencia de tipos específicos de discurso de odio, y nos hemos comprometido a evaluar la viabilidad de esto.

Además, BSR recomendó que ajustemos los procesos que tenemos para actualizar y mantener las palabras clave asociadas con organizaciones peligrosas designadas, para ayudar a evitar que los hashtags se bloqueen por error, como el error de mayo de 2021 que restringió temporalmente la capacidad de las personas para ver contenido en la página de hashtags de al-Aqsa. Si bien solucionamos rápidamente este problema, en primer lugar, nunca debería haber sucedido. Ya implementamos esta recomendación y establecimos un proceso para garantizar que los equipos de expertos en Meta ahora sean responsables de examinar y aprobar estas palabras clave.

Transparencia

Respaldando todo esto, BSR hizo una serie de recomendaciones centradas en ayudar a las personas a comprender mejor nuestras políticas y procesos.

BSR recomendó que proporcionemos información específica y granular a las personas cuando eliminemos contenido infractor y apliquemos “avisos”. Estamos implementando esta recomendación en parte, porque algunas personas violan varias políticas al mismo tiempo, lo que genera desafíos sobre qué tan específicos podemos ser a escala. Ya brindamos esta información específica y granular en la mayoría de los casos, y hemos comenzado a brindarla en más casos, donde es posible hacerlo.

BSR también recomendó que divulguemos la cantidad de informes formales recibidos de entidades gubernamentales para eliminar contenido que no infrinja las leyes locales, pero que potencialmente infrinja nuestras Normas comunitarias. Nos hemos comprometido a implementar esta recomendación. Ya publicamos un informe semestral que detalla cuántos elementos de contenido, por país, restringimos por violar la ley local como resultado de una solicitud legal válida. Ahora estamos trabajando para expandir las métricas que proporcionamos como parte de este informe para incluir también detalles sobre el contenido eliminado por violar nuestras políticas luego de una solicitud del gobierno.

El informe de BSR es un paso adelante de importancia crítica para nosotros y nuestro trabajo en derechos humanos. Los eventos globales son dinámicos, por lo que las formas en que abordamos la seguridad y la libertad de expresión también deben ser dinámicas. Las evaluaciones de derechos humanos como estas son una forma importante en que podemos continuar mejorando nuestros productos, políticas y procesos.

Para obtener más información sobre los pasos adicionales que hemos tomado, puede leer nuestra respuesta a la evaluación de BSR en su totalidad aquí. Continuaremos manteniendo a las personas actualizadas sobre nuestro progreso en nuestro informe anual de Derechos Humanos.

LEAVE A REPLY

Please enter your comment!
Please enter your name here