Logo de la Asociación por los Derechos Civiles < Volver

Categoría: Sin categoría

Discursos de odio y el odio al discurso

Eduardo Ferreyra | 08/09/2022

Discursos de odio y el odio al discurso

La semana pasada, la vicepresidenta Crisitina Fernández de Kirchner sufrió un ataque que pudo haberle costado la vida. El agresor resultó ser una persona cuya actividad en redes sociales exhibía muestras de simpatía a grupos violentos y extremistas. Como consecuencia del lamentable suceso, se puso el foco en el rol de los llamados discursos de odio como generador del tenso clima que se vive en Argentina. Desde diversos sectores se reclamó que el debate político deje de estar dominado por declaraciones violentas y adquiera tonos más mesurados. Sobre este escenario, volvió a instalarse la posibilidad de que el Estado combata los discursos de odio a través de la regulación legislativa. Frente a estos posibles nuevos intentos, es conveniente resaltar algunas de las dificultades que aparecen para la libertad de expresión cuando se enfrenta este problema desde una perspectiva punitiva.

Una característica estructural de una sociedad es el desacuerdo que existe entre las personas sobre todos los temas. La gente discrepa sobre cuestiones banales como cuál es el gusto de helado más rico o cuál es la plaza más linda de una ciudad. Pero también discute sobre asuntos más serios como el rol del Estado en la economía o quién es la persona más capacitada para ocupar la presidencia de un país. La definición de discurso de odio no escapa a esta condición. Así como la gente tiene diferentes visiones acerca de qué es el amor, es muy probable que también la tenga acerca del sentimiento opuesto. Cualquier declaración, comentario o posteo puede ser considerado ofensivo de acuerdo al contexto. Esta circunstancia suele recibir poca atención cada vez que existen intentos regulatorios para combatir los discursos de odio. Y esta ausencia de consideración puede producir efectos no deseados desde un punto de vista democrático.

En primer lugar, por más esfuerzo que se ponga en describir de manera precisa lo que entendemos por discurso de odio en una norma, las palabras elegidas siempre estarán sujetas a interpretación. Por lo tanto, el sector que cuente con el mayor poder en un momento dado será aquel que tendrá la capacidad para influenciar el contenido de esas disposiciones. De este modo, existe el riesgo de que legislaciones de este estilo sean utilizadas por el sector político dominante para restringir las expresiones de otros actores con una visión distinta.

En segundo lugar, si se elige un camino punitivista para combatir los discursos de odio (sea a través de prisión o multas para quien emita o difunda expresiones de ese estilo), dichas medidas deberán ser adoptadas por el Poder Judicial de acuerdo al principio de separación de poderes establecido en nuestra Constitución. Por lo tanto, la última palabra sobre qué es y qué no es discurso de odio estaría en manos de los jueces. Curiosamente, esta situación no sería bien vista por aquellas personas que acusan al propio Poder Judicial de ser uno de los actores que más contribuyen al clima de tensión política que se vive en el país.

Por último, quedaría por analizar el estatus de múltiples obras artísticas que podrían ser calificadas como incitadoras de odio político. Pensemos en “Derrumbando la Casa Rosada”, canción de Alerta Roja, banda pionera del punk argentino. Además de la frase del título, la letra incluye frases como “Trincheras callejeras, barricadas urbanas, caos, sedición, bomba, revolución” en el marco de una queja por lo “lejos que se está llegando con este proceso inflacionario”. La canción es de comienzos de 1983 cuando la última dictadura estaba en retirada pero la persistencia de algunos problemas de nuestra economía nos hace pensar que podría haber sido escrita en varios otros momentos de nuestra vida democrática.

Los llamados discursos de odios están ligados con fenómenos repulsivos como la xenofobia, el racismo, la homofobia y demás formas de discriminación. A su vez, los últimos actos de violencia contra figuras políticas de la región -desde Jair Bolsonaro hasta Cristina Fernández de Kirchner- no reconocen ideologías. Como todo problema, debe ser abordado y solucionado. Pero es necesario una investigación y análisis sobre las causas y los medios más eficaces. Las regulaciones punitivistas suelen tener los inconvenientes señalados ya que más que combatir los discursos de odio, dejan traslucir más bien un odio al discurso.

More

Elon Musk, Twitter y el absolutismo de la libertad de expresión

Eduardo Ferreyra | 28/04/2022

Elon Musk, Twitter y el absolutismo de la libertad de expresión

Jack Dorsey, cofundador de Twitter, se pronunció sobre la probable venta de la compañía a Elon Musk mediante el posteo de una canción de Radiohead llamada “Everything in Its Right Place”. El título afirma que todo está en su debido lugar, pero en realidad la canción evoca sentimientos de depresión y confusión. Aparentemente las cosas no están tan bien como parecen. Y es que la noticia ha causado controversia debido a la incertidumbre sobre los planes de Musk para la plataforma.

Hay varios aspectos que merecen atención. Por un lado, el empresario sudafricano ha manifestado que le parece una buena idea autenticar a todos los humanos, lo cual trae peligro para el anonimato en su plataforma. Por el otro, no existe certeza sobre el modo en que la nueva dirección utilizará los datos y la información privada de las personas usuarias. Sin embargo, el tema más controversial fue la posición del posible futuro dueño de Twitter sobre la moderación de contenido.

Autoproclamado un “absolutista de la libertad de expresión”, Musk ha sido crítico de las políticas de moderación de contenido de las plataformas por ser restrictivas con el contenido que circula. Estas declaraciones han abierto paso a hipótesis sobre un Twitter más indulgente para permitir el posteo de expresiones hostiles o el retorno de personalidades expulsadas como el ex presidente de Estados Unidos Donald Trump. 

Hasta el momento hay mucha especulación y poca certeza. Pero de las opiniones de Musk podemos detectar ciertas confusiones acerca de la caracterización de la libertad de expresión y la función de la moderación de contenido en plataformas digitales.

En primer lugar -y tal como lo afirmó Musk- la libertad de expresión es un derecho que merece una protección especial debido a su importancia para la democracia. Pero esto no implica que sea necesario transformarse en absolutista. La libertad de expresión puede entrar en conflicto con otros valores -la igualdad, la dignidad o la no discriminación-. Una postura absolutista no estaría en condiciones de reconocer este hecho. Y aun cuando en la gran mayoría de estas controversias la respuesta adecuada sea favorecer la libertad de expresión, esto no significa que haya que desconocer los problemas que fenómenos como el discurso violento o la desinformación pueden causar a grupos o al debate público.

En segundo lugar, la moderación de contenido es una actividad necesaria para el normal funcionamiento de una red social. Tal es así que a veces suele afirmarse que el producto principal ofrecido por las plataformas es la propia moderación de contenido -y la experiencia resultante de dicha labor para las personas usuarias-. Así sea para evitar que contenido spam o material relacionado con explotación sexual infantil aparezca en sus redes, las empresas tienen que moderar. Asimismo, la moderación de contenido es requerida para evitar ataques contra minorías, disidentes políticos y personas en situación de vulnerabilidad en general. Es cierto que hasta el momento las compañías han demostrado deficiencias en términos de transparencia, debido proceso o legitimidad. Pero esto significa que la moderación de contenido debería sujetarse a estándares de derechos humanos, no eliminarse. En oposición a esto, parece ser que Musk quiere, como dice la conocida frase, tirar todo a la basura.

Por último, Musk aclaró su postura y afirmó que su intención es permitir todo discurso que ya esté habilitado por la ley. Sin embargo, no especificó de qué ley está hablando. ¿Es la norteamericana, que brinda una protección a la libertad de expresión más amplia que en otros lugares? ¿Es la europea que cuenta con estándares más restringidos? ¿Son los estándares del sistema universal de derechos humanos o aquéllos de los sistemas regionales? La variedad de regímenes legales otorga un poder bastante discrecional a Musk -y para el caso, a todos los dueños de plataformas-. De este modo, existe el riesgo de que estas personas definan primero (de acuerdo con sus preferencias personales o intereses) de qué modo quieren decidir un conflicto y luego opten por la legislación que le permita apoyar la decisión tomada de antemano.

El absolutismo es un concepto utilizado para caracterizar aquellos regímenes políticos en donde el gobernante no está sujeto a ningún límite institucional. Más allá de si finalmente Elon Musk será el dueño de Twitter o no, las últimas novedades ratifican esta conclusión: a pesar de las discusiones de los últimos años, todavía no sabemos cómo lidiar institucionalmente con el poder que figuras privadas tienen para controlar los espacios en donde circula el discurso en línea.

More

El discurso hostil hacia las figuras políticas

Eduardo Ferreyra | 22/04/2022

El discurso hostil hacia las figuras políticas

Ofelia Fernández y Elisa Carrió son dos políticas argentinas que están muy alejadas entre sí en términos ideológicos. Sin embargo, comparten una característica en común: ambas han sido objeto de insultos en redes sociales en razón de su género, aspecto físico o peso corporal. La alta exposición mediática de ellas1 las ha puesto en la mira de ataques personales que se retroalimentan por la actual dinámica política argentina.

Dedicarse a la política implica exponerse a recibir críticas todo el tiempo. Incluso en sociedades con bajos niveles de conflicto, tener un cargo público supone por definición que habrá mucha gente que estará disconforme con tu trabajo. En momentos de alta polarización, la situación se agrava. La imagen ideal en donde las personas reclaman a sus representantes en base a argumentos se desvanece rápidamente. Los cuestionamientos se transforman en insultos. Las descalificaciones basadas en características personales de la figura política reemplazan al debate razonado. 

Es legítimo lamentarse por esta supuesta degradación del debate político. Pero en principio es inconcebible pretender imponer sanción alguna. Las figuras políticas tienen el deber de ser más tolerantes que una persona común frente a la crítica. Hay varios motivos para justificar esta distinción. Por un lado, las personas que ejercen funciones públicas se han expuesto voluntariamente a esta situación. Ellos han decidido trabajar de cara al ojo público.

Por otro lado, las figuras políticas tienen un gran poder de convocatoria. Ellas no solo tienen haters sino también personas que las apoyan fervientemente. Volvamos a los casos del inicio. Ofelia Fernández es una política muy popular para un sector importante de la sociedad argentina. De hecho, ha sido elegida por una conocida revista como una de las líderes de la próxima generación. Por el lado de Elisa Carrió, la situación es similar. En su momento, los niveles de popularidad de la exlegisladora eran de los más altos del país. Las personas que ocupan un cargo público cuentan con una mayor influencia social y acceso a los medios para responder a cualquier cuestionamiento.

Ahora bien, el mismo sistema interamericano de derechos humanos nos recuerda que las figuras políticas también tienen derecho al honor cuando sean objeto de ataques injustificados contra su persona. En este sentido, conviene recordar que desde los estudios feministas se ha puesto de relieve el fenómeno de la violencia política de género. De acuerdo a este enfoque, las agresiones a políticas mujeres o pertenecientes a otros grupos históricamente excluidos tendrían un efecto silenciador de la libertad de expresión. El motivo es que este tipo de ataques constantes denigran el valor y la dignidad de estos colectivos. Y como resultado, sus miembros pueden verse inhibidos a involucrarse activamente en la actividad política.

Según esta visión, no es únicamente Fernández o Carrió quienes se ven afectadas por los insultos recibidos. Son las miles de mujeres que son testigos de esos ataques y que tienen la sensación de que la política es un ámbito en el cual si sos mujer, vas a recibir insultos y agresiones por lo que es recomendable dedicarse a otra cosa.

Cómo enfrentar el discurso violento hacia figuras políticas sin perjudicar la libertad de expresión es todo un desafío. Los estándares judiciales nos dicen que las soluciones deben ser diseñadas bajo principios de pluralismo democrático y sin generar riesgos de autocensura. En el caso de las redes sociales, el informe “Violencia política de género en internet” del consorcio AlSur nos brinda algunas pautas más concretas. Allí, por ejemplo, se recomienda a las plataformas que ofrezcan mecanismos de denuncia accesibles que incluyan una clasificación de violencia política y violencia política de género, y que produzcan informes periódicos con información sobre qué tipo de publicaciones son reportadas y cuáles son eliminadas. 

En síntesis, una estrategia no centrada en el castigo de la expresión sino en la difusión del problema y el apoyo a las víctimas de violencia parece ser una vía digna de ser explorada ya que respeta todos los derechos en juego.

1 https://www.youtube.com/watch?v=2iCWPFuT9n0

More

Cuando la política se convierte en troll

Eduardo Ferreyra | 08/04/2022

Cuando la política se convierte en troll

Cuando la política se convierte en troll

Como dice Mike Tyson: “Todo el mundo tiene un plan hasta que reciben un golpe en la boca”. Twitter, Facebook y Youtube tenían un plan para lidiar con los discursos violentos que las personas suelen propagar en sus plataformas. Donald Trump fue el golpe en la boca. Que el ex presidente de los Estados Unidos haya sido uno de los principales propagadores de discurso violento en las redes fue un fenómeno que sobrepasó a las plataformas. Su calidad de figura política era un factor que dificultó cualquier decisión sobre cómo enfrentar los insultos y mentiras publicadas en sus cuentas. Luego de diversas idas y vueltas acerca de cómo lidiar con los posteos de Trump, el asalto al Capitolio unificó el criterio. Las plataformas decidieron suspender y/o expulsar al expresidente para impedirle que continúe instigando a su público. 

Esta decisión fue criticada desde puntos de vista opuestos. Por un lado, fue reprobada por tardía. Se dijo que hubo varias instancias anteriores en las cuales las compañías podrían haber intervenido antes de que las cosas pasaran a mayores. Para esta postura, la prohibición debió haber llegado mucho antes. Al mismo tiempo, esta decisión también fue cuestionada por antidemocrática. Se señaló lo preocupante de que un puñado de actores privados haya expulsado a un líder político del principal espacio de comunicación de estos tiempos. De acuerdo a esta visión, la prohibición quizás no haya tenido que llegar nunca.

Trump fue el caso más extremo y peligroso, pero existen numerosos ejemplos de personas que ejerciendo una función pública han emitido discursos violentos. Nuestro país no es la excepción. En julio de 2021 se difundió un video de policías de la Provincia de Chubut cantando contra personas del movimiento piquetero. El por entonces ministro de seguridad de la provincia, Federico Massoni, publicó un tuit en donde reforzaba ciertos estereotipos contra quienes integraban esas organizaciones sociales. El ex ministro relativizó la conducta de la policía y recurrió a distinciones entre un “ellos” (piqueteros y piqueteras) y un “nosotros” (la ciudadanía) que suelen ser típicas de manifestaciones hostiles. 

Parece haber diferencias claras entre el impacto causado por el comportamiento de Trump y Massoni. Tal como lo describe el académico Richard L. Hasen en su libro, el expresidente de Estados Unidos emprendió una serie continua de ataques al sistema electoral de su país que ayudó a impulsar una insurrección violenta en el Congreso. Por el contrario, las declaraciones de Massoni no superaron el nivel de exabruptos sin consecuencias evidentes en la realidad. Desde una perspectiva de derechos, no es aconsejable equiparar ambas situaciones. La regla debería ser que medidas extremas como la expulsión de redes sociales solo debería tomarse en circunstancias excepcionales. En ese sentido, el diferente tratamiento a ambos casos está justificado.

Ahora bien, una crítica común a las decisiones privadas sobre moderación de contenido es su carácter ad hoc. Por ejemplo, la decisión de suspender a Trump llegó cuando la presión en EEUU para que las plataformas implementen esa medida era demasiado grande. Las plataformas tienen varios incentivos económicos para mostrarse receptivos a las demandas de las personas que usan sus servicios. Si existe un grupo lo suficientemente grande y activo requiriendo una determinada medida, es muy probable que la compañía cumpla con ese pedido. Desde esta perspectiva, quizás la distinción entre Trump y Massoni no se basó en una cuestión de principios sino en el hecho de que mucha gente pidió -probablemente de manera justificada- la expulsión del expresidente norteamericano mientras que las declaraciones del ex ministro chubutense no interesaron a casi nadie. 

La moderación de contenido tiene varios retos. Uno de los principales es demostrar que las decisiones tomadas por las compañías respecto a mensajes de figuras políticas no están influenciadas por conveniencias sociales o económicas. Quizás el fenómeno Trump fue realmente un hecho que descolocó por completo cualquier intento de recurrir a reglas previas. Sin embargo, esa imprevisibilidad no existe más. Cada vez hay menos razones para no exigir de las compañías decisiones fundadas en principios o estándares diseñados de manera coherente y general.

More

Moderar contenido es difícil. Cuando hay políticos en el medio, más

Eduardo Ferreyra | 01/04/2022

Moderar contenido es difícil. Cuando hay políticos en el medio, más

Moderar contenido es difícil. Cuando hay políticos en el medio, más

Las redes sociales son uno de los medios por los cuales la política y la ciudadanía dialogan y se mantienen en contacto. Tanto es así que hoy en día referentes políticos efectúan anuncios de gran importancia a través de sus cuentas oficiales de Twitter, Instagram y YouTube, entre otras. Allí no solo informan sobre sus actos de gobierno, sino que también reciben comentarios, reclamos o quejas de sus seguidores.

Es cierto que esta interacción está lejos de ser perfecta en términos de calidad de la conversación. Por un lado, no hay certeza de que sean los mismos políticos o políticas quienes manejan sus cuentas. Más bien es posible que detrás de muchas de ellas se encuentren community managers que están a cargo de publicar los posteos y revisar las respuestas. Por otro lado, el formato dificulta que se lleve a cabo un intercambio continuo, razonado y profundo. En este sentido, los encuentros presenciales siguen llevando la ventaja.

Si bien el discurso violento no es un fenómeno reciente, el crecimiento de las redes sociales permitió que su ejercicio se extienda a nuevas dimensiones. Este ámbito tiene características únicas, principalmente vinculadas a la inmediatez de las comunicaciones, la amplitud del alcance y la facilidad con la que se permite a la ciudadanía participar. Sin perjuicio de los diversos beneficios que trae para el debate político en el sistema democrático, estos ámbitos permiten que los discursos violentos tengan un alcance más amplio.

El vínculo entre representantes y personas representadas es una preocupación constante para toda democracia. Votar cada cuatro o dos años no parece ser una medida suficiente para que la ciudadanía pueda controlar y exigir explicaciones a sus gobernantes. Las personas deberían estar en comunicación permanente con las autoridades para que el ideal del autogobierno tenga probabilidades de realizarse plena o parcialmente.

Sin embargo, esto se ve opacado cuando ciertas discusiones en redes sociales que tienen como protagonistas a figuras políticas adquieren un tono violento. Los funcionarios y funcionarias en muchas oportunidades son receptores de amenazas, insultos o descalificaciones de alta intensidad. Pero a veces ellos y ellas también emiten esta clase de mensajes. Frente a este panorama, existe un debate en vigencia acerca de cuál es la mejor forma de abordar esta situación desde el punto de vista normativo.

Existe un principio bastante arraigado de que las personas que ocupan cargos públicos deben soportar un mayor nivel de cuestionamientos que una persona común. El motivo es la necesidad de preservar un ambiente que incentive la expresión ciudadana en asuntos públicos. A través de la garantía de que sus críticas no se verán amenazadas de sanción, las personas no tendrán temor de manifestar sus opiniones sobre sus representantes. Ahora bien, ¿qué sucede cuando esas críticas se refieren a, por ejemplo, el género o el peso corporal del político o política? Uno podría replicar que la protección de la ley no debería extenderse a descalificaciones personales. 

Si miramos el otro lado de la moneda, nuestras intuiciones nos dicen rápidamente que sancionar o restringir el mensaje de una persona vinculada a la política debe ser considerado un ejemplo claro de censura. Además, es una medida que afecta de manera central la capacidad de la ciudadanía de acceder a lo que piensan sus representantes. Sin embargo, ¿qué sucede cuando quien lidera un espacio político emite discursos que afectan la dignidad o seguridad de una persona o de un grupo determinado? Otra vez uno podría argumentar que estos casos merecen un tratamiento específico y diferente a la regla general.

Dilemas de este estilo se han vuelto habituales en la moderación de contenido. Si la solución es compleja, la única forma de generar legitimidad por parte de las compañías es demostrar que sus decisiones no están basadas en conveniencias políticas o en la presión del momento. Por lo tanto, las plataformas deben continuar sus esfuerzos por desarrollar procesos de toma de decisiones que sean consecuentes y estables.

More

Datos personales, vigilancia estatal y discriminación

Eduardo Ferreyra | 20/10/2021

Datos personales, vigilancia estatal y discriminación

¿Qué es el ciberpatrullaje?

El ciberpatrullaje en la Argentina

¿Qué es el reconocimiento facial?

Pero… ¿y entonces qué?

  • Legalidad, equidad y transparencia: el procesamiento debe ser legal, justo y transparente para las personas interesadas.
  • Limitación del propósito: debe procesar los datos para los fines legítimos especificados explícitamente a la persona interesada cuando los recopiló.
  • Minimización de datos: debe recopilar y procesar solo la cantidad de datos que sea absolutamente necesaria para los fines especificados.
  • Precisión: debe mantener los datos personales precisos y actualizados.
  • Limitación de almacenamiento: solo puede almacenar datos de identificación personal durante el tiempo que sea necesario para el propósito especificado.
  • Integridad y confidencialidad: el procesamiento debe realizarse de tal manera que se garantice la seguridad, integridad y confidencialidad adecuadas (por ejemplo, mediante el uso de cifrado).
  • Responsabilidad: el controlador de datos es responsable de poder demostrar el cumplimiento de la norma con todos estos principios.
  • Las personas deberían supervisar los sistemas de IA y los algoritmos deberían ser abiertos.
  • Hay que oponerse a las bases de datos privadas de reconocimiento facial, la vigilancia del comportamiento y la puntuación ciudadana.
  • El reconocimiento automático no debe utilizarse para el control de fronteras o en espacios públicos.
More

Violencia política por razones de género en internet: una problemática que no cesa

Marianela Milanes | 14/09/2021

Violencia política por razones de género en internet: una problemática que no cesa

Seis años pasaron desde el 3 de junio en que el movimiento Ni una Menos copó -por primera vez-  las calles de Argentina para reclamar por medidas públicas destinadas a prevenir y erradicar la violencia de género. Aunque mucho se avanzó desde entonces, esta problemática no se detiene. El año pasado la cantidad de denuncias por situaciones de violencia de género psicológica, física, sexual, económica y/o simbólica aumentó un 25 por ciento -con respecto al mismo periodo anterior- durante el confinamiento dispuesto para contener la expansión del Covid-19. Esta cifra expuso que el ámbito doméstico continúa siendo el más peligroso para muchas mujeres, pero no es el único.

La violencia por razones de género se manifiesta en distintos modos y ámbitos de la vida social, afectando a mujeres y niñas tanto como a personas LGTBIQ+. Nuestro país cuenta con un vasto marco normativo dedicado a su abordaje, donde la Ley Nº 26.485 de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres en los ambitos en que desarrollan sus relaciones interpersonales, tiene un lugar central. A fines de 2019 dicha ley fue modificada con el fin de dar cuenta de un tipo y modalidad de violencia de género en particular, la política. De este modo Argentina se sumó a los esfuerzos regionales por combatir este grave problema, muchas veces invisibilizado.

Varios estudios regionales1 demuestran que a medida que aumenta el liderazgo y la participación de mujeres y personas LGTBIQ+ en la esfera pública y política, las barreras estructurales y la violencia en torno al género aparecen con mayor fuerza. En un país como Argentina, donde aún es necesario disponer de leyes que aseguren la incorporación de las mujeres en el terreno de la política, abordar los desafíos para su permanencia y mayor inclusión se vuelve extremadamente necesario y urgente. Obstaculizar el disfrute de una vida política libre de violencia, la participación en los asuntos públicos y políticos en condición de igualdad con los varones, constituye una grave violación a los derechos humanos de las mujeres y personas LGTBIQ+, que deteriora a la cultura democrática.

En el contexto actual, el uso extendido de internet y las redes sociales continúa cambiando la percepción de la política y nos empuja a considerar -cada vez más- esta problemática desde una perspectiva digital. 

La violencia política por motivos de género en general y cuando se produce a través de internet en especial, es objeto de varias iniciativas a nivel nacional que impulsan organismos como la Defensoría del Público y la Cámara de Diputados de la Nación y organizaciones de la sociedad civil, como el Equipo Latinoamericano de Justicia y Género (ELA). Esta última, con el objetivo de contribuir a la conceptualización de la problemática y aportar evidencia empírica para su análisis, realizó en 2018 un estudio de percepción e incidencia de violencia contra las mujeres en política y un año después publicó una investigación focalizada en las redes sociales, habilitando el debate para la reforma de la Ley Nº 26.485 antes mencionada. Es importante resaltar ciertos resultados alarmantes que ilustran la problemática: 8 de cada 10 legisladoras encuestadas afirmaron haber vivido situaciones de violencia de género a lo largo de sus carreras políticas y en relación al lugar en donde se produjeron esas agresiones, el 71 por ciento de ellas mencionó a internet.

A nivel regional, Al Sur -un consorcio de organizaciones que trabajan en la sociedad civil y en el ámbito académico en América Latina, que busca con su trabajo conjunto fortalecer los derechos humanos en el entorno digital- publicó recientemente un nuevo informe sobre la violencia política de género en internet. Tomando como punto de partida las importantes iniciativas y estudios llevados adelante por organizaciones que se ocupan de derechos humanos en el entorno digital, la publicación tiene por objetivo ampliar esos esfuerzos, aportando una mirada regional a la problemática. Brindando a su vez, recomendaciones al sistema de justicia electoral, a las plataformas de internet, a candidatas, partidos políticos y sociedad civil, para que esta tendencia que atenta contra un sistema político más diverso y plural sea combatida con la debida atención.

Siguiendo entonces el contenido de la publicación de Al Sur, comprender la diversidad de ataques y sus interseccionalidades, es un paso necesario para poder nombrar e identificar el problema para luego documentar, denunciar y buscar alternativas técnicas o jurídicas para su abordaje. La violencia política por razones de género puede tomar variadas formas a través de internet, por nombrar algunas: la desinformación, violaciones a la privacidad, ofensas, amenazas, invasiones y censura, son apenas algunas de las categorías principales que pueden usarse para catalogarla. 

Sin embargo, con independencia de las formas en que la violencia política por razones de género en línea puede tener lugar hoy y en el futuro, dos cuestiones parecen evidentes: este fenómeno puede parecer novedoso pero no es de  nueva especie y tiene consecuencias negativas muy graves. 

En anteriores oportunidades, la ADC ha señalado que la violencia ejercida contra mujeres, niñas y personas LGTBIQ+ a través de medios digitales, no es un fenómeno de nueva especie sino que se manifiesta como un correlato de la violencia de género presente en nuestra sociedad. 

La violencia política por razones de género en línea genera riesgos y afectaciones reales. Se ha comprobado que tras sufrir agresiones por redes sociales, las mujeres suelen reducir, pausar o detener por completo su presencia en ellas. Además de padecer daños psicológicos y emocionales, que con frecuencia llevan a la autocensura y hasta el abandono de sus carreras políticas. 

El espacio cívico es central y necesario para toda sociedad democrática y significa que el Estado tiene el deber de proteger a las personas, mientras respeta y facilita sus libertades fundamentales de asociación, reunión y expresión. El espacio cívico virtual permite a las personas formar asociaciones, reunirse para deliberar sobre cuestiones de interés público y participar en los procesos de toma de decisiones públicas. Las compañías privadas también tienen el deber de respetar los derechos humanos de las personas, actuando con responsabilidad mediante la debida diligencia. 

Promover un espacio cívico amplio,  inclusivo  y seguro en internet es deber estatal y también empresarial. Esta obligación implica asegurar la libertad de expresión de las personas usuarias, garantizar las condiciones favorables para la creación de grupos en línea y permitir el ejercicio del derecho de protesta en Internet, sin discriminación alguna. Representa ante todo, el compromiso por garantizar una vida libre de violencias en el ámbito público y privado, donde las mujeres, niñas y personas LGTBIQ+ puedan acceder y ejercer plenamente sus derechos fundamentales, también en los entornos digitales.

1 Archenti, Nélida y Albaine, Laura (2013) “Los desafíos de la paridad de género. Tensión normativa y violencia política en Bolivia y Ecuador”.
Archenti Nélida y M. Inés Tula (comps.) (2014) “Acoso y violencia política en razón de género. Un estudio sobre América Latina. Nuevas normas, viejas prácticas” en La representación política imperfecta. Logros y desafíos de las mujeres políticas.

More

Moderación de contenidos: poca transparencia en la censura de cuerpos

Marianela Milanes | 17/08/2021

Moderación de contenidos: poca transparencia en la censura de cuerpos

Uno de los problemas centrales de las plataformas es la gestión de contenidos que llevan adelante con poca transparencia, ocultando de la vista pública los procesos internos de toma de decisiones. Muchas veces, para las personas usuarias conocer con certeza por qué se elimina una publicación, no es posible. Aunque varias empresas reconocen esta dificultad y en pos de su superación vienen dando pasos positivos en torno a la rendición de cuentas, aún son insuficientes. 

Una temática que suele provocar encendidos debates y poner en tela de juicio a la moderación de contenidos y el rol de los intermediarios, es la diversidad corporal en general y la representación de una parte de los cuerpos, los torsos femeninos desnudos, en particular.  

En publicaciones anteriores ADC ha mencionado de qué se trata la moderación de contenidos. Recapitulando, se la puede definir como el proceso de revisión, edición y verificación, de los contenidos creados y compartidos en las redes sociales con el fin de detectar posibles transgresiones a las políticas que las plataformas poseen para determinar qué es admisible.

Las plataformas operadas por intermediarios del sector privado establecen, con frecuencia, normas comunitarias que determinan qué tipo de contenidos están prohibidos, cuáles serán las sanciones y qué mecanismos existen para apelar una decisión tomada, si la persona usuaria cree que esta última es incorrecta.

Generalmente, las normas comunitarias y las políticas de moderación se presentan asociadas a los términos de uso, que deben aceptarse para utilizar las redes sociales. No obstante, tanto unos como otros, son cada vez  más extensos y complejos, dificultando su atenta lectura y la posibilidad de mantenerse al día  con las modificaciones que se van realizando.

Una diferencia principal en la moderación de contenidos entre las plataformas es su modelo de aplicación. Existen diferentes combinaciones de mecanismos de revisión manual y automáticos, basados en sistemas de inteligencia artificial (IA). 

Las determinaciones sobre la idoneidad de los contenidos son decisiones regulatorias que influyen y controlan los tipos de información que ven quienes usan las redes sociales, así como cuando y de qué manera lo hacen. 

Las publicaciones pueden ser eliminadas o suspendidas temporalmente por múltiples razones que van desde la aplicación de decisiones judiciales, solicitudes gubernamentales y de otros actores privados relacionados con el derecho de autor, hasta reportes o denuncias realizadas por otras personas usuarias tanto como por intervención directa de la propia plataforma, por considerar que transgreden las normas comunitarias. En ocasiones estas decisiones pueden tener lugar en forma arbitraria al tratarse de un “error”, en especial cuando se implementan mecanismos de revisión automatizados. 

Las normativas de las plataformas prohíben -mayormente- la exhibición de desnudos reales de personas adultas o actividad sexual, con el fin de garantizar la seguridad y la privacidad, así como proteger la sensibilidad de algunas personas usuarias. Por ello, en algunas plataformas se prohíbe la exposición de imágenes de pezones femeninos al descubierto. Sin embargo, muchas imágenes relacionadas con el amamantamiento, la concientización sobre el cáncer de mamas y la educación menstrual, son eliminadas a pesar de estar comprendidas dentro de las excepciones que ellas mismos disponen.

Con justa razón se podría cuestionar los fundamentos en los que se basan las plataformas para dictar las normas que rigen en sus sitios y poner en debate, por ejemplo, la convención cultural de considerar indecente la exposición al descubierto de los pechos femeninos, tal como lo hace el movimiento global “libera el pezón” (en inglés “free the nipple”). También podríamos discutir sobre la tendencia de las sociedades occidentales a sexualizar la parte superior del cuerpo femenino e incluso preguntarnos, si puede atribuirse el género a un pezón con independencia de la identidad de quien lo porta y exhibe.

Ahora bien, sin polemizar sobre los fundamentos de las reglas en las que las plataformas basan sus decisiones, podemos cuestionar su aplicación a casos concretos, tal como lo ha hecho el Consejo Asesor de contenidos de Facebook. 

El Consejo Asesor creado por Facebook, tiene el objetivo de revisar en forma independiente algunas de las decisiones más importantes y difíciles que la empresa toma en relación a los contenidos. Está conformado por un grupo de expertos/as de todo el mundo que seleccionan cuáles serán las decisiones de la empresa que revisarán a partir de las apelaciones de los usuarios/as y la derivación de casos por parte de la compañía.  Las resoluciones que tome el grupo son vinculantes, pudiendo además efectuar  recomendaciones en torno a las normas corporativas de gestión de contenidos.  

En este contexto, el Consejo Asesor atendió el caso de una persona usuaria de Brasil, que sufrió la baja de un contenido publicado en la plataforma Instagram a través de los sistemas automatizados de la empresa por considerar que infringía las normas comunitarias sobre desnudos adultos y actividad sexual. La publicación contenía ocho fotografías en las que mostraban y describían los diversos síntomas del cáncer de mama, en cinco de ellas aparecían pezones femeninos al descubierto y por esto fue automáticamente eliminada. 

A pesar que la publicación fue restablecida una vez que el Consejo Asesor se pronunció ante el caso, las preocupaciones que dejó son muchas. En las conclusiones principales que acompañan al pronunciamiento, puede leerse que:

“La incorrecta eliminación de esta publicación pone de manifiesto la falta de una supervisión humana adecuada, lo que genera preocupación por posibles vulneraciones de los derechos humanos. La detección de esta publicación y su posterior eliminación fueron totalmente automatizadas. Los sistemas automatizados de Facebook no consiguieron reconocer las palabras «Cáncer de mama» que aparecían en la imagen en portugués, y la publicación se eliminó por error. Dado que las reglas de Facebook tratan de forma distinta los pezones masculinos y los femeninos, usar un sistema automatizado impreciso para el cumplimiento de normas afecta de forma desproporcionada la libertad de expresión de las mujeres. Un sistema de cumplimiento de normas basado exclusivamente en la automatización, sin incluir ningún tipo de supervisión humana, interfiere con la libertad de expresión”. 

Si tenemos en cuenta que durante el primer semestre de este año Facebook eliminó a nivel global 31.8 millones de publicaciones, por considerar que transgredían la norma de desnudez adulta y actividad sexual pero tan sólo una llegó a ser tratada por el Consejo Asesor, las preocupaciones aumentan.  

Sin ir más lejos, la baja arbitraria que recibió en Instagram el cartel promocional de la nueva película “Madres Paralelas” del cineasta español, Pedro Almodóvar, es un ejemplo de ello. En agosto, el afiche artístico que muestra en primera plano un pezón con una gota de leche, fue eliminado en forma automática por los algoritmos de la plataforma, encendiendo nuevamente álgidos debates respecto a la moderación de contenidos. Aunque la rectificación y el pedido de disculpas por parte de las autoridades de la empresa no tardaron en llegar, la polémica respecto a la “censura” sufrida se instaló rápidamente. 

La insuficiente transparencia en torno a los mecanismos de revisión, las amenazas a los derechos humanos que acarrea su implementación a través de sistemas de IA  y la inconsistencia de las normas que conforman la moderación de contenidos, son apenas algunas de las principales inquietudes en torno a la cuestión. 

Las posibles vulneraciones a la libertad de expresión, el derecho a la salud, a la igualdad y no discriminación -entre otros- que pueden afectar en forma desproporcionada a las mujeres y personas LGTBIQ+ a través de la moderación de contenidos, deben ser urgentemente abordados. 

Para que el espacio cívico en línea sea inclusivo, plural y verdaderamente diverso, hemos de repensar la moderación de contenidos poniendo en el centro a los derechos humanos, la igualdad y la dignidad de las personas. 

More