La semana pasada, la vicepresidenta Crisitina Fernández de Kirchner sufrió un ataque que pudo haberle costado la vida. El agresor resultó ser una persona cuya actividad en redes sociales exhibía muestras de simpatía a grupos violentos y extremistas. Como consecuencia del lamentable suceso, se puso el foco en el rol de los llamados discursos de odio como generador del tenso clima que se vive en Argentina. Desde diversos sectores se reclamó que el debate político deje de estar dominado por declaraciones violentas y adquiera tonos más mesurados. Sobre este escenario, volvió a instalarse la posibilidad de que el Estado combata los discursos de odio a través de la regulación legislativa. Frente a estos posibles nuevos intentos, es conveniente resaltar algunas de las dificultades que aparecen para la libertad de expresión cuando se enfrenta este problema desde una perspectiva punitiva.

Una característica estructural de una sociedad es el desacuerdo que existe entre las personas sobre todos los temas. La gente discrepa sobre cuestiones banales como cuál es el gusto de helado más rico o cuál es la plaza más linda de una ciudad. Pero también discute sobre asuntos más serios como el rol del Estado en la economía o quién es la persona más capacitada para ocupar la presidencia de un país. La definición de discurso de odio no escapa a esta condición. Así como la gente tiene diferentes visiones acerca de qué es el amor, es muy probable que también la tenga acerca del sentimiento opuesto. Cualquier declaración, comentario o posteo puede ser considerado ofensivo de acuerdo al contexto. Esta circunstancia suele recibir poca atención cada vez que existen intentos regulatorios para combatir los discursos de odio. Y esta ausencia de consideración puede producir efectos no deseados desde un punto de vista democrático.

En primer lugar, por más esfuerzo que se ponga en describir de manera precisa lo que entendemos por discurso de odio en una norma, las palabras elegidas siempre estarán sujetas a interpretación. Por lo tanto, el sector que cuente con el mayor poder en un momento dado será aquel que tendrá la capacidad para influenciar el contenido de esas disposiciones. De este modo, existe el riesgo de que legislaciones de este estilo sean utilizadas por el sector político dominante para restringir las expresiones de otros actores con una visión distinta.

En segundo lugar, si se elige un camino punitivista para combatir los discursos de odio (sea a través de prisión o multas para quien emita o difunda expresiones de ese estilo), dichas medidas deberán ser adoptadas por el Poder Judicial de acuerdo al principio de separación de poderes establecido en nuestra Constitución. Por lo tanto, la última palabra sobre qué es y qué no es discurso de odio estaría en manos de los jueces. Curiosamente, esta situación no sería bien vista por aquellas personas que acusan al propio Poder Judicial de ser uno de los actores que más contribuyen al clima de tensión política que se vive en el país.

Por último, quedaría por analizar el estatus de múltiples obras artísticas que podrían ser calificadas como incitadoras de odio político. Pensemos en “Derrumbando la Casa Rosada”, canción de Alerta Roja, banda pionera del punk argentino. Además de la frase del título, la letra incluye frases como “Trincheras callejeras, barricadas urbanas, caos, sedición, bomba, revolución” en el marco de una queja por lo “lejos que se está llegando con este proceso inflacionario”. La canción es de comienzos de 1983 cuando la última dictadura estaba en retirada pero la persistencia de algunos problemas de nuestra economía nos hace pensar que podría haber sido escrita en varios otros momentos de nuestra vida democrática.

Los llamados discursos de odios están ligados con fenómenos repulsivos como la xenofobia, el racismo, la homofobia y demás formas de discriminación. A su vez, los últimos actos de violencia contra figuras políticas de la región -desde Jair Bolsonaro hasta Cristina Fernández de Kirchner- no reconocen ideologías. Como todo problema, debe ser abordado y solucionado. Pero es necesario una investigación y análisis sobre las causas y los medios más eficaces. Las regulaciones punitivistas suelen tener los inconvenientes señalados ya que más que combatir los discursos de odio, dejan traslucir más bien un odio al discurso.

More

Jack Dorsey, cofundador de Twitter, se pronunció sobre la probable venta de la compañía a Elon Musk mediante el posteo de una canción de Radiohead llamada “Everything in Its Right Place”. El título afirma que todo está en su debido lugar, pero en realidad la canción evoca sentimientos de depresión y confusión. Aparentemente las cosas no están tan bien como parecen. Y es que la noticia ha causado controversia debido a la incertidumbre sobre los planes de Musk para la plataforma.

Hay varios aspectos que merecen atención. Por un lado, el empresario sudafricano ha manifestado que le parece una buena idea autenticar a todos los humanos, lo cual trae peligro para el anonimato en su plataforma. Por el otro, no existe certeza sobre el modo en que la nueva dirección utilizará los datos y la información privada de las personas usuarias. Sin embargo, el tema más controversial fue la posición del posible futuro dueño de Twitter sobre la moderación de contenido.

Autoproclamado un “absolutista de la libertad de expresión”, Musk ha sido crítico de las políticas de moderación de contenido de las plataformas por ser restrictivas con el contenido que circula. Estas declaraciones han abierto paso a hipótesis sobre un Twitter más indulgente para permitir el posteo de expresiones hostiles o el retorno de personalidades expulsadas como el ex presidente de Estados Unidos Donald Trump. 

Hasta el momento hay mucha especulación y poca certeza. Pero de las opiniones de Musk podemos detectar ciertas confusiones acerca de la caracterización de la libertad de expresión y la función de la moderación de contenido en plataformas digitales.

En primer lugar -y tal como lo afirmó Musk- la libertad de expresión es un derecho que merece una protección especial debido a su importancia para la democracia. Pero esto no implica que sea necesario transformarse en absolutista. La libertad de expresión puede entrar en conflicto con otros valores -la igualdad, la dignidad o la no discriminación-. Una postura absolutista no estaría en condiciones de reconocer este hecho. Y aun cuando en la gran mayoría de estas controversias la respuesta adecuada sea favorecer la libertad de expresión, esto no significa que haya que desconocer los problemas que fenómenos como el discurso violento o la desinformación pueden causar a grupos o al debate público.

En segundo lugar, la moderación de contenido es una actividad necesaria para el normal funcionamiento de una red social. Tal es así que a veces suele afirmarse que el producto principal ofrecido por las plataformas es la propia moderación de contenido -y la experiencia resultante de dicha labor para las personas usuarias-. Así sea para evitar que contenido spam o material relacionado con explotación sexual infantil aparezca en sus redes, las empresas tienen que moderar. Asimismo, la moderación de contenido es requerida para evitar ataques contra minorías, disidentes políticos y personas en situación de vulnerabilidad en general. Es cierto que hasta el momento las compañías han demostrado deficiencias en términos de transparencia, debido proceso o legitimidad. Pero esto significa que la moderación de contenido debería sujetarse a estándares de derechos humanos, no eliminarse. En oposición a esto, parece ser que Musk quiere, como dice la conocida frase, tirar todo a la basura.

Por último, Musk aclaró su postura y afirmó que su intención es permitir todo discurso que ya esté habilitado por la ley. Sin embargo, no especificó de qué ley está hablando. ¿Es la norteamericana, que brinda una protección a la libertad de expresión más amplia que en otros lugares? ¿Es la europea que cuenta con estándares más restringidos? ¿Son los estándares del sistema universal de derechos humanos o aquéllos de los sistemas regionales? La variedad de regímenes legales otorga un poder bastante discrecional a Musk -y para el caso, a todos los dueños de plataformas-. De este modo, existe el riesgo de que estas personas definan primero (de acuerdo con sus preferencias personales o intereses) de qué modo quieren decidir un conflicto y luego opten por la legislación que le permita apoyar la decisión tomada de antemano.

El absolutismo es un concepto utilizado para caracterizar aquellos regímenes políticos en donde el gobernante no está sujeto a ningún límite institucional. Más allá de si finalmente Elon Musk será el dueño de Twitter o no, las últimas novedades ratifican esta conclusión: a pesar de las discusiones de los últimos años, todavía no sabemos cómo lidiar institucionalmente con el poder que figuras privadas tienen para controlar los espacios en donde circula el discurso en línea.

More

Ofelia Fernández y Elisa Carrió son dos políticas argentinas que están muy alejadas entre sí en términos ideológicos. Sin embargo, comparten una característica en común: ambas han sido objeto de insultos en redes sociales en razón de su género, aspecto físico o peso corporal. La alta exposición mediática de ellas¹ las ha puesto en la mira de ataques personales que se retroalimentan por la actual dinámica política argentina.

Dedicarse a la política implica exponerse a recibir críticas todo el tiempo. Incluso en sociedades con bajos niveles de conflicto, tener un cargo público supone por definición que habrá mucha gente que estará disconforme con tu trabajo. En momentos de alta polarización, la situación se agrava. La imagen ideal en donde las personas reclaman a sus representantes en base a argumentos se desvanece rápidamente. Los cuestionamientos se transforman en insultos. Las descalificaciones basadas en características personales de la figura política reemplazan al debate razonado. 

Es legítimo lamentarse por esta supuesta degradación del debate político. Pero en principio es inconcebible pretender imponer sanción alguna. Las figuras políticas tienen el deber de ser más tolerantes que una persona común frente a la crítica. Hay varios motivos para justificar esta distinción. Por un lado, las personas que ejercen funciones públicas se han expuesto voluntariamente a esta situación. Ellos han decidido trabajar de cara al ojo público.

Por otro lado, las figuras políticas tienen un gran poder de convocatoria. Ellas no solo tienen haters sino también personas que las apoyan fervientemente. Volvamos a los casos del inicio. Ofelia Fernández es una política muy popular para un sector importante de la sociedad argentina. De hecho, ha sido elegida por una conocida revista como una de las líderes de la próxima generación. Por el lado de Elisa Carrió, la situación es similar. En su momento, los niveles de popularidad de la exlegisladora eran de los más altos del país. Las personas que ocupan un cargo público cuentan con una mayor influencia social y acceso a los medios para responder a cualquier cuestionamiento.

Ahora bien, el mismo sistema interamericano de derechos humanos nos recuerda que las figuras políticas también tienen derecho al honor cuando sean objeto de ataques injustificados contra su persona. En este sentido, conviene recordar que desde los estudios feministas se ha puesto de relieve el fenómeno de la violencia política de género. De acuerdo a este enfoque, las agresiones a políticas mujeres o pertenecientes a otros grupos históricamente excluidos tendrían un efecto silenciador de la libertad de expresión. El motivo es que este tipo de ataques constantes denigran el valor y la dignidad de estos colectivos. Y como resultado, sus miembros pueden verse inhibidos a involucrarse activamente en la actividad política.

Según esta visión, no es únicamente Fernández o Carrió quienes se ven afectadas por los insultos recibidos. Son las miles de mujeres que son testigos de esos ataques y que tienen la sensación de que la política es un ámbito en el cual si sos mujer, vas a recibir insultos y agresiones por lo que es recomendable dedicarse a otra cosa.

Cómo enfrentar el discurso violento hacia figuras políticas sin perjudicar la libertad de expresión es todo un desafío. Los estándares judiciales nos dicen que las soluciones deben ser diseñadas bajo principios de pluralismo democrático y sin generar riesgos de autocensura. En el caso de las redes sociales, el informe “Violencia política de género en internet” del consorcio AlSur nos brinda algunas pautas más concretas. Allí, por ejemplo, se recomienda a las plataformas que ofrezcan mecanismos de denuncia accesibles que incluyan una clasificación de violencia política y violencia política de género, y que produzcan informes periódicos con información sobre qué tipo de publicaciones son reportadas y cuáles son eliminadas. 

En síntesis, una estrategia no centrada en el castigo de la expresión sino en la difusión del problema y el apoyo a las víctimas de violencia parece ser una vía digna de ser explorada ya que respeta todos los derechos en juego.

1 https://www.youtube.com/watch?v=2iCWPFuT9n0

More

Como dice Mike Tyson: “Todo el mundo tiene un plan hasta que reciben un golpe en la boca”. Twitter, Facebook y Youtube tenían un plan para lidiar con los discursos violentos que las personas suelen propagar en sus plataformas. Donald Trump fue el golpe en la boca. Que el ex presidente de los Estados Unidos haya sido uno de los principales propagadores de discurso violento en las redes fue un fenómeno que sobrepasó a las plataformas. Su calidad de figura política era un factor que dificultó cualquier decisión sobre cómo enfrentar los insultos y mentiras publicadas en sus cuentas. Luego de diversas idas y vueltas acerca de cómo lidiar con los posteos de Trump, el asalto al Capitolio unificó el criterio. Las plataformas decidieron suspender y/o expulsar al expresidente para impedirle que continúe instigando a su público. 

Esta decisión fue criticada desde puntos de vista opuestos. Por un lado, fue reprobada por tardía. Se dijo que hubo varias instancias anteriores en las cuales las compañías podrían haber intervenido antes de que las cosas pasaran a mayores. Para esta postura, la prohibición debió haber llegado mucho antes. Al mismo tiempo, esta decisión también fue cuestionada por antidemocrática. Se señaló lo preocupante de que un puñado de actores privados haya expulsado a un líder político del principal espacio de comunicación de estos tiempos. De acuerdo a esta visión, la prohibición quizás no haya tenido que llegar nunca.

Trump fue el caso más extremo y peligroso, pero existen numerosos ejemplos de personas que ejerciendo una función pública han emitido discursos violentos. Nuestro país no es la excepción. En julio de 2021 se difundió un video de policías de la Provincia de Chubut cantando contra personas del movimiento piquetero. El por entonces ministro de seguridad de la provincia, Federico Massoni, publicó un tuit en donde reforzaba ciertos estereotipos contra quienes integraban esas organizaciones sociales. El ex ministro relativizó la conducta de la policía y recurrió a distinciones entre un “ellos” (piqueteros y piqueteras) y un “nosotros” (la ciudadanía) que suelen ser típicas de manifestaciones hostiles. 

Parece haber diferencias claras entre el impacto causado por el comportamiento de Trump y Massoni. Tal como lo describe el académico Richard L. Hasen en su libro, el expresidente de Estados Unidos emprendió una serie continua de ataques al sistema electoral de su país que ayudó a impulsar una insurrección violenta en el Congreso. Por el contrario, las declaraciones de Massoni no superaron el nivel de exabruptos sin consecuencias evidentes en la realidad. Desde una perspectiva de derechos, no es aconsejable equiparar ambas situaciones. La regla debería ser que medidas extremas como la expulsión de redes sociales solo debería tomarse en circunstancias excepcionales. En ese sentido, el diferente tratamiento a ambos casos está justificado.

Ahora bien, una crítica común a las decisiones privadas sobre moderación de contenido es su carácter ad hoc. Por ejemplo, la decisión de suspender a Trump llegó cuando la presión en EEUU para que las plataformas implementen esa medida era demasiado grande. Las plataformas tienen varios incentivos económicos para mostrarse receptivos a las demandas de las personas que usan sus servicios. Si existe un grupo lo suficientemente grande y activo requiriendo una determinada medida, es muy probable que la compañía cumpla con ese pedido. Desde esta perspectiva, quizás la distinción entre Trump y Massoni no se basó en una cuestión de principios sino en el hecho de que mucha gente pidió -probablemente de manera justificada- la expulsión del expresidente norteamericano mientras que las declaraciones del ex ministro chubutense no interesaron a casi nadie. 

La moderación de contenido tiene varios retos. Uno de los principales es demostrar que las decisiones tomadas por las compañías respecto a mensajes de figuras políticas no están influenciadas por conveniencias sociales o económicas. Quizás el fenómeno Trump fue realmente un hecho que descolocó por completo cualquier intento de recurrir a reglas previas. Sin embargo, esa imprevisibilidad no existe más. Cada vez hay menos razones para no exigir de las compañías decisiones fundadas en principios o estándares diseñados de manera coherente y general.

More

Las redes sociales son uno de los medios por los cuales la política y la ciudadanía dialogan y se mantienen en contacto. Tanto es así que hoy en día referentes políticos efectúan anuncios de gran importancia a través de sus cuentas oficiales de Twitter, Instagram y YouTube, entre otras. Allí no solo informan sobre sus actos de gobierno, sino que también reciben comentarios, reclamos o quejas de sus seguidores.

Es cierto que esta interacción está lejos de ser perfecta en términos de calidad de la conversación. Por un lado, no hay certeza de que sean los mismos políticos o políticas quienes manejan sus cuentas. Más bien es posible que detrás de muchas de ellas se encuentren community managers que están a cargo de publicar los posteos y revisar las respuestas. Por otro lado, el formato dificulta que se lleve a cabo un intercambio continuo, razonado y profundo. En este sentido, los encuentros presenciales siguen llevando la ventaja.

Si bien el discurso violento no es un fenómeno reciente, el crecimiento de las redes sociales permitió que su ejercicio se extienda a nuevas dimensiones. Este ámbito tiene características únicas, principalmente vinculadas a la inmediatez de las comunicaciones, la amplitud del alcance y la facilidad con la que se permite a la ciudadanía participar. Sin perjuicio de los diversos beneficios que trae para el debate político en el sistema democrático, estos ámbitos permiten que los discursos violentos tengan un alcance más amplio.

El vínculo entre representantes y personas representadas es una preocupación constante para toda democracia. Votar cada cuatro o dos años no parece ser una medida suficiente para que la ciudadanía pueda controlar y exigir explicaciones a sus gobernantes. Las personas deberían estar en comunicación permanente con las autoridades para que el ideal del autogobierno tenga probabilidades de realizarse plena o parcialmente.

Sin embargo, esto se ve opacado cuando ciertas discusiones en redes sociales que tienen como protagonistas a figuras políticas adquieren un tono violento. Los funcionarios y funcionarias en muchas oportunidades son receptores de amenazas, insultos o descalificaciones de alta intensidad. Pero a veces ellos y ellas también emiten esta clase de mensajes. Frente a este panorama, existe un debate en vigencia acerca de cuál es la mejor forma de abordar esta situación desde el punto de vista normativo.

Existe un principio bastante arraigado de que las personas que ocupan cargos públicos deben soportar un mayor nivel de cuestionamientos que una persona común. El motivo es la necesidad de preservar un ambiente que incentive la expresión ciudadana en asuntos públicos. A través de la garantía de que sus críticas no se verán amenazadas de sanción, las personas no tendrán temor de manifestar sus opiniones sobre sus representantes. Ahora bien, ¿qué sucede cuando esas críticas se refieren a, por ejemplo, el género o el peso corporal del político o política? Uno podría replicar que la protección de la ley no debería extenderse a descalificaciones personales. 

Si miramos el otro lado de la moneda, nuestras intuiciones nos dicen rápidamente que sancionar o restringir el mensaje de una persona vinculada a la política debe ser considerado un ejemplo claro de censura. Además, es una medida que afecta de manera central la capacidad de la ciudadanía de acceder a lo que piensan sus representantes. Sin embargo, ¿qué sucede cuando quien lidera un espacio político emite discursos que afectan la dignidad o seguridad de una persona o de un grupo determinado? Otra vez uno podría argumentar que estos casos merecen un tratamiento específico y diferente a la regla general.

Dilemas de este estilo se han vuelto habituales en la moderación de contenido. Si la solución es compleja, la única forma de generar legitimidad por parte de las compañías es demostrar que sus decisiones no están basadas en conveniencias políticas o en la presión del momento. Por lo tanto, las plataformas deben continuar sus esfuerzos por desarrollar procesos de toma de decisiones que sean consecuentes y estables.

More

Por Marianela Milanes (ADC) e Ivana Feldfeber (DataGénero- Observatorio)

A mediados de agosto el régimen talibán finalmente tomó el control en Afganistán provocando intensas repercusiones alrededor del mundo. A través de nuestras pantallas comenzaron a llegar desoladoras imágenes de personas agolpadas en el aeropuerto de Kabul, intentando huir del país y de mujeres afganas marchando armadas, dispuestas a luchar contra la imposición de leyes extremistas que amenazaban sus derechos. A partir de estos hechos, en Argentina, las redes sociales se convirtieron en sede de álgidos y variados debates que fueron desde el feminismo hasta la crisis migratoria. Al tiempo que se viralizaron las advertencias hechas por organizaciones internacionales acerca del grave peligro que corren miles de personas de sufrir represalias a manos del nuevo régimen, en especial mujeres, niñas, periodistas, personal académico y activistas de la sociedad civil, poniendo el accionar talibán en el foco de la atención global.

A pesar de las complejidades históricas y las particularidades culturales que dificultan a quienes no las conocemos en profundidad, la comprensión cabal sobre lo que está sucediendo en aquel país, la crítica situación de los derechos humanos nos consternó inmediatamente. En el momento que grupos como Human Rights First y la prensa internacional (1), informaron sobre el riesgo que las bases de datos, las tecnologías biométricas y el propio historial digital de las personas afganas fueran utilizadas para identificarlas y rastrearlas; cualquier sensación de lejanía que pudiéramos tener comenzó a disiparse. De pronto la distancia entre aquel país y el nuestro se redujo y nos encontramos en alerta ante las amenazas comunes a los derechos humanos que representa un proceso de digitalización irreflexivo y desenfrenado.

Cada vez más en nuestra región y país, el sector público extiende la implementación de tecnologías de inteligencia artificial como el reconocimiento facial, impulsa la digitalización de bases de datos y aplica técnicas de investigación en fuentes abiertas como las redes sociales, sin que se realicen evaluaciones de impacto en derechos humanos ni se transparente la información necesaria para que la ciudadanía conozca los incontables riesgos asociados a la vigilancia masiva que estas iniciativas representan, en especial para personas y grupos sociales en situación de vulnerabilidad.

Preocupadas ante esta situación, quienes escribimos, Marianela Milanes (Asociación por los Derechos Civiles) e Ivana Feldfeber (DataGénero- Observatorio) nos propusimos realizar un breve repaso sobre los usos de ciberpatrullaje y el reconocimiento facial con fines de seguridad pública, y compartir algunos interrogantes sobre sus potenciales efectos discriminatorios.

¿Qué es el ciberpatrullaje?

Con frecuencia utilizamos el término ciberpatrullaje para mencionar dos principales tipos de investigación: OSINT y SOCMINT. Estás son utilizadas por los organismos gubernamentales y las fuerzas del orden público en el entorno digital, a menudo bajo el supuesto de prevenir y combatir el delito. 

La investigación de información en fuentes abiertas de datos, conocida en inglés como Open-Source Intelligence (OSINT); es la práctica que conlleva el uso de un conjunto de técnicas y tecnologías que facilitan la recolección de información que se encuentra disponible públicamente. Cuando el análisis es realizado en las redes sociales, comúnmente se lo denomina en inglés Social Media Intelligence (SOCMINT) e implica la recolección y el procesamiento de datos e información en a través de diversas técnicas, como la revisión manual de contenidos publicados y la implementación de distintos tipos de software, entre otras.

Los organismos estatales aprovechan la apertura y la publicidad de internet, que les permite acceder a la información disponible sin necesidad de solicitar permisos ni autorización alguna, para realizar actividades de inteligencia sin reparar en las expectativas de privacidad que las personas tienen en línea.

Tomando en cuenta que la mayoría de las actividades realizadas en línea, son llevadas a cabo a través de plataformas privadas que disponen de términos, condiciones y políticas para quienes las usan, se debe señalar que las personas al ejercer la autodeterminación informativa, es decir al elegir qué información publicitan, lo hacen en un marco de cierta expectativa de privacidad. En otras palabras, esto significa que aún en contextos públicos -como puede considerarse a las redes sociales- se reconoce que ciertas interacciones entre individuos pueden entrar en el ámbito de la vida privada y merecen protección.

El análisis sistémico que los organismos estatales hacen de internet y las redes sociales, bajo el pretexto de garantizar la seguridad pública, trae aparejados numerosas amenazas a los derechos humanos. Algunos de estos son: la criminalización del discurso en línea que afecta el derecho a la protesta. La autocensura o efecto inhibitorio que afecta el derecho a la libertad de expresión de las personas, ante riesgo de ser objeto de vigilancia por su comportamiento en línea; y la afectación al derecho de no discriminación cuando el monitoreo de contenidos en línea se dirige a personas y/o grupos sociales específicos.

El ciberpatrullaje en la Argentina

Hace al menos una década que los organismos gubernamentales implementan plataformas y tecnologías para el aprovechamiento de los datos disponibles en línea con diversos objetivos. Sin embargo, el ciberpatrullaje con fines de seguridad pública comenzó a ganar notoriedad en 2016, cuando distintas personas fueron procesadas penalmente por la comisión de delitos originados por las expresiones que habían publicado en sus redes sociales (2).

En 2017 un penoso incidente puso a Argentina y el uso del ciberpatrullaje, bajo la lupa internacional. Aquel año, en el marco de la XI Conferencia Ministerial de la Organización Mundial del Comercio (OMC) celebrada en Buenos Aires, las autoridades nacionales de seguridad revocaron la acreditación otorgada por la OMC a más de sesenta activistas de derechos humanos, pertenecientes a veinte organizaciones de la sociedad civil, advirtiéndoles además sobre la posibilidad de negarles la entrada al país. Ante el revuelo diplomático que causó esta situación, el Ministerio de Relaciones Exteriores emitió un comunicado justificando la decisión, al establecer que algunas de las personas afectadas “habían hecho explícitos llamamientos a manifestaciones de violencia a través de las redes sociales, expresando su vocación de generar esquemas de intimidación y caos”.

El año pasado, a comienzos de la cuarentena para contener la expansión de Covid-19, el cuestionamiento a la legitimidad del ciberpatrullaje adquirió inmensas proporciones, cuando la entonces ministra de Seguridad de la Nación admitió que se lo estaba utilizando para detectar el humor social y prevenir posibles disturbios. Días después, un joven fue imputado por el delito de intimidación pública luego de publicar un irónico tweet. Ante las críticas que produjo este suceso, el gobierno elaboró un protocolo de actuación que -según afirmó- se encuentra alineado con los estándares internacionales de derechos humanos. Sin embargo, la autoridad de protección de datos recomendó la suspensión del protocolo ya que no protege de manera adecuada la privacidad de las personas.

La recopilación de información sobre las personas en las redes sociales sin previa autorización judicial ni el establecimiento de mecanismos de control que garanticen la transparencia y la rendición de cuentas de su implementación, impacta en el derecho a la privacidad, la protección de los datos personales y la no discriminación, entre otros. Debemos resaltar que, mediante las redes sociales las personas comparten información que dada su sensibilidad, no pueden ni deben ser objeto de vigilancia por parte de las autoridades. Por el contrario, el Estado debe garantizar la protección de la información sensible, entendiendo por ella a los datos que por sunaturaleza o contexto puedan producir algún trato discriminatorio hacia su titular. En este sentido, las desigualdades estructurales y las relaciones asimétricas de poder en nuestra sociedad son extremadamente importantes al referirnos al carácter sensible de los datos personales. En este sentido, las desigualdades estructurales y las relaciones asimétricas de poder en nuestra sociedad son extremadamente importantes al referirnos al carácter sensible de los datos personales.

Ahora bien, el ciberpatrullaje en redes sociales no es el único modo de aprovechamiento de datos para la vigilancia estatal que amenaza a los derechos humanos. El despliegue del reconocimiento facial con fines de seguridad pública, se extiende cada vez más en Argentina, al ritmo que aumenta nuestra preocupación acerca de sus potenciales efectos discriminatorios.

¿Qué es el reconocimiento facial?

El reconocimiento facial es una tecnología biométrica que permite reconocer e identificar a las personas mediante los rasgos de su rostro. Esta tecnología funciona mediante un software basado en varios algoritmos, que son entrenados para la detección, mapeo y contraste de información sensible como son los rasgos faciales.

El entrenamiento de estos algoritmos define la precisión con la cual el software podrá reconocer rostros en diversos escenarios, arrojando resultados más o menos discriminatorios. Con frecuencia, durante el entrenamiento predominan datos de una cierta demografía: hombres cisgénero, jóvenes y blancos. Así se van introduciendo sesgos en el funcionamiento de los algoritmos que afectan a los resultados, generando que el sistema falle al reconocer a personas que no posean esos rasgos. La cantidad de datos con los cuales se entrenan los algoritmos debe ser diversa y significativa para lograr un alto nivel de precisión, para evitar que aparezcan dos tipos de errores: los falsos positivos y los falsos negativos.

Sobre los efectos discriminatorios

Cuando hablamos de algoritmos de clasificación, por ejemplo: queremos saber si la foto es o no de una persona, tenemos dos clases: la clase positiva (es) y la clase negativa (no es). El verdadero positivo es cuando el algoritmo predice correctamente que esa foto en efecto es de esa persona. El verdadero negativo es cuando el algoritmo predice correctamente que esa foto no es de esa persona. Hasta acá no hay ningún problema porque los resultados son correctos. ¿Pero qué pasa con los errores?

Los falsos positivos suceden cuando el modelo predice de manera incorrecta la clase positiva, es decir que le damos una foto y dice que es de esa persona, pero en realidad no lo es. Los falsos negativos suceden cuando el modelo predice de manera incorrecta la clase negativa, es significa que le damos una foto y dice que no es de la persona que tiene que ser.

La decisión sobre el entrenamiento del algoritmo y las tasas de error con la que contará el software biométrico es una cuestión técnica pero también política. En este sentido, estudios recientes ponen de manifiesto cómo las tecnologías de   reconocimiento facial producen resultados racistas, trans-odiantes y misóginos.

Un informe realizado por la organización Coding Rights visibiliza cómo los sistemas de reconocimiento facial en Brasil tienen grandes fallas a la hora de identificar a personas tránsgenero, impidiéndoles el acceso a servicios públicos y beneficios sociales. Por otro lado, el proyecto de investigación Gender Shades del MIT Media Lab demuestra cómo los softwares de reconocimiento facial desarrollados por grandes empresas como Microsoft, IBM y Face++ presentan elevadas tasas de error al identificar los rostros de mujeres negras.

Estos errores ocurren porque durante la fase de entrenamiento se trabaja con bases de datos sesgados, que están profundamente desbalanceados y no tienen una representación real.

Debemos tener en cuenta que estos sistemas complejos, suelen generarse en el Norte Global y luego se exportan a otros países, acarreando así los mismos sesgos a otras regiones del mundo. Una vez más, el contexto en que se desarrollan e implementan estas tecnologías digitales, determinará sus potenciales efectos discriminatorios.

Pero… ¿y entonces qué?

Estamos ante un nuevo paradigma, donde el límite entre lo público y lo privado se va desdibujando. La cantidad de información que generamos es el gran botín que se disputan hoy los grandes monopolios: “La publicidad tradicional deja de ser la vía de financiación principal y deja paso a las bases de datos, cada vez más hinchadas, con las que poder comercializar. La información, por tanto, deja de tener sentido en sí misma, y pasa a ser un mero vehículo para obtener datos del usuario.” dice el periodista Luis Meyer.

Por supuestos que hay datos y datos. Tal vez nuestro historial de compras en algún conocido sitio de e-commerce no ponga en riesgo nuestra integridad si cae en las manos equivocadas (tal vez sí). Pero cuando hablamos de gobiernos que tienen registradas nuestras huellas digitales, nuestros rostros, dónde vivimos, qué sitios frecuentamos, qué recorridos hacemos, es lógico comenzar a inquietarnos y a pensar qué sucedería si esos datos caen en las manos equivocadas o si son utilizados con fines de dudosa legitimidad, legalidad y proporcionalidad. En este punto, el interrogante acerca de los estándares de protección de datos personales en relación con la vigilancia estatal emerge con fuerza.   

En 2019 Argentina, adhirió al Convenio 108 y firmó su Protocolo Adicional. Este es el único instrumento multilateral de carácter vinculante en materia de protección de datos personales, que tiene por objeto proteger la privacidad de los individuos contra posibles abusos en el tratamiento de sus datos. Esta suscripción implica que la legislación nacional, referida a la protección de datos debe actualizarse para estar en sintonía con los últimos estándares. De este modo, nuestro país se ha comprometido y encaminado a mantener un nivel adecuado de protección de datos, guiado por los principios de transparencia, proporcionalidad, responsabilidad, minimización de datos y privacidad en el diseño, entre otros.

Los estándares adoptados por la Unión Europea a través del Reglamento General de Protección de Datos (GDPR) (3), han inspirado los principios orientadores al establecer:

• Legalidad, equidad y transparencia: el procesamiento debe ser legal, justo y transparente para las personas interesadas.
  
• Limitación del propósito: debe procesar los datos para los fines legítimos especificados explícitamente a la persona interesada cuando los recopiló.
  
• Minimización de datos: debe recopilar y procesar solo la cantidad de datos que sea absolutamente necesaria para los fines especificados.
  
• Precisión: debe mantener los datos personales precisos y actualizados.
  
• Limitación de almacenamiento: solo puede almacenar datos de identificación personal durante el tiempo que sea necesario para el propósito especificado.
  
• Integridad y confidencialidad: el procesamiento debe realizarse de tal manera que se garantice la seguridad, integridad y confidencialidad adecuadas (por ejemplo, mediante el uso de cifrado).
  
• Responsabilidad: el controlador de datos es responsable de poder demostrar el cumplimiento de la norma con todos estos principios.

A su vez, recientemente el Parlamento Europeo votó a favor de prohibir la vigilancia masiva biométrica. En una resolución adoptada por 377 votos a favor, 248 en contra y 62 abstenciones, las personas integrantes del Parlamento señalan el riesgo de sesgos algorítmicos en las aplicaciones de inteligencia artificial y enfatizan que:

• Las personas deberían supervisar los sistemas de IA y los algoritmos deberían ser abiertos.
  
• Hay que oponerse a las bases de datos privadas de reconocimiento facial, la vigilancia del comportamiento y la puntuación ciudadana.
  
• El reconocimiento automático no debe utilizarse para el control de fronteras o en espacios públicos.

Estás iniciativas europeas pueden servir como referencia y fuente de inspiración para que la Argentina, tome medidas tendientes a mantener el adecuado nivel de protección de los datos personales. Armonizar la normativa local en materia de privacidad y protección de datos personales con los estándares del GDPR, contribuiría a mitigar los impactos negativos a los derechos humanos y los efectos discriminatorios, relacionados al uso de tecnologías digitales -actuales y futuras- para la vigilancia masiva. En este punto, una vez más el contexto juega un papel clave. No se trata de “importar” estándares sino de adaptarlos a la realidad local, entonces los interrogantes se multiplican. Ya no se trata solo de preguntarnos acerca de las medidas que toman nuestros gobiernos para proteger los datos personales y sensibles de la población o qué sucedería si el gobierno decide utilizar estos datos para vigilar y perseguir arbitrariamente a la población. Se trata también de cuestionar a quiénes vigila y por qué razones, un sistema de seguridad pública creado, alimentado y atravesado desde el paradigma social actual, que aún es profundamente cisgénero, heteronormativo, clasista, capacitista y racista.

Notas

1
– Reuters: «Afghans scramble to delete digital history, evade biometrics».
– El País: «El drama digital en Afganistán: borrarse de las redes y limpiar el historial en internet para escapar de los talibanes».
– Red en Defensa de los Derechos Digitales (R3D): «Los talibanes aprovechan las bases de datos biométricos de Afganistán para identificar disidentes».
– BBC: «Afghanistan: Will fingerprint data point Taliban to targets?«.

2
– Centro de Información Judicial (CIJ): «El juez Lijo procesó a una mujer por amenazar a Mauricio Macri y a su familia».
– Perfil: «Declaran «inocente» al joven que estuvo preso por un tuit contra Mauricio Macri».
– Infobae: «Detuvieron a un hombre que amenazó a Mauricio Macri por Twitter».

More