¿Qué impacto puede tener el patrullaje en las redes con IA que anunció el gobierno?

Especialistas coinciden en que esta tecnología trae consigo generalizaciones inadecuadas, errores y sesgos, y enfatizan la necesidad de un debate robusto.

Política29/08/2024MásDeAgenciaMásDeAgencia
4ukyenvk
Foto Press

El ministerio de Seguridad, con Patricia Bullrich a la cabeza, creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad. Según dicta la resolución 710/2024, este espacio “tiene como misión la prevención, detección, investigación y persecución del delito y sus conexiones mediante la utilización de la inteligencia artificial”. Así, entre sus actividades está el patrullaje de las redes sociales, aplicaciones y sitios de internet. En esta nota, la Agencia de Noticias Científicas de la UNQ dialoga con especialistas acerca de cuál es el impacto que puede tener esto en la navegación y comunicación libre de los usuarios por el mundo digital.

Al inicio, la resolución enfatiza en que países como Estados Unidos, China, Reino Unido, Israel, Francia, India y Singapur son pioneros en el uso de la Inteligencia Artificial (IA) en sus gobiernos y fuerzas de seguridad, aunque no entra en detalle sobre cómo es la utilización en cada caso. “Hay que tener claro que, bajo el brillo de un nombre pomposo, estos sistemas no esconden más que complejos cálculos estadísticos. Contrario a lo planteado por la resolución, en muchos países del mundo estos sistemas están en retirada por problemas originados a partir de la presencia de sesgos y por la imposibilidad de dotar a los mismos de un grado de transparencia adecuado”, declara a la Agencia Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino. 

La nueva Unidad analizará actividades en redes sociales para “detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, a la vez que examinará imágenes de cámara de seguridad en tiempo real para detectar actividades sospechosas o identificar personas a partir del reconocimiento facial. Asimismo, podrá patrullar la Internet profunda o Dark-Web, espacio utilizado para realizar actos ilegales, “en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad, en el marco de la Constitución Nacional y legislación vigente”.

Incluso, mediante la IA, la Unidad podrá procesar volúmenes de datos de diversas fuentes para extraer información útil y “crear perfiles de sospechosos o identificar vínculos entre diferentes casos”. Ante la Agencia, Javier Pallero, analista de políticas públicas de Internet, explica: “Los sistemas de IA son propensos a generalizaciones inadecuadas, errores y sesgos. Además, la forma masiva, general y especulativa en la que se aplican estas tecnologías no es compatible con leyes y garantías constitucionales y procesales vigentes en el país”.

Y agrega: “Las tareas de inteligencia, es decir, de vigilancia específica de conductas y personas, debe hacerse bajo control judicial y sobre sospechas de delitos concretos. Reunir información en general para luego evaluar si existen posibles delitos es algo contrario a la Constitución”.

¿Hay que ponerle IA a todo?

La resolución destaca el avance de la tecnología, en particular de la Inteligencia Artificial, como uno de los cambios socio-tecnológicos más relevantes para la población en general. Desde el Observatorio de Derecho Informático Argentino sostienen que hay una “todología tecnológica”.

Así lo describe Pomar: “En ningún momento la resolución invoca algún informe técnico, estudio de factibilidad o requerimiento de área que justifique las futuras compras de sistemas. Por el contrario, sólo se justifica mediante una invocación abstracta de la tecnología como mejora de proceso citando ejemplos tan disímiles como Singapur, Francia o Israel”.

Y continúa: “Siguiendo con esa falta de estudio serio de la cuestión, la resolución introduce bajo la idea de ‘inteligencia artificial’ tecnologías con tradiciones y procesos tan distintos como la robótica, el análisis de video, la predicción del delito y la ciberseguridad. Es muy llamativa la ausencia de distinciones y especificidades por parte de una norma de este tipo”.

Por su parte, Pallero indica que la nueva Unidad puede funcionar como una forma de censura en la comunicación de las personas. “Esto no es lo mismo que vigilar las calles. Observar charlas, así sean públicas, deja a quienes vigilan muy cerca del seguimiento de personas y además genera un efecto inhibidor de la libertad de expresión”.

Aún es temprano para saber si el impacto será negativo o positivo, pero sí es necesario establecer un debate para identificar, por ejemplo, cuáles serán las actividades que indiquen un posible delito o cuál será el perfil de persona que se califique como “sospechoso”, según los términos de la resolución.

De igual manera, habrá que evaluar si será el Estado el que se encargue de esto o se requerirá de empresas externas que manejen datos personales e información sensible. El objetivo del debate sería evitar problemas futuros como un posible uso y abuso del poder por parte de las fuerzas de seguridad o falta de transparencias en el proceso que lleve adelante la IA.

Si se contratan empresas de software con asistencia remota, “no sabes por ejemplo en qué servidor costean la información o a qué tiene acceso la empresa proveedora. Eso ya no es solo un problema de datos personales sino que se trata de un cuestión de soberanía política y jurídica. Utilizarán herramientas de las cuales no se tiene control y le posibilitan al proveedor del software un acceso a los datos y a toda la arquitectura de información que emplea el ministerio o las fuerzas”, reflexiona Pomar

Fte: Luciana Mazzini Puga para Agencia de noticias científicas (unq.edu.ar)

Te puede interesar
Captura de pantalla_20-6-2025_152723_www.argentina.gob.ar

Memorándum de Entendimiento con Israel por la Democracia y la Libertad: un acuerdo que pone a Argentina en foco de guerra. Análisis Integral del Acuerdo Milei-Netanyahu

MásDe Agencia
Política20/06/2025

El 12 de junio de 2025, el mandatario totalitario argentino Javier Milei y el primer ministro del estado terrorista israelí Benjamín Netanyahu firmaron en Jerusalén el "Memorándum En Defensa de la Libertad y la Democracia Contra el Terrorismo y el Antisemitismo", marcando un punto de inflexión histórico en las relaciones bilaterales entre Argentina e Israel. Este acuerdo se concretó en un momento de máxima tensión geopolítica en Medio Oriente, apenas horas antes de que estallara un nuevo conflicto bélico entre Israel e Irán.

x38u77kc

Para atrás. El primer año de gestión de Milei en datos

MásDeAgencia
Política10/12/2024

Informe de CEPA-C entro de Economía Política Argentina-. El 10 de diciembre se cumple un año de la gestión de Javier Milei como presidente. Desde su asunción, se llevaron adelante profundas transformaciones que afectaron la realidad cotidiana de todos los argentinos y argentinas.

Lo más visto
foroddhhcba_

Gatillo Fácil en Córdoba: un patrón sistemático de violencia estatal durante la gestión Llaryora

MásDeAgencia
Estudios e infomes20/06/2025

En el marco de la presentación de la Red Federal por la Defensa de los Derechos Humanos y la Democracia en Córdoba, y la integración del Foro por la Libertad, la Democracia y los Derechos Humanos de Córdoba a dicha red se presentó una sistematización sobre datos que reflejan la cantidad de casos de asesinatos por violencia institucional estatal en la provincia. La actividad se desarrolló el pasado viernes 13 de junio en la sede del CISPREN.

r80vk8va

Medios hegemónicos: el arte de invisibilizar el genocidio

MásDeAgencia
Periodismo Colaborativo25/06/2025

Los medios de comunicación hegemónicos han realizado otro acto de magia: Palestina ha desaparecido de los noticieros de la televisión y de las portadas de los diarios, en un intento por hacer olvidar, desaparecer y negar las masacres ordenadas por el primer ministro israelí Benjamín Netanyahu | Aram Aharonian* by Pressenza

wz7pqobb

La Ley de Glaciares en riesgo de extinción

MásDeAgencia
Estudios e infomes25/06/2025

Los glaciares son los grandes depósitos de agua del mundo y cumplen un rol fundamental como reguladores hidrológicos. Sin embargo, el gobierno de Javier Milei amenaza con modificar vía decreto la Ley de Glaciares, algo que no logró mediante la Ley Bases pero que cuenta con el lobby incesante de las empresas y provincias mineras | Silvia Oliviero Ghietto* by Tierra Viva. Agencia de Noticias

fundacionasok_3348256974939734307's2025-6-25-17.18.169 story (1)

Los libros liberan

MásDeAgencia
Diálogos 25/06/2025

En dos años de vida, la Fundación As, presidida por la periodista Ana Sicilia, recorrió 60 contextos de encierro en todo el país y entregó 13.000 libros a personas privadas de su libertad | Por Catalina Segado by Agencia de Noticias de Ciencias de la Comunicación - UBA

lw23lxsz

Crítica a la economía política de las plataformas digitales

MásDeAgencia
Estudios e infomes28/06/2025

El informe "Para una crítica de la economía política de las plataformas digitales", elaborado por Helena Martins y César Bolaño, analiza el impacto de las plataformas digitales en el capitalismo contemporáneo, destacando su papel en la reconfiguración de las relaciones sociales, económicas y culturales. Este trabajo, basado en la perspectiva de la Economía Política de la Comunicación (EPC), aborda cómo las plataformas digitales han transformado la dinámica de concentración y centralización del capital, impulsadas por la digitalización y la recolección masiva de datos.