¿Qué impacto puede tener el patrullaje en las redes con IA que anunció el gobierno?

Especialistas coinciden en que esta tecnología trae consigo generalizaciones inadecuadas, errores y sesgos, y enfatizan la necesidad de un debate robusto.

Política29/08/2024MásDeAgenciaMásDeAgencia
4ukyenvk
Foto Press

El ministerio de Seguridad, con Patricia Bullrich a la cabeza, creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad. Según dicta la resolución 710/2024, este espacio “tiene como misión la prevención, detección, investigación y persecución del delito y sus conexiones mediante la utilización de la inteligencia artificial”. Así, entre sus actividades está el patrullaje de las redes sociales, aplicaciones y sitios de internet. En esta nota, la Agencia de Noticias Científicas de la UNQ dialoga con especialistas acerca de cuál es el impacto que puede tener esto en la navegación y comunicación libre de los usuarios por el mundo digital.

Al inicio, la resolución enfatiza en que países como Estados Unidos, China, Reino Unido, Israel, Francia, India y Singapur son pioneros en el uso de la Inteligencia Artificial (IA) en sus gobiernos y fuerzas de seguridad, aunque no entra en detalle sobre cómo es la utilización en cada caso. “Hay que tener claro que, bajo el brillo de un nombre pomposo, estos sistemas no esconden más que complejos cálculos estadísticos. Contrario a lo planteado por la resolución, en muchos países del mundo estos sistemas están en retirada por problemas originados a partir de la presencia de sesgos y por la imposibilidad de dotar a los mismos de un grado de transparencia adecuado”, declara a la Agencia Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino. 

La nueva Unidad analizará actividades en redes sociales para “detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, a la vez que examinará imágenes de cámara de seguridad en tiempo real para detectar actividades sospechosas o identificar personas a partir del reconocimiento facial. Asimismo, podrá patrullar la Internet profunda o Dark-Web, espacio utilizado para realizar actos ilegales, “en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad, en el marco de la Constitución Nacional y legislación vigente”.

Incluso, mediante la IA, la Unidad podrá procesar volúmenes de datos de diversas fuentes para extraer información útil y “crear perfiles de sospechosos o identificar vínculos entre diferentes casos”. Ante la Agencia, Javier Pallero, analista de políticas públicas de Internet, explica: “Los sistemas de IA son propensos a generalizaciones inadecuadas, errores y sesgos. Además, la forma masiva, general y especulativa en la que se aplican estas tecnologías no es compatible con leyes y garantías constitucionales y procesales vigentes en el país”.

Y agrega: “Las tareas de inteligencia, es decir, de vigilancia específica de conductas y personas, debe hacerse bajo control judicial y sobre sospechas de delitos concretos. Reunir información en general para luego evaluar si existen posibles delitos es algo contrario a la Constitución”.

¿Hay que ponerle IA a todo?

La resolución destaca el avance de la tecnología, en particular de la Inteligencia Artificial, como uno de los cambios socio-tecnológicos más relevantes para la población en general. Desde el Observatorio de Derecho Informático Argentino sostienen que hay una “todología tecnológica”.

Así lo describe Pomar: “En ningún momento la resolución invoca algún informe técnico, estudio de factibilidad o requerimiento de área que justifique las futuras compras de sistemas. Por el contrario, sólo se justifica mediante una invocación abstracta de la tecnología como mejora de proceso citando ejemplos tan disímiles como Singapur, Francia o Israel”.

Y continúa: “Siguiendo con esa falta de estudio serio de la cuestión, la resolución introduce bajo la idea de ‘inteligencia artificial’ tecnologías con tradiciones y procesos tan distintos como la robótica, el análisis de video, la predicción del delito y la ciberseguridad. Es muy llamativa la ausencia de distinciones y especificidades por parte de una norma de este tipo”.

Por su parte, Pallero indica que la nueva Unidad puede funcionar como una forma de censura en la comunicación de las personas. “Esto no es lo mismo que vigilar las calles. Observar charlas, así sean públicas, deja a quienes vigilan muy cerca del seguimiento de personas y además genera un efecto inhibidor de la libertad de expresión”.

Aún es temprano para saber si el impacto será negativo o positivo, pero sí es necesario establecer un debate para identificar, por ejemplo, cuáles serán las actividades que indiquen un posible delito o cuál será el perfil de persona que se califique como “sospechoso”, según los términos de la resolución.

De igual manera, habrá que evaluar si será el Estado el que se encargue de esto o se requerirá de empresas externas que manejen datos personales e información sensible. El objetivo del debate sería evitar problemas futuros como un posible uso y abuso del poder por parte de las fuerzas de seguridad o falta de transparencias en el proceso que lleve adelante la IA.

Si se contratan empresas de software con asistencia remota, “no sabes por ejemplo en qué servidor costean la información o a qué tiene acceso la empresa proveedora. Eso ya no es solo un problema de datos personales sino que se trata de un cuestión de soberanía política y jurídica. Utilizarán herramientas de las cuales no se tiene control y le posibilitan al proveedor del software un acceso a los datos y a toda la arquitectura de información que emplea el ministerio o las fuerzas”, reflexiona Pomar

Fte: Luciana Mazzini Puga para Agencia de noticias científicas (unq.edu.ar)

Te puede interesar
x38u77kc

Para atrás. El primer año de gestión de Milei en datos

MásDeAgencia
Política10/12/2024

Informe de CEPA-C entro de Economía Política Argentina-. El 10 de diciembre se cumple un año de la gestión de Javier Milei como presidente. Desde su asunción, se llevaron adelante profundas transformaciones que afectaron la realidad cotidiana de todos los argentinos y argentinas.

caorz25g

La OMS valida la cifra de 35.000 muertos en Gaza

MásDeAgencia
Política14/05/2024

La Organización Mundial de la Salud manifestó su confianza en las estadísticas de fallecidos proporcionadas por el Ministerio de Salud de Gaza, dirigido por Hamás, tras las dudas planteadas por Israel sobre una modificación en la clasificación de dichos datos.

Lo más visto
foto portada nota busqueda 25 nov 24

Se registran 7 nuevas búsquedas de mujeres en Córdoba en el periodo junio 2024 a diciembre 2024. Se suman a decenas activas

MásDeAgencia
Estudios e infomes13/12/2024

En el marco de la reciente semana del "Día Internacional de No Violencia contra las Mujeres", se publica el 6t0 informe que da cuenta que en Córdoba se totalizaron 7 nuevas búsquedas de mujeres sin paraderos conocido desde noviembre junio 2024. De esta manera se suman a las búsquedas activas de mujeres registradas en anteriores informes en el periodo diciembre 2021 a diciembre 2024.

atn3h59k

Incendios en Patagonia: monocultivo de árboles, presión inmobiliaria, turismo sin control y gobiernos

Nahuel Lag
Diálogos 14/02/2025

¿Cuáles son las causas de los incendios? ¿Por qué suceden? ¿A quiénes benefician? Habitantes de Epuyén y El Bolsón señalan la complicidad de los gobiernos y precisan cuáles son los sectores beneficiados por las llamas. El accionar tragicómico de Patricia Bullrich, la represión vía judicialización y, de fondo, el poder económico que pretende más territorios.

7yim8vt8

Censurar la memoria

Agustina Mattioli
Diálogos 14/02/2025

El gobierno, con la complicidad del Poder Judicial, prohibió un recital de Milo J que se iba a realizar en el Espacio de la Memoria Ex-Esma cuando 20.000 adolescentes y jóvenes hacían fila para ingresar. Policías y carros hidrantes amenazaban con la represión. Repudio de organismos de derechos humanos y artistas.

4fojtufe

El debate de la ética de la IA no es tecnológico sino social

MásDeAgencia
Diálogos 14/02/2025

"La inteligencia artificial parece estar aumentando la desigualdad porque la mitad del mundo no está conectada a internet. Gabriela Ramos" Directora general adjunta de la UNESCO para las Ciencias Sociales y Humanas. Recientemente, más de mil profesionales del sector tecnológico pidieron una pausa de seis meses al desarrollo de la inteligencia artificial, avivando así el debate sobre la ética de esta tecnología que permea en todos los ámbitos de la vida moderna y que, sin embargo, no es representativa de la humanidad en su conjunto.