Especialistas coinciden en que esta tecnología trae consigo generalizaciones inadecuadas, errores y sesgos, y enfatizan la necesidad de un debate robusto.
Política29/08/2024
MásDeAgencia
El ministerio de Seguridad, con Patricia Bullrich a la cabeza, creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad. Según dicta la resolución 710/2024, este espacio “tiene como misión la prevención, detección, investigación y persecución del delito y sus conexiones mediante la utilización de la inteligencia artificial”. Así, entre sus actividades está el patrullaje de las redes sociales, aplicaciones y sitios de internet. En esta nota, la Agencia de Noticias Científicas de la UNQ dialoga con especialistas acerca de cuál es el impacto que puede tener esto en la navegación y comunicación libre de los usuarios por el mundo digital.
Al inicio, la resolución enfatiza en que países como Estados Unidos, China, Reino Unido, Israel, Francia, India y Singapur son pioneros en el uso de la Inteligencia Artificial (IA) en sus gobiernos y fuerzas de seguridad, aunque no entra en detalle sobre cómo es la utilización en cada caso. “Hay que tener claro que, bajo el brillo de un nombre pomposo, estos sistemas no esconden más que complejos cálculos estadísticos. Contrario a lo planteado por la resolución, en muchos países del mundo estos sistemas están en retirada por problemas originados a partir de la presencia de sesgos y por la imposibilidad de dotar a los mismos de un grado de transparencia adecuado”, declara a la Agencia Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino.
La nueva Unidad analizará actividades en redes sociales para “detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, a la vez que examinará imágenes de cámara de seguridad en tiempo real para detectar actividades sospechosas o identificar personas a partir del reconocimiento facial. Asimismo, podrá patrullar la Internet profunda o Dark-Web, espacio utilizado para realizar actos ilegales, “en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad, en el marco de la Constitución Nacional y legislación vigente”.
Incluso, mediante la IA, la Unidad podrá procesar volúmenes de datos de diversas fuentes para extraer información útil y “crear perfiles de sospechosos o identificar vínculos entre diferentes casos”. Ante la Agencia, Javier Pallero, analista de políticas públicas de Internet, explica: “Los sistemas de IA son propensos a generalizaciones inadecuadas, errores y sesgos. Además, la forma masiva, general y especulativa en la que se aplican estas tecnologías no es compatible con leyes y garantías constitucionales y procesales vigentes en el país”.
Y agrega: “Las tareas de inteligencia, es decir, de vigilancia específica de conductas y personas, debe hacerse bajo control judicial y sobre sospechas de delitos concretos. Reunir información en general para luego evaluar si existen posibles delitos es algo contrario a la Constitución”.
¿Hay que ponerle IA a todo?
La resolución destaca el avance de la tecnología, en particular de la Inteligencia Artificial, como uno de los cambios socio-tecnológicos más relevantes para la población en general. Desde el Observatorio de Derecho Informático Argentino sostienen que hay una “todología tecnológica”.
Así lo describe Pomar: “En ningún momento la resolución invoca algún informe técnico, estudio de factibilidad o requerimiento de área que justifique las futuras compras de sistemas. Por el contrario, sólo se justifica mediante una invocación abstracta de la tecnología como mejora de proceso citando ejemplos tan disímiles como Singapur, Francia o Israel”.
Y continúa: “Siguiendo con esa falta de estudio serio de la cuestión, la resolución introduce bajo la idea de ‘inteligencia artificial’ tecnologías con tradiciones y procesos tan distintos como la robótica, el análisis de video, la predicción del delito y la ciberseguridad. Es muy llamativa la ausencia de distinciones y especificidades por parte de una norma de este tipo”.
Por su parte, Pallero indica que la nueva Unidad puede funcionar como una forma de censura en la comunicación de las personas. “Esto no es lo mismo que vigilar las calles. Observar charlas, así sean públicas, deja a quienes vigilan muy cerca del seguimiento de personas y además genera un efecto inhibidor de la libertad de expresión”.
Aún es temprano para saber si el impacto será negativo o positivo, pero sí es necesario establecer un debate para identificar, por ejemplo, cuáles serán las actividades que indiquen un posible delito o cuál será el perfil de persona que se califique como “sospechoso”, según los términos de la resolución.
De igual manera, habrá que evaluar si será el Estado el que se encargue de esto o se requerirá de empresas externas que manejen datos personales e información sensible. El objetivo del debate sería evitar problemas futuros como un posible uso y abuso del poder por parte de las fuerzas de seguridad o falta de transparencias en el proceso que lleve adelante la IA.
Si se contratan empresas de software con asistencia remota, “no sabes por ejemplo en qué servidor costean la información o a qué tiene acceso la empresa proveedora. Eso ya no es solo un problema de datos personales sino que se trata de un cuestión de soberanía política y jurídica. Utilizarán herramientas de las cuales no se tiene control y le posibilitan al proveedor del software un acceso a los datos y a toda la arquitectura de información que emplea el ministerio o las fuerzas”, reflexiona Pomar
Fte: Luciana Mazzini Puga para Agencia de noticias científicas (unq.edu.ar)
Durante el multitudinario primer Congreso Mundial sobre Desapariciones Forzadas, el referente de la Red por la Identidad de Barcelona hizo entrega del relevamiento que hizo Abuelas sobre la situación de los derechos humanos en la Argentina.
Informe de CEPA-C entro de Economía Política Argentina-. El 10 de diciembre se cumple un año de la gestión de Javier Milei como presidente. Desde su asunción, se llevaron adelante profundas transformaciones que afectaron la realidad cotidiana de todos los argentinos y argentinas.
La Organización Mundial de la Salud manifestó su confianza en las estadísticas de fallecidos proporcionadas por el Ministerio de Salud de Gaza, dirigido por Hamás, tras las dudas planteadas por Israel sobre una modificación en la clasificación de dichos datos.
En el marco de la reciente semana del "Día Internacional de No Violencia contra las Mujeres", se publica el 6t0 informe que da cuenta que en Córdoba se totalizaron 7 nuevas búsquedas de mujeres sin paraderos conocido desde noviembre junio 2024. De esta manera se suman a las búsquedas activas de mujeres registradas en anteriores informes en el periodo diciembre 2021 a diciembre 2024.
Este año, fotógrafos de AP de todo el mundo capturaron el vasto catálogo de eventos de 2024, desde noticias de última hora (guerras, desastres naturales, un intento de asesinato) hasta momentos íntimos tanto tranquilos como exuberantes.
¿Cuáles son las causas de los incendios? ¿Por qué suceden? ¿A quiénes benefician? Habitantes de Epuyén y El Bolsón señalan la complicidad de los gobiernos y precisan cuáles son los sectores beneficiados por las llamas. El accionar tragicómico de Patricia Bullrich, la represión vía judicialización y, de fondo, el poder económico que pretende más territorios.
El gobierno, con la complicidad del Poder Judicial, prohibió un recital de Milo J que se iba a realizar en el Espacio de la Memoria Ex-Esma cuando 20.000 adolescentes y jóvenes hacían fila para ingresar. Policías y carros hidrantes amenazaban con la represión. Repudio de organismos de derechos humanos y artistas.
Durante el multitudinario primer Congreso Mundial sobre Desapariciones Forzadas, el referente de la Red por la Identidad de Barcelona hizo entrega del relevamiento que hizo Abuelas sobre la situación de los derechos humanos en la Argentina.
"La inteligencia artificial parece estar aumentando la desigualdad porque la mitad del mundo no está conectada a internet. Gabriela Ramos" Directora general adjunta de la UNESCO para las Ciencias Sociales y Humanas. Recientemente, más de mil profesionales del sector tecnológico pidieron una pausa de seis meses al desarrollo de la inteligencia artificial, avivando así el debate sobre la ética de esta tecnología que permea en todos los ámbitos de la vida moderna y que, sin embargo, no es representativa de la humanidad en su conjunto.