Especialistas coinciden en que esta tecnología trae consigo generalizaciones inadecuadas, errores y sesgos, y enfatizan la necesidad de un debate robusto.
Política29/08/2024
MásDeAgencia
El ministerio de Seguridad, con Patricia Bullrich a la cabeza, creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad. Según dicta la resolución 710/2024, este espacio “tiene como misión la prevención, detección, investigación y persecución del delito y sus conexiones mediante la utilización de la inteligencia artificial”. Así, entre sus actividades está el patrullaje de las redes sociales, aplicaciones y sitios de internet. En esta nota, la Agencia de Noticias Científicas de la UNQ dialoga con especialistas acerca de cuál es el impacto que puede tener esto en la navegación y comunicación libre de los usuarios por el mundo digital.
Al inicio, la resolución enfatiza en que países como Estados Unidos, China, Reino Unido, Israel, Francia, India y Singapur son pioneros en el uso de la Inteligencia Artificial (IA) en sus gobiernos y fuerzas de seguridad, aunque no entra en detalle sobre cómo es la utilización en cada caso. “Hay que tener claro que, bajo el brillo de un nombre pomposo, estos sistemas no esconden más que complejos cálculos estadísticos. Contrario a lo planteado por la resolución, en muchos países del mundo estos sistemas están en retirada por problemas originados a partir de la presencia de sesgos y por la imposibilidad de dotar a los mismos de un grado de transparencia adecuado”, declara a la Agencia Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino.
La nueva Unidad analizará actividades en redes sociales para “detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, a la vez que examinará imágenes de cámara de seguridad en tiempo real para detectar actividades sospechosas o identificar personas a partir del reconocimiento facial. Asimismo, podrá patrullar la Internet profunda o Dark-Web, espacio utilizado para realizar actos ilegales, “en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad, en el marco de la Constitución Nacional y legislación vigente”.
Incluso, mediante la IA, la Unidad podrá procesar volúmenes de datos de diversas fuentes para extraer información útil y “crear perfiles de sospechosos o identificar vínculos entre diferentes casos”. Ante la Agencia, Javier Pallero, analista de políticas públicas de Internet, explica: “Los sistemas de IA son propensos a generalizaciones inadecuadas, errores y sesgos. Además, la forma masiva, general y especulativa en la que se aplican estas tecnologías no es compatible con leyes y garantías constitucionales y procesales vigentes en el país”.
Y agrega: “Las tareas de inteligencia, es decir, de vigilancia específica de conductas y personas, debe hacerse bajo control judicial y sobre sospechas de delitos concretos. Reunir información en general para luego evaluar si existen posibles delitos es algo contrario a la Constitución”.
¿Hay que ponerle IA a todo?
La resolución destaca el avance de la tecnología, en particular de la Inteligencia Artificial, como uno de los cambios socio-tecnológicos más relevantes para la población en general. Desde el Observatorio de Derecho Informático Argentino sostienen que hay una “todología tecnológica”.
Así lo describe Pomar: “En ningún momento la resolución invoca algún informe técnico, estudio de factibilidad o requerimiento de área que justifique las futuras compras de sistemas. Por el contrario, sólo se justifica mediante una invocación abstracta de la tecnología como mejora de proceso citando ejemplos tan disímiles como Singapur, Francia o Israel”.
Y continúa: “Siguiendo con esa falta de estudio serio de la cuestión, la resolución introduce bajo la idea de ‘inteligencia artificial’ tecnologías con tradiciones y procesos tan distintos como la robótica, el análisis de video, la predicción del delito y la ciberseguridad. Es muy llamativa la ausencia de distinciones y especificidades por parte de una norma de este tipo”.
Por su parte, Pallero indica que la nueva Unidad puede funcionar como una forma de censura en la comunicación de las personas. “Esto no es lo mismo que vigilar las calles. Observar charlas, así sean públicas, deja a quienes vigilan muy cerca del seguimiento de personas y además genera un efecto inhibidor de la libertad de expresión”.
Aún es temprano para saber si el impacto será negativo o positivo, pero sí es necesario establecer un debate para identificar, por ejemplo, cuáles serán las actividades que indiquen un posible delito o cuál será el perfil de persona que se califique como “sospechoso”, según los términos de la resolución.
De igual manera, habrá que evaluar si será el Estado el que se encargue de esto o se requerirá de empresas externas que manejen datos personales e información sensible. El objetivo del debate sería evitar problemas futuros como un posible uso y abuso del poder por parte de las fuerzas de seguridad o falta de transparencias en el proceso que lleve adelante la IA.
Si se contratan empresas de software con asistencia remota, “no sabes por ejemplo en qué servidor costean la información o a qué tiene acceso la empresa proveedora. Eso ya no es solo un problema de datos personales sino que se trata de un cuestión de soberanía política y jurídica. Utilizarán herramientas de las cuales no se tiene control y le posibilitan al proveedor del software un acceso a los datos y a toda la arquitectura de información que emplea el ministerio o las fuerzas”, reflexiona Pomar
Fte: Luciana Mazzini Puga para Agencia de noticias científicas (unq.edu.ar)
Informe de CEPA-C entro de Economía Política Argentina-. El 10 de diciembre se cumple un año de la gestión de Javier Milei como presidente. Desde su asunción, se llevaron adelante profundas transformaciones que afectaron la realidad cotidiana de todos los argentinos y argentinas.
La Organización Mundial de la Salud manifestó su confianza en las estadísticas de fallecidos proporcionadas por el Ministerio de Salud de Gaza, dirigido por Hamás, tras las dudas planteadas por Israel sobre una modificación en la clasificación de dichos datos.
La cuarta edición de la Cumbre Latinoamericana del Agua para los Pueblos comenzó este viernes 10 de noviembre en la ciudad de la costa bonaerense, cruzada por el inicio de la exploración petrolera offshore y el impacto de los agrotóxicos. Recibe a asambleas ciudadanas y organizaciones sociales de todo el país para intercambiar experiencias y promover acciones de participación comunitaria en defensa del agua para la vida.
Análisis del CEPA* de la dinámica laboral y empresarial (11/23 – 08/24): evolución de los principales indicadores durante los primeros meses de gestión de Javier Milei - Noviembre 2024
El informe "Behind the Screens" de UNESCO, publicado en 2024, ofrece una visión profunda sobre el mundo de los creadores de contenido digital. Realizado por un equipo de investigación de Bowling Green State University, el estudio se llevó a cabo entre agosto y septiembre de 2024, utilizando dos métodos: una encuesta en línea en ocho idiomas con 500 creadores de contenido de 45 países y territorios, y entrevistas en profundidad con 20 creadores para obtener información cualitativa detallada.
El reciente triunfo de Donald Trump, consolida un nuevo escenario en la geopolítica mundial que se venía gestando ya con el crecimiento de China y otras potencias emergentes, dejando de lado un modelo político internacional -neoliberalismo- basado en el libre comercio, la globalización de las empresas y la hegemonía de los Estado Unidos en la dirección de la economía y los lineamientos de la política internacional.
Informe de CEPA-C entro de Economía Política Argentina-. El 10 de diciembre se cumple un año de la gestión de Javier Milei como presidente. Desde su asunción, se llevaron adelante profundas transformaciones que afectaron la realidad cotidiana de todos los argentinos y argentinas.
La Red Federal por la Defensa de los DD.HH y la Democracia, a un año de su confirmación, realizó la presentación del Primer Informe: 'Un año de lucha contra la destrucción planificada de los DDHH y la Democracia" por parte del gobierno de Javier Milei.
Desde la implementación del protocolo antipiquetes, la Comisión Provincial por la Memoria de Buenos Aires monitoreó el despliegue de las fuerzas de seguridad en las manifestaciones públicas. Esta labor se realizó en su carácter de Mecanismo local de prevención de la tortura, en el marco del trabajo articulado con el Comité nacional para la prevención de la tortura y el Mecanismo local de CABA.