Minimizar los riesgos de la digitalización y la IA

- Privacidad personal en lugar de dictadura digital.

Sistema tecnológico que permite el control directo por parte de quienes detentan el poder.

Identidad digital, moneda digital e inteligencia artificial: una nueva infraestructura mundial con consecuencias de largo alcance

Los sistemas de identidad digital, las monedas digitales de los bancos centrales (CBDC) y la inteligencia artificial (IA) constituyen, en su conjunto, un emergente infraestructura digital mundial que se está integrando gradualmente en nuestras estructuras sociales.. Técnicamente, gran parte de esta infraestructura ya existe, pero es ahora cuando se hacen patentes todas sus implicaciones. Quien controle esta infraestructura controlará efectivamente el desarrollo de la sociedad.

A pesar de los beneficios potenciales en términos de mayor eficiencia, comodidad y accesibilidad, los riesgos de esta evolución son tangibles y fundamentales. La vinculación de los monederos digitales, controlados por un actor central como la Comisión Europea, a la identidad digital de un individuo crea una sistema tecnológico que permite a los responsables tener un control directo sobre la participación económica y social de los ciudadanos en la sociedad. Esto abre un nuevo tipo de gobernanza que antes era técnicamente imposible: el derecho a gastar el propio dinero, viajar o acceder a los servicios sociales puede condicionarse, restringirse o bloquearse en tiempo real.

Al mismo tiempo, se está produciendo una revolución paralela en el campo de la inteligencia artificial. La IA se define esencialmente como sistemas que pueden comunicarse y actuar de forma que imitan la inteligencia humana: razonando, tomando decisiones, resolviendo problemas complejos y adaptándose a la nueva información.

A medida que la IA se integra con otras tecnologías basadas en datos, como el almacenamiento avanzado de datos, el aprendizaje automático, el procesamiento de imágenes y lenguaje y las tecnologías de sensores, estamos experimentando una transformación tecnológica de enorme alcance. Lo que estamos presenciando no es una evolución gradual, sino un profundo cambio sistémico, probablemente más rápido y de mayor alcance que cualquier otra revolución tecnológica anterior desde la industrialización. Los efectos se dejarán sentir en todos los ámbitos de la sociedad: desde la economía, la justicia y la educación hasta la administración pública y la toma de decisiones democrática.

Por lo tanto, es crucial comprender que esta infraestructura -aunque se comercialice como tecnológicamente neutra y socialmente beneficiosa- en la práctica crea nuevas estructuras de poder. Estructuras que pueden reforzar el control, la vigilancia y la desigualdad, si no se regulan o se confían a agentes privados o supranacionales sin supervisión democrática. No se trata de un detalle técnico. Se trata de un desplazamiento estructural del poder, de los ciudadanos a los sistemas, del control democrático a la vigilancia mediante códigos. Quien controle esta infraestructura controlará en la práctica el desarrollo de la sociedad.

La cuestión ya no es si esto ocurre, sino en qué condiciones.

Hasta ahora, la política ha sido reactiva, lenta y técnicamente ignorante. El Gobierno ha creado el llamado Consejo Nacional de Inteligencia Artificial, pero se trata de un foro de debate poco unido, sin competencias claras, sin control independiente y sin profundidad técnica. No es un organismo que pueda asumir la responsabilidad de proteger a la sociedad sueca de los riesgos -y aprovechar las oportunidades- que traen consigo la infraestructura digital y la IA. Pero estas mismas tecnologías también son capaces de distorsionar la opinión, cimentar el poder, marginar profesiones y convertir a las personas en consumidores vigilados de un sistema que no entienden.

Ambition Sverige se esforzará por:

En cuanto a las identificaciones digitales y las monedas digitales de los bancos centrales:

• Exigir un debate público y un referéndum antes de implantar el DNI y la moneda digital del banco central.
• Exigimos que se otorgue a cada persona plena propiedad legal y control sobre sus propios datos biométricos, incluido el derecho al consentimiento, la restricción, la trazabilidad y la protección financiera frente a la explotación comercial.
• Pedimos que se ponga fin al vínculo obligatorio entre los sistemas de identificación y las transacciones financieras.
• Asegurar y preservar el efectivo como un derecho legal protegido.
• Establecer límites legales a lo que las monedas digitales y los sistemas de identificación pueden contener, registrar y controlar.
• Crear opciones de identidad digital abiertas y no controladas centralmente.

En cuanto a la IA:

• Por ello, Ambition Sverige exige que el acceso a la información en Internet siga siendo libre, abierto y sin censura, porque la libertad de información es un requisito básico para la democracia, la libertad de expresión y una sociedad libre. Por tanto, la IA que se ofrece a los ciudadanos suecos debe cumplir estos requisitos.
• Reclamamos una infraestructura nacional de IA. Deben desarrollarse modelos de IA financiados públicamente y examinados de forma abierta y transparente, basados en las leyes, la lengua, la cultura y la ética locales.
• Exigimos que ninguna IA pueda tomar decisiones que afecten a la vida de las personas sin total transparencia, responsabilidad legal y control humano, como en la legislación danesa. Debe quedar claro quién está detrás de una decisión tomada por IA, en qué datos se basa y qué valores se han priorizado. Las decisiones automatizadas deben ser siempre recurribles.
• Soberanía de los datos - Todos los datos sensibles, especialmente de las autoridades públicas, las escuelas y la sanidad, deben ser almacenados y procesados dentro de las fronteras de Suecia y por actores bajo control democrático (no la UE ni actores globales y privados).
• Alfabetización digital - Los ciudadanos y los responsables de la toma de decisiones deben recibir formación sobre las nuevas tecnologías y la IA.
• Regulación activa para evitar la dependencia de plataformas y promover opciones abiertas e interoperables.
• Ambition Sverige pide que se inicien los trabajos para identificar y analizar los riesgos asociados a la IA en los sistemas de seguridad militares y civiles y el desarrollo de la protección de las infraestructuras críticas frente a los ataques, el sabotaje o la desinformación impulsados por la IA.
• Por último, pedimos que se desarrollen nuestras capacidades de defensa contra los sistemas de armas autónomas y los ataques dirigidos digitalmente, y que se refuercen las salvaguardias jurídicas, éticas y técnicas internacionales contra el uso de la IA contra la población, por parte de otros Estados o de agentes privados.