BOLIVIA ANTE LAS TECNOLOGÍAS EMERGENTES ¿CÓMO EVITAR SU UTILIZACIÓN DESPIADADA?

La adopción de nuevas tecnologías en países en vías de desarrollo, puede ser una fuente crucial de crecimiento y oportunidades. Sin embargo, la utilización descontrolada de estas tecnologías también puede traer consigo serios riesgos. Este es un desafío que enfrentan países como Bolivia, donde el debate sobre la regulación de las nuevas tecnologías, como las RRSS y la IA aún está en una fase incipiente.

La falta de medidas regulatorias adecuadas en el contexto de competencia capitalista puede hacer que las y los ciudadanos de países como el nuestro, sean particularmente vulnerables a los peligros que Shoshana Zuboff (autora del libro: “The Age of Surveillance Capitalism” – “La era del capitalismo de vigilancia”) y Cathy O’Neil (autora del libro: “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy” – “Armas de destrucción matemática: cómo los datos aumentan la desigualdad y amenazan la democracia”) describen: 

• Zuboff sostiene que el capitalismo de vigilancia representa una nueva forma de capitalismo cuyo producto son los futuros humanos. Este nuevo régimen está impulsado por imperativos económicos novedosos en los que las predicciones del comportamiento humano (derivadas de nuestros datos) se venden a las operaciones comerciales y a los mercados. Afirma que mientras la explotación tradicional del capitalismo se centraba en la naturaleza para obtener materias primas y mano de obra para la producción, el capitalismo de vigilancia explota la experiencia humana privada.
• O’Neil profundiza en los impactos dañinos de los algoritmos que operan sin transparencia ni supervisión. Sostiene que muchos de estos algoritmos refuerzan las desigualdades existentes, dañan a las personas en posiciones sociales vulnerables y carecen de mecanismos de retroalimentación para corregir o borrar imprecisiones de sus datos en sistemas informáticos bancarios y estatales.
• Una de las principales preocupaciones de O’Neil es que el big data y los algoritmos, que muchos suponen neutrales y objetivos, en realidad pueden perpetuar y amplificar los prejuicios sociales. Ha advertido sobre los peligros de confiar en algoritmos para tomar decisiones críticas en áreas como contratación, préstamos y vigilancia.

Las GAFAM (Google, Apple, Facebook, Amazon y Microsoft) tienen una enorme presencia en todo el mundo, y sus prácticas de recopilación de datos pueden tener impactos negativos aún mayores en países en vías de desarrollo, derivados de cuestiones relacionadas con la privacidad, el dominio económico, la influencia cultural y la manipulación política, entre otros:

1. Explotación de la privacidad:

• Débil protección de datos: en muchos países en desarrollo, las leyes de protección de datos pueden ser laxas o inexistentes, lo que permite a los gigantes tecnológicos tener más libertad en la recopilación, el almacenamiento y el uso de datos sin una supervisión estricta.
• Consentimiento informado: puede haber una falta de conciencia entre los usuarios sobre el alcance y el propósito de la recopilación de datos, lo que lleva a un posible uso indebido y violaciones de derechos, como de la confianza del usuario.

1. Dominio y dependencia económica:

• Asfixiar la innovación local: las GAFAM tienen vastos recursos y su dominio puede eclipsar o sofocar las nuevas empresas tecnológicas y la innovación locales.
• Dependencia económica: la dependencia excesiva de las plataformas y tecnologías proporcionadas por estos gigantes tecnológicos puede generar dependencia económica y una falta de desarrollo tecnológico local.

1. Erosión cultural:

• Homogeneización cultural: El alcance y la influencia global de las grandes tecnológicas pueden suprimir o disminuir inadvertidamente las culturas, los valores y el contenido locales en favor de normas más globales o centradas en Occidente.
• Pérdida de contenido local: a los creadores de contenido local podría resultarles difícil competir en plataformas dominadas por actores globales, lo que llevaría a una posible erosión de los medios y el entretenimiento locales, como pasa con las plataformas de streaming, que monopolizan este medio de distracción.

1. Manipulación y Vigilancia Política:

• Desinformación: plataformas como Facebook, se han relacionado con la difusión de noticias falsas y desinformación que pueden exacerbar las divisiones sociales e incitar a la violencia.
• Vigilancia: Los gobiernos pueden aprovechar los datos masivos recopilados por estas plataformas para la vigilancia, lo que podría conducir a violaciones de derechos humanos o la supresión de la disidencia.
• Manipulación electoral: está siempre latente la posibilidad de que se haga un uso indebido en contextos electorales, donde los anuncios dirigidos a destinatarios o las campañas de desinformación pueden influir indebidamente en los resultados electorales.

1. Explotación económica:

• Los datos como el nuevo petróleo: en ausencia de regulaciones adecuadas, existe el riesgo de que los datos de los ciudadanos de países en desarrollo sean explotados con fines de lucro sin una compensación adecuada o sin que los beneficios regresen a la economía local.
• Prácticas de mercado desleales: dada su posición dominante, existe la posibilidad de que estas empresas incurran en prácticas de mercado desleales, lo que afectará negativamente a las empresas locales.

1. Desigualdad digital:

• A medida que estos gigantes tecnológicos se expanden, tienden a atender más a segmentos urbanos rentables, dejando atrás a los sectores rurales o menos prósperos, exacerbando así las brechas digitales.

1. Preocupaciones ambientales:

• A medida que estas empresas amplíen su infraestructura física en estos países, podría haber implicaciones ambientales si no se gestionan de manera sostenible.

En Bolivia, como en otros países en desarrollo, las cuestiones urgentes relacionadas con la estabilidad económica, la lucha contra la corrupción y la mejora de la calidad de vida, a menudo se sitúan en la cima de la agenda política. Sin embargo, este enfoque, aunque comprensible, puede llevar a ignorar los riesgos y desafíos asociados a la rápida adopción de las NTIC (Nuevas Tecnologías de Información y Comunicación).

Los efectos de esta negligencia pueden ser muy perjudiciales. Al no contar actualmente con una regulación efectiva, las y los ciudadanos no tienen ningún instrumento para defenderse ante formas de utilización de sus datos que erosionen su privacidad y seguridad. Además, si no se controlan los sesgos inherentes a los algoritmos de IA, podrían surgir graves problemas de discriminación y desigualdad, dada la hegemonía de las NTIC en los intercambios económicos, sociales y culturales. El auge de la “vigilancia capitalista” puede poner en peligro los derechos fundamentales y socavar la confianza en las instituciones democráticas, producto de la creciente desinformación que se emite por las RRSS, así como de la interacción que las plataformas de IA tienen con los sesgos cognitivos de los seres humanos.

Por ejemplo, un caso paradigmático de los riesgos de un uso irresponsable de la IA es el chatbot Tay de Microsoft. En 2016, este chatbot fue lanzado en Twitter (ahora X) con la intención de aprender y adaptar su lenguaje a partir de las interacciones con los usuarios. Sin embargo, algunos usuarios comenzaron a interactuar con Tay de manera ofensiva y el chatbot empezó a emitir comentarios racistas y sexistas; por lo que tuvo que ser apagado. Tay demostró la necesidad de supervisar y guiar los “inputs” que le brindamos a la IA, en un claro llamado a la responsabilidad en su uso.

Otros peligros inherentes que traen las nuevas tecnologías son: 

• La Manipulación del comportamiento; las empresas que practican el capitalismo de vigilancia no solo recogen nuestros datos, sino que también los utilizan para predecir y a veces influir en nuestro comportamiento. 
• La Centralización del poder; conforme más y más datos se concentran en manos de unas pocas grandes empresas, estas empresas adquieren una cantidad desproporcionada de poder. 
• La Inseguridad de los datos; con la acumulación de datos personales viene el riesgo de que estos datos sean robados o mal utilizados. 

¿Cómo abordar el desafío de encauzar positivamente la utilización de las NTIC y su adopción mundial? Una posible solución es desarrollar una regulación sólida y efectiva que proteja a las y los usuarios y promueva un uso ético y responsable de las RRSS y de la IA. La ciudad de Barcelona ofrece un ejemplo notable en este sentido. Bajo la gestión de Francesca Bria, la ciudad puso en marcha el programa “Barcelona Digital City”, destinado a orientar la transformación digital para el beneficio de las personas y no de las grandes corporaciones. Bria, aboga por un concepto que incluye el control ciudadano de los datos y su uso para el bien común.

Regulaciones como la del modelo de Barcelona, que fomentan la transparencia, la “soberanía digital” y el uso ético y responsable de las NTIC, son un primer paso importante para abordar estas cuestiones. Sin embargo, también es crucial fomentar la educación y la alfabetización digital para concientizar sobre los riesgos y saber cómo proteger sus derechos en un entorno digital.

Así también, la Unión Europea (UE) ha estado a la vanguardia en la regulación de las grandes empresas tecnológicas, con énfasis en la protección de datos, la competencia y los derechos digitales. Las acciones de la UE contra el capitalismo de vigilancia y sus riesgos potenciales se han canalizado principalmente a través de medidas legislativas, acciones legales y propuestas de regulaciones. Algunos esfuerzos notables a señalar son:

• Reglamento General de Protección de Datos (GDPR) (En vigor desde mayo de 2018)
• Acciones de Competencia y Antimonopolio
• Ley de Servicios Digitales (DSA) y Ley de Mercados Digitales (DMA) (propuesta en diciembre de 2020)
• Reglamento de Privacidad y Comunicaciones Electrónicas (Reglamento ePrivacy)
• Impuestos
• Defensa de los derechos digitales

La UE pone en evidencia la importante necesidad de una alianza entre países para enfrentar a las grandes tecnológicas.

Por su parte, los gobiernos de los países en desarrollo deben comenzar a considerar seriamente la implementación de regulaciones similares y de forma conjunta para tener más poder ante las empresas dominantes. Esto incluye la introducción de leyes que protejan los datos de la población y promuevan el uso ético de las NTIC. Sin embargo, como demuestra el modelo de Barcelona, esto debe ir más allá de la mera regulación y dirigirse hacia la creación de una independencia digital que permita a las y los ciudadanos controlar sus propios datos.

Es de vital importancia que el gobierno de Bolivia dé a conocer, abierta y masivamente, qué se está haciendo al respecto y cuáles son las políticas que se están proponiendo e implementando. Tanto para liberar a la población del capitalismo de la vigilancia, como en la proposición de mejores vías de utilización de las NTIC, que permitan resguardarnos de las amenazas de los intereses que están detrás de estos sistemas.

Si bien el avance tecnológico presenta desafíos significativos, la tecnología ofrece la oportunidad de reflexionar sobre el tipo de sociedad que queremos construir. Necesitamos buscar formas de utilizarla de manera que nos beneficie a todos, en lugar de a unos pocos. Esto requerirá repensar nuestros sistemas políticos, económicos y de valores. Es esencial que desarrollemos y promovamos prácticas de gestión de datos que respeten la privacidad, regulaciones que limiten la recopilación y uso de datos por parte de las empresas y del Estado, y contar con instrumentos de educación pública sobre los riesgos de las nuevas tecnologías.

El camino hacia la regulación efectiva de las NTIC y en particular de la IA en países en vías de desarrollo no será fácil. Sin embargo, si queremos aprovechar plenamente las oportunidades que estas ofrecen, sin caer en los peligros de la “vigilancia capitalista”, es una tarea que debemos emprender con urgencia. Para lograrlo, necesitaremos aprender de los ejemplos de otros países, adaptar las mejores prácticas a nuestros propios contextos y trabajar para aumentar la conciencia y la alfabetización digital de la población. Entendiendo que estos esfuerzos deben evolucionar y adaptarse continuamente, dado que las nuevas tecnologías estarán un paso por delante de la regulación. 

*Ingeniero de sistemas, con maestrías en Telecomunicaciones y en Energías Renovables