DISTOPÍA O REALIDAD: NEGOCIOS Y ESTADOS QUE NO RESPETAN A LAS PERSONAS
Bolivia distópica 2030. Al igual que en la mayoría de países del mundo, adultos, jóvenes, niñas y niños, vuelven a verse obligados a cubrir sus rostros antes de salir a las calles. Esta vez la pandemia no es biológica, sino digital. Con la viralización de la inteligencia artificial (IA) y su utilización irrestricta, cualquier persona puede ser duplicada digitalmente mediante una simple foto, incluso mal tomada, presionando un botón de acceso directo que se encuentra en todos los teléfonos más modernos, que permite ordenarle a la IA mediante comando de voz, qué tipo de imagen o video debe generar, a partir de la foto de una persona.
La probabilidad de que alguien tome una fotografía en la calle o en el transporte público a cualquier persona con la intención de extorsionar se ha vuelto tan alta, que nadie toma el riesgo de no proteger su identidad, con un barbijo o una máscara.
Al haberse degradado tanto la economía de todos los países y en particular de aquellos que estuvieron en vías de desarrollo, el pedir dinero para no publicar imágenes y videos falsos, se ha convertido en una forma común de incrementar los escasos recursos que la gente genera de manera independiente, debido a la masiva suplantación de puestos de trabajo por funcionarios y empleados digitales.
Además, la creación de imágenes y videos falsos es tan fácil, que toma segundos indicarle a la IA, mediante un comando de voz, qué tipo de videos y fotografías generar. Con otro comando de voz enviará el contenido generado a la persona que pagará el rescate de identidad, que, aunque no se la conozca, algún agente de IA la reconocerá y obtendrá su número de WhatsApp y su correo electrónico. Con lo cual la extorsión simplemente comenzaría y sería muy difícil escapar.
Evidentemente en las cuentas de Facebook, Instagram, TikTok y otras redes sociales, ya no se publican fotografías personales. Fueron reemplazadas por mensajes que piden no hacer caso a ninguna publicación en la que se aparezca. O indicando una reciente suplantación de identidad, la cual se ruega no compartir e ignorar, a pesar de su innegable autenticidad.
Las autoridades, las leyes y la policía, son incapaces de encontrar y penalizar a las o los extorsionadores anónimos. Puesto que las publicaciones son hechas por las propias IAs, desde servidores ubicados en el extranjero, donde la legislación boliviana no tiene ninguna jurisdicción. Los rescates son exigidos en alguna de las muchas monedas digitales o en Bitcoins, para evitar ser rastreados y las personas afectadas deben encontrar la forma de agenciarse dichas divisas, aunque su utilización siga siendo ilegal en Bolivia. Resultando una de las formas de conseguirlas, extorsionar de la misma manera a otra persona. Por lo que mucha gente sale a las calles a la caza de cualquier rostro descuidado.
Volviendo al año 2024, quisiera indicar que el anterior escenario distópico es improbable, pero lamentablemente es lo contrario. Resulta posible, dada la elevada adopción de teléfonos inteligentes y nuevos artilugios, por parte de adultos, jóvenes, niños y niñas; obnubilados por la tecnología, sin tomar en cuenta los riesgos a los que éstos aparatos nos exponen. Ignoramos los alcances de la IA y nos vemos cada vez más atrapados en un mundo de distracción y gratificación inmediata, a cambio de todos nuestros datos, nuestro rostro y nuestra voz y esta situación no hace más que comenzar.
Basta con señalar el reciente caso en el que un “anti fan” de Taylor Swift utilizó fotos de internet para generar videos de ella desnuda y los publicó en las redes sociales, entre ellas X (ex Twitter), que tardó días en quitar estas publicaciones, a pesar de que la artista (con la influencia y recursos que tiene) contactó a la empresa y pidió que retiren esos videos cuanto antes.
Otro ejemplo de la avalancha tecnológica que se nos viene, son los nuevos lentes Apple Vision, que ya tienen a miles de personas caminando, comiendo, conduciendo, viajando, por todas partes, con ellos puestos. Dado que permiten agregar interfaces o pantallas virtuales a su entorno, para así seguir trabajando, chateando, revisando información, etc. Todo lo que se puede hacer desde una computadora o un teléfono inteligente, pero con pantallas ilimitadas, que se pueden “fijar” a una habitación o dejar que estén disponibles permanentemente en el campo de visión de quien lleva puesto este aparato, que se asemeja a lentes de buceo.
Las siguientes preguntas nos pueden llevar a tomar mayor conciencia de algunas de las implicaciones actuales que tiene esta creciente adicción tecnológica, que nos lleva a proveer sin ningún cuestionamiento nuestros datos personales, así como sobre los riesgos de que empresas y estados obtengan y acumulen, datos, imágenes y videos que son tomados sin nuestro consentimiento.
¿Deberían las empresas tener acceso a la información y datos de los rostros de las personas que postulan a un puesto (complementando su perfil psicológico), para que sirvan en la decisión de contratación de personal?
¿Debería la policía ponerlo(a) a usted en una lista de sospechosos basándose en su manera de caminar?
¿Debería una tienda elegir qué productos mostrar (y cuáles no) a un cliente, basándose en estereotipos y asunciones de género y/o etnia?
¿Debería una compañía de seguros aumentar el valor de su póliza sólo por su forma de vestir?
“El reconocimiento facial puede ser y será utilizado contra cada uno de nosotros por los gobiernos y las corporaciones, en función de quiénes somos y cómo nos vemos.” Esta es la advertencia que la ONG europea “Reclaim Your Face” (Reclama/Recupera tu rostro) da a todas las personas y propone que nos planteemos esas y otras preguntas para entender los riesgos a los que las tecnologías de la información y la vigilancia nos exponen. Estos riesgos se amplifican con el uso de dispositivos conectados, que no sólo envían información sobre nuestro estado físico, sino que a partir de estos datos permiten inferir el estado de nuestra situación mental.
Las grandes empresas tecnológicas han aprovechado la pandemia de Covid-19 para incrementar la adopción de aparatos inteligentes destinados a obtener más datos de sus usuarios, a cambio de monitorizar constantemente sus signos vitales, sin informarles que, con los datos capturados por un reloj inteligente durante un mes, se puede llegar a obtener el perfil psicológico de una persona; equivalente a un test psicológico escrito de 45 minutos.
Es así que la salud mental se ha vuelto el nuevo objetivo de mercado de estas empresas. Proveyendo nuevas aplicaciones capaces de determinar el nivel de depresión o calificar el estado de ánimo de una persona, con el fin de aumentar la conciencia emocional de sus usuarios. Al orientar la atención al autodiagnóstico y a soluciones tecnológicas de corto plazo se promueve dejar de lado las causas sociales y políticas que subyacen a las enfermedades psicológicas, tales como la explotación laboral, la inestabilidad financiera, la creciente automatización y el acceso limitado a atención médica, alimentos y vivienda.
“Los peligros generales de que estos datos sean acaparados por agentes comerciales que, en determinadas circunstancias, estarán felices de transmitirlos a las autoridades estatales nacionales o locales son claros: echemos un vistazo, por ejemplo, a la adolescente de Nebraska que fue condenada en el verano de 2021 por violar la ley de aborto de su estado después de que Facebook y Google pusieran a disposición de la policía sus mensajes privados y datos de navegación.”
En éste contexto, las normas y leyes que deben regular las prácticas que estas empresas siguen desarrollando, están siempre un paso por detrás de las nuevas tendencias y prácticas tecnológicas. Y en último caso será difícil que los estados normen y penalicen efectivamente a dichas empresas, debido a su gran poder e influencia sobre los mercados comerciales y laborales. Dado además que las grandes multinacionales y los estados apuestan ciegamente por el crecimiento económico ilimitado, como única opción de desarrollo y bienestar de la población. Aunque el aumento del PIB (Producto Interno Bruto) mundial de los últimos años se ve contrastado por el incremento de los niveles de desigualdad social y económica, sobre todo en los países con mayor PIB, destacando el caso de EEUU.
mundo donde los estados y las mega empresas tecnológicas controlan los datos y cada vez emergen nuevas herramientas de inteligencia artificial que permiten la creación de imágenes y videos generados a partir de texto y muy pronto desde comandos de voz. Es tiempo de que los datos pertenezcan a las personas y no sean utilizados en contra de ellas. Si los gobiernos no son capaces de proteger a los y las ciudadanas, debemos ser las personas quienes dejemos de alimentar estos mecanismos de vigilancia y exclusión, que parecen inofensivos, hasta que alguien decide utilizarlos en contra de nosotros.
“Esto supone romper con muchos reflejos, hábitos y representaciones que siguen manteniendo patrones más inoperantes que nunca, debilitando así nuestras voluntades y abocándonos a la pasividad”
Ingeniero de sistemas, con maestrías en Telecomunicaciones y en Energías Renovables
