⚠️ “La inteligencia artificial pone en peligro no solo el trabajo, sino la seguridad y la democracia”

Luego de la pandemia de COVID-19, un escenario distópico, de pronto, nuevamente cobró vida, en este caso en modo de alerta.

 

Una carta¹ firmada por más de mil CEOs, científicos y empresarios² abocados al análisis y desarrollo de la Inteligencia Artificial, alertó al mundo sobre las consecuencias impredecibles y catastróficas que puede traer aparejado el crecimiento de esta tecnología sin control alguno para la humanidad, y pidió se frenen, por al menos seis meses, las pruebas que permiten su avance, a la vez que solicitó a los Estados que intervengan para poder generar una planificación en el profundo cambio que significará para todo el mundo, poner al servicio de las personas y las empresas esta forma de desarrollo tecnológico.

 

La carta, que suponemos necesariamente endulzada con omisiones de la información privilegiada que manejan la mayoría de los firmantes que han tenido y tienen una enorme cuota de responsabilidad en la creación y crecimiento de esto que hoy nos pone en estado de alerta, causó enorme revuelo, y la mayoría del pueblo de la faz de la tierra no tiene ni idea de las verdaderas implicancias de lo que significa esta advertencia.

 

Es por ello que consulté a uno de los especialistas más reconocidos de la República Argentina, como lo es el Ingeniero en Telecomunicaciones y Ciberseguridad, docente y militante, Ariel Garbarz³, para que nos dé luz sobre el verdadero alcance de esta advertencia, y los caminos que debemos comenzar a transitar si no queremos ingresar en el peor de los mundos que plantea la mala aplicación o descontrol de la inteligencia artificial.

 

ENTREVISTA COMPLETA (AQUÍ*)

 

Lo primero que me interesaba saber, era si la alarma que encendió la carta era real. “Si, y por diferentes motivos”. Respondió con contundencia Ariel.

 

“Entre los firmantes hay empresarios como Elon Musk⁴ pero también hay diferentes especialistas en inteligencia artificial, científicos y profesionales. Por un lado, los empresarios que manejan la inteligencia artificial están preocupados en la medida que los últimos desarrollos se escapan al control de los propios desarrolladores, y eso puede afectar seriamente los negocios, pero, por otro lado, los que no son empresarios y no piensan principalmente en sus ganancias estamos preocupados por las consecuencias que tiene para la humanidad y para las democracias”.

 

“Porque ya fueron aplicados sistemas de inteligencia artificial para simular ser personas, para poder -con información personal de cada votante- influir en las elecciones. Ese es el caso de Trump, Bolsonaro y Macri⁵. Hubo consultoras, la más conocida es Cambridge Analítica, que, en base a un análisis individual de cada una de las personas, a través de Whatsapp fundamentalmente, habían convencido a votantes para sufragar de determinada manera, por medio de bots o algoritmos. Tengamos en cuenta que la IA se alimenta de Big Data, y esta tiene más información de nosotros que nosotros mismos y esto es explotado por los bots para colonizar nuestra subjetividad y convencernos⁶, a partir de nuestros puntos débiles, dudas y temores, de votar a un determinado candidato, que, no por casualidad, siempre terminan siendo de derecha o ultra derecha”. 

 

“Este es un tema bastante subestimado, porque se cree que los sistemas de IA pueden reemplazar trabajos de personas⁷, y en realidad ese es el menor de los peligros. El problema mayor es que estos sistemas operan sobre nuestra subjetividad⁸, incluso sobre nuestros sentimientos. A tal punto que hay una rama muy peligrosa de IA que es la que analiza nuestros sentimientos y nos manda mensajes de distinto tipo utilizando justamente esa parte de nuestra subjetividad. Fíjate hasta qué punto es tan peligroso esto, que empresarios que han ganado fortunas con esta tecnología están pidiendo que por 6 meses se suspenda el desarrollo, y con ello nos está mostrando un escenario sumamente peligroso para el sistema global”.

 

¿Qué puede pasar en esos seis meses que solicitan, que se busca lograr en ese tiempo? “Lo que reclaman es que los gobiernos se pongan de acuerdo en un sistema de regulación para poner límites, y determinen qué se puede hacer y qué no, hasta donde”.

 

“El nudo está en comprender la diferencia entre los programas clásicos (software) y los que son de inteligencia artificial. Y la gran diferencia, es que a un Software vos le ingresas datos, procesa esos datos y te da resultados, en cambio, los sistemas de inteligencia artificial, ellos mismos generan sus propios sistemas de procesamientos de datos, es decir, inventan procesos nuevos que no están al alcance de ninguno de los desarrolladores y recolectan datos, y, en base a los datos asociados que recolecta, también arma hipótesis de trabajo que pueden ser absolutamente descabelladas”.

 

“Un ejemplo, es crear temor para que esa población que está pasando angustias económicas, sustituya esa angustia por otras mucho mayores. La ultra derecha, en el mundo, utilizó siempre estas tácticas sucias con el objetivo atemorizar a la población para que empiece a tener temor por salir, por la vida de sus familias y eso tiende a apaciguar el malestar por los ajustes. Son sistemas de dominación muy personalizados que nos habla en nuestro propio lenguaje, y que, incluso, maneja ironía, los sarcasmos y las bromas en el mismo estilo que nosotros”.

 

“La inteligencia Artificial tiene varias ramas, pero lo más lesiva para la subjetividad es la que se llama Procesamiento de Lenguaje Natural⁹, que no solamente permite mejorar la comunicación del humano con la computadora por los chats bots, sino que utiliza aplicaciones donde incluye análisis de sentimientos y clasificación de textos, cuyo objetivo, incluso, no fue el planteado por el desarrollador, sino uno que se puso el propio software, porque es capaz de plantearse hipótesis de trabajo y armar procesos propios. Incluso ahí entra superar a los especialistas en subjetividad: psicólogos, psicoanalistas, neurólogos, psiquiatras, etc. Reconoce emociones, no solo por voz sino por análisis de imágenes. Sabe tu emoción cuando te sacas la foto o filmas el video”

 

“A nivel empresarial, incluso, hay un aspecto en cuanto al análisis de sentimiento que se llama Análisis de Intención¹⁰, que son algoritmos que hacen un análisis de la intención del cliente, para detectar cuál es su patrón de conducta y usarlo para las campañas de venta de bienes y servicios para el marketing y la publicidad. Y con eso solo, se estima, que el año pasado, las empresas han ganado¹¹ 8000 millones de dólares extra por incorporar esta tecnología”. 

 

“Por esto, creo que hay que involucrarse y apoyar este reclamo, y exigir que los países se pongan de acuerdo, aunque es muy difícil que lo hagan”.

 

¿Si la inteligencia artificial tiene la posibilidad de establecerse protocolos propios para administrar la información, y ella tiene una cantidad infinita de datos e incluso una manera infinita de conjugarlos y renovarlos, como van a hacer los Estados para controlarla?

 

“En general tienen que ser directores de proyectos, los Estados tienen que involucrarse, aprobar o rechazar los proyectos, como si fuese un arma estratégica muy filosa¹². De la misma manera que los Estados Controlan la Fabricación de Armas, tienen que ponerse a la vanguardia del desarrollo de la Inteligencia Artificial y evitar esta manipulación”.

 

“Si dejamos que la IA siga avanzando sin control, nos vamos a encontrar pueblos sumisos con votantes de los peores regímenes autoritarios que podamos imaginar”.

 

Argentina hoy, ¿qué es lo que puede frenar esto. ¿Tiene herramientas para eso?

 

“Argentina hoy tiene la capacidad profesional para hacerlo. Es más, EEUU busca permanentemente profesionales argentinos, porque la enorme capacidad que tenemos de adaptarnos y resolver problemas atándolos con alambre, es decir, poder resolverlos con creatividad e imaginación, que a veces los profesionales del norte no lo tienen, y eso, es un recurso humano fundamental para que el Estado lo aproveche y cree un organismo Ministerial o por lo menos una Secretaría de Estado que se ocupe directamente de proponer leyes que controlen y frenen la invasión de IA que ya existe hoy en mucha áreas”.

 

Por Luciano R. Moreno Calderón

https://twitter.com/UMalvinizadora