“Es mejor enfrentarnos al universo tal como es, que buscar alguna ilusión, por tranquilizadora que sea”. (Carl Sagan).
”Parece una predicción razonable que en algún momento de este siglo o el próximo la inteligencia escapará de las limitaciones de la biología”. “Y cuando eso ocurra ya no seremos las cosas más inteligentes del lugar, lo que nos pondría a merced de las máquinas que si bien no son maliciosas, no nos incluyen entre sus intereses”. (Huw Price 26.11.2012).
Desde tiempos inmemoriales la humanidad ha reaccionado de maneras diversas ante la novedad, ya sea con temor a la destrucción de lo logrado hasta ese momento, sin pensar en los beneficios futuros de la novedad o con excesivo optimismo respecto de los beneficios futuros, sin tener demasiado en cuenta los perjuicios que pudieran generar los efectos de la innovación. Esta, puede ser definida como un cambio que introduce novedades que se refieren a modificar elementos ya existentes, con el fin de mejorarlos o renovarlos. A través del tiempo, la especie humana ha experimentado el desarrollo de este concepto, solo que no necesariamente la aparición de innovadores contó con la adhesión de los diferentes gobiernos y su élite cercana, en las distintas épocas.
Durante el reinado del emperador Tiberio, un hombre inventó un vidrio irrompible (al menos para las herramientas de la época romana) y fue a ver al emperador, pensando en la obtención de una recompensa e hizo una demostración exitosa, Tiberio preguntó si alguien más conocía este invento y ante la negativa del innovador, lo ejecutó «para que el valor del oro, no se reduzca al del barro». También durante el imperio romano, alguien se dirigió al emperador Vespaciano para mostrar el invento de un dispositivo para transportar columnas a precios muy bajos, las columnas de gran porte y difíciles de transportar, se utilizaban en gran cantidad de construcciones en la antigua Roma. Aunque esta vez el innovador salvo su vida, la respuesta del emperador fue «si voy a usar menos mano de obra, como alimento al pueblo ?. En ambos casos, fue determinante en la toma de la decisión, el efecto económico que podría generar la destrucción creativa. Los plebeyos tenían que mantenerse ocupados, trasladando columnas de un lugar a otro y con el pan y circo gratuito se mantenía «contenta» a la población (igual que ahora , viste?).
Como hemos podido comprobar, se han esgrimido gran cantidad de argumentos que se utilizaron (y se utilizan) para mantener las cosas como están, frenar la innovación y los efectos que esta puede provocar, aunque los innovadores ya no son ejecutados como antes, la resistencia al cambio y el temor a las consecuencias de la destrucción creativa, entendida como una severa alteración de las condiciones actuales, que crean algo absolutamente nuevo a lo que hay que adaptarse (en cuanto a condiciones de trabajo, riesgo empresario y capacitación), siguen vigentes. Aunque esta vez la innovación no es algo que solo se le ocurrió a alguien, sino que tiene iniciativa propia.
Los temores a la inteligencia artificial (IA) han perseguido a la humanidad desde los inicios de la era informática, aunque en esa época solo parecían extracciones de un cuento de Julio Verne (googlear en caso de ignorancia). Estos temores se centraban en las máquinas que utilizaban medios físicos para matar, esclavizar o sustituir a las personas. Sin embargo, en los últimos años han aparecido nuevas herramientas de IA que amenazan la supervivencia de la civilización humana desde una dirección inesperada. La IA ha adquirido notables capacidades para manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes.
¿Qué pasaría cuando una inteligencia no humana fuera mejor que el ser humano medio para contar historias, componer melodías, dibujar imágenes y redactar leyes y escrituras? Cuando la gente piensa en ChatGPT y otras nuevas herramientas de IA, suele pensar en ejemplos como el de los escolares que la utilizan para escribir sus redacciones. ¿Qué pasará con el sistema escolar cuando los niños hagan eso? Aunque si nos olvidamos por un momento de las redacciones escolares y pensamos en las próximas elecciones presidenciales de Estados Unidos en 2024, intentando imaginar el impacto de las herramientas de IA que pueden utilizarse para producir en masa contenido político y noticias falsas, temas de los que ya se habló, aunque con menor impacto mediático en las elecciones anteriores.
En un plano más amplio, pronto podríamos mantener largas discusiones en línea sobre el aborto, el cambio climático o la invasión rusa de Ucrania con entidades que creemos humanas, pero que en realidad son IA. El problema es que es totalmente inútil que dediquemos tiempo a intentar cambiar las opiniones declaradas de un bot (1) de IA, mientras que aquella podría perfeccionar sus mensajes con tanta precisión que tendría muchas posibilidades de influir en nosotros; a tales fines recordar el cuento del acuario entre un japonés, un natural de Galicia y un pez (si no lo sabés, que alguien te lo cuente).
Gracias a su dominio del lenguaje, la IA podría incluso entablar relaciones íntimas con las personas y utilizar el poder de la intimidad para cambiar opiniones y visiones del mundo. Aunque no existen indicios de que la IA tenga conciencia o sentimientos propios, para fomentar una falsa intimidad con los humanos, basta con que consiga que estos se sientan emocionalmente unidos a ella.
En una batalla política por las mentes y los corazones, la intimidad es el arma más eficaz y la IA acaba de adquirir la capacidad de producir en masa relaciones íntimas con millones de personas. Todos sabemos que en la última década las redes sociales se han convertido en un campo de batalla para controlar la atención humana. Con la nueva generación de IA, el frente de batalla está pasando de la atención a la intimidad. ¿Qué ocurrirá con la sociedad y la psicología humanas cuando la IA se enfrente a la IA en una batalla para fingir relaciones íntimas con nosotros, que luego pueden utilizarse para convencernos de que votemos a determinados políticos (en nuestro país es difícil que ocurra porque eso lo hace CFK) o compremos determinados productos?
Incluso sin crear una “falsa intimidad”, las nuevas herramientas de IA tendrían una inmensa influencia en nuestras opiniones y visiones del mundo. La gente podría llegar a utilizar un asesor de IA como un oráculo único que todo lo sabe. No es de extrañar que Google esté aterrorizado. ¿Para qué molestarse en buscar, si puedo preguntarle al oráculo?. Las industrias de noticias y publicidad también deberían estar aterrorizadas. ¿Para qué leer un periódico si puedo pedirle al oráculo que me cuente las últimas noticias? ¿Y para qué sirven los anuncios si puedo pedirle al oráculo que me diga qué comprar?
Y ni siquiera estos escenarios captan realmente el panorama general. Estamos hablando del posible fin de la historia de la humanidad. No el fin de la historia, sino el fin de su parte dominada por los humanos.
¿Qué ocurrirá con el curso de la historia cuando la IA se apodere de la cultura y empiece a producir historias, melodías, leyes y religiones? Herramientas anteriores como la imprenta y la radio ayudaron a difundir las ideas culturales de los humanos, pero nunca crearon nuevas ideas culturales propias. La IA es fundamentalmente diferente, puede crear ideas completamente nuevas, una cultura completamente nueva.
Por supuesto, el nuevo poder de la IA también puede utilizarse para fines positivos. Ciertamente, la IA puede ayudarnos de innumerables maneras, desde encontrar nuevas curas para el cáncer hasta descubrir soluciones a la crisis ecológica, no sabemos si puede sacar campeón a Independiente o más acorde con la realidad hacer que se salve del descenso. La cuestión a la que nos enfrentamos es cómo asegurarnos de que las nuevas herramientas de la IA se utilizan para el bien y no para el mal. Para ello, primero tenemos que apreciar las verdaderas capacidades de estas herramientas.
Desde 1945 sabemos que la tecnología nuclear puede generar energía barata en beneficio de los seres humanos, pero también puede destruir físicamente la civilización humana. Por ello, hemos reformado todo el orden internacional para proteger a la humanidad y asegurarnos de que la tecnología nuclear se utilizara principalmente para el bien. Ahora tenemos que lidiar con una nueva arma de destrucción masiva que puede aniquilar nuestro mundo mental y social.
Aún podemos regular las nuevas herramientas de IA, pero debemos actuar con rapidez. Mientras que las armas nucleares no pueden inventar armas nucleares más potentes, la IA puede fabricar IA exponencialmente más potente. El primer paso crucial es exigir rigurosos controles de seguridad antes de que las potentes herramientas de la IA salgan al dominio público. Del mismo modo que una empresa farmacéutica no puede lanzar nuevos medicamentos antes de probar sus efectos secundarios a corto y largo plazo, las empresas tecnológicas no deberían lanzar nuevas herramientas de IA antes de que sean seguras. Necesitamos un ente regulador para las nuevas tecnologías y lo necesitamos ayer.
¿Enlentecer el despliegue público de la IA no hará que las democracias se queden rezagadas con respecto a regímenes autoritarios más despiadados? Todo lo contrario. El despliegue no regulado de la IA crearía un caos social que beneficiaría a los autócratas y arruinaría las democracias. La democracia es una conversación y las conversaciones se basan en el lenguaje. Cuando la IA interviene el lenguaje, podría destruir nuestra capacidad de mantener conversaciones significativas, destruyendo así la democracia.
Deberíamos poner fin al despliegue irresponsable de herramientas de IA en la esfera pública y regularla, antes de que ella nos regule a nosotros. Y la primera regulación que sugeriría es hacer obligatorio que la IA revele que es una IA. Si estoy manteniendo una conversación con alguien y no puedo saber si es un humano o una IA, se acabó la democracia.
La mayoría de los conceptos – con algunas intervenciones propias -, expuestos hasta aquí pertenecen a Yuval Noah Harari, prestigioso historiador israelí, autor de interesantes publicaciones, en una entrevista otorgada a The Telegraph, reproducida por The Economist Newspaper Limited y traducida al efecto.
En abril de 2021 la Unión Europea elaboró, fundada en valores y principios europeos, el primer cuerpo de disposiciones armonizadas y el primer instrumento normativo mundial. Tiene por finalidad estimular el desarrollo de una IA ética y confiable y a fomentar el uso voluntario de códigos de conducta y etiquetas de calidad para los sistemas no sujetos a obligaciones.
Uno de sus más importantes focos está constituido por los riesgos, a los que diferencia en categorías o niveles. Considera como inaceptables a los que manipulan el comportamiento humano, explotan las vulnerabilidades personales o utilizan la identificación biométrica con fines de puntuación social o control masivo, y los prohíbe.
Riesgos Altos son los utilizados en sectores o contextos sensibles como la salud, la educación, el empleo, la justicia o la seguridad pública y se los somete a estrictas obligaciones antes de ser introducidos. Riesgos Limitados, son los que implican una interacción con los usuarios humanos como los chatbots, para los que se establecen limitadas obligaciones de transparencia e información, para garantizar que los usuarios sean conscientes que interactúan con un sistema de IA y no con un humano. Finalmente los Riesgos Mínimos, son los de insignificante o nulo impacto en los derechos fundamentales y la seguridad de las personas, por lo cual no se les sujeta a obligación alguna.
El trascendente rol que la IA ha adquirido en la sociedad, la educación, la política y en otros múltiples escenarios torna imperiosa una regulación universal, adoptada por todos los países de la tierra, a fin de que la gobierne y someta a supervisión humana. No podría quedar librada a los países aisladamente porque a medida que su complejidad avanza, al mismo tiempo los riesgos hacen lo propio.
Con la aparición de la IA se aceleraron los cambios y las innovaciones que a su vez traerán como consecuencia, modificaciones profundas en los derechos de propiedad, en infraestructura, en el desarrollo de las áreas fiscales y de finanzas; así como la evolución de las formas del comercio y la producción.
Este texto ha sido generado por un humano.
(1) Bot: (Apocope de robot) es un programa que realiza tareas repetitivas, predefinidas y automatizadas. Está diseñado para imitar o sustituir el accionar humano.
*Omar Emin es Licenciado en Administración y Contador Público. Colabora con Actualidad en temas fiscales, laborales y económicos. También suele compartir sus opiniones y semblanzas sobre deportes, educación, historia, política y viajes, entre otros temas de interés.
