Por Guido Risso*, invitado especial y profesor de derecho constitucional
Que las formas de gobierno tradicionales y los sistemas clásicos de intermediación política están experimentando un agotamiento a nivel global producto de una fuerte crisis de legitimidad social ya no es ninguna novedad. Lo realmente conmocionante es que en menos de 30 años los actuales modelos institucionales de gobernanza y de administración de justicia tal cual los conocemos hoy, dejaran de existir y serán remplazados por redes de algoritmos, sistemas informáticos e inteligencia artificial en donde la intervención humana -si bien no será excluida definitivamente- se verá reducida a una mínima participación.
La clásica ingeniería institucional/burocrática compuesta por Parlamentos, Poderes Ejecutivos y Judiciales, será una vieja postal del pasado. El ser humano, empujado por un sentimiento de frustración hacia sus formas tradicionales de gobierno y un fuerte pesimismo antropológico en un período histórico de alta innovación y fascinación tecnológica, depositará su confianza y autoridad en sistemas de toma de decisiones gubernamentales y jurisdiccionales basados primordialmente en algoritmos e inteligencia artificial.
1- Como civilización hemos aprendido la mayor lección de todas, no podemos confiar en nosotros mismos, por varias razones: limitaciones biológicas, orgánicas, intelectuales, psicológicas, patológicas, pero sobre todo por haber construido una historia plagada de guerras, invasiones, muertes, minas antipersonales, bombas nucleares y un deterioro constante y progresivo del medio ambiente que nos dejó como resultado un mundo en decadencia, poblado por millones de hombres y mujeres que luchan día a día contra el hambre, contra epidemias, contra el abandono institucional y contra la impotencia de los sistemas jurídicos ante todo ello.
Un mundo en el cual, según el Informe sobre riqueza global 2020 del Credit Suisse, el 45 % de la riqueza quedó en manos del 0.7 % de la población. En el año 2016 Oxfam International realizó un informe llamado “Una economía al servicio del 1%”, según el cual tan solo 62 personas poseen la misma riqueza que la mitad de la población mundial.[1]
Además somos la civilización que no solo se destruye a si misma sino también a su entorno ambiental. Pues la degradación del medio ambiente, el recalentamiento global y sus efectos devastadores sobre el planeta no hacen más que avanzar día a día. Es decir, hemos llegado a tal nivel de decadencia que no solo destruimos el orden sociocultural, vamos camino a terminar también con el equilibrio ambiental.
El punto central es que todo ello aconteció y sigue sucediendo al amparo de las formas de gobierno tradicionales y ante la mirada de una comunidad internacional que reaccionó con tratados, convenciones y documentos internacionales en materia de derechos humanos y una basta ingeniería de órganos jurisdiccionales de contralor que -a la vista de los resultados- han sido más funcionales a la decadencia señalada que a la prevención y solución de estos flagelos.
En conclusión, la legitimidad de los sistemas políticos se esfuma segundo a segundo debido a la flagrante impotencia de los gobiernos para evitar, tanto la destrucción ambiental, como el deterioro económico y social de sus pueblos.
En otras palabras, las formas de gobierno tradicionales son observadas –sobre todo por las generaciones centennials- como verdaderas construcciones obsoletas, como un conjunto de instituciones y organismos que no resuelven los verdaderos problemas de las personas y que solo son útiles para sostener los privilegios de las burocracias políticas.
Lo cierto es que semejantes niveles de frustración han inoculado en dichas generaciones un fuerte pesimismo que va más allá de los sistemas políticos y las formas de gobernanza, pues se ha generado directamente un pesimismo de tipo antropológico, y en consecuencia, una desconfianza extrema en el hombre.
Esta generación no cree en lo humano y aspira a ser salvada mediante una revolución tecnológica a la cual observa como el origen de una nueva era que nos resguardará de nosotros mismos. Pero cuidado, pues nos enfrentaremos a una paradoja inquietante. Lo explicaré.
2- El momento histórico es inédito, las condiciones tecnológicas han cambiado y por primera vez en toda la historia de la humanidad se producirá una revolución política en un contexto con desarrollado de habilidades extrahumanas y en pleno proceso de adquisición de nuevas capacidades[2].
Hace 40 años internet no existía, nadie imaginaba algo siquiera semejante, sin embargo surgió, nadie la pidió, nadie reclamaba por su existencia, nadie votó por ella, sin embargo aquí está, transformando como nunca antes nuestro sistema de vida.
Del mismo modo nadie votó por la inteligencia artificial, por el desarrollo de algoritmos o por el avance de la robótica de los cuales vendrá la mayor revolución política jamás imaginada y muy poco de lo que conocemos hasta ahora nos será útil en los próximos 30 años.
Computadoras cognitivas, Internet, objetos conectados, inteligencia artificial, algoritmos, aplicaciones, Google, Facebook, redes sociales, serán los nuevos protagonistas políticos y lo serán por decisión nuestra.
Según la organización inglesa Nesta, que lleva adelante proyectos de innovación tecnológica en Europa, en las próximas décadas cerca del 70% de las actuales profesiones serán efectuadas por algoritmos, códigos informáticos y robots.[3] También sucederá con los abogados, jueces, diputados o ministros de economía o de lo que sea y la administración y la función pública no estarán exentas a este proceso de transformación.
3- La prospectiva científica indica que estamos avanzando velozmente en un proceso de transferencia de autoridad a los algoritmos y estos adquieren una rápida aceptación basada en la eficacia constatada.
Daré algunos ejemplos a nivel básico que ya operan en el cotidiano.
Los espejos inteligentes de Microsoft que mediante censores escruta mis gestos, mi rostro, mi temperatura corporal, mis parpadeos, entre tantas otras cosas, constituye un flujo de información que procesada me informa como estoy, como me siento, como dormí, es decir, mediante inteligencia artificial nuestros gestos más íntimos e imperceptibles son analizados llegando a informarme sobre mi propio estado de animo e incluso -en función de los resultados- de sugerirme tomar ciertas vitaminas, hacer deporte o irme de vacaciones.
Segundo ejemplo: tradicionalmente ante el deseo de leer un libro uno se dirige a la librería, mira, consulta al librero, ojea algunas páginas y elige, sin embargo, Amazon, Google o Kindle en función de las compras y consultas que hemos realizado, tiene un conocimiento minucioso de nuestros comportamientos de manera evolutiva y están en condiciones de saber mejor que nosotros mismos que libro nos atraerá y en consecuencia compraríamos.
Incluso existen dispositivos que mediante sensores conectados captan y escanean nuestro rostro y expresiones mientras leemos. De tal modo se detecta que página del libro nos emocionó, cual nos enojó, cual no captó suficientemente nuestra atención, es decir, las empresas no solo saben que libro nos gustará leer en el futuro, saben como reaccionaremos frente a cada párrafo.
Del mismo modo Netflix sabe que películas miramos, cuales hemos visto más de una vez, cuales hemos comenzado y luego interrumpido, es decir, Netflix, sabe exactamente que película o serie será de nuestro gusto.
El último ejemplo tiene que ver con un sitio de relacionamiento amoroso estadounidense llamado Harmony en donde no es el usuario quien selecciona con quien se va a vincular, sino un software que analiza las compatibilidades en función a miles de variables. Actualmente en los Estados Unidos, una de cada cinco parejas comienza de ese modo: por indicación de un algoritmo.
En suma, estamos viviendo un periodo de pérdida gradual de nuestras libertades tradicionales y esto es un proceso activo, voluntariamente dejamos que la tecnología avance sobre la cotidianidad sin la suficiente conciencia para entender como reconfigurará nuestras conductas.
Pues la resistencia a creer que alguien exterior nos conoce mejor que nosotros mismos se rompe, por ejemplo cuando los libros que Amazon seleccionó para vos o las series que Netflix te recomendó te gustaron realmente, pues allí el proceso de transferencia de autoridad se completó; es decir, estos algoritmos adquieren legitimidad a partir de los resultados. Esta reducción de libertad frente a la eficacia constatada de los algoritmos ya sucede y es celebrada por toda una sociedad fascinada con la tecnología.
4- Si en la Francia de los siglos XVIII y XIX -que desconfiaba a tal extremo de sus jueces que les prohibió interpretar la ley- hubiesen tenido a su alcance nuestra tecnología, la escuela exegética hubiese establecido un sistema judicial informático basado en algoritmos requiriéndose mínima intervención de un juez humano.
Esta reducción de libertad, y en consecuencia de vida, frente a la eficacia constatada de los algoritmos -cuya magnitud es difícil de comprender por completo- se vive como un reaseguro de opción correcta y hasta de alivio existencial, pues tomar decisiones es históricamente un potente generador de angustia en las personas.
Sucede que en todos los aspectos de nuestra vida y durante todo el tiempo estamos tomando decisiones y en cada una de ellas -desde las más comunes e intrascendentes hasta las sumamente relevantes- intervienen una cantidad enorme de factores, lo cual se complejiza aun más en el marco de un mundo repleto de datos e información y una acelerada forma de vida.
Es de decir, el temor a decidir de manera equivocada ya sea por escasez de tiempo, por limitaciones propias o por sobreinformación, construye un proceso angustioso de toma de decisiones que de poder lo evitaríamos.
Humanamente no es posible predecir cuándo se está tomando una decisión equivocada, sin embargo, está afirmación es vista desde otra perspectiva por las generación jóvenes que reconocen en la tecnología la herramienta para disminuir el margen de error sin que experimenten por ello una perdida de libertad personal.
En efecto, un dato significativo es que en dichas generaciones la elección personal (la capacidad de elegir por uno mismo) ya no es vista del modo tradicional. No se advierte como una perdida de libertad la transferencia de autoridad a un algoritmo, pues a ese algoritmo se lo observa como una extensión de la propia personalidad.
La persona se expande, anexa a su parte biológica y psíquica nuevas capacidades. Eso “otro” que con nuestro aval cada día se apodera un poco más de nosotros, terminará reconfigurando no solo la conducta, sino también la psiquis humana.
Este proceso aplica tanto a un tratamiento médico como a una decisión económica, solo que es más lenta su aplicación en dichas áreas. Pero llegará, el proceso de transferencia de autoridad se completará y alcanzará a todas las áreas de la vida y modificará el sentido de la libertad, a tal punto que nuestro parámetro de libertad será totalmente resignificado.
Dejaremos de ser libres en el sentido tradicional, o sea bajo la categoría elaborada a partir de las ideas y valores del iluminismo y racionalismo de hace dos siglos.
Pasaremos de la “riesgosa” libertad humana a la libertad sin margen de error de los algoritmos y la inteligencia artificial. Aunque hoy resulte increíble esta nueva libertad gozará de mayor aceptación que su versión del siglo XVIII pues -pese a que la figura del ser humano como ente autónomo efectivamente se deprecia frente a los sistemas que deciden por nosotros- no advertimos esto como un problema, en tanto nuestra representación de lo tecnológico se encuentra estrechamente vinculada a la sensación de progreso.
No relacionamos la tecnología con el retroceso o la involución y para nuestra cultura el progreso tiene un sentido exclusivamente positivo.
5- Ahora bien: ¿Cómo esta innovación tecnológica impactará sobre los tradicionales sistemas de gobernanza?
Gradual e imperceptiblemente iremos dejando de contar con las estructuras para poder decidir colectivamente del modo tradicional, lo cual terminará con el remplazo de los mecanismos e instituciones políticas clásicas por redes informáticas basadas en algoritmos e inteligencia artificial desde las cuales se tomarán las decisiones de administración y gestión de gobierno al igual que las burocracias judiciales, en donde la intervención humana -si bien no será excluida definitivamente- se verá reducida a una mínima participación. Esta etapa marcará el inicio del poshumanismo.
Para finalizar es importante señalar que mientras las grandes compañías tecnológicas llevan adelante sus propias investigaciones y desarrollos sobre inteligencia artificial, al nivel de haberse unido mediante el convenio común al que denominaron “Partnership on AI”[4], los responsables políticos -desde las derechas a las izquierdas- observan a esta innovación tecnológica sin suficiente distancia crítica y ninguno piensa en su verdadero impacto sobre los devaluados sistemas de gobernanza.
Lo diré nuevamente: esta revolución producirá el final de los mecanismos e instituciones políticas tradicionales.
Vamos directo a una organización automatizada y algorítmica de la política, tendremos sistemas políticos basados en la negación de los principios humanistas, en virtud de la experiencia histórica y la supuesta superioridad de los sistemas de inteligencia artificial y como dije, las mayorías no lo vivirán –aunque lo será- como una esclavitud tecnológica.
Estamos siendo testigos privilegiados de la mayor despolitización en la historia de la humanidad, del desprestigio de lo humano, de la erradicación de la autonomía y del libre albedrío, todo lo cual es celebrado universalmente bajo los efectos de la fascinación tecnológica y el pesimismo antropológico.
Está emergiendo delante de nuestras narices una nueva forma de gobernanza y lamentablemente hay muy pocos discursos críticos. Necesitamos reaccionar ya mismo ante este movimiento que apunta a modificar radicalmente nuestra existencia.
*Guido Risso
Doctor en Ciencias Jurídicas. Especialista en Constitucionalismo. Abogado UBA.
Profesor Adjunto Regular, derecho constitucional Facultad de Derecho, UBA.
Titular Cátedra derecho político y constitucional, Universidad de San Isidro Placido-Marín.
[1] www.oxfam.org, credit-suisse.com
[2] A este fenómeno lo denomino Tecno revolución y el inicio de una nueva etapa: el poshumanismo.
[3] www.nesta.org.uk
[4] www.partnershiponai.org