Una IA distribuye la riqueza mucho mejor que los humanos según un estudio

Una IA distribuye la riqueza mucho mejor que los humanos según un estudio
Escrito por Pablo el 09 Jul 2022 en Inteligencia Artificial

Los hallazgos, hechos por un equipo de investigadores de la compañía de inteligencia artificial del Reino Unido, Deepmind, muestran que los sistemas de aprendizaje automático no solo son buenos para resolver problemas de física y biología complejos, sino también pueden ayudar a cumplir con objetivos sociales más abiertos, como el objetivo de realizar una sociedad más justa y próspera.

Un obstáculo clave para la alineación del valor es que la sociedad humana admite una pluralidad de puntos de vista, lo que no está claro cuyas preferencias AI deberían alinearse, explican los investigadores en un nuevo artículo, dirigido por el primer autor y científico de investigación de DeepMind Raphael Koster.

Por ejemplo, los politólogos y los economistas a menudo están en desacuerdo sobre los cuales son los mecanismos que harán nuestras sociedades funcionen de manera más justa o eficiente.

Para ayudar a cerrar la brecha, los investigadores desarrollaron un agente para la distribución de riqueza que tenía las interacciones de las personas (tanto reales como virtuales) integradas en sus datos de capacitación, en efecto, guiando a la IA hacia resultados preferidos por humanos (e hipotéticamente justos en general).

¿Cómo funciona el experimento?

En experimentos que involucran a miles de participantes humanos en total, el agente de IA y la IA del equipo, llamado 'AI democrático', estudió un ejercicio de inversión llamado juego de bienes públicos, en el que los jugadores reciben cantidades variables de dinero y pueden contribuir con su dinero a un fondo público, y luego recibe un rendimiento del fondo correspondiente a su nivel de inversión.

La IA descubrió un mecanismo que reparó el desequilibrio de riqueza inicial, sancionó a los jinetes libres y ganó con éxito el voto mayoritario, explican los investigadores.

Mostramos que es posible aprovechar la alineación del valor de las mismas herramientas democráticas para lograr un consenso que se utilizan en la sociedad humana más amplia para elegir representantes, decidir políticas públicas o hacer juicios legales.

Una intervención más justa y libre hecha  la inteligencia artificial

La principal diferencia de este proyecto con otros proyectos de IA creados antes, es que en lugar de establecer un modelo basado en una verdad fundamental, algo que basa en la manera de pensar de sus creadores, los investigadores afirman que ha sido entrenado para maximizar un objetivo democrático “diseñar políticas que los humanos preferirán y por lo tanto votarán para implementar en una elección mayoritaria”

El hecho de que en esta serie de experimentos, se haya preferido el sistema económico desarrollado por inteligencia artificial, no significa que la solución presentada funcione a mayor escala. De hecho, los investigadores señalan que los experimentos no se basan en una solución radical de gobierno basado en IA, sino más bien en una estructura para futuras investigaciones sobre cómo la IA podría intervenir en las políticas públicas.