La IA sobreestima a la inteligencia humana y puede tomar decisiones equivocadas
Los científicos han descubierto que los modelos de IA actuales tienden a sobreestimar la racionalidad de sus oponentes humanos, ya sean estudiantes universitarios de primer año o científicos experimentados, en juegos de pensamiento estratégico y otras tareas. Sería uno de los mayores riesgos al momento de delegar estrategias complejas a sistemas artificiales.
Investigadores de la Escuela Superior de Economía de Rusia hallaron en un estudio publicado en la revista Journal of Economic Behavior & Organization que los grandes modelos de lenguaje (LLM), incluyendo a ChatGPT y Claude, tienden a sobreestimar la racionalidad de sus contrincantes humanos en juegos estratégicos clásicos, como por ejemplo el denominado "concurso de belleza keynesiano". Esa sobreestimación lleva a los modelos de Inteligencia Artificial (IA) a elegir estrategias más sofisticadas de las que los humanos realmente usan, y en muchas partidas eso se traduce en una derrota.
Sobre la década de 1930, el economista británico John Maynard Keynes desarrolló el concepto teórico de un concurso de belleza metafórico. De acuerdo a una nota de prensa, el ejemplo clásico supone pedir a los lectores de periódicos que seleccionen las seis caras más atractivas de un conjunto de 100 fotografías. El premio queda en manos del participante cuyas opciones sean las más cercanas a la selección más popular, o sea al promedio de las selecciones del resto de los participantes. En la mayoría de los casos, las personas tienden a seleccionar las fotos que encuentran más atractivas por una elección subjetiva. Sin embargo, habitualmente esto conduce a la derrota, porque el objetivo verdadero es predecir qué rostros serán más atractivos para la mayoría de los encuestados. De esta manera, una estrategia racional sería basar las elecciones en las percepciones de belleza de otras personas.
El trabajo científico enfrentó a los LLMs a poblaciones de distinto perfil: desde estudiantes universitarios de primer año hasta asistentes a conferencias de teoría de juegos. A cada modelo se le explicaron las reglas del juego y se les pidió elegir y justificar su razonamiento. Los autores observaron que, aunque los LLMs adaptan sus elecciones según la sofisticación esperada del adversario, su punto de partida suele ser más “razonable” o más cercano al equilibrio teórico que el de la mayoría de los seres humanos.
Según los investigadores, los modelos utilizan patrones de razonamiento abstractos y equilibrados que aparecen con frecuencia en textos y manuales: es decir, aprenden la versión idealizada de un jugador y ven así a todos sus contrincantes. De esta manera, no captan completamente las limitaciones cognitivas o sesgos reales que moldean las decisiones humanas cotidianas. En la práctica, asumir que un oponente humano alcanzará un razonamiento superior al real puede conducir a una decisión teóricamente correcta, pero desalineada con el comportamiento observado de la población en general, que es precisamente el objetivo del juego.
El hallazgo tiene implicaciones en las finanzas y los mercados: por ejemplo, la teoría del "concurso de belleza" se usa para explicar cómo los agentes económicos anticipan las expectativas de otros. Un modelo de IA que asume demasiada racionalidad podría recomendar estrategias que choquen con la realidad del mercado y generar pérdidas o decisiones erróneas.
Investigadores de la Escuela Superior de Economía de Rusia hallaron en un estudio publicado en la revista Journal of Economic Behavior & Organization que los grandes modelos de lenguaje (LLM), incluyendo a ChatGPT y Claude, tienden a sobreestimar la racionalidad de sus contrincantes humanos en juegos estratégicos clásicos, como por ejemplo el denominado "concurso de belleza keynesiano". Esa sobreestimación lleva a los modelos de Inteligencia Artificial (IA) a elegir estrategias más sofisticadas de las que los humanos realmente usan, y en muchas partidas eso se traduce en una derrota.
Sobre la década de 1930, el economista británico John Maynard Keynes desarrolló el concepto teórico de un concurso de belleza metafórico. De acuerdo a una nota de prensa, el ejemplo clásico supone pedir a los lectores de periódicos que seleccionen las seis caras más atractivas de un conjunto de 100 fotografías. El premio queda en manos del participante cuyas opciones sean las más cercanas a la selección más popular, o sea al promedio de las selecciones del resto de los participantes. En la mayoría de los casos, las personas tienden a seleccionar las fotos que encuentran más atractivas por una elección subjetiva. Sin embargo, habitualmente esto conduce a la derrota, porque el objetivo verdadero es predecir qué rostros serán más atractivos para la mayoría de los encuestados. De esta manera, una estrategia racional sería basar las elecciones en las percepciones de belleza de otras personas.
El trabajo científico enfrentó a los LLMs a poblaciones de distinto perfil: desde estudiantes universitarios de primer año hasta asistentes a conferencias de teoría de juegos. A cada modelo se le explicaron las reglas del juego y se les pidió elegir y justificar su razonamiento. Los autores observaron que, aunque los LLMs adaptan sus elecciones según la sofisticación esperada del adversario, su punto de partida suele ser más “razonable” o más cercano al equilibrio teórico que el de la mayoría de los seres humanos.
Según los investigadores, los modelos utilizan patrones de razonamiento abstractos y equilibrados que aparecen con frecuencia en textos y manuales: es decir, aprenden la versión idealizada de un jugador y ven así a todos sus contrincantes. De esta manera, no captan completamente las limitaciones cognitivas o sesgos reales que moldean las decisiones humanas cotidianas. En la práctica, asumir que un oponente humano alcanzará un razonamiento superior al real puede conducir a una decisión teóricamente correcta, pero desalineada con el comportamiento observado de la población en general, que es precisamente el objetivo del juego.
El hallazgo tiene implicaciones en las finanzas y los mercados: por ejemplo, la teoría del "concurso de belleza" se usa para explicar cómo los agentes económicos anticipan las expectativas de otros. Un modelo de IA que asume demasiada racionalidad podría recomendar estrategias que choquen con la realidad del mercado y generar pérdidas o decisiones erróneas.
Información adicional (Vista previa)
La inteligencia artificial (IA) ha avanzado significativamente en las últimas décadas, pasando de simples programas capaces de ejecutar tareas específicas a complejos sistemas que pueden aprender, adaptarse y tomar decisiones basadas en enormes cantidades de datos. Estos avances han sido posibles gracias a la combinación de algoritmos más sofisticados, un aumento exponencial en la capacidad de cómputo y el acceso a grandes conjuntos de datos. Sin embargo, a medida que la IA se integra cada vez más en nuestras vidas, surgen nuevas preguntas y desafíos sobre cómo interactúa y comprende el comportamiento humano. Uno de los campos de estudio más fascinantes ha sido la interacción entre la IA y los humanos en contextos de toma de decisiones estratégicas. Esto no solo tiene aplicaciones en juegos y competencias, sino también en áreas críticas como la negociación, la planificación financiera y la seguridad. La capacidad de la IA para predecir y responder...
Esta es una vista previa de la información adicional. Regístrate para ver el texto completo.
Fuente: Levante-EMV • Todos los contenidos e imágenes pertenecen a sus respectivos propietarios.
