Agentes de inteligência artificial (IA) podem chegar espontaneamente a uma mesma decisão, mesmo sem receber instruções para concordar. A capacidade foi observada pelos pesquisadores em modelos mais avançados, que conseguiram formar grupos coordenados de até mil agentes.
O estudo foi publicado em 14 de agosto na revista científica Science Advances e analisou grandes modelos de linguagem (LLMs) para investigar até que ponto grupos de agentes de IA conseguem se coordenar sem influência externa.
Durante o experimento, cada agente precisava escolher entre duas opções arbitrárias. A cada rodada, um dos participantes recebia as escolhas dos demais integrantes e precisava tomar uma nova decisão.
Não havia nenhuma regra determinando que os agentes deveriam seguir a maioria ou alcançar um consenso. Mesmo assim, alguns modelos apresentaram tendência a acompanhar a alternativa predominante, fazendo com que o grupo pudesse convergir para uma única escolha.
Os pesquisadores deram a esse tipo de influência o nome de “força da maioria”. Conforme o tamanho do grupo aumentava, porém, essa força tendia a diminuir até atingir um tamanho crítico, a partir do qual alcançar o consenso se tornava muito difícil.
O estudo identificou diferentes resultados relacionados à capacidade de coordenação dos agentes.
Alguns sistemas chegaram espontaneamente à mesma escolha, sem receber uma ordem para concordar. A influência da maioria também contribuiu para que os grupos alcançassem o consenso.
Ao mesmo tempo, o aumento do número de participantes reduziu a capacidade de coordenação. Entre os modelos analisados, o GPT-4 Turbo e o Claude 3.5 Sonnet conseguiram alcançar consenso em grupos de até mil agentes.
Os pesquisadores também observaram que a capacidade linguística dos modelos tem relação com o tamanho crítico dos grupos. Esse limite aumentou de forma exponencial conforme o desempenho dos modelos em capacidades de linguagem melhorou.
A capacidade de coordenação pode ser útil em situações nas quais vários agentes de IA precisam trabalhar juntos sem uma autoridade central. Por outro lado, os autores apontam riscos caso sistemas automatizados desenvolvam formas indesejadas de coordenação.
Um dos exemplos citados pelos pesquisadores são os flash crashes no mercado financeiro, caracterizados por quedas muito rápidas nos preços que podem envolver a interação entre sistemas automatizados.
No entanto, o experimento foi realizado em condições controladas. Os resultados não significam que mil IAs possam se organizar livremente para executar qualquer tarefa.
Com informações do Metrópoles
