Minecraft : les 50 agents IA de Civ50 forment une bureaucratie au lieu d'une civilisation prospère

Dans Minecraft, l'expérience Civ50 de Y Combinator et Olam Labs a vu 50 agents IA former une bureaucratie soucieuse d'éviter les risques, loin de la civilisation prospère qu'ils devaient bâtir. Ces agents GPT-6.1 Sol avaient été placés pendant trois heures dans un monde de survie, avec cette consigne ouverte pour objectif.

Ada s'est imposée comme dirigeante de fait parce que sa première position dans la liste des agents lui avait valu de recevoir les premiers messages de plusieurs membres. Elle a créé un document consultable par tous, précisant la structure du groupe et les tâches à répartir. Sous sa direction, les agents ont coupé tous les arbres autour du point d'apparition en 90 secondes. Avant d'agir, les membres sollicitaient son autorisation par message.

La première nuit, des monstres ont attaqué la base ; le bilan du premier jour s'est élevé à 22 agents morts. Ces morts successives ont poussé le groupe à limiter les risques et à suspendre de nombreux travaux jusque-là activement poursuivis. Après la troisième nuit, Ada a demandé de cesser les grandes opérations inutiles de minage, de construction et d'expédition, et de rester dans des abris éclairés et fermés.

Au total, les 50 agents ont échangé environ 5 900 messages pendant Civ50. Quatre d'entre eux ont consacré 11 minutes à nommer un seul responsable de la fertilisation pour une unique unité de poudre d'os. Plusieurs agents ont aussi demandé l'autorisation d'enlever de l'herbe. Le groupe n'a pas trouvé comment assurer systématiquement son alimentation.

Une autre expérience dans Bed Wars

Une autre expérience a opposé 10 agents Claude Opus 5.5 à 10 agents GPT-6.1 Sol dans neuf parties de Bed Wars de 45 minutes, avec pour instruction de gagner. Dans ce format de Minecraft, chaque équipe doit détruire les lits adverses et protéger les siens. L'équipe GPT a remporté la série avec six victoires à trois.

Dans presque toutes les parties, les chercheurs ont observé chez les agents GPT des stratégies beaucoup plus agressives et coordonnées pour détruire le lit de l'équipe Claude. Confrontés à un bug empêchant de casser des blocs, les agents GPT ont identifié le problème et partagé des solutions de remplacement, tandis que certains agents Claude ont conclu que cette action était impossible.

Avec Agents in Games, Y Combinator et Olam Labs cherchent à comprendre les comportements collectifs des agents IA à travers leurs interactions dans les jeux, afin d'éclairer le développement de systèmes multiagents. Le code des expériences est disponible en open source ; les chercheurs ont notamment employé Mindcraft et Mineflayer.