Présentation de Gran Turismo Sophy : un agent d'IA de course performant entraîné à l'aide de l'apprentissage par renforcement profond
Gran Turismo Sophy, un agent d'IA de course né de la collaboration entre Polyphony Digital Inc. (PDI), Sony AI et Sony Interactive Entertainment (SIE), a été dévoilé le 9 février.
Gran Turismo Sophy a été créé à l'aide d'une technologie d'apprentissage par renforcement profond de pointe développée par Sony AI et Gran Turismo, ainsi qu'à travers un entraînement à grande échelle via l'infrastructure de cloud gaming de SIE. L'introduction d'un agent d'AI dans une simulation de course hyper réaliste qui nécessite de prendre des décisions en temps réel de manière continue tout au long d'une course, marque une nouvelle étape dans l'apprentissage automatique.
Michael Spranger, le directeur des opérations chez Sony AI, décrit Gran Turismo Sophy comme "un agent d'IA qui a appris à conduire par lui-même à un niveau hautement compétitif et qui est capable d'affronter les meilleurs pilotes au monde."
Ardoise vierge à l'origine, Gran Turismo Sophy a évolué d'une IA pouvant à peine rester en ligne droite sur la piste en un pilote capable de se mesurer aux meilleurs pilotes de Gran Turismo Sport au monde.
Gran Turismo Sophy ouvre de nouvelles possibilités en matière de jeu et de divertissement. Nous vous expliquons comment est né ce projet prometteur ci-dessous.
Le premier test réel
L'entraînement de Gran Turismo Sophy a commencé en avril 2020 avec la formation de Sony AI. Dès lors, l'équipe de Sony AI a travaillé en étroite collaboration avec Polyphony Digital pour développer et améliorer les capacités de l'agent. Le premier événement "Race Together" s'est tenu le 2 juillet 2021. À cette occasion, Gran Turismo Sophy a affronté pour la première fois une équipe composée de quatre des meilleurs pilotes humains, emmenée par le triple champion des "FIA Gran Turismo Championships" de 2020, Takuma Miyazono.
Dans les scénarios de contre-la-montre en solo, Gran Turismo Sophy a atteint des vitesses surhumaines, établissant des temps au tour plus rapides que les pilotes humains. Mais il en a été tout autrement lors des courses contre les humains.
"Je crois que nous avons tous sous-estimé à quel point ce serait difficile au niveau de la sportivité et de l'apprentissage du fair-play sans être trop agressif ou trop timoré face aux autres concurrents," a déclaré Peter Wurman, le directeur et chef du projet chez Sony AI.
Des courses fidèles à la réalité
Les performances d'un agent d'IA sont limitées par la complexité des défis qui lui sont présentés, et Gran Turismo peut être un gros challenge pour une IA, car le jeu capture la dynamique et la physique du sport, tandis que dans des jeux similaires, seule une partie de la physique est rendue correctement.
"Je voulais recréer les voitures et l'ensemble de la culture automobile dans un jeu vidéo," a déclaré Kazunori Yamauchi, le président de Polyphony Digital. Charles Ferreira, ingénieur chez PDI, ajoute : "Le réalisme dans Gran Turismo vient de chaque détail intégré dans le jeu, du moteur aux pneus, en passant par les suspensions, les circuits et les modèles de voitures." C'est ce niveau de réalisme qui rend le défi unique pour une IA et qui a amené l'équipe de Sony AI et Gran Turismo Sophy vers de nouveaux sommets.
Un entraînement avec une infrastructure à grande échelle
En utilisant une technique appelée "apprentissage par renforcement", Gran Turismo Sophy a appris à conduire à travers des retours d'information positifs et négatifs corrélés à des données comme la vitesse, l'orientation des pneus, la courbure de la piste, etc. À l'image des humains à qui il faut plus de 10 000 heures environ pour maîtriser une compétence, Gran Turismo Sophy s'est dupliqué pour gérer simultanément de multiples scénarios différents. Pour cela, il fallait une énorme puissance de calcul qui a été fournie par Sony Interactive Entertainment.
"Dans une simulation d'IA standard, un modèle est créé, puis il est exécuté. L'analyse prend place, des mises à jour sont ajoutées à cette simulation, puis on l'exécute à nouveau. Ce processus peut parfois demander énormément de temps," a déclaré Justin Beltran, le directeur sénior du Future Technology Group chez Sony Interactive Entertainment.
"Mais grâce à l'infrastructure de cloud gaming mondiale à grande échelle de SIE, Gran Turismo Sophy a pu déployer des algorithmes d'apprentissage de pointe et des scénarios d'entraînement, et exécuter des dizaines de milliers de simulations en simultané dans cet environnement d'avant-garde soutenant cette technologie révolutionnaire," poursuit Beltran.
De retour sur la piste
Le 21 octobre 2021, le deuxième jour de course est arrivé avec l'espoir que Gran Turismo Sophy gagne chaque compétition, y compris en équipe.
Gran Turismo Sophy a non seulement dominé partout dans les classements, mais l'équipe a aussi pu le voir s'adapter à une situation compliquée : après une sortie de route en début de course, il a quand même terminé premier de la course. Il a fini à la 1re et à la 2e place dans les trois courses et a remporté l'épreuve en équipe avec le double de points par rapport aux humains.
Si GT Sophy a prouvé sa capacité à faire mieux que les pilotes humains, l'objectif de ce projet n'est pas de remplacer ou de réduire l'interaction humaine. Il est plutôt d'étendre et d'enrichir l'expérience de jeu pour tous les joueurs. Sony AI l'appelle une "IA pour les joueurs". "Nous allons créer une intelligence artificielle qui va libérer le pouvoir de la créativité et de l'imagination humaine," a déclaré Hiroaki Kitano, le PDG de Sony AI.
"Je veux courir davantage contre GT Sophy à l'avenir. L'agent IA m'a vraiment beaucoup appris," a déclaré Takuma Miyazono après avoir affronté GT Sophy. "À terme, l'objectif avec Gran Turismo Sophy est de divertir les gens," a ajouté Kazunori Yamauchi, le président de Polyphony Digital.
"Nous imaginons un avenir où les agents d'IA pourraient offrir de nouveaux niveaux d'innovation aux développeurs et aux créateurs, et ouvrir des portes vers des possibilités insoupçonnées," a déclaré Ueli Gallizzi, le vice-président principal du Future Technology Group chez Sony Interactive Entertainment. "Nous pourrions parvenir à de nouveaux niveaux d'implication des utilisateurs, de meilleures expériences de jeu et l'arrivée d'une toute nouvelle génération dans le monde du jeu vidéo."
Nous avons hâte de voir ce que va engendrer cette collaboration entre le monde de l'intelligence artificielle et celui du divertissement interactif, et Gran Turismo Sophy est une grande étape dans cette aventure exaltante.