Представляем Gran Turismo Sophy: гоночного ИИ-агента чемпионского уровня, использующего углубленное форсированное обучение
9 февраля состоялась презентация Gran Turismo Sophy - гоночного ИИ-агента, появившегося в результате сотрудничества Polyphony Digital Inc. (PDI), Sony AI и Sony Interactive Entertainment (SIE).
Gran Turismo Sophy был создан с применением передовой технологии углубленного форсированного обучения, разработанной Sony AI и Gran Turismo, и прошел подготовку на внушительном объеме данных облачной игровой инфраструктуры SIE. Все это позволило добавить в гиперреалистичные виртуальные гонки ИИ-агент нового поколения, способный непрерывно принимать решения в реальном времени.
Операционный директор Sony AI Майкл Спрэнглер утверждает, что Gran Turismo Sophy - это "ИИ-агент, самостоятельно освоивший спортивное вождение на высшем уровне и способный соревноваться с лучшими гонщиками мира".
Начав с чистого листа, Gran Turismo Sophy прошел путь от ИИ, едва способного удержать машину на прямой, до гонщика, готового бросить вызов лучшим игрокам Gran Turismo Sport.
Gran Turismo Sophy открывает новые перспективы для индустрии игр и развлечений. Ниже мы расскажем о том, как появился этот замечательный проект.
Первое настоящие испытание
Подразделение Sony AI приступило к обучению Gran Turismo Sophy в апреле 2020 года. С этого момента специалисты Sony AI тесно сотрудничали с Polyphony Digital, развивая и улучшая возможности агента. 2 июля 2021 года было проведено мероприятие Racing Together, на котором Gran Turismo Sophy впервые вступил в борьбу с командой из четырех лучших гонщиков-людей, возглавляемой трехкратным чемпионом FIA Gran Turismo Championships 2020 г. Такумой Миядзоно.
В одиночных заездах на время Gran Turismo Sophy демонстрировал сверхчеловеческую скорость, совершая круги быстрее живых соперников. А вот на гонках все вышло совсем иначе.
"Думаю, мы все недооценили, насколько сложно будет научить машину спортивному поведению, чтобы она была не слишком агрессивной, но и не слишком робкой с соперниками", - говорит Питер Вурман, директор и руководитель проекта Sony AI.
Правильные гонки
Эффективность ИИ-агента всегда ограничена сложностью условий, в которых он действует. Gran Turismo способна создать очень сложные условия, ведь она воспроизводит динамику и физику спорта гораздо полнее и точнее, чем другие подобные игры.
"Я хотел воссоздать в видеоигре автомобили и всю связанную с ними культуру", - говорит Кадзунори Ямаути, президент Polyphony Digital. Чарльз Феррейра, инженер PDI, добавляет: "Реализм Gran Turismo складывается из деталей, которые мы добавляем в игру - от двигателей, шин и подвески до моделей машин и трасс". Этот реализм стал уникальным полигоном для испытания ИИ, позволившим Sony AI и Gran Turismo Sophy подняться к новым высотам.
Обучение с масштабной инфраструктурой
Благодаря технологии форсированного обучения Gran Turismo Sophy учился водить, получая положительные и отрицательные отзывы по поводу своей скорости, положения колес, профиля поворота и других данных. Понимая, что человеку для достижения нужного уровня мастерства потребуется более 10 000 часов тренировок, специалисты обучали сразу несколько копий Gran Turismo Sophy, одновременно помещая их в различные сценарии. Вычислительные мощности, необходимые для этого, были предоставлены Sony Interactive Entertainment.
"При стандартном моделировании ИИ мы создаем модель, запускаем ее, а потом анализируем результат, вносим изменения и повторяем попытку. Этот процесс может занимать очень много времени", - говорит Джастин Белтран, старший директора отдела технологий будущего Sony Interactive Entertainment.
"Однако использование глобальной облачной инфраструктуры SIE позволило вооружить Gran Turismo Sophy самыми современными алгоритмами обучения и проводить десятки тысяч симуляций одновременно в передовых условиях, поддерживающих эту революционную технологию", - продолжает Белтран.
Возвращение на трассу
21 октября 2021 года был проведен второй сеанс гонок с живыми соперниками. В этот раз разработчики надеялись, что Gran Turismo Sophy победит во всех соревнованиях, включая командный заезд.
И их надежды оправдались. ИИ-агент продемонстрировал не только блестящую скорость, но и умение адаптироваться к сложным ситуациям: в третьем заезде он сошел с трассы вскоре после старта, но все равно финишировал первым. Во всех трех заездах команда ИИ заняла первые и вторые места, вдвое обойдя людей по количеству очков.
Но, хотя GT Sophy и доказал свое превосходство над человеком, он создается не для того, чтобы заменить или вытеснить живых гонщиков. Напротив, разработчики проекта стремятся расширить и обогатить игровую среду для всех участников. Sony AI называет это "ИИ для геймеров". "Мы собираемся создать искусственный интеллект, который подстегнет человеческое творчество и фантазию", - говорит генеральный директор Sony AI Хироаки Китано.
"Я хочу и дальше соревноваться с GT Sophy. Этот ИИ-агент меня многому научил", - комментирует Такума Миядзоно после гонки с GT Sophy. "Конечная цель Gran Turismo Sophy - развлекать людей", - добавляет президент Polyphony Digital Кадзунори Ямаути.
"Мы представляем себе будущее, в котором ИИ-агенты позволят разработчикам и творцам выйти на новые уровни инноваций, открывая двери к невообразимым возможностям, - говорит Уэли Галлицци, старший вице-президент отдела технологий будущего Sony Interactive Entertainment. - Мы видим новые уровни вовлечения пользователей, лучшие условия игры и вход в игровой мир целого нового поколения".
Нам не терпится увидеть, к чему приведет слияние миров искусственного интеллекта и интерактивных развлечений. Gran Turismo Sophy стал очередным этапом этого захватывающего путешествия.