Тактика, которая позволила людям вернуть себе первое место в го, была предложена компьютерной программой, специально созданной для поиска уязвимостей в системах искусственного интеллекта. Этот план и привел в исполнение Келлин Пелрайн, рассказывает Ars Technica.
«Воспользоваться уязвимостью этой системы оказалось на удивление просто, — сказал Адам Глив, гендиректор FAR AI, исследовательской компании, которая разработала эту программу. ПО сыграло свыше миллиона партий против KataGo, одной из самый сильных систем для игры в го, чтобы найти „слепое пятно“ в тактике ИИ.
Предложенная стратегия, по словам Пелрайна, «не самая тривиальная, но и не сверхсложная» для человека, и может быть успешно использована игроком среднего уровня, играющего с машиной. Она заключается в медленном окружении противника кольцом и одновременном отвлечении ИИ ходами в другом конце доски. Человек замечает эту тактику довольно легко, но не машина. Этот же метод Пелрайн применял в партиях с другими ИИ-системами.
Уверенная победа состоялась через семь лет после того, как ИИ начал вытеснять людей с первых мест рейтингов всех самых интеллектуальных настольных игр. AlphaGo, созданная британской компанией DeepMind, победила чемпиона мира в го Ли Седоля, выиграв четыре игры из пяти в 2016-м. Три года спустя Ли объявил о прекращении карьеры профессионального игрока, поскольку ИИ «невозможно победить». Пелрайн не играл против AlphaGo, поскольку не имеет к ней доступа, но ИИ, которые победил он, считаются не менее сильными.
Обнаружение уязвимости в самых передовых машинах для игры в го указывает на фундаментальный изъян в системах глубокого обучения, утверждает Стюарт Рассел, профессор информатики из Калифорнийского университета в Беркли. Эти системы способны распознавать только специфические ситуации, которые встречались им в прошлом, и не могут обобщать знания так, как это с легкостью делают люди. «Это еще раз показывает, что мы слишком спешим приписывать машинам сверхчеловеческие уровни интеллекта», — сказал он.
В декабре 2022 года под натиском машин пала еще одна настольная игра, считавшаяся для них слишком сложной. Искусственный интеллект DeepNash, созданный специалистами из DeepMind, не уступил лучшим игрокам в «Стратего», сложную стратегическую настольную игру с неполной информацией.
