In der Welt der Brettspiele haben Maschinen bereits die Überhand gewonnen. Googles "Alpha Go" konnte sich in "Go" bereits gegen die Weltstars durchsetzen. Nun spielt das neuronale Netzwerk "Starcraft 2".

Einer anderen künstlichen Intelligenz könnte in wenigen Wochen ein Meilenstein glücken. Im August steigt wieder das am höchsten dotierte E-Sports-Turnier der Welt, "The International". Dort messen sich Profis im MOBA "Dota 2", um einen Teil vom 40 Millionen Dollar-Preistopf zu bekommen. Auf dem Event wird ein computergesteuertes Team versuchen, die Top-Spieler zu schlagen.

Die fünf Helden, mit denen das KI-Team und die menschlichen Spieler antreten werden.
Screenshot: Dota 2

180 Jahre Gameplay täglich

Wie die beruflichen E-Sportler trainiert auch der Computer täglich. Die fünf Netzwerke lernen daraus, jeden Tag gegen sich selbst anzutreten. Insgesamt absolvieren sie täglich jeweils 180 Jahre an Gameplayzeit durch Berechnungsarbeit. Zum Einsatz kommt eine modifizierte Version des neuronalen Netzwerks "Proximal Policy Optimization", das auf einem Supercomputer mit 128.000 Rechenkernen und 256 Grafikeinheiten läuft. Für jeden der fünf gespielten Helden kommt dabei ein eigenes Subnetzwerk zum Einsatz. Daten aus realen "Dota 2"-Partien werden nicht verwendet.

Es handelt sich um eine Erweiterung des Systems, das man bereits im Vorjahr erschaffen und in einem eingeschränkten 1-gegen-1-Modus erprobt hat. In einem Video zeigt man, welche Fortschritte man erzielt hat. Die Bots schätzen die Wertigkeit von Gegnern und Objektiven ein, können "Ganks" durchführen und opfern sich schon einmal, wenn sie im Gegenzug ein für den Sieg wichtiges Ziel erreichen können. Sie sind auch in der Lage abzuschätzen, wo sich kürzlich gesichtete Gegner, die nicht mehr im Sichtfeld sind, hinbewegt haben könnten. Die Technologie dahinter wird in einem Blogeintrag von OpenAI umfassend erklärt.

Übersicht über die bisherige Entwicklung der OpenAI Five.
OpenAI

Einschränkungen notwendig

Um eine Chance zu haben, sind aber dennoch Beschränkungen notwendig. Gespielt wird ein Match, in dem beide Teams ausschließlich die Helden Necrophos, Sniper, Viper, Crystal Maiden und Lich einsetzen. Das liegt daran, dass es derzeit noch nicht machbar ist, das Netzwerk alle Kombinationen aus Helden, ihren Fähigkeiten und den Shop-Items, mit denen verschiedene Aufwertungen oder Zusatzfähigkeiten erworben werden, effizient erlernen zu lassen.

Es gibt keine Wards (Items, die in die Landschaft gesteckt werden und dort ein Sichtfeld erzeugen), auch das neutrale Monster Roshan fehlt. Weiters sind Beschwörungen und Illusionen sowie Gegenstände, die Unsichtbarkeit verleihen, und ein paar weitere Items deaktiviert. Die Kuriere sind unverwundbar. Diese Aspekte des Spiels können von der KI noch nicht analysiert werden. Man wolle sie aber baldmöglichst implementieren.

Dazu haben die Bots schnellere Reaktionszeiten als Menschen und profitieren von direktem Zugang zu Daten wie der Gesundheit jedes Helden, den Menschen erst manuell ablesen müssen. Bisher, so OpenAI, hätten menschliche Spieler sich darauf aber gut eingestellt.

Die größten Fortschritte des KI-Teams.
OpenAI

Bots konnten semiprofessionelles Team schlagen

Der bisherige Verlauf macht Hoffnung. Ende April schlug das KI-Team eine rein auf vorgegebenen Befehlen (Skripte) basierende gegnerische Mannschaft. Mitte Mai schaffte es ein Unentschieden gegen die besten "Dota"-Spieler unter den OpenAI-Angestellten. Anfang Juni wurde nicht nur dieses, sondern auch eine eingespielte Mannschaft der "Dota"-Entwickler von Valve klar geschlagen.

Gegen ein Amateur-Team und eine semiprofessionelle Mannschaft, deren Spieler zu den besten ein Prozent ihrer Zunft gehörden, rechnete man mit Niederlagen. Doch die Bots gingen in den ersten zwei der jeweils drei Matches siegreich aus der Arena hervor. Dabei nutzten sie sogar Taktiken – etwa das Opfern der eigenen Safe Lane, um massiven Druck auf die Safe Lane des Gegners auszuüben – die erst seit einem Jahr unter Profispielern etabliert sind. Sie entwickelten aber auch stilistische Eigenheiten, indem sie etwa ihren Supports schon früh viele Ressourcen (Erfahrung, Gold) farmen ließen, was offenbar in Teamfights zu einem entscheidenden Vorteil wurde.

Am 28. Juli findet ein Testspiel gegen Profis statt, das über Twitch gestreamt wird.
Screenshot: Dota 2

Probematch Ende Juli

Man weist darauf hin, dass es trotz allem gut möglich ist, dass das KI-Team bei "The International" gegen seine menschlichen Kontrahenten das Nachsehen hat. Vorbereitend dafür, und um die Fortschritte seit Juni zu erproben, wird es am 28. Juli ein erstes Match gegen Profispieler geben. Dieses kann im OpenAI-Hauptquartier und auch im Stream via Twitch mitverfolgt werden. (gpi, 07.07.2018)