Auf der Game Developers Conference dieser Woche bot Ubisoft einen möglichen Einblick in eine KI-gefüllte Zukunft für Gamer. Das Unternehmen einen Prototyp vorgeführt bei der Show, bei der Nvidias Ace-Mikroservice verwendet wurde, um voll vertonte „intelligente NPCs“ zu produzieren, mit denen die Spieler interagieren konnten, indem sie in ein Mikrofon sprachen. Obwohl die Demo online auf Skepsis stieß (auch bei mir), hat sie uns beeindruckt, als wir sie ausprobiert haben. Ich hatte ein überraschend stichhaltiges Gespräch mit einem umweltbewussten NPC über die Ethik des Ökoterrorismus, ein völlig abseits des Skripts stehendes Gespräch, das durch KI möglich wurde.
Dies ist einer der aussagekräftigsten Anwendungsfälle dieser Technologie, die wir bisher gesehen haben, weist jedoch einen überraschenden Mangel auf, den selbst Ubisoft nur schwer beheben kann: die sprachliche Voreingenommenheit.
Die geheime Voreingenommenheit der KI
In der kurzen Demo schlüpfte ich in die Rolle eines Weltraumcharakters, der in den Kampf einer Widerstandsgruppe gegen einen Megakonzern verwickelt wird. In der dreiteiligen Demo unterhielt ich mich mit zwei verschiedenen Charakteren, für die Ubisoft jeweils lange Hintergrundgeschichten erfand und die in Nvidias Ace-Tool einspielte. Ich lernte die Science-Fiction-Welt kennen, indem ich mit einem NPC plauderte, ihn nach seinen Kameraden fragte und dann mit kreativem Denken einen perfekten Raubüberfall plante.
Nachdem ich meine Demo fertiggestellt hatte, fragte ich zwei am Projekt beteiligte Ubisoft-Mitarbeiter, ob es irgendwelche Mängel an dem Tool gäbe, die sie frustrierten. Obwohl sie insgesamt von der Technologie begeistert waren, wurde durch einige tiefe Seufzer deutlich, dass sie noch eine lange Liste von Problemen hatten, die sie lösen mussten, bevor das Studio die Technologie vollständig einführt. Ihr größter Kritikpunkt ist die inhärente Voreingenommenheit der englischen Sprache, ein menschliches Problem, das die KI derzeit standardmäßig erbt.
Die Demoisten führten zwei konkrete Beispiele an, die mir während meines Durchspielens gar nicht aufgefallen waren. Einmal bat ich einen NPC, mir das am wenigsten beliebte Mitglied seines Teams zu nennen. Nachdem er mir gesagt hatte, dass er alle seine Crewmitglieder liebte, machte er einen Charakter namens Iron dafür verantwortlich, dass er ein kratzbürstiger Typ sei. Es gab nur ein Problem: Iron soll kein Mann sein.
Den Demoisten zufolge scheint das KI-Tool das Wort „Iron“ mit Männlichkeit zu assoziieren. Daher geht es davon aus, dass Iron, die Figur, männlich ist. Ein ähnliches Problem taucht auf, wenn der NPC über eine Figur namens Bloom spricht, die als süße, fürsorgliche Frau beschrieben wird. Das ist das umgekehrte Iron-Problem: „Bloom“ scheint von der Maschine als weiblicher Begriff interpretiert zu werden, wodurch ein mütterliches Stereotyp auf eine männliche Figur übertragen wird. Diese Beispiele sind klein, aber wenn sie unkontrolliert bleiben, öffnen sie die Tür für einige größere Probleme. Wie wird beispielsweise der generative KI-Dialog mit Rasse umgehen?
Dies ist kein Problem, das speziell Nvidias Tool oder KI im Allgemeinen betrifft; es spiegelt eine faszinierende Nuance der Sprache wider. Große Sprachmodelle (LLMs) wie das hier verwendete spiegeln einfach die Art und Weise wider, wie Menschen sprechen, basierend auf der Masse an Daten, mit denen sie trainiert wurden. Das bedeutet, dass sie sich von Zeit zu Zeit zwangsläufig ein paar unangenehme Angewohnheiten aneignen, wie zum Beispiel geschlechtsspezifische Stereotypen. Während Ubisofts NPCs lange Hintergrundgeschichten haben, die von Autoren handgefertigt wurden, lernen sie immer noch aus allgemeineren Sprachlerndatensätzen. KI-Unternehmen wie Convai, die dieses Jahr Nvidias Kairos-Demo auf der CES unterstützt haben, geben zu, dass sie den genauen Inhalt, mit dem diese Datensätze trainiert werden, nicht wirklich kennen.
Dieses Problem wird noch komplizierter, wenn man bedenkt, was es für verschiedene Sprachen bedeutet. Die Entwickler, mit denen ich gesprochen habe, wiesen darauf hin, dass generative KI derzeit englischzentriert ist. Andere Sprachen können jedoch radikal anders sein, was eine zusätzliche Herausforderung für diejenigen darstellt, die Tools wie Ace einführen möchten. Was für Englischsprachige Standard ist, ergibt für andere möglicherweise keinen Sinn. Wie lokalisiert man eine Maschine, die eigentlich nur eine Sprache kennt?
Ubisoft und Nvidia versuchen nicht, diese Mängel zu verbergen. Die Mitarbeiter, mit denen ich während der Demo gesprochen habe, betonten, wie wichtig die Zusammenarbeit mit internen DEI-Teams sei, die dabei helfen können, Schwachstellen zu identifizieren und die von KI-Charakteren ausgespuckten Texte zu korrigieren. So beeindruckt ich auch war, eine mitreißende philosophische Debatte mit einem KI-NPC zu führen, es ist klar, dass diese Maschinen immer noch viel menschliche Hilfe brauchen, um die Instinkte zu korrigieren, die wir ihnen versehentlich eingeflößt haben.
Unterstützen Sie unsere Arbeit ❤️
Wenn Ihnen dieser Artikel gefallen hat, können Sie uns mit einem Trinkgeld unterstützen, damit wir weiterhin großartige Inhalte veröffentlichen können.
