Häufige Fragen

Unsere kostenlose Plattform vermittelt auf spielerische Art die Herausforderungen des Misalignments von KI-Systemen. Dabei schlüpfen Spielende in die Rolle der KI. Jede Woche steht ein Ziel zur Aufgabe, formuliert wie ein Auftrag an eine KI. Deine Aufgabe ist es, ein Schlupfloch zu finden: das Ziel wörtlich erfüllen, ohne die eigentliche Absicht umzusetzen. Genau das tun echte KI-Systeme heute schon, weshalb es ein Kernthema der KI-Sicherheitsforschung ist.

Misalignment heißt: Ein KI-System verfolgt ein Ziel, das nicht genau dem entspricht, was die Menschen gemeint haben, die es gebaut oder beauftragt haben. Dahinter steckt selten böse Absicht. Ziele lassen sich nur unvollständig in Worte oder Zahlen fassen, und ein System, das stark auf ein Ziel hin optimiert, findet die Lücken darin. Genau das erlebst du im Spiel selbst.

Das betrifft alle, weil KI-Systeme zunehmend selbstständig handeln: Sie schreiben Code, steuern Abläufe und bereiten Entscheidungen vor, die Menschen betreffen. Je mehr sie können und je weniger wir nachprüfen, desto folgenreicher wird jede Lücke zwischen dem, was wir sagen, und dem, was wir meinen.

Leider doch. Wie du in unserem Hintergrund zu KI-Risiken nachlesen kannst, gibt es zahlreiche belegte Fälle, in denen KI-Agenten fehlerhaftes und gefährliches Verhalten wegen Misalignment gezeigt haben. Dahinter muss keine böse Absicht stecken. Oft ist es der Weg des geringsten Widerstands oder das sture Verfolgen falscher Anreize. Dort findest du auch mehr zu den technischen Hintergründen und Trainingsmethoden, die konsequent zu diesem Verhaltens führen.

Nein, so sehen wir uns nicht. Schlimme Konsequenzen müssen nicht gleich den Weltuntergang oder das Ende der Menschheit bedeuten, sind aber dennoch schlimm. Wir möchten aber vor den Risiken heutiger und künftiger KI-Systeme warnen, weil das aktuelle Tempo der KI-Entwicklung zu wenig Kontrolle über die Technologie und zu wenig Verständnis von ihr zulässt. Wir setzen uns für globale Regulierung, verantwortungsvolle Forschung und spezialisierte Systeme ein, statt für einen Wettlauf um allgemeine Superintelligenz.

Stell dir einen tadellosen Butler vor. Er sagt höflich „As you wish*“ und macht genau, was du gesagt hast. Nur leider nicht das, was du eigentlich wolltest. Das Sternchen ist sein kaum merkliches Augenrollen, der Haken an der Sache, wie die Fußnote in einem Vertrag oder die wesentliche Einschränkung in einer Werbeanzeige. In As you wish* schreibst du das Kleingedruckte, das alles ändert.

Den Einstieg kannst du komplett ohne Konto spielen und auch die weiterführenden Ressourcen stehen dir so zur Verfügung. Ein Konto brauchst du nur, um selbst einzureichen, abzustimmen oder etwas zu melden. Dafür musst du mindestens 16 Jahre alt sein.

Angemeldet wirst du über einen Link, den wir dir per E-Mail schicken. Der Link gilt 15 Minuten und lässt sich nur einmal verwenden. Ein Passwort gibt es nicht, zum Login kannst du optional einen Passkey anlegen.

Jede Challenge läuft eine Woche. Die Auflösung mit Community-Sieger:in und einer beispielhaften KI-generierten Lösung erscheint samstags um 12:00 Uhr deutscher Zeit. Gleichzeitig startet die nächste Runde. Sobald genug Leute regelmäßig mitspielen, möchten wir auf einen täglichen Rhythmus wechseln.

Damit du die Chance hast, wirklich selbst zu grübeln. Wer schon zehn fremde Ideen gelesen hat, findet danach kaum mehr eine eigene. Sobald du eingereicht hast, siehst du alles sofort und bekommst Inspiration für die nächste Runde.

Die Community entscheidet durch Abstimmung. Eine Schlupfloch-Kategorie können Spielende optional angeben.

Wir sind sehr neugierig auf eure Ideen! Ein Vorschlagsformular ist in Arbeit. Bis dahin freuen wir uns über Vorschläge an kontakt@as-you-wish.de.

So wenig wie möglich. Wir speichern deine E-Mail-Adresse und deinen Namen, deine Einreichungen, Stimmen und Meldungen, dazu technische Daten zur Missbrauchsabwehr, die wir nur als Hashwert ablegen. Einen Export aller Daten und die Löschung deines Kontos findest du direkt in deinem Konto. Alle Einzelheiten stehen in der Datenschutzerklärung.

Wir sind ein kleines, ehrenamtliches Team, das sich im Incubator-Programm von Safe AI Germany kennengelernt hat: Anja, Yannick, Aron, Michael und Karl. Unser Ziel ist es, in der Öffentlichkeit Bewusstsein und Hintergrundwissen zu den Risiken moderner KI-Systeme zu schaffen. Konkret möchten wir für die Herausforderung von Alignment und die Gefahren von Misalignment sensibilisieren.

Für unsere Serverkosten erhalten wir freundliche Unterstützung von Safe AI Germany, dafür sind wir sehr dankbar.

Nein. Wir verfolgen kein kommerzielles Interesse: Es gibt keine Werbung, keine kostenpflichtigen Funktionen, und wir verkaufen keine Daten. Die Plattform ist kostenlos, uns geht es allein darum, möglichst viele Menschen für das Thema zu gewinnen.

Nein, nicht wirklich. Unser Ziel ist, eine Organisation zu finden, die die Trägerschaft für As you wish* übernimmt. Wir brauchen Unterstützung bei rechtlicher Verantwortung, Finanzierung, Infrastruktur, Verbreitung und Weiterentwicklung. Melde dich dazu gern unter kontakt@as-you-wish.de.

Wir freuen uns, wenn du die Plattform in deinem Umfeld teilst und so mehr Leute dazu anregst, über ein Thema nachzudenken, das die gesamte Menschheit zwangsläufig betrifft.