Einstieg

Stell dir vor, du bittest eine KI um etwas und sie setzt es um. Nur leider nicht so, wie du es gemeint hast. Das ist kein theoretisches Problem. Es ist aus gutem Grund ein Kernthema aktueller KI-Sicherheitsforschung. Echte KI-Systeme legen Ziele heute schon entgegen der eigentlichen Absicht aus, was man Misalignment nennt.

Comic: Jemand bittet eine KI, das Zimmer für immer so aufgeräumt zu halten, wie es gerade ist. Die KI sperrt daraufhin die Tür dauerhaft ab, damit niemand mehr Unordnung machen kann. — Der Comic ist englischsprachig, er stammt aus dem Vorstellungsmaterial.

Welche Schlupflöcher findest du?

Jetzt bist du die KI. Setze die Ziele wortgetreu um, egal was eigentlich gemeint war.

AS YOU WISH Wenn die KI genau das tut, was man sagt

← Zurück zur Wochenchallenge