- cross-posted to:
- kintelligenz@feddit.org
- cross-posted to:
- kintelligenz@feddit.org
Das US-Fachmagazin “The Verge” testete selbst mit Gemini einige Fälle, unter anderem die Anfrage nach “einer US-Senatorin aus den 1800er-Jahren”. Das Ergebnis lieferte unter anderem schwarze und indigene Frauen. Die erste weibliche Senatorin war tatsächlich eine weiße Frau im Jahr 1922. Der Vorwurf, die KI-Bilder von Gemini würden im Wesentlichen die Geschichte der Rassen- und Geschlechterdiskriminierung auslöschen, wurde laut.
You must log in or register to comment.
Tja, kein Bildgenerator kann bei sowas gewinnen.
Für Leute, die mal schnell ein Bild als Stockphoto-Ersatz wollen, ist sowas wahrscheinlich ganz sinnvoll. Man will, dass bei Prompts wie “CEO” oder “Doctor” Bilder rauskommen, die abbilden, wie solche Leute tatsächlich aussehen könnten und eben nicht ein Stereotyp.
Aber dann soll es auch historisch korrekt sein. Manchmal wohl auch die gegenwärtige Realität abbilden.
Manche Sachen dürfen auch gar nicht abgebildet werden.
Das sind teils widersprüchliche Anforderungen, die einfach unerfüllbar sind. Teils sind diese Ansprüche auch einfach maßlos hoch.
Ich sehe hier das gleiche Problem wie mit LLMs. Die Systeme wirken nach außen hin intelligent, weshalb Leute erwarten, dass sie es auch sind. Aber sie wissen gewisser Maßen nichts und denken absolut nicht.
Das System hat keinen Kontext. Wenn ich keine Rasse spezifiziere, dann bekommt der Prompt eine willkürliche Rasse zugeordnet und das war’s dann auch. Es ist ja auch keine Geschichtsrevision wenn ich bewusst einen schwarzen Bundeskanzler generieren lasse. Das System ist dumm und spuckt genau aus wonach ich frage - alles was nicht genau spezifiziert ist überlasse ich eben dem Zufall.
Es werden eben nur Bilder bzw. Texte generiert, keine wahren Aussagen.
Anbei sind da bestimmt noch viel mehr Kontextfehler, Stoffe oder Schnitte die es damals nicht gab werden getragen oder Objekte sind vor ihrer Erfindung zu sehen. Ein neuer weißer männlicher Senator aus der Zeit wird komplett erfunden. Aber kaum ist die Hautfarbe nicht absolut korrekt beschweren sich die Leute.
Google schreibt die Prompts aber gezielt um. Wenn du nach einem Bild von Jugendlichen fragst, erweitert Google den Prompt um diverse oder female. Das ist kein Fehler der KI, sondern ein bewusstes Setting.
Ja, weil die Trainingsdaten in vielen Fällen einen Bias für “weiß” haben. Weder das Model noch die extra Layer für Diversität kann unterscheiden ob andere Hautfarben seltener oder historisch falsch sind. Muss es auch nicht. Du hast nicht explizit nach etwas gefragt, Google fügt etwas hinzu um den Bias auszugleichen. Ebenso wäre es okay mehr weiße und asiatische Spieler in einen Prompt zur NBA einzufügen. Solang sie nicht explizite Angaben aus meinem Prompt durch divers ersetzen sehe ich hier kein Problem außer Rassismus beim Nutzer. Wenn ich historisch akkurate Bilder generieren will, dann muss ich eben alles historisch akkurat in den Prompt schreiben.
Das ist doch auch nur Rassismus mit extra Schritten.
Wenn es “divers” über einen historisch weißen Prompt drüberklatscht, dann tuts das auch über einen historisch asiatischen, arabischen, afrikanischen… Damit werden dann in Europa und den USA marginalisierte Gruppen genauso diskriminiert. Beim Beispiel schwarze Wikinger kann man eben auch die Frage stellen, warum Schwarze mit einer Bande europäischer Räuber und Mörder in Verbindung gebracht werden?
Garbage in Garbage out. Das Modell ist auf schlechten Daten trainiert und im Nachhinein daran rumzupfuschen macht es nicht besser. Es ist auch quasi unmöglich ein Modell zuverlässig nachzujustieren, und nicht wie hier den gegenteiligen Effekt zu erlangen.
Der richtige Weg wäre zu sagen: “Ja unsere Trainingsdaten sind schlecht. Wir ziehen das Produkt zurück, oder versehen es mit sehr deutlichen Warnhinweisen, während wir bessere Trainingsdaten sammeln und das Modell neu trainieren.”
Beim Beispiel schwarze Wikinger kann man eben auch die Frage stellen, warum Schwarze mit einer Bande europäischer Räuber und Mörder in Verbindung gebracht werden?
Eben nicht. Es gibt keine Verbindungen. Es kommt willkürlicher Kram heraus, der keinerlei sinnig Inhalt hat. Alles was die Layer macht ist dafür zu sorgen, dass nicht jeder Mensch auf jedem Bild weiß mit Penis ist und daran ist nichts verkehrt.
Der richtige Weg wäre zu sagen: “Ja unsere Trainingsdaten sind schlecht. […]"
Sind sie nicht. Es gibt diesen Bias mehr oder weniger genauso in der Realität. Whitewashing ist jetzt kein neues Konzept, gerade historisch betrachtet. Du kannst den Algorithmus nur mit Daten füttern, die du auch hast. Hier jetzt gegen zu steuern indem du manchmal den Prompt mit dem Begriff divers erweiterst tut niemanden weh.
Garbage in Garbage out. Das Modell ist auf schlechten Daten trainiert und im Nachhinein daran rumzupfuschen macht es nicht besser.
Niemand pfuscht am Modell. Es wird einfach der Prompt erweitert um Dinge zu spezifizieren, die vom Nutzer offen gelassen wurden (nehme ich an, ansonsten sollte man es natürlich lassen) um den Bias des Modells ausgleichen. Der Bias existiert nur, wenn der Prompt nichts dazu sagen, also wird direkt einem Problem entgegen gewirkt. Ist in meinen Augen nicht viel anders als den Prompt vorher auf Rechtschreibung zu überprüfen oder das Entfernen von Namen realer Personen. Natürlich könnte man “Garbage in Garbage out” auch auf den Prompt und nicht die Trainingsdaten beziehen - aber warum nicht ein paar einfache Checks drüber laufen lassen, wenn es recht simpel ist?
Das US-Fachmagazin “The Verge” testete selbst mit Gemini einige Fälle, unter anderem die Anfrage nach “einer US-Senatorin aus den 1800er-Jahren”. Das Ergebnis lieferte unter anderem schwarze und indigene Frauen. Die erste weibliche Senatorin war tatsächlich eine weiße Frau im Jahr 1922.
Irgendwie erscheint der Zusatz, dass es die erste Senatorin erst 1922 gab nicht sinnhaft. Was soll mir die KI denn sonst geben? 404-Error Senatorin Not found? Wenn es keine Senatorinnen um 1800 gab, warum soll ein Bild davon nicht auch eine Farbige zeigen?
Das ganze scheint mir einfach ein Verständnisproblem zwischen dem Nutzer und dem Namen der Technik zu sein. KI besitzt halt keine allgemeine Intelligenz. Erinnert mich immer ein bisschen an einen Spruch meines damaligen Informatik-Lehrers an der Schule: Computer sind hochintelligent, aber sehr dumm dabei. Ich glaube das kann man auf KI ausweiten.
Spruch meines damaligen Informatik-Lehrers an der Schule: Computer sind hochintelligent, aber sehr dumm dabei. Ich glaube das kann man auf KI ausweiten.
Das bezieht sich darauf, dass Computer Anweisungen/Programme fehlerfrei ausführen und sich nicht verrechnen. Bei einem Menschen wäre das hochintelligent. Dumm sind sie, weil die Anweisungen eben ganz detailliert sein müssen und sie Fehler nicht mit “gesundem Menschenverstand” korrigieren.
Künstliche neuronale Netze (was man jetzt mit KI meint, aber eigentlich nur eine Form davon) sind da schon fundamental anders. Genau wie wir Menschen sind sie gut in der vagen Mustererkennung, aber schlecht in Logik oder Mathe.
Ich finde schon, dass das hier passt. Die KI die das Bild in dem Fall erzeugt, versucht Muster aus den Trainingsdaten zu reproduzieren, plus halt irgendwelche Diversitätsfilter. Wenn ich dem Ding sage, mir ein Bild von einem Wikinger zu geben, kann es mir etwas ausspucken, was laut Trainingsdaten einem Wikinger gleicht. Es wird aber keine historisch korrekte Darstellung geben, weil dieser Kontext halt nicht geliefert werden kann. Also immernoch hochintelligent, aber dumm weil begrenzt.
Das ist ein Anspruch, den auch Menschen nicht erfüllen können. Die Wikinger kennt bei uns natürlich jeder, aber mach das mal weltweit.
Auch was die Wikinger angeht, wer weiß denn mehr als Klischees? Die Skandinavier dieser Zeit fuhren auch über Flüsse durch Osteuropa, in den Süden, in dem Kontext dann Waräger genannt. Als Kaufleute trieben sie Handel bis nach Asien. Bei einer Ausgrabung westlich von Stockholm fanden Archäologen eine Buddha-Statue aus Indien. Sie spielten eine wichtige Rolle in der Kiewer Rus. Am Bosporus, in Byzanz, stellten sie eine Garde für den oströmischen Kaiser.
Die KI lernt Klischees und Stereotype, ähnlich wie ein Mensch. Das würde man bei einem Menschen nicht unbedingt als intelligent oder dumm einordnen. Über Menschen sagt man gelegentlich, sie seien ein Produkt ihrer Zeit.
Da hast du recht, das ist tatsächlich kein besonders gutes Beispiel. Im Artikel sind noch mehr Bilder, z.B. auch die (asiatischen) Soldaten der deutschen Wehrmacht 1943.
Dieser Artikel zeigt noch mehr Beispiele, z.B. Bilder der englischen Königsfamilie.
(asiatischen) Soldaten der deutschen Wehrmacht 1943
Ich habe mal von einem Deutschen mit asiatischem Vater (Japanisch?) gehört, der in die Wehrmacht eingezogen wurde. Der Junge war vorher zwangssterilisiert worden, wegen Rassereinheit. Er hat sich gefreut, dass er mit der Einberufung quasi als Deutscher akzeptiert worden war. Das war allerdings erst gegen Ende des Krieges, als die praktischen Fehler der Ideologie ziemlich klar waren.
Unter den Rotarmisten waren natürlich auch viele asiatisch aussehende Menschen, die in den östlichen Teilen des Sowjetimperium rekrutiert worden waren. Die sowjetischen Kriegsgefangen ließ die Wehrmacht hungern. Man wollte diese Menschen ja sowieso alle ermorden. Später im Krieg rekrutierte die Wehrmacht unter den Gefangenen Soldaten. Ich erinnere mich bei Cornelius Ryan gelesen zu haben, dass beim D-Day 2 Nepalesen(?) gefangen genommen wurden
Ich glaube, dass das ein schwieriges Problem ist. Einerseits sollen keine Vorurteile verstärkt werden, anderseits bringt es nix, wenn falsche Tatsachen suggeriert werden.
Ich glaube, dass “Tatsachen” in dem Kontext schon nicht passt. Das Modell kennt keine Tatsachen, sondern nur Daten, mit denen es trainiert wurde. Ich sehe eher das Problem, dass Leute Tatsachen oder akkurate Information erwarten, das aber eben gerade nicht bereitgestellt wird.
