AI-Bilder sind auf Facebook weit verbreitet - so erkennt man sie

Die Verbreitung von KI-generierten Inhalten ist eine Flutwelle, die sich nicht aufhalten lässt, und soziale Netzwerke wie Facebook sind voll davon. Wie kann man diese Inhalte erkennen, und warum werden sie so häufig geteilt?

KI-generierte Fotos erobern Facebook

Mit Tools wie DALL-E oder Midjourney kann ein Bild in Sekundenschnelle erstellt werden, und diese Tools werden mit jeder Aktualisierung verbessert. Während manche Menschen KI-generierte Fotos leicht erkennen können, ist es für andere weniger wahrscheinlich, dass sie hinterfragen, was sie in ihren Facebook-Feeds sehen.

"Sehen heißt glauben" gilt nicht mehr. Dieses Problem gibt es schon seit den Tagen der frühen Photoshop-Fälschungen. Aber während es einige verräterische Anzeichen dafür gibt, dass ein Bild von Hand manipuliert wurde, kann es viel schwieriger sein, ein von einer künstlichen Intelligenz generiertes Foto zu erkennen.

Anfang 2024 tauchte auf Facebook eine Welle von Bildern auf, die sich um ein seltsames Thema drehten: Plastikflaschen. Diese Bilder zeigten in der Regel ein KI-generiertes Foto eines Objekts, das vollständig aus Plastikflaschen besteht, sowie die Person (in der Regel ein Kind), die für die Herstellung verantwortlich ist.

Diese Begeisterung scheint in Facebook-Gruppen entstanden zu sein, und viele der Statuen sind religiöser Natur. Hier ist ein frühes Beispiel:

Das Meme setzte sich jedoch bald durch, und viele Seiten posteten den gleichen oder ähnlichen Inhalt immer wieder, scheinbar ernsthaft. Diese Bilder wurden oft von einer Bildunterschrift im Stil von "Mein Sohn hat das gemacht" begleitet und wiesen gruselige, von einer künstlichen Intelligenz erzeugte Merkmale auf (um das fragwürdige Gesamtthema zu verstärken).

Die Hauptmotivation für die Veröffentlichung dieser Bilder ist das Engagement. Sie sprechen ein bestimmtes Publikum an, vor allem diejenigen, die sie nicht sofort als Fälschung erkennen. Die Leute setzen sich mit dem Inhalt auseinander, indem sie Kommentare oder Reaktionen hinterlassen, was die Reichweite des Beitrags weiter erhöht. Außerdem wimmelt es bei Facebook von Bots, was das Problem noch verschlimmert.

Dies wirkt sich auf die Art und Weise aus, wie Inhalte in Netzwerken wie Facebook verbreitet werden. Je mehr Engagement ein Beitrag erhält, desto weiter verbreitet er sich. Für einige Seiten ist diese Reichweite eine Gelegenheit, mit gesponserten Beiträgen und Affiliate-Links Geld zu verdienen, während für andere die Tatsache, dass sie eine einflussreiche Position innehaben, ausreicht.

Erkennen von AI-Fälschungen

Wir haben bereits in der Vergangenheit über die Grundlagen der Erkennung von KI-generierten Fotos berichtet, aber es ist keine perfekte Wissenschaft. Es gibt kein einzelnes Tool, mit dem Sie ein Bild "scannen" können, und nicht jedes Foto weist die Merkmale einer Fälschung auf. Dennoch gibt es ein paar grundlegende Dinge, die Sie beachten können.

Beim derzeitigen Stand der Technik ist die KI noch lange nicht perfekt. In den meisten Fällen gibt es Probleme mit Bildern, die von KI generiert wurden. Vor allem feinere Details wie Finger, gehaltene Gegenstände, Brillen und Haare können das Spiel verraten. Bei unbelebten Objekten sollten Sie auf feine Details wie Zaunpfähle, Fensterrahmen und die Art und Weise, wie sich Materialien überschneiden, achten.

Wie Sie an einigen der Plastikflaschen-Abscheulichkeiten in diesem Artikel sehen können, haben viele KI-generierte Bilder einen "Look" oder eine "Aura", die schwer zuzuordnen ist. Das kann ein "Unheimliches Tal"-Effekt sein, bei dem Gesichter unmenschlich aussehen. Die Beleuchtung kann flach und unpassend sein, Motive scheinen zu leuchten, als ob sie von einer anderen Quelle beleuchtet würden, und Objekte sehen nicht richtig aus, wenn sie nebeneinander stehen.

Im Fall der Plastikflaschen-Statuen ist keines der Logos richtig geformt. Sie sehen alle wie vage erkennbare Marken aus, aber keines von ihnen liest sich so, wie man es erwarten würde. Die Art und Weise, wie sich die Flaschen in den Skulpturen überschneiden, ergibt oft keinen Sinn. Die Konstruktion von Plastikflaschen ist eine reale Sache (sie werden manchmal zur Herstellung von Gewächshäusern verwendet), und sie sehen überhaupt nicht so aus wie diese jüngste Serie von KI-Fälschungen.

Seit langem wird uns gesagt, dass wir hinterfragen sollen, was wir online lesen, insbesondere auf Facebook. Wir haben uns daran gewöhnt, dass es normal ist, Nachrichten, Spendenaufrufe, gefälschte Stellenanzeigen, potenzielle Betrüger und so weiter zu hinterfragen. Es ist an der Zeit, dies auch auf die visuellen Medien insgesamt auszudehnen und ein gesundes Maß an Skepsis zu bewahren.

Video wird das nächste sein

Computergenerierte Bilder, kurz CGI, haben die Menschen schon seit Jahrzehnten verunsichert. Dabei handelt es sich um die Effekte, die in Filmen zu sehen sind, die von Menschenhand geschaffen und mit echtem Filmmaterial gemischt werden, um die Magie des Kinos zu erzeugen. CGI wird auch häufig verwendet, um überzeugende, aber gefälschte Online-Videos zu erstellen.

KI-generierte Videos sind ein wenig anders. Sie beruhen nicht auf Menschen, die eine Illusion schaffen und sie von Hand mischen, sondern auf Modellen, die anhand von echtem Filmmaterial trainiert werden, um Videoclips auf der Grundlage von Eingabeaufforderungen zu erstellen. KI-generierte Videos, die überzeugend aussehen, stecken zwar noch in den Kinderschuhen, aber Modelle wie SORA von OpenAI treiben die Technologie in rasantem Tempo voran.

Positiv zu vermerken ist, dass KI-generierte Videos viele der Probleme aufweisen, die auch die KI-generierte Fotografie plagen. Es ist möglich, KI-generierte Videos zu erkennen, aber je besser die Technologie wird, desto schwieriger wird es. Es ist auch eine neue Grenze, die viele Menschen nicht in Frage stellen werden.

Wir bearbeiten Bilder schon seit Jahrzehnten mit Photoshop, aber Videos sind viel schwieriger. Bei Videos geht es nicht nur um Tiere aus Plastikflaschen und beeindruckende, aber unwahrscheinliche technische Meisterleistungen, sondern auch um echte Menschen, gefälschte Nachrichten, trügerische "offizielle" Ankündigungen und vieles mehr.

Es könnte bald an der Zeit sein, zu "Facebook Classic" zurückzukehren, wo man das Netzwerk nur als Werkzeug benutzt, um mit Leuten in Kontakt zu bleiben, die man tatsächlich kennt. Schon bald werden Sie sich nicht mehr auf Ihre tägliche Dosis an lustigen, inspirierenden oder niedlichen Fotos und Videos verlassen können. Sie finden diese Option unter dem Menü "Feeds", indem Sie "Freunde" auswählen

Es ist nicht nur ein Facebook-Problem

Es ist zwar unfair, nur Facebook zu erwähnen, aber das größte soziale Netzwerk der Welt ist eine Brutstätte für KI-generierte Albernheiten. Das war schon immer so, denn Seitenadministratoren kämpfen um Likes, Follower, Reichweite und das so wichtige Engagement.

Auch Google Images wird mit KI-generierten Bildern überschwemmt. Künstler beklagen den Verlust von verlässlichem Referenzmaterial, seit vor einigen Jahren ein Ansturm von KI-generierten Fotos das Internet überschwemmt hat. Hobbyhäkler geben Tipps, um irreführende Muster zu vermeiden, die es gar nicht gibt.

Bloomberg hat eine Geschichte und ein Quiz über die Verbreitung von KI-generierten Bildern, die sich als echte Fotos ausgeben und in den Google-Ergebnissen erscheinen. Manchmal erscheinen KI-generierte Bilder neben Suchanfragen nach berühmten Personen und Ereignissen und verzerren möglicherweise die Realität.

Wir stehen an der Schwelle zu einem Internet, das voll von Lügen ist. Dies ist ein webweites Problem, das alle sozialen Netzwerke und Plattformen betrifft. KI-Bilder (und bald auch Videos) machen es einfach, Inhalte für Plattformen wie TikTok und Instagram zu erstellen, wobei natürlich artikulierte Text-to-Speech-Generatoren den Prozess weiter beschleunigen.

Es lohnt sich, einen Moment darüber nachzudenken, was dies für die Zukunft des Internets bedeutet. Die Theorie des toten Internets geht davon aus, dass die meisten Inhalte und Interaktionen, die wir online sehen, nicht mehr menschlich sind. Auch wenn dies derzeit nicht der Fall ist, ist es nicht schwer, sich eine Zukunft vorzustellen, in der dies der Fall ist.

Im Moment ist es vielleicht an der Zeit, mit Freunden und Familie zu sprechen, wenn Sie sehen, dass sie Inhalte liken, kommentieren oder teilen, von denen Sie wissen, dass sie von KI generiert wurden. Man kann es nicht aufhalten, aber immer mehr Menschen werden sich des Problems bewusst, und das ist ein wichtiger erster Schritt.

Wenn du ein aktiver Facebook-Nutzer bist, solltest du dich auch über gängige Betrugsmethoden und Tipps und Tricks für den Facebook-Marktplatz informieren.