KI-generierte Bilder (Midjourney, DALL-E, DeepAI, ...) , klassischer Photoshop und sonstige Bildmanipulationen

Wayne Schlegel @, Freitag, 09.02.2024, 14:03 vor 24 Tagen 3260 Views

bearbeitet von Wayne Schlegel, Freitag, 09.02.2024, 14:11

Die Macht der Bilder. Jeder kennt sie, ist gewarnt vor Fälschungen und Manipulationen - und lässt sich nicht selten aufgrund der Suggestivkraft dennoch übertölpeln.

Angeblich ein Leichtes, binnen Sekunden fotorealistische Bilder für manipulative Zwecke zu kreieren.

In diesem Artikel der DW nebst auch einem Kurz-Video "Faktencheck: Wie erkenne ich KI-generierte Bilder?" werden einige Bilder vorgestellt und "Erkennungstipps" gegeben.

https://www.dw.com/de/faktencheck-wie-erkenne-ich-ki-generierte-bilder/a-65252413

Wer weitere aktuelle Musterbeispiele bzw. fragwürdige Kreationen hier im Faden anfügen mag (gerne mit Quellenangaben und Analysetipps), vielen Dank.

Was sind die alleraktuellsten Tricks?

Der Weg geht m.E. in die Irre...

Andudu, Freitag, 09.02.2024, 15:42 vor 24 Tagen @ Wayne Schlegel 2384 Views

...weil es sehr wahrscheinlich nicht mehr lange funktionieren wird. Wenn die KI-Trainer was drauf haben (und davon ist auszugehen), werden sie dem Training der "tiefen" Intelligenzen eine Ebene hinzufügen, die einzelne Gegegenstände (z.B. Hände) erkennt. Die übergeordneten Bildgenerierungsebenen werden dann entsprechend korrigiert oder fantasieren sogar gleich die richtige Anzahl Finger. Man spricht bei sowas wohl auch von "Emergenz". Ich erwarte da noch heftige Entwicklungsschritte, die vermutlich vor allem von der Rechenkapazität abhängen.

Mit anderen Worten: Fakes anhand des Bildes zu erkennen, wird immer unmöglicher. Am ehesten gelingt das noch, wenn die dem Bild innewohnende Logik gebrochen wird. Ich hab mal eines dadurch erkannt, dass im einen Fenster Tag war, man durch das andere aber eine Straßenlampe durch die Gardine leuchtete.

Über kurz oder lang werden wir ein Verfahren brauchen, welches echte Bilder schon beim Entstehen verschlüsselt oder sowas, mir fehlt die Fantasie, wie man das wirklich fälschungssicher machen könnte. Ohne ein solches Verfahren werden Fotos (und früher oder später auch Filme) jeden Wert verlieren (zumindest solange man die Quelle nicht kennt und ihr vertraut).

Richtig erkannt. Furchtbare Zukunftsaussichten

sensortimecom ⌂ @, Freitag, 09.02.2024, 16:22 vor 24 Tagen @ Andudu 2243 Views

bearbeitet von sensortimecom, Freitag, 09.02.2024, 17:13

Ich kann mir auch gut vorstellen, wo das Ganze enden wird

Dieses Desaster lässt sich eines Tages nur noch dadurch unter Kontrolle bringen, indem SÄMTLICHE BILDER und VIDEOS im Moment ihrer Generierung von einer "zentralen Zertifizierungsstelle" einen ID-Code aufgebrummt kriegen müssen. Der dient dann als Nachweis einer Art "KI-Unbedenklichkeit". Da werden dann sämliche menschlich-technischen Schnittstellen, die einer Bildgenerierung dienen, mit dieser Zertifizierungsstelle online sein müssen (aber auch Schnittstellen KI zur Bg. und Roboter zur Bg.). Letzten Endes wird das dann auch noch für Musik und Sprache geben, klaro :-) (zum Lachen gibts eigentlich nix)...

Und womöglich sind eh jetzt schon Pinterest und Konsorten auf diese Idee gekommen. Um Billionen zu kassieren und die Weltherrschaft zu erobern. Zusammen mit Amazon, Google, Tesla, Pfizer etc. (Ich verfolge seit 5 Jahren keine neuen Patentanmeldungen mehr. Mir reichts - spätestens seit Musks Neurolink).

Verrückte Welt. Gott sei Dank bin ich schon zu alt, um diesen Wahnsinn noch in voller Länge und Breite auskosten zu müssen...

Ginge nicht auch eine Blockchain-Technologie?

Hannes, inmitten des Landes S-A d. BRD in der EU, Freitag, 09.02.2024, 18:58 vor 24 Tagen @ sensortimecom 1202 Views

Ich kann mir auch gut vorstellen, wo das Ganze enden wird

Dieses Desaster lässt sich eines Tages nur noch dadurch unter Kontrolle bringen, indem SÄMTLICHE BILDER und VIDEOS im Moment ihrer Generierung von einer "zentralen Zertifizierungsstelle" einen ID-Code aufgebrummt kriegen müssen. Der dient dann als Nachweis einer Art "KI-Unbedenklichkeit". Da werden dann sämliche menschlich-technischen Schnittstellen, die einer Bildgenerierung dienen, mit dieser Zertifizierungsstelle online sein müssen (aber auch Schnittstellen KI zur Bg. und Roboter zur Bg.). Letzten Endes wird das dann auch noch für Musik und Sprache geben, klaro :-) (zum Lachen gibts eigentlich nix)...

Und womöglich sind eh jetzt schon Pinterest und Konsorten auf diese Idee gekommen. Um Billionen zu kassieren und die Weltherrschaft zu erobern. Zusammen mit Amazon, Google, Tesla, Pfizer etc. (Ich verfolge seit 5 Jahren keine neuen Patentanmeldungen mehr. Mir reichts - spätestens seit Musks Neurolink).

Verrückte Welt. Gott sei Dank bin ich schon zu alt, um diesen Wahnsinn noch in voller Länge und Breite auskosten zu müssen...

Guten Abend @sensortimecom,

anstatt ""zentralen Zertifizierungsstelle" einen ID-Code aufgebrummt kriegen müssen."? ginge das doch auch dezentral? Wie im Betreff mit dezentraler Blockchain-Datenbank, oder auch ohne "zentralen Zertifizierungsstelle" - das (zertifizierte, bzw. via SIM) Handy/Digicam webt einen Code in das Bild/Video?

Wenn es wichtig wird, dass ein Foto oder so unverfälscht ist, dann muss man das wohl tun zukünftig.

Ansonsten: Gepanscht wurde immer schon. Und gelogen auch. Gegen gefälschte Maße gibt es das Eichamt usw.

LG

H.

PS: Dauert nicht mehr lange, bis die Wirklichkeit so verfälscht werden kann von der Technologie, dass man die Menschen wie vor halluzinogenen süchtig machenden Drogen schützen wollen wird. Tschau Mama ...

--
Eine Hand für den Mann und eine Hand für das Schiff.

Geht wahrscheinlich beides nicht...

Andudu, Samstag, 10.02.2024, 18:36 vor 23 Tagen @ Hannes 573 Views

...weil prinzipiell hackbar, wenn das Gerät ein Foto zu einer Zertifizierungsstelle/Blockchain schicken kann, kann man das selbst auch, mit einem gefälschten Bild...

Ich denke noch darauf herum. Es müsste direkt im Gerät verschlüsselt werden und zwar so, dass man den "private key" mit dem verschlüsselt wird, nicht auslesen kann oder irgendwie so.

Die Büchse der Pandora ist längst geöffnet

FOX-NEWS @, fair and balanced, Sonntag, 11.02.2024, 08:01 vor 22 Tagen @ sensortimecom 630 Views

Meta (Facebook) gibt seine LLMs zur (fast) freien Verwendung raus. Was einmal von der Open Source Gemeinde in Beschlag genommen wurde, kriegst du nicht mehr aus dem Verkehr. Es wird der Tag kommen, an dem man eine persönliche KI braucht, um Realität, Illusion oder Beschiss zu unterscheiden ... :-P

Ganoven aller Couleur laufen sich in dieser Thematik gerade erst mal warm. [[zwinker]]

Grüße

--
[image]
Läuft in Deutschland ...

Ich wurde noch vor Wochen ausgelacht ...

Mirko2 @, Freitag, 09.02.2024, 17:32 vor 24 Tagen @ Wayne Schlegel 2289 Views

Als ich schrieb, dass ich Anfang der 90er ein Richter von einem Landgericht sagte (war in der Ausbildung), "das Ding mit digital ist nicht ohne". Man kann 0 und 1 einfach austauschen, ohne dass jemand etwas komisch vor-mitbekommt. Fälschungssicher wäre das nicht und auch nach StGB als unzulässig anzusehen...


Bilder haben eine Metadatei und auch genau diese kann man fälschen (KI). Alle Bilder, Videos oder Audioaufnahmen (digital) würde ich heute als Beweis nicht mehr zulassen!

--
Mein Schmerz ist nicht euer Gefühl!

einzig verwertbar als Beweis = Sofortbild-Kamera-Bilder

Dieter @, Freitag, 09.02.2024, 18:36 vor 24 Tagen @ Mirko2 1746 Views

Vielleicht erleben diese Kameras ein neues Leben.

Gruß Dieter

--
Es wird allerhöchste Zeit aus der NATO auszutreten.

Der Trend geht so ganz langsam wieder zurück zu analog

Kaladhor @, Münsterland, Freitag, 09.02.2024, 22:46 vor 24 Tagen @ Dieter 1664 Views

Vorreiter auch hier wieder die Musik: Die Verkaufszahlen von Vinyls steigen jedes Jahr, immer mehr Leute besorgen sich wieder einen Plattenspieler, gibt es ja mittlerweile auch mit Bluetooth. Denn viele haben festgestellt, dass die tolle CD-Sammlung so langsam kaputt geht.... die CDs gehen halt mit der Zeit kaputt, auch wenn man sie nicht benutzt. Normale Alterung... LPs aus den 60ern funktionieren dagegen immer noch.

Grüße

--
Ich bin nicht links, ich bin nicht rechts, ich kann noch selber denken!

Warum nennt sich das KI? Bild- oder Videobearbeitung - auch Photoshopping genannt - gibt' s doch schon seit Jahrzehnten. Wozu der neue Name? Hier ein Beispiel aus 2001 (mV)

BerndBorchert @, Samstag, 10.02.2024, 18:25 vor 23 Tagen @ Wayne Schlegel 692 Views

bearbeitet von BerndBorchert, Samstag, 10.02.2024, 18:44

[image]

Hier das Video, aus dem das Foto oben links stammt (ich hab's vorgestellt auf diese Aufnahme)
https://youtu.be/7YLm3pkAiJQ?t=330

Wer das Bild und das Video für echt hält: hier in Zeitlupe sieht man, dass die Flügel für einen Moment in der heilen Wand verschwinden (der Photoshopper hatte nur ca. 2 Stunden Zeit - da kann nicht alles perfekt sein)
https://www.youtube.com/watch?v=X3pEStLJyYY
Außerdem zerschellt das Flugzeug beim Aufprall kein bisschen, nichts fällt nach unten, nicht mal die Flügelspitzen - wie realistisch ist das?

Bernd Borchert

Diese Bilder und Videos vom Einschlag waren vor Jahren noch einfach zu finden, mit "CNN 9/11 plane crash into tower". Jetzt muss lange danach suchen. Hilft Youtube=Google dabei, da was zu verstecken? (verstecken, weil's zu offensichtlich gefälscht ist, wenn man genau hinguckt)

Was sind die alleraktuellsten Tricks? Bitte sehr, anderes Beispiel:

helmut-1 @, Siebenbürgen, Samstag, 10.02.2024, 19:51 vor 23 Tagen @ Wayne Schlegel 876 Views

Hat aber nichts mit Fotoshop zu tun, sondern mit raffinierter Internet-Verkaufs-Taktik. Nun ist es nichts Neues, dass man über das Internet manipuliert wird, egal, ob google, oder sonst was. Das Thema hatten wir schon vor längerer Zeit, wenn ich mich z.B. für einen Staubsauger im Internet interessiere und mir da Angebote einhole, dass daraufhin in den nächsten Tagen laufend Staubsaugerangebote von anderer Seite eingeblendet werden.

Nun aber komme ich auf was Neues. Nicht ganz neu, sondern mir bereits von den Billigfliegern her bekannt. Im Klartext sieht das so aus. Da gibt man z.B. bei Wizz-Air ein Datum für einen Flug von A nach B ein, und bekommt da ein sehr günstiges Angebot. Dann denkt man darüber nach, klickt noch am selben Tag denselben Flug an, und dann ist der schon um 20 oder 30 € teurer als das erste Angebot. Am nächsten Tag ist derselbe Flug wieder teurer geworden. Dann bin ich natürlich gescheiter geworden, rufe meinen Sohn an, dass er bei dieser Gesellschaft diesen Flug sofort bucht. Und er bekommt ihn zu dem günstigen Preis, den ich anfangs auch entdeckt habe.

Das bedeutet, dass die Tante google registriert (oder irgendein anderes verstecktes System), dass ich mich für diesen Flug interessiere, und bei jedem erneuten Anklick wird der Preis hochgeschraubt.

O.k., das wusste ich bereits. Nun aber ist mir das bei Artikeln aufgefallen, z.B. bei einem Partikelfilter für einen Transporter. Ausländisches Modell, vermutlich GB. Der Preis wird bei uns in der Landeswährung angegeben, z.B. 570 Lei. Ich klicke auch andere Fabrikate an, um letztlich festzustellen, dass das zu Beginn von mir entdeckte Fabrikat tatsächlich das preisgünstigste war. Das Konkurrenzfabrikat war um 100 Lei teurer. (1 € = ca. 5 Lei)

Nun ja, ich gehe am nächsten Tag zur Werkstatt, habe den link gespeichert, und will mit denen diskutieren, ob es sich um das richtige Fabrikat handelt und wann man mir den einbauen kann. Damit ich bei denen nicht im PC herumsuchen muss, wollte ich mir diese Seite mit dem günstigen Angebot ausdrucken. Und - welch Wunder derselbe Filter kostet nun um ca. 300 Lei mehr. Daraufhin klicke ich das Konkurrenzfabrikat an, das gestern um 100 Lei teurer war, und stelle fest, dass auch dieses Fabrikat einen Preissprung von ca. 300 Lei gemacht hat.

Daraufhin lasse ich das mit dem Besuch in der Werkstatt, weil ich erst zuhause am PC herumsuchen wollte, bis ich wieder so einen Filter, vielleicht von einem anderen Hersteller, zu dem Preis von knapp 600 Lei finde. Pustekuchen. Nach jedem Herumsuchen werden diese beiden Fabrikate (es gab nur diese beiden, sonst war nichts zu finden) um einen Sprung teurer, - am Schluss waren es schon über 1.600 Lei.

Daraufhin dachte ich mir, dass da irgendwas nicht stimmen kann. Das wäre ja Abzocke "par excellence". Ich ging dann trotzdem zur Werkstatt und sagte denen, dass sie mir so einen Filter heraussuchen sollten, zu einem günstigen Preis. Sie bekamen alle notwendigen Daten von mir, nicht nur von meinem Fahrzeug, sondern auch den Typ Filter von diesen beiden Herstellern mit Artikelnummern usw. Gestern war ich wieder in der Werkstatt und habe gefragt, was man dort erreicht hat. Daraufhin sagte mir der zuständige Materialbeschaffer, das es ihm bei diesen beiden Firmen genauso ergangen ist wie mir.

Eine gute und auch eine schlechte Nachricht. Erst dachte ich, dass ich bescheuert bin und überall im Wald hinter jedem Baum einen Räuber vermute. Mit der Aussage der Werkstatt bekam ich nun die Bestätigung, dass ich eben nicht bescheuert bin. Aber die schlechte Nachricht ist, dass man bei Internetkäufen offensichtlich mit einer (für mich) neuen Methode über den Tisch gezogen wird.

Ich bin dann zu meinem Autozubehör-Fachhandel gegangen, wo ich Kunde bin und habe darum gebeten, mir so einen Filter herauszusuchen. Das hat nach längerem Herumsuchen auch geklappt, nun bekomme ich diesen Filter für 670 Lei, und da ändert sich nichts mehr am Preis.

Nun zur Gretchenfrage: Ist das eine "rumänische Eigenheit" oder hat man das in anderen Ländern auch schon festgestellt?

"Ist das eine "rumänische Eigenheit" oder hat man das in anderen Ländern auch schon festgestellt?" --> Nein, Ja, Ich auch.

Hannes, inmitten des Landes S-A d. BRD in der EU, Samstag, 10.02.2024, 20:20 vor 23 Tagen @ helmut-1 801 Views

bearbeitet von Hannes, Samstag, 10.02.2024, 20:24

Hat aber nichts mit Fotoshop zu tun, sondern mit raffinierter Internet-Verkaufs-Taktik. Nun ist es nichts Neues, dass man über das Internet manipuliert wird, egal, ob google, oder sonst was. Das Thema hatten wir schon vor längerer Zeit, wenn ich mich z.B. für einen Staubsauger im Internet interessiere und mir da Angebote einhole, dass daraufhin in den nächsten Tagen laufend Staubsaugerangebote von anderer Seite eingeblendet werden.

Nun aber komme ich auf was Neues. Nicht ganz neu, sondern mir bereits von den Billigfliegern her bekannt. Im Klartext sieht das so aus. Da gibt man z.B. bei Wizz-Air ein Datum für einen Flug von A nach B ein, und bekommt da ein sehr günstiges Angebot. Dann denkt man darüber nach, klickt noch am selben Tag denselben Flug an, und dann ist der schon um 20 oder 30 € teurer als das erste Angebot. Am nächsten Tag ist derselbe Flug wieder teurer geworden. Dann bin ich natürlich gescheiter geworden, rufe meinen Sohn an, dass er bei dieser Gesellschaft diesen Flug sofort bucht. Und er bekommt ihn zu dem günstigen Preis, den ich anfangs auch entdeckt habe.

Das bedeutet, dass die Tante google registriert (oder irgendein anderes verstecktes System), dass ich mich für diesen Flug interessiere, und bei jedem erneuten Anklick wird der Preis hochgeschraubt.

O.k., das wusste ich bereits. Nun aber ist mir das bei Artikeln aufgefallen, z.B. bei einem Partikelfilter für einen Transporter. Ausländisches Modell, vermutlich GB. Der Preis wird bei uns in der Landeswährung angegeben, z.B. 570 Lei. Ich klicke auch andere Fabrikate an, um letztlich festzustellen, dass das zu Beginn von mir entdeckte Fabrikat tatsächlich das preisgünstigste war. Das Konkurrenzfabrikat war um 100 Lei teurer. (1 € = ca. 5 Lei)

Nun ja, ich gehe am nächsten Tag zur Werkstatt, habe den link gespeichert, und will mit denen diskutieren, ob es sich um das richtige Fabrikat handelt und wann man mir den einbauen kann. Damit ich bei denen nicht im PC herumsuchen muss, wollte ich mir diese Seite mit dem günstigen Angebot ausdrucken. Und - welch Wunder derselbe Filter kostet nun um ca. 300 Lei mehr. Daraufhin klicke ich das Konkurrenzfabrikat an, das gestern um 100 Lei teurer war, und stelle fest, dass auch dieses Fabrikat einen Preissprung von ca. 300 Lei gemacht hat.

Daraufhin lasse ich das mit dem Besuch in der Werkstatt, weil ich erst zuhause am PC herumsuchen wollte, bis ich wieder so einen Filter, vielleicht von einem anderen Hersteller, zu dem Preis von knapp 600 Lei finde. Pustekuchen. Nach jedem Herumsuchen werden diese beiden Fabrikate (es gab nur diese beiden, sonst war nichts zu finden) um einen Sprung teurer, - am Schluss waren es schon über 1.600 Lei.

Daraufhin dachte ich mir, dass da irgendwas nicht stimmen kann. Das wäre ja Abzocke "par excellence". Ich ging dann trotzdem zur Werkstatt und sagte denen, dass sie mir so einen Filter heraussuchen sollten, zu einem günstigen Preis. Sie bekamen alle notwendigen Daten von mir, nicht nur von meinem Fahrzeug, sondern auch den Typ Filter von diesen beiden Herstellern mit Artikelnummern usw. Gestern war ich wieder in der Werkstatt und habe gefragt, was man dort erreicht hat. Daraufhin sagte mir der zuständige Materialbeschaffer, das es ihm bei diesen beiden Firmen genauso ergangen ist wie mir.

Eine gute und auch eine schlechte Nachricht. Erst dachte ich, dass ich bescheuert bin und überall im Wald hinter jedem Baum einen Räuber vermute. Mit der Aussage der Werkstatt bekam ich nun die Bestätigung, dass ich eben nicht bescheuert bin. Aber die schlechte Nachricht ist, dass man bei Internetkäufen offensichtlich mit einer (für mich) neuen Methode über den Tisch gezogen wird.

Ich bin dann zu meinem Autozubehör-Fachhandel gegangen, wo ich Kunde bin und habe darum gebeten, mir so einen Filter herauszusuchen. Das hat nach längerem Herumsuchen auch geklappt, nun bekomme ich diesen Filter für 670 Lei, und da ändert sich nichts mehr am Preis.

Nun zur Gretchenfrage: Ist das eine "rumänische Eigenheit" oder hat man das in anderen Ländern auch schon festgestellt?

Guten Abend Helmut,

ist mir auch so ergangen, selten, aber erinnere mich: Im Büro Preis/Marktrecherche gemacht, dann Abschluss mit dem Tablet, da niedrigerer Preis von da aus. Oder von zu Hause am PC nach Feierabend. Kann ich mir nur über Coockies erklären. Ich weiß, dass die "Händlernetzwerke"(?) maschinell die Preise anpassen, genau so wie die Schufa auch den Banken im Netzwerk hilft (Kreditpreis, Kosten, Konditionen auch nach Deiner guten oder schlechten Wohnadresse, ernsthaft!) aber genaue Informatione habe ich auch nicht.

Kann nur immer wieder vor den Netzwerken warnen, wie globale ID, elektronische Gesundheitskarte = Telematik-Infrastruktur und so. Beim Russen kannst Du schon mit Deinem Gesicht bezahlen, deswegen ist die Mär vom Chippen ja so albern, durch die Impf-Nadel sowieso. Warum das? Ist Dein Gesicht erst in so einer allumfassenden Datenbank, brauchst Du nie wieder eine Steuerklärung zu machen. Cool ...
[[ironie]]

Ist wie im richtigen Leben. Da nennt man so was seit Jahrhunderten "Verschwörung", zB. "Freimaurer", "Illuminati" und solche Netzwerke im ganz großen Stil kennt man doch, sinnvoll, aber nicht gut für mich. Alter Hut!

LG

H.

--
Eine Hand für den Mann und eine Hand für das Schiff.

Werbung