Auf Kriegsfuß mit der KI

Hallo Ashitaka,

denn sowohl Gemini,

"Gemini" war mir bisher nur als Sternbild bekannt. Wird wohl die Google-AI sein.

als auch ChatGPT liefern diesbezüglich kurze aber exakte Antworten. Selbst mit so amateurhaften Prompts (nicht falsch verstehen, ich prompte auch oftmals ohne Hintergrund meiner Fragestellung, ohne örtliche, zeitliche und branchentechnische Einrahmung)

Bei jeder herkömmlichen Websuche zeigt mir Google einen AI-Text, den ich auch in diesem Fall gelesen hatte. Ich kann gar keinen AI-geeignete Suchanfrage stellen.

liefern die Dullimodelle schon ganz gute Zusammenfassungen.

Was mich gerade vielmehr erschreckt sind die deutlich länger gewordenen, ein- und ausleitenden Einheitsbreitexte

Vermutlich neues Training der KIs mit akademischen Texten.

und spürbaren Ablenkungen sobald es um Quellenangaben geht.

Ein "large language model" speichert ja auch keine Quellen sondern nur die Wahrscheinlichkeit von Wortfolgen - wenn ich mich nicht irre.

Man kann es auch nirgends als Erinnerung setzen, dass die Modelle sofort auf den Punkt kommen und mir nicht in 2-3 Absätzen erklären wie interessant und wichtig diese Frage ist.

Ich wiederhole mich:
Vermutlich neues Training der KIs mit akademischen Texten.

Auch die Deep Research Funktionen sind erschreckend oberflächlich geworden und greifen vor allem den breiten Konsens hinterfragende Gedankengänge gar nicht erst auf oder biegen im Falle einer Nichtmehrheitsmeinung spürbar zu den dümmsten Quellen ab.

Ja, die wahrscheinlichsten Wortfolgen bestimmen die Ergebnisse. Die KI arbeitet somit als Narrativverstärker, das sich auch in der Häufigkeit von Internettextinhalten niederschlägt.
Da wird der "menschengemachte Klimawandel" zum unangreifbaren Faktum.

Beim Coden berichten immer mehr Intensivnutzer auf Reddit, dass die Modelle zunehmend halluzinieren und bei umfangreichem Code an kleinsten Stellen die Programmiersprache wechseln.

Ich tippe auf Training mit Quelltexten, die mehrere Programmiersprachen beinhalten, z.B. C mit Inline-Assembler.

Ohne Automatisierung kann man dann im Zweifel hunderte mal den Code korrigieren lassen. Und derweil dichten die Modelle ihn auch gerne mal neu, so dass am Ende aufgrund von Abweichungen gar nichts mehr läuft.

Das höre ich doch gerne mit tief empfundener Schadenfreude!

Die Veo3 Videogenerierung ist derzeit auch Müll und verschlimmbessert sich anscheinend, je mehr Menschen die Modelle trainieren.

Meine These: Die Menschen trainieren die KI mit einem immer weiter wachsenden Anteil von KI-Inhalten.
Im Ergebnis wird der KI-Müll weiter verstärkt und der Inhalt reduziert.
Ähnliche Ansichten hegt auch der IT-Blogger "fefe" (Felix von Leitner) auf blog.fefe.de.

Wer sich ein Bild davon machen will, wie weit wir noch von zuverlässigen, preiswerten Modellen/MCPs entfernt sind, dem kann ich nur den englischsprachigen Podcast "Mystery AI Hype Theater 3000" empfehlen.

Vor ein paar Tagen wurden mir erst die Augen geöffnet, wie weit SAP bereits in der Entwicklung von nicht billigen Modellen/Agenten im Großunternehmensbereich ist. Ganz ohne Hype Theater. Es herrscht ein völlig falscher Eindruck bzgl. den europäischen enterprise solutions. Mit diesen Dulli-Modellen der US-Tech-Giganten lässt sich nur solange etwas gewinnen, wie der Hype und die Steigerung der günstigen Abozahlen andauert. Danach erst beginnt das verbindliche KI Zeitalter und es wird für Nutzer (wohl nur Unternehmen) kostentechnisch gar nicht mehr so lustig. SAP entwickelt auch bereits im Bereich der Versicherung / Risikoanalyse. Wir wollen uns noch gar nicht vorstellen, wie teuer KI aufgrund der Haftungsabsicherung wird, wieviel die Anbieter für Rechtssicherheit bezahlen müssen.

Kreditausfallrisiken bei einer Bank und Versicherungsschäden bei einer Versicherung sind genuine Risiken die in beiden Branchen bewusst eingegangen werden. Wozu dann "Haftungsabsicherung"?

Entwickeln Google, Meta, OpenAI und Konsorten überhaupt schon Systeme für Versicherungen? Die werden da mit ihren expansiven und unverbindlichen Strategien den Anschluss verlieren und keinerlei Basis für Rechtssicherheit (am Ende Gesetzmäßigkeit) und damit erst breiten Möglichkeiten an Implementierungen / Automatisierungen liefern.

Was die Influencerszene heute an Automatisierungen feiert (n8n etc.)

Kannte ich nicht. Habe mal über deren Internetseite drübergeschaut.

ist nirgends langfristig implementierbar. Und die begeisterten Testphasen mit solchen Billiglösungen finden alle ihr Ende.

Man muss die wirklichen Enterprise Solutions (z.B. SAP) im Auge behalten. Da finden aktuell so viele Automatisierungsprojekte bei Großkunden statt. Ganz ohne Hype, arschteuer und sich systemtechnisch in eine Richtung entwickelnd, die womöglich auch versicherbar wird.

Wenn Du von SAP und Großkunden sprichst erinnert mich das an die gescheiterte Migration vom Lidl-Warenwirtschaftssystem zu SAP. Die Migration wurde in letzter Sekunde abgebrochen.

Ich bin mir aber nicht sicher, was Du im KI-Zusammenhang mit Automation meinst.

Hier noch ein Video zum Thema "Abschaltung von KI". Vielleicht hast Du den Film gesehen:

https://www.youtube.com/watch?v=V0bUd6KrQGg

Gruß
paranoia

--
Ich sage "Ja!" zu Alkohol und Hunden.