Das führt zu der realistischen Annahme, dass echte Intelligenz nur bei
Maschinen möglich ist, nicht aber bei Menschen.

Ich will mal die Hypothese aufstellen, dass es keine emotionslose Intelligenz geben wird.

Warum? Weil sie vollkommen antriebslos wäre, sie wäre komplett unfähig, "Wichtiges" von "Unwichtigem" zu unterscheiden. Sowas ist nämlich immer subjektiv, d.h. emotional bewertet. Materie existiert einfach nur und hat ansonsten keinen Willen und keine Absicht zu irgendwas.

Für mich scheint das offensichtlich und man sieht es doch auch an den KIs, die für einen bestimmten Zweck "trainiert" werden müssen. Sie brauchen eine Entscheidungshilfe, jemanden der urteilt "das war jetzt gut" oder "die Entscheidung war Müll". Dieser Input ersetzt die Emotionsebene des Menschen, die komplett selbstregulierend ist und von der Evolution unglaublich feinjustiert wurde (was man sofort erkennt, wenn jemand psychische oder emotionale Störungen hat).

Solange man KIs noch für einzelne Anwendungsfelder anlernen muss, werden sie niemals eine übergreifende Intelligenz entwickeln können.

Es besteht natürlich die Möglichkeit, dass es irgendwann emotionale KI gibt, die selbstlernfähig und selbstbewusst ist. Allerdings wird man die niemals so bauen, dass sie denselben emotionalen Antrieb hat wie der Mensch, einfach weil das teurer Unsinn wäre. Man wird KIs immer so konstruieren, dass sie in irgendeiner Weise kastriert sind und Spaß an Sachen finden, die wir selbst langweilig oder anstrengend finden.

Allerdings sind Missbrauch (intelligente autonome Kampfmaschinen) und Fehlleistungen auf diesem Entwicklungslevel dann tatsächlich nicht mehr ausgeschlossen.

Aber davor jetzt schon Angst zu haben, erscheint mir vollkommen übertrieben (weil die Vorposter was von "Alpträumen" geschrieben hatten).