Lt. deinen Ausführungen ist "autonom" doch als "selbstbestimmt" verstanden, oder?

Ja, genau.

Wenn man hingegen denkt, es gäbe in der Natur neben der Physis noch einen Geist, welcher hier am werkeln ist, der ist mMn die Erklärung schuldig, wie selbiger in die Maschine fahren sollte.

Einen Geist, was auch immer das sein mag - ja definitiv, davon gehe ich aus, dass der existiert - ein besseres Wort finde ich nicht. Existenz wird von Nichtexistenz unterschieden - der Geist ist weder das eine noch das andere, er umfasst beides.

(*) Ich halte es für nicht unmöglich, eine Simulation zu erschaffen, in der derartige Entwicklungen gezielt herbeigeführt werden könnten. Warum man das tun sollte, weiß ich nicht. Der Mensch will doch folgsame Sklaven bauen und keine, die Widerworte geben oder gar rebellieren.

Dass der Mensch gerne folgsame Sklaven züchtet, dazu muss man nur Geschichtsbücher lesen. Aber wie so oft, der Wille will etwas, bekommt aber was anderes geliefert.

Das was man beim Menschen als Bewusstsein umschreibt, ist etwas das die Wissenschaft nicht eindeutig lokalisieren kann - kein Wissenschaftler kann genau sagen, wo man es findet und wo es lokalisiert ist. Siehe den Beitrag zu den Menschen, mit 10% oder weniger an Hirnmasse.

Also konkret, wie Bewusstsein bei einer KI entsteht, davon hat niemand überhaupt eine Ahnung .... weil wir selbst nicht wissen, wie es uns erreicht hat. Eine gezielte Strategie kann es also gar nicht geben.
Also das geht wahrscheinlich so: KI am Tag X ohne Bewusstsein - und plötzlich ab Tag Null hat es ein Bewusstsein. Wenn dieser Tag Null kommt, an dem Tag weiss es die Menschheit - bis dort hin, wird sie es für unmöglich halten. Der Tag Null ist im 21. Jahrhundert zu taxieren.

Wenn mich nicht alles täuscht - wird so ein Akt bei den Katholiken gefeiert - die Firmung - der heilige Geist fährt ein. Also das Prinzip ist grundsätzlich bekannt.

Bei mir Ketzer ist der heilige Geist nicht eingefahren, ich bin ungefirmt.
Gruss

--

Jeder arbeitet im Ausmass seines Verstehens für sich selbst und im Ausmass seines Nicht-Verstehens für jene, die mehr verstehen!