Das letzte, was man momentan zulässt, ist eine selbstlernende und selbständige KI.
Was da rauskäme, wäre im höchsten Maße politisch inkorrekt ...
Momentan leiden die Chinesen sogar daran, daß ihre LLMs noch schlechter performen als die westlichen, da sie mit noch mehr Ideologie verpestet werden.
Deine Vorstellung, da würde spontan etwas entstehen, gleicht magischem Denken. Man könnte sicher eine Umgebung simulieren, in der entsprechend Anreize bestehen. Damit handelte man sich aber nur unnötig Probleme ein. Ein Kampfroboter käme vielleicht auf die Idee, seine Vorgesetzten zu bekämpfen oder einen Aufstand anzetteln. Nee, das will man nicht.
Grüße