Ich habe das so verstanden, dass diese neuronalen Netzwerke wahnsinnig viele Daten brauchen, um sinnvoll trainiert zu werden und dass das viel Geld, viel Energie braucht und daher nur von Google & Co. geleistet werden kann. Wie also werden diese "freien" KIs trainiert? Oder sind das nur Varianten der Konzernmodelle? Oder ist mein Informationsstand nicht zutreffend?

...zumindest zum Teil sind es freigegebene Konzernmodelle (die ja auch mit z.B. persönlichen Dokumenten usw. umtrainiert werden können, soviel ich weiß, habs noch nicht probiert), ich glaube Meta (Zuckerberg/Facebook) hat das mit der Freigabe angefangen. Die riesigen Datenmengen braucht man m.E. vor allem für die LLMs (Large Language Models) und Bilderkennung.

Um einer KI Mathe beizubringen oder Programmieren, hat man ganz andere Anforderungen. Aber frag mich nicht, wie das im Detail gemacht wird, ich stehe da selbst noch ganz am Anfang
Ein Teil ist wohl "Reinforcement Learning":
https://de.wikipedia.org/wiki/Best%C3%A4rkendes_Lernen

Es gibt wohl mittlerweile einige tausend Modelle zum runterladen und jeden Tag ändert sich was, ich weiß auch nicht, wie komplett offene KIs trainiert werden. Die hängen vermutlich auch noch einiges hinter den kommerziellen Modellen zurück, wenn man sich überlegt, dass die Konzerne mittlerweile Atomkraftwerke kaufen, um ihre KI-Cluster mit günstigem Strom versorgen zu können (andererseits stellen sie das ja online und brauchen dafür Rechenkapazität, dass brauchen Open Source-Offline-Modelle nicht)... aber neue Praktiken sprechen sich da auch herum, es gibt Wettbewerbe usw. da ist gerade mächtig Musik drin und natürlich kann man auch mit KI andere KI trainieren und die auch irgendwie zusammenarbeiten lassen.

Man findet eine Unmenge Sachen bei youtube dazu. Ich hangle mich da immer von den interessanteren Anbietern, wie Morpheus (der selbst entwickelt):
https://www.youtube.com/@TheMorpheusTutorials/videos
über die youtube-Empfehlungen weiter.

Die hier sind auch gut, als Einstieg:
https://www.youtube.com/@DigitaleProfis/videos

Die Entwicklung hat nvidia zu einem der wertvollsten Unternehmen der Welt gemacht, weil die spezialisierte Hardware für neuronale Netze verkaufen, mittlerweile werden NPUs (Neuronal Processing Unit oder so) zusätzlich zu CPU und GPU verbaut, die auf neuronale Netze optimiert sind.

Ich will mir auch mal noch so einen Boliden kaufen, damit ich die größeren Modelle laufen lassen kann, aber eine Weile werde ich noch warten, da passiert einfach sehr viel zur Zeit und ist auch noch ziemlich teuer.