...ich würde gern KI in der Entwicklung einsetzen, aber in unserer Firma ist noch total unklar, ob das überhaupt erlaubt wird, geschweige denn, dass es gefördert würde.

Das Hauptproblem ist in jeder Hinsicht die Hardware und ihr Standort. Nutzt man eine externe KI, muss man den Quelltext bestehender Software hintransferieren, was aus verschiedenen Gründen problematisch ist, wenn man "closed source" entwickelt.

Davon abgesehen, kostet das (will natürlich niemand aus privater Tasche zahlen, eine Firmenregelung gibt es aber noch nicht). Dazu kommt, dass der "Kontext", also das was die KI analysieren kann (z.B. um einen Bug zu finden), noch arg beschränkt ist. Eine Million "Token" ist m.W. aktuell der Stand besserer KIs, für ein größeres Projekt ist das aber viel zu wenig.

Um die KI lokal laufen zu lassen, bräuchte man starke Hardware und ordentlich RAM. Aussichtslos das hier in der Firma zu bekommen, gerade bei den aktuellen Höchstpreisen, nvidia und Co sind ja regelrecht unverschämt geworden, nutzen ihren Technikvorsprung, um Kartellpreise zu verlangen usw. Ich verwalte auch einiges an Kundenhardware, der beste Rechner, an den ich aktuell herankomme, hat 16 GByte RAM, wohlgemerkt RAM, kein VRAM (= VideoRAM = Speicher der Grafikkarte) was viel angemessener wäre (RAM sollte wenigstens 64 GByte sein), will man größere Modelle laufen lassen.

Ich bin sicher, das wird sich alles lösen, aber die Räder in der Wirtschaft laufen teilweise ziemlich langsam und die Entwicklung ist noch ganz am Anfang. Ich sehe absolut das Potential und bin deswegen ein bisschen frustriert. Aber vielleicht ist es besser so...