[Project Q*] Hat die Entlassung von Altman (OpenAI) mit einem Durchbruch bei AGI (Artificial General Intelligence) zu tun?

FOX-NEWS @, fair and balanced, Freitag, 24.11.2023, 11:23 vor 146 Tagen 3627 Views

Heise: Gründe für Altmans Entlassung: Angeblich Durchbruch bei AGI

Das Aufsichtsratsgremium von OpenAI soll einen Brief von Mitarbeitern bekommen haben, in dem diese vor den neuesten Entwicklungen im Bereich Künstlicher Intelligenz warnen. Konkret soll OpenAI einen Durchbruch in der Entwicklung einer AGI erreicht haben, also einer Artificial General Intelligence, die intelligenter sein soll als der Mensch. In dem Brief stand laut Reuters, dass es sich bei den Entwicklungen um eine "Bedrohung für die Menschheit" handeln könnte. Die zunächst auf den vergangene Woche gefeuerten Sam Altman gefolgte Interimschefin Mira Murati soll vor den Mitarbeitern über das sogenannte "Project Q*" gesprochen und den Brief erwähnt haben.

An anderer Stelle ist zu lesen, daß Altman das intern besprochen hätte, ohne auch den Aufsichtsrat zu informieren, was die anscheinend angepisst hat ... :-P

Das "Project Q*" soll ein neues KI-Model sein, das bestimmte mathematische Probleme lösen konnte, berichtet Reuters und zitiert einen anonymen Insider. Das soll Mitarbeiter in Bezug auf die Entwicklung einer AGI sehr optimistisch gestimmt haben – konkreter wurde es nicht.

Das ist spannend. Wenn das System nur mit vortrainierten Grundkenntnissen darauf aufbauende Erkenntnisse erarbeiten könnte, wäre das ein großer Schritt. Bisher wird ja größtenteils nur rekombiniert.

Grüße

--
[image]
Läuft in Deutschland ...

Ich fände es besser, wenn in dem Bereich keine Fortschritte gemacht werden.

Dieter @, Freitag, 24.11.2023, 11:53 vor 146 Tagen @ FOX-NEWS 2805 Views

auch wenn es heißt, daß dadurch viele Bereiche unserer Existenz verbessert, erleichtert werden usw.

Dann lieber das "mühsame" Leben und wir behalten unsere eigene Intelligenz, die ansonsten immer weniger gefordert wird und somit abgebaut wird.


Gruß Dieter

--
Es wird Zeit, daß die NATO, eine aggressive Partei, verlieren lernt.

Keine Sorge, Wir behalten unsere Intelligenz, nur die nach uns werden immer blöder ...

FOX-NEWS @, fair and balanced, Freitag, 24.11.2023, 13:55 vor 146 Tagen @ Dieter 2415 Views

[[euklid]] [[euklid]] [[euklid]]

Aber vermutlich wird man da kaum einen Unterschied feststellen, denn schon heute sind die meisten dümmer als geschnitten Brot ... :-P

Grüße

--
[image]
Läuft in Deutschland ...

Bei Heise sind sie z.T. anderer Meinung

Joe68 @, Freitag, 24.11.2023, 12:40 vor 146 Tagen @ FOX-NEWS 3548 Views

...Wie aber konkret diese Entwicklung zur Entlassung Altmans geführt haben soll, ist allerdings unklar. The Verge schreibt, von einem Informanten erfahren zu haben, dass es einen solchen Brief sogar gar nicht gab. Dabei heißt es von anderen Quellen, dass der Brief nur ein letzter Grund gewesen sei, Altman soll sich zuvor bereits mehrfach Verfehlungen geleistet haben, berichtet Reuters. Über diese ist wenig bekannt, es soll unter anderem um die Vermarktung von Entwicklungen gehen, ohne die Konsequenzen abschätzen zu können. Klar ist auch, dass das Aufsichtsratsgremium Altman vorgeworfen hat, nicht ausreichend kommuniziert zu haben, was das Board an der Erfüllung seiner Aufgaben gehindert haben soll. Dennoch ist Altman nach einigem Gerangel zurück als CEO.

Warnungen vor KI – von realen Bedrohungen bis Marketing...

https://www.heise.de/news/Gruende-fuer-Altmans-Entlassung-Angeblich-Durchbruch-bei-AGI-...

--
Der ungerechteste Friede ist noch immer besser als der gerechteste Krieg - Cicero

Silicon Valley Church of AI-Alignment

Ashitaka @, Samstag, 25.11.2023, 16:28 vor 144 Tagen @ FOX-NEWS 1592 Views

bearbeitet von Ashitaka, Samstag, 25.11.2023, 16:39

Hallo FOX-NEWS,

ich kann in dem Zusammenhang nur auf die aktuell vermehrten Zuwortmeldungen von Gary Marcus und Emily Bender verweisen um den Überblick zu behalten. Mit Ersterem Kirchenkritiker habe ich mich schon mal vor einiger Zeit über X im Kommentarbereich austauschen dürfen.

Letztere hat auch einen Podcast am Start, der einen wirklich aufweckenden Gegenpart zu den immer irrer werdenden Heraufbeschwörungen / Hype Strategien der Tech-Szene darstellt. Am besten schaut man sich einmal die Folge von Churchspeaker Lex Friedman mit Sam Altman an und lauscht danach einer ihrer Podcastfolgen über Altman und die Verblendung der Sprachmodellunternehmen.

http://faculty.washington.edu/ebender/

Mystery AI Hype Theater 3000

Herzlichst,

Ashitaka

--
Der Ursprung aller Macht ist das Wort. Das gesprochene Wort als
Quell jeglicher Ordnung. Wer das Wort neu ordnet, der versteht wie
die Welt im Innersten funktioniert.

Sorry, diese Podcasts mögen inhaltlich gut sein, ich ertrage das Gequatsche drumrum nur nicht ...

FOX-NEWS @, fair and balanced, Sonntag, 26.11.2023, 08:32 vor 144 Tagen @ Ashitaka 1146 Views

[[sauer]]

Die Limitierungen der LLMs sind hinreichend bekannt und nicht ohne Grund werden die "weiche KI" genannt. Ob man diesen Weg mit Ziel AGI erfolgreich weitergehen kann, darf bezweifelt werden.

Bei den neuronalen Netzen sollte man sich vielleicht mehr auf Anwendungs- und Methodenwissen konzentrieren und dem eine mundgerechte Faktendatenbank zur Seite stellen. Ich hatte einen Durchbruch in der Richtung vermutet.

Die heutigen LLMs sind sprach-/text-trainiert und entsprechend super sind auch die Ergebnisse - es sind gute Übersetzer und Geschichtenerzähler. Mit Dummschwätzern ist die Menschheit allerdings schon ausreichend versorgt ... :-P

Grüße

--
[image]
Läuft in Deutschland ...

S&P500 in 2023 nur wegen KI-Hype gestiegen

Rybezahl, Samstag, 25.11.2023, 17:09 vor 144 Tagen @ FOX-NEWS 1369 Views

Hallo!

Mein Verdacht erhärtet sich: Das Thema KI wurde letztlich nur deshalb (verfrüht!) vom Stapel gelassen, um die Aktienmärkte zu stabilisieren. Der M. Fugmann von Finanzmarktwelt hatte es kürzlich vermeldet - der S&P500 sei letztlich nur wegen des KI-Rausches im Plus. Umgekehrt: Ohne KI-Hype wäre der S&P500 dieses Jahr im Minus.

Die Hype-Dichte steigt mit dem Verfall des Systems natürlich auch exponentiell.

"Hyper, Hyper!" :-P

Na ja, diesen Klowns fällt bestimmt wieder etwas ein, wie immer. Ohne Ende, bis zum Ende.

Gruß!

Haarsträubend, das alles

sensortimecom ⌂ @, Samstag, 25.11.2023, 18:10 vor 144 Tagen @ FOX-NEWS 1678 Views

bearbeitet von sensortimecom, Samstag, 25.11.2023, 18:15

Was ich glaube, ist: Dass wahrscheinlich eine Reihe von KI-Entwickler durch die damit verbundene geistige Überbeanspruchung VERRÜCKT geworden sind.:-)

Womit eine Hyper-KI, die der Menschheit gefährlich werden könnte, allein schon deshalb ausgeschlossen ist. Eine bestehende KI ist nicht imstande, aus sich heraus (ohne menschliches Zutun) zur "Hyper-KI" (AGI) weiter zu wachsen. Anderseits wieder sind verrückt Gewordene klarerweise nicht imstande, bestehende KI zur AGI weiter zu entwickeln!

Womit sich das Problem von selbst löst :-) :-)

Wird noch haarsträubender: Der "Club" ist dort gut vertreten - Alles nur Show

Ikonoklast @, Federal Bananarepublic Of Germoney, Samstag, 25.11.2023, 20:19 vor 144 Tagen @ sensortimecom 1650 Views

Alles nur eine Aufführung für den Pöbel...

Larry Summers stößt zu OpenAI:

https://www.cnn.com/2023/11/22/tech/larry-summers-openai-board-sam-altman/index.html

Ja, der ist natürlich auch im "Club":

https://web.archive.org/web/20230605175042/https://www.weforum.org/agenda/authors/lawre...


Und Sam Altman ist auch im "Club":
https://web.archive.org/web/20231119223635/https://www.weforum.org/people/sam-altman/

Der Club braucht den Mist wohl für seinen Transhumanismus oder als Ausrede für Cyberpoligon [[zwinker]]

--
Grüße

[image]

---

Niemals haben wir "unser" Leben im Griff!

Die meisten von uns ziemlich gut, ohne es zu wissen.

Ein weiteres Problem: KI generell nicht patentierfähig

sensortimecom ⌂ @, Samstag, 25.11.2023, 18:39 vor 144 Tagen @ FOX-NEWS 1537 Views

Die DPMA und andere Patentämter haben bei einem Treffen 2022 festgestellt, dass KI nicht patentierfähig ist. Auch ein KI-Programm, das sich als "Erfinder" betätigt, und selber eine Patentanmeldung schreibt, ist es nicht. Das dürfte auch in den USA (USPTO) inzwischen bekannt sein und so gehandhabt werden. Algorithmen sind übrigens per se schon seit langer Zeit von Patentierung ausgeschlossen.

Womit das Ganze sehr problematisch ist. Denn es besteht nur Copyright-Schutz für das Programm selbst, und ob der ausreicht, um Monopole zu erwirken, zb. auf ChatGPT, darf bezweifelt werden.

Das wäre mir als KI-Betreiber völlig Wurst

FOX-NEWS @, fair and balanced, Sonntag, 26.11.2023, 00:24 vor 144 Tagen @ sensortimecom 1319 Views

Was "meine" KI erfindet, melde ich zum Patent an ... :-P

Grüße

--
[image]
Läuft in Deutschland ...

Du brauchst kein Patent, die Nutzung wird kostenpflichtig

Joe68 @, Sonntag, 26.11.2023, 09:29 vor 144 Tagen @ FOX-NEWS 1285 Views

Ich hatte vor 25 Jahren mit einem neuronalen Netz, von einem deutschen IT Mittelständler, experimentiert.

Die wollten damals eine zweite Google werden und das neuronale Netz als Suchmaschine vermarkten.

Meine Idee war damals, die Suchmaschine mit Kundenmeldungen zu füttern/trainieren, damit gleichartige Probleme mit einem automatisierten Workflow beantwortet werden können.

Prinzipiell hat es funktioniert, die Trefferrate Texterkennung, war aber mit jeder anderen Suchmaschine gleichwertig, da war kein signifikanter Vorteil. Außerdem hatte mein Arbeitgeber damals auch eine eigene Suchmaschine in der Entwicklung, so das ich das Projekt nicht weiter verfolgt habe.

Der deutsche Mittelständler, die SER AG, ist inzwischen Pleite. Deren größter damaliger Konkurrent, im neuronale Netze Bereich, wurde vor ca 15 Jahren von HP aufgekauft, um kurz darauf mehrere Milliarden abschreiben zu müssen, da die Umsätze doch zu aufgebläht waren.

Ich hatte das neuronale Netz als ausführbares Programm auf meinem PC, ganz ohne Patent, denn ich hatte keinen Zugang zum Quellcode.

--
Der ungerechteste Friede ist noch immer besser als der gerechteste Krieg - Cicero

Genau diese Methode wird dem Patentwesen endgültig den Garaus machen

sensortimecom ⌂ @, Sonntag, 26.11.2023, 14:29 vor 144 Tagen @ FOX-NEWS 1196 Views

Das ist längst schon im Gange. Kein Prüfer kann feststellen, ob eine eingereichte Patentschrift von einer KI stammt oder Ergebnis einer menschlichen Gehirnverwindung ist.

Für künftige wissenschaftliche Arbeiten, Dissertationen usw., gilt dasselbe.

Vor 25 Jahren schon hab ich auf meiner Website einen Artikel geschrieben, dass man eine neue Weltordnung braucht, wenn das Patentwesen kaputt ist. Das ist es inzwischen (dazu kannst auch x andere Quellen, insbes. aus den USA googeln, die darüber schreiben) - aber künftig kommts noch dicker, wenn das Uni-System auch dran kommt.

Ich erkenne dein Problem nicht

FOX-NEWS @, fair and balanced, Sonntag, 26.11.2023, 17:29 vor 143 Tagen @ sensortimecom 1097 Views

Das ist längst schon im Gange. Kein Prüfer kann feststellen, ob eine eingereichte Patentschrift von einer KI stammt oder Ergebnis einer menschlichen Gehirnverwindung ist.

Spielt das eine Rolle, woher ich meine Ideen habe?

Für künftige wissenschaftliche Arbeiten, Dissertationen usw., gilt dasselbe.

Das ist nur relevant, solange diese "Arbeiten" als Befähigungsnachweis herangezogen werden.

Vor 25 Jahren schon hab ich auf meiner Website einen Artikel geschrieben, dass man eine neue Weltordnung braucht, wenn das Patentwesen kaputt ist. Das ist es inzwischen (dazu kannst auch x andere Quellen, insbes. aus den USA googeln, die darüber schreiben) - aber künftig kommts noch dicker, wenn das Uni-System auch dran kommt.

Das ist deine subjektive Ansicht, andere finden es klasse, so wie es ist. Wer hat recht?

Grüße

--
[image]
Läuft in Deutschland ...

Werbung