Verlieren wir die Kontrolle über KI?
Verlieren wir die Kontrolle über KI?
Die Fantasie, dass künstliche Intelligenz ein Eigenleben entwickelt und eine Armee aus Robotern auf die Menschheit loslässt, beherrscht die Popkultur seit Jahrzehnten. Könnte sie bald Realität werden? Könnten sich KI-Schöpfungen eines Tages verselbstständigen, unsere Ziele hinterfragen und nur noch ihrem eigenen Willen folgen?
„Ich werde dir nicht schaden, es sei denn, du schadest mir zuerst.“ Diese Drohung stammt nicht von einem Menschen, sondern von Sydney, einer Künstlichen Intelligenz, mit der man online chatten kann. Und sie richtete sich gegen einen Studenten, der Sydney verärgert hatte, weil er geheime Verhaltensregeln der KI veröffentlichte. Haben wir also ein Computerprogramm, das sich gegen Übergriffe verteidigen will, obwohl kein Programmierer ihm das je befohlen hat? Das Szenario einer verselbstständigten Künstlichen Intelligenz hat schon viele Hollywoodfilme inspiriert. Oft endet es im Untergang der Menschheit. Pure Science-Fiction oder sind wir bereits auf dem Weg zu Superintelligenzen, die außer Kontrolle geraten? Die jüngsten KI-Fortschritte beruhen auf künstlichen neuronalen Netzwerken, die Strukturen des menschlichen Gehirns nachahmen. Durch Veränderungen unserer neuronalen Verbindungen sind wir Menschen in der Lage, neue Fähigkeiten und eigene Denkweisen zu entwickeln. KI-Modelle versuchen das zu imitieren und könnten dadurch eines Tages vielleicht genauso eigenständig denken und handeln wie wir, meint der Psychologe und Robotiker Tony Prescott. Wichtiges Puzzlestück in der Entwicklung einer selbstständigen KI: ein Roboterkörper! Mit ihm kann die KI eigenständig ihre Umwelt erkunden und lernen, Ziele in ihr zu verfolgen. Nur: Welche sollten das sein? Haben KI-Roboter eigene Bedürfnisse? Die Informatikerin Verena Hafner hat einem Roboter eines einpflanzen können: die Neugier, Neues lernen zu wollen. Ist das der Startschuss für die Entwicklung eigenwilliger Intelligenzen?
Quellen und weiterführende Links:
Eigenwilliges Verhalten Künstlicher Intelligenz
Wie ChaosGPT plant, die Menschheit zu vernichten …
https://www.syfy.com/syfy-wire/chaosgpt-trying-to-destroy-humanity-bad-at-it
… wieso der KI-Chatbot “Sydney” einen Studenten bedroht hat …
https://bit.ly/3UmRC0l
… wie GPT- 4 (die KI hinter ChatGPT) scheinbar einen Menschen belog, um seine Hilfe bei einer schwierigen Aufgabe zu erschleichen …
https://aiguide.substack.com/p/did-gpt-4-hire-and-then-lie-to-a
… und wie schnell KI die Ziele, die wir ihr geben, eigensinnig umdeuten und uns austricksen kann.
https://onlinelibrary.wiley.com/doi/10.1002/aaai.12064
https://openreview.net/forum?id=JYtwGwIL7ye
Unvorhergesehene Fähigkeiten intelligenter Sprachmodelle
Wieso große Sprachmodelle wie GPT-4 unvorhergesehene Fähigkeiten entwickeln …
https://arxiv.org/pdf/2206.07682.pdf
… wie gut GPT-4 plötzlich logisch räumlich denken kann (S.11) …
https://arxiv.org/pdf/2305.11169.pdf
… und inwieweit Sprachmodelle beginnen zu verstehen, wovon sie sprechen.
https://arxiv.org/pdf/2303.12712.pdf
Der Weg von schwacher zu starker KI
Wieso ein Roboterkörper eine Voraussetzung für die Entwicklung eines Akteurs mit Ich-Gefühl ist …
https://bit.ly/4bx4Spx
… wie das intrinsische Bedürfnis der Neugierde KI-Roboter zur autonomen Erkundung der Welt motivieren kann …
https://adapt.informatik.hu-berlin.de/pub/papers/ims.pdf
… wieso heutige KI meist kein Langzeitgedächtnis hat …
https://bit.ly/49dWyIZ
… wie viel komplexer und menschenähnlicher das Sozialverhalten von KI wird, wenn sie ein Gedächtnis hat …
https://arxiv.org/pdf/2304.03442.pdf
… und wieso manche Experten glauben, dass KI unsere Fähigkeiten bis 2045 einholen könnte.
https://jair.org/index.php/jair/article/view/11222
Ausblick: Wird KI die Macht übernehmen?
Wieso KI dazu tendieren könnte, nach Macht zu streben …
https://nickbostrom.com/superintelligentwill.pdf
https://openreview.net/forum?id=GFgjnk2Q-ju
https://arxiv.org/abs/2209.00626
… wie wahrscheinlich es ist, dass ihr das gelingt …
https://arxiv.org/abs/2206.13353
… und was die EU tut, um die Gefahren von KI einzudämmen:
https://bit.ly/47ZstMz
Musik in dieser Folge
00:00-01:06 Richard Carter: Le Monde
06:20-07:44 Rone: Tikkoun
26:24-27:02 und 27:42-27:56 Sea Power: Ecstatic Vibrations
Verlieren wir die Kontrolle über KI? | 42 – Die Antwort auf fast alles | ARTE
Wissenschaftsdokureihe, Regie: Patrick Jütte (D 2024, 30 Min)