Wird KI Amok laufen und wie kann das aussehen?
... schaffen wir uns mit künstlicher Intelligenz, die Mittel zur eigenen Zerstörung? Ist KI die digitale atomare Waffe, mit dem Potenzial zur Selbstzerstörung?
Wird KI Amok laufen und wie kann das aussehen?
Dieser Frage gehen wir ab sofort in unseren Fre!Talks Gesprächen nach. ThinkD!gital auf: https://about.riot.im/
Back to Humans, der Soundtrack zum Artikel am Ende ...
FairUse Image by Marvel https://en.wikipedia.org/wiki/Fair_use
_from_Infamous_Iron_Man_Vol_1_2_004.jpg){kind=link}
"Ich denke, dass ein menschliches Aussterben wahrscheinlich stattfinden wird, und Technologie wird dabei wahrscheinlich auch eine Rolle spielen." Elon Musk
Und Musk liefert auch gleich ein amüsantes aber zum Nachdenken geeignetes Beispiel:
Nehmen wir an, Sie schaffen eine sich selbst verbessernde KI, um Erdbeeren zu pflanzen. Die selbst lernende Maschine sucht dabei ständig nach dem effektivsten Weg, diese Aufgabe zu lösen.
Dabei stellt sie fest, - um den Ertrag zu optimieren, muss sie das gesamte Festland unseres Planeten mit Erdbeerfeldern überziehen.
(...) Die Apokalypse, als Nebeneffekt einer an die Maschinen gestellte Aufgabe, wird dann zur Folge haben, dass die Menschheit wegen Erdbeeren ausgerottet wird.
Quelle: https://www.vanityfair.com/news/2017/03/elon-musk-billion-dollar-crusade-to-stop-ai-space-x
Mehr über die ThinkD!gital unter: https://sites.google.com/view/netcommunic/startseite
Der Soundtrack zu diesem Beitrag:
https://open.spotify.com/user/21ucblmqrklopnxlnwqstyj5q/playlist/1WnpaxpSiWgMBV1KJ2UivA
Dafür gibt es doch die Gesetze von Asimov, um genau solch ein Szenario zu vermeiden.
... hallo Sabih. Danke für Deinen Kommentar.
Im Zeitalter von #DeepLearning, also selbstlernenden Systemen, scheinen mir von Mensch gemachte Regeln möglicherweise unwirksam.
Isaac Asimov ging noch davon aus, die Computer zu programmieren, also quasi zu erziehen und zu regulieren.
Die Forscher bei Facebook mussten vor nicht allzu langer Zeit eine KI (zunächst) abschalten, weil keiner mehr folgen konnte was die KI vorhatte https://motherboard.vice.com/de/article/qv84p7/ausser-kontrolle-geraten-warum-facebook-seine-kunstliche-intelligenz-wirklich-abschalten-musste
Man sollte bedenken, dass es keine KI gibt. Die Beschreibung wird zwar überall genutzt, trifft jedoch bisher nirgendwo zu. Das ist vergleichbar mit den Boards mit zwei Rädern, die man einfach Hoverboards nennt, obwohl es keine sind.
Interessant wäre das genannte Beispiel, hätte einer der beiden einen dritten Bot erschaffen, um seine Position zu stärken. Dabei hätte es zu dieser Möglichkeit keinen Ansatz vom Code her dazu geben dürfen. Das ist aber nicht passiert, sondern die blieben innerhalb des programmierten Rahmens. Das hat mit künstlicher Intelligenz nichts zu tun, sondern ist einfach eine Maximierung von If-Schleifen.