Leider keine (künstliche) Intelligenz auf orf.at


Der Hype um künstliche Intelligenzen scheint so groß zu sein, dass jegliche andere Intelligenz dabei über den Haufen geworfen wird. Forscher erschaffen psychopathische Künstliche Intelligenz, titelt orf.at am 12.6.2018. Auf science.orf.at lautet die Überschrift des detailierten Artikels „Norman“, der erste künstliche Psychopath.

Laut orf.at scheint es Forscher*innen also geglückt zu sein, eine künstliche Intelligenz (K.I.) zu erschaffen, welche psychopathische Züge aufweist. Da stellt sich doch die Frage, was ist mit psychopathisch eigentlich gemeint? Der Einfachheit halber hier die Definition von Wikipedia:

Psychopathie bezeichnet eine schwere Persönlichkeitsstörung, die bei den Betroffenen mit dem weitgehenden oder völligen Fehlen von Empathie, sozialer Verantwortung und Gewissen einhergeht. […]
(Wikipedia: Psychopathie)

Eine psychopathische K.I. sollte also manipulativ sein, Bedürfnissen anderer ignorant gegenüberstehen. Antisozial und irgendwie „böse“ eben.

K.I. Normal

K.I. Norman

Doch wie verhält sich diese böseste aller K.I.’s nun? Was haben die Forscher*innen erreicht?

[Die Forscher legten] „Norman“ […] eine Reihe von Tintenklecks-Bildern vor, ähnlich wie beim psychodiagnostischen Rorschachtest. Die Ergebnisse waren durchaus furchteinflößend: Während ein normal trainierter Algorithmus auf einem Bild „Menschen, die eng beieinanderstehen“ sah, antwortete „Norman“: „Ein Mann, der aus dem Fenster springt.“

Furchteinflössend, beängstigend? Eine K.I., welche nur Böses sieht? Wie haben dies die Forscher*innen erreicht?

Für das Experiment versorgte das Forscherteam die Künstliche Intelligenz ausschließlich mit Inhalten, die mit sterbenden Menschen zu tun hatten.
Beim maschinellen Lernen seien die Daten, mit denen die Maschine gefüttert werde, von zentraler Bedeutung, sie könnten „ihr Verhalten signifikant beeinflussen“, fassen die Forscher ihr Experiment zusammen.

Kurz gesagt also: Ein Algorithmus wird mit Trainingsdaten (eben diesen morbiden bösen Inhalten) gefüttert. Danach werden dem Algorithmus andere Bilder (diese Tintenklekse) vorgelegt und der Algorithmus vergleicht diese mit den Inhalten, mit denen er bisher trainiert wurde. Natürlich entdeckt der Algorithmus eher negative Dinge in den Kleksen. Damit wurde er ja auch trainiert. Auf genau dieselbe Art und Weise kann eine Katzen liebende K.I. erschaffen werden. Dass nun gerade die Trainingsdaten, welche die Grundlage für die Entscheidung des Algorithmus sind, die Entscheidungen des Algorithmus „signifikant beeinflussen“ ist nun wirklich keine große Erkenntnis.

Was der K.I. abgeht sind Zwecke, Ziele und Absichten. Ohne Willen und Absicht kann aber etwas oder jemand nicht als psychopathisch gelten. Normans Verhalten ist also nicht das Resultat seiner bösen Absichten, wie das Wort psychopathisch eigentlich annehmen ließe. Viel mehr ist sein Verhalten aufgrund seines „Trainings“ vorhersehbar. Kein Grund zum Fürchten, also.

Wer jedoch glaubt, dass hier nur orf.at Forscher*innen etwas falsch verstehen, der*die liegt falsch. Auf der Homepage der Forscher*innen ist zu lesen:

We present you Norman, world’s first psychopath AI.

Gerade bei dem Thema K.I., welches komplex und schwer fassbar genug ist, sind solche Aussagen – besonders für Menschen die mit Software und Technologie weniger erfahren sind – mehr als verwirrend, möglicherweise sogar beängstigend. Hier wird für Effektheischerei auf Aufklärung verzichtet.

P.S.: Wer sich genauer dafür interessiert, wie nun diese Bilderkennung funktioniert und warum dafür Testdaten notwendig sind, sollte sich mit dem Thema Überwachtes Lernen im Umfeld K.I. auseinandersetzen.

Der Algorithmus lernt eine Funktion aus gegebenen Paaren von Ein- und Ausgaben. Dabei stellt während des Lernens ein „Lehrer“ den korrekten Funktionswert zu einer Eingabe bereit. Ziel beim überwachten Lernen ist, dass dem Netz nach mehreren Rechengängen mit unterschiedlichen Ein- und Ausgaben die Fähigkeit antrainiert wird, Assoziationen herzustellen.
(Wikipedia: Maschinelles Lernen)

Advertisements

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

w

Verbinde mit %s

%d Bloggern gefällt das: