Blog-Übersicht

Unser Newsletter informiert Sie über Neuerscheinungen!     Datenschutz

Teil 8: Schlechte Witze, falsche Vorbilder und Psychopathen

KI in der Interaktion mit Menschen

KI-UW0

Uwe Weinreich berät und coacht norma-lerweise zu Themen Strategie, Innovation und digitale Transformation. Als Autor des Blogs  geht er in die direkte Auseinander-setzung mit Künstlicher Intelligenz. Der Ausgang ist unklar.

Bleiben Sie auf dem Laufenden via Twitter, linkedIn, Xing oder mit etwas Verzögerung über unseren Newsletter.

Bereits veröffentlicht:

1. KI und ich - Ein Selbstversuch

2. Mathe, Technik und Fremdschämen

3. Lernen im blauen Meer - Azure

4. Experimente bis zum bitteren Ende

5. Der harte Weg zum Webservice

6. Textanalyse entzaubert

7. Vom Bild zum Erkennen

8. Schlechte Witze und Psychopathen

9. Sieben Management-Initiativen

10. Interview mit Dr. Zeplin, Otto Group

Das Prinzip Chatbot kennen wir schon aus dem vorletzten Blogeintrag. Dort konnten Sie auch leibhaftig mit einem Nachbau des allerersten Chatbots der Welt sehr vertraulich sprechen.

Die heutige und abschließende Azure-Lektion dreht sich genau darum, ein interaktives System mit KI zu erstellen. Graeme Malcom hat sich dafür einen Schlechte-Witze-Bot ausgedacht. Er warnt sogar davor, dass es wirklich flache Witze sind. Und er hat ja so recht:

azure-25a

Spannend ist dabei lediglich, wie einfach der Bot erstellt wird. Er nutzt einen Q&A-Service, bei dem einfach die Frage-Antwort-Paare eingegeben werden. Das händisch zu tun, ist tatsächlich die Ausnahme. Viel einfacher ist es, eine Datei hochzuladen, die schon die Fragen und Antworten enthält. Dann wird der Bot trainiert und gibt danach auch dann die richtige Antwort, wenn die gesendete Frage nicht exakt der gespeicherten entspricht. Also liefert auch der Satz "The chicken crossed the road, but why?" die passende Antwort.

Allerdings reagiert der Bot auch auf Ähnlichklingendes, selbst dann, wenn es inhaltlich gar nicht passt oder Nonsens ist:

azure-26

Das ist nur abzugewöhnen, wenn der Bot weiter verfeinert und trainiert wird. Das kann zum Beispiel mit größeren Datenmengen für das Training oder durch einen kontinuierlichen Selbstlernmechanismus geschehen.

Jenseits der Statistik

Damit kommen wir bei den wirklich spannenden Verfahren der künstlichen Intelligenz an, die zum sogenannten "Deep Learning" führen. Bisher haben alle Verfahren, die in diesem Blog beschrieben wurden, mehr oder weniger auf statistischer Analytik beruht. Neuronale Netze gehen einen Schritt weiter und verändern sich selbst und damit die Struktur des Analysesystems. Damit sind sie geeignete Verfahren, um tiefes Lernen zu realisieren.

Die Netze sind der Funktionsweise menschlicher Hirnzellen nachgebaut und weisen damit auch die typische Funktionalität und Veränderbarkeit (Neuroplastizität) auf. Neuronen können sich gegenseitig verstärken oder hemmen, Verbindungen können neu aufgebaut, verändert oder abgebaut werden. Als das sind Prozesse, die das Netz nicht nur lernen, sondern sozusagen an der Aufgabe reifen lassen. Eine für Computer ungewohnte Folge ist, dass ein Neuronales Netz, dass eine komplexe Aufgabe gelöst hat, beim zweiten Versuch mit der selben Aufgabe zu einer etwas anderen Lösung kommen wird. Das gelernte fließt in die neue Lösung mit ein.

Mit einer solch adaptiven Struktur ist es natürlich möglich, Systeme und Interaktionen mit Menschen immer weiter zu perfektionieren. Das kann soweit gehen, dass das Verhalten der Maschine als quasi natürlich erlebt wird. Dass es jedoch nicht ganz so einfach ist, hat auch Microsoft mit einem Experiment erlebt.

Tay - mit KI zum Rassismus

Im März 2016 schickte Microsoft Tay in den Dialog mit Menschen via Twitter. Tay war ein auf KI basierender, selbstlernender und sich selbst perfektionierender Chatbot. Konzipiert war Tay als Hipster-Mädchen. Allerdings durchlief sie eine derartige Metamorphose, dass Microsoft sie nach nur 16 Stunden wieder vom Netz nehmen musste. Sie wurde beleidigend, sexistisch und rassistisch.

tay01

tay03
tay02

All das hat sie durch unreflektierte Anpassung an Interaktionspartner gelernt, was zeigt, dass Lernen für KI kein großes Problem mehr darstellt. Bewerten und Dinge, die wir als "Moral" oder "Charakter" bezeichnen würden, fallen aber noch sehr schwer.

Die Psyhopathen KI

norman"We present Norman, world's first psychopath AI," verkünden stolz MIT-Forscher. Sie haben mit dem Projekt Norman eine KI entwickelt, die gezielt mit den schlimmsten Bildern aus den verborgenen Tiefen des Internets trainiert wurde. Im Vergleich zu einem mit "normalen" Bildern trainierten System zeigte Norman signifikant negativere Interprationen von Bildern eines Rorschach-Tests. Das Experiment zeigt eindringlich, wie entscheidend die Art der Trainingsdaten für die Leistung einer KI ist. 

Training und Diversität sind entscheidend

KI kann Vorurteile entwickeln! Daher ist insbesondere die Trainingsphase von KI eine hochsensible Angelegenheit, deren Wert und Bedeutung nicht unterschätzt werden darf. Es kann anstrengend werden. Ich erinnere mich noch gut an das Erstaunen eines Konzernmanager, der mir erst erzählte, dass das Unternehmen jetzt eine Künstliche Intelligenz hätte, die ihnen nicht nur die Antworten auf ungelöste Fragen liefert, sondern die Frage gleich mit. Schon kurze Zeit später beklagte er sich, dass das Unternehmen völlig unterschätzt hätte, dass das System trainiert werden muss. Der Aufwand war immens und hat viele Arbeitskräfte gebunden.

Ein Schutz gegen einseitige, vorurteilsbelastete und schlecht funktionierende KI ist es auch, für die Entwicklung ein möglichst diverses Team einzusetzen. Einseitigkeit entwickelt KI nicht aus sich selbst heraus oder aufgrund der Algorithmen, sondern durch das, was sie in der Auseinandersetzung mit Menschen lernt, wie die Beispiele Tay und Norman zeigen.

Kunst - eine weitere menschliche Kulturform

Mittlerweile dringt KI in weitere Bereiche ein, die bisher als dem Menschen vorbehalten galten, nämlich die Kunst. Robbie Barrat hat als Praktikant bei Nvidia eine Künstliche Intelligenz zuerst mit  Aktgemälden trainiert und dann anhand von Fotos eigene Gemälde erstellen lassen. Über die Ergebnisse lässt sich geschmacklich sicherlich streiten. Aber ein eigener Stil ist schon zu erkennen.

01

Hier finden Sie weiter Beispiele: https://twitter.com/drbeef_/status/978732422085988352

Geschafft!

Letztendlich habe ich es geschafft, den Kursus in der gegebenen Zeit, und vor allem, innerhalb des Azure-Guthabens abzuschließen. Dieses Zertifikat hilft zwar nicht viel, sieht aber schon irgendwie amtlich aus.

azure-certificate

Im nächsten Blog-Beitrag werde ich die Erkenntnisse noch einmal aus Management-Perspektive diskutieren und zusammenfassen. Die Möglichkeiten und Kosequenzen sind erheblich.

Selbst ausprobieren?

Wer KI selbst ausprobieren will, kann das immer noch mit dem Azure-Kurs tun.  Hier ist der Link zum Kurs. Er läuft noch bis 1.7.

Mittlerweile gibt es aber auch ein kostenloses Angebot der Universität Helsinki:

aihelsinki


 

Zum Weiterlesen

Domingos P (2015) Master Algorithm - How the Quest for the Ultimate Learning Machine Will Remake Our World, Basic Books, ISBN 0-46-506570-8
Some basics about Machine Learning, Artificial Intelligence and how companies can profit from it and mankind might deal with its impacts.
Ansehen / kaufen bei Amazon*   |   BibTeX   |   EndNote
Eberl U (2016) Smarte Maschinen - Wie Künstliche Intelligenz unser Leben verändert, München, Hanser, ISBN 3-44-644870-5
Ulrich Eberl ist Zukunftsforscher. Unter dieser Perspektive schildert er seine Beobachtungen und Erlebnisse aus einer weltweiten Recherche in Instituten und Unternehmen zu KI, Robotik und IoT. Eine spannende Lektüre, die auf ein Grundproblem hinführt: Die Auseinandersetzung unserer menschlichen mit einer ganz neuen Form der Intelligenz.
Ansehen / kaufen bei Amazon*   |   BibTeX   |   EndNote
Brynjolfsson E, McAfee A (2014) Second Machine Age - Wie die nächste digitale Revolution unser aller Leben verändern wird, Kulmbach, Plassen Verlag, ISBN 978-3-864-70222-8
Eines der wichtigsten und beeindruckendsten Bücher zur künftigen Entwicklung Künstlicher Intelligenz und ihrer Auswirkungen auf Individuen, Wirtschaft und Gesellschaft. Unbedingt lesenswert!
Ansehen / kaufen bei Amazon*   |   BibTeX   |   EndNote

 

⬅ Zum vorhergehenden Blog-Eintrag      Zum nächsten Blog-Eintrag ⮕

veröffentlicht: 05.06.2018, © Uwe Weinreich

Kommentar oder eigenen Beitrag anfügen


Datenschutz