Ethik in KI und Robotik ~ Christoph Bartneck, Christoph Lütge, Alan Wagner, Sean Welsh
Mit künstlicher Intelligenz habe ich mich bisher von zwei Seiten beschäftigt:
phantastische Literatur
neue Technologien
In der phantastischen Literatur, insbesondere Science Fiction oder Dystopien ist die Künstliche Intelligenz meist zum Feind geworden. Das inzwischen klassische Matrix-Szenario, die Maschinen übernehmen die Herrschaft und versklaven die Menschen, gibt es in zahlreichen Spielvarianten. Im Szenario von Tom Hillenbrand hat die Menschheit erkennen müssen, dass die KI unsere Umweltprobleme nicht auf eine ideale Weise lösen würde …
Doch wie sieht unsere Realität aus?
Was gibt es bereits und wohin entwickeln wir uns? Welche Sorgen und vor allem welche Fragen sollten wir uns im Zusammenhang mit künstlicher Intelligenz wirklich stellen?
Während auf der Digital2018 Roboter im Fokus standen, war es auf der DigitalX 2019 die autonome Mobilität, was bereits 2018 ein Thema war. Es gab zahlreiche weitere spannende Technologien und Themen.
Im Beitrag zur Digital2018 schrieb ich:
Wenn die Zukunft jetzt beginnt und wir entscheiden, in was für einer Welt wir Leben wollen, gibt es zahlreiche Themen, mit denen wir uns befassen müssen. Dazu zählen IT-Sicherheit, Veränderungen anstoßen und ganz wichtig, den Menschen nicht aus dem Blick verlieren!
Diesen Impuls habe ich 2018 mitgenommen und glaube, dass es weiterhin wichtig ist, Fragen zu stellen und im Rahmen der persönlichen Möglichkeiten Einfluss auf die Gestaltung unserer Zukunft zu nehmen. Dies können wir nicht alle durch unseren Beruf, aber durch Diskussionen und die Auswahl der Produkte, die wir kaufen.
Ethik in KI und Robotik
Auch in diesem Beitrag spielt ein Buch eine zentrale Rolle, diesmal aber ein Sachbuch, statt Fiktion. Das kleine handliche Buch stellt die Frage „Was darf KI eigentlich?“ und stellt einen Rundgang dar, beginnend bei den Definitionen von Ethik und Künstlicher Intelligenz, über die verschiedenen Anwendungsbereiche künstlicher Intelligenz mit dem jeweiligen Ist-Stand der Diskussionen. Dabei nehmen die vier Autoren eine neutrale Haltung ein und geben sowohl Pro- als auch Kontra-Argumente wieder. Sie alle sind Wissenschaftler an verschiedenen Universitäten.
Die europäische „AI4People Gruppe“ hat 2018 fünf ethische Prinzipien vorgestellt, um Fairness und Vertrauen zu schaffen (Seite 40ff):
Nicht-Nachteiligkeit
Vorteilhaftigkeit
Autonomie
Gerechtigkeit
Erklärbarkeit
Beim Einsatz von Robotern ist ein zentraler Aspekt, dass wir Menschen dazu neigen, auch Gegenständen und Geräten eine Persönlichkeit zu geben. Wir geben Objekten Namen und wenn wir mit diesen interagieren können, verschwinden die Grenzen zwischen einem leblosen Objekt und einem Wesen mit Gefühlen, welches es de facto aber nicht ist. Es gibt viele Vorteile von Robotern in sozialen Kontexten, aber auch ein Risiko:
Idealisierte Interaktionen könnten zu viel Spaß machen – und dadurch tatsächliche zwischenmenschlichen Interaktionen behindern.
Ethik in KI und Robotik, Seite 82
Neben dem Vermenschlichen von Maschinen ist der Schutz von personenbezogenen Daten ein großes und gerade auch sehr aktuelles Thema. Welche Daten werden von wem gesammelt und wer kann diese zu welchen Zwecken nutzen?
Je mehr und bessere Informationen über die Nutzer zur Verfügung stehen, desto besser können KI-Systeme aus den Daten lernen und ihr Verhalten anpassen.
Ethik in KI und Robotik, Seite 85
Ohne Daten kann eine KI nicht arbeiten. Mit den Daten kann eine KI aber wiederum Einfluss auf unser Verhalten nehmen.
Aktuell profitiert davon vor allem die Werbebranche, aber das betrifft auch zum Beispiel den Bereich Smart Home und im Rahmen ethischer Fragen spielen Begleitroboter eine wichtige Rolle.
Fazit
Ein wissenschaftlich fundiertes und gut lesbares Buch für alle, die sich mit ethischen Fragen zu Künstlicher Intelligenz und Robotik beschäftigen möchten. Es braucht kein Vorwissen, um das Buch zu verstehen.
Im Buch werden verschiedene Anwendungsbereiche der KI wie Roboter im Alltag, autonomes Fahren oder Waffensysteme unter ethischen Fragen betrachtet. Dabei werden keine Antworten geliefert, sondern der aktuelle Stand unter Pro- und Kontra-Argumenten zum Einsatz der Technologie wertneutral geschildert.
Es wird deutlich, welche Fragen noch zu klären sind und welche Herausforderungen es dabei gibt. Zentral ist immer der Aspekt des Nutzens für die Menschen, ohne zu schaden.
Das Buch wurde mir vom Hanser Verlag zur Verfügung gestellt.
Ethik in KI und Robtik Christoph Bartneck, Christoph Lütge, Alan Wagner, Sean Welsh Hanser, 2019 ISBN: 978-3-446-46227-4
Die Menschen wollten die Klimakatastrophe mit Hilfe einer KI lösen. Die KI wurde zur Bedrohung, seltsame Lichtgestalten, Aliens, zu einer anderen. Aber sind Menschen und ihr Machtbedürfnis nicht die größte Bedrohung?
Kann die Verbindung mit einer Bedrohung gegen eine weitere eine sinnvolle Option sein oder ist das völlig irrsinnig?
Hologrammatica
Bereits mit „Hologrammatica“ konfrontierte Tom Hillenbrand uns mit diesen Fragen. 2088 befanden wir uns auf einem noch unbekannten Level der Technologie, auch medizinisch gesehen. Menschen konnten ihr Gehirn extrahieren und sich in andere Körper laden, allerdings nur begrenzt. Das Descartes-Problem galt es zu lösen, um wahre Unsterblichkeit zu erlangen. Kann, sollte und darf es überhaupt gelöst werden?
In all dem Szenario stecken verschiedene Menschen mit ganz eigenen Interessen, die nicht immer im Sinne aller sind.
Hologrammatica ließ mich mit einem überraschten Gefühl und einem Haufen Fragen zurück. Es hätte ein Ende sein können, eines, dass uns zwingt, eigene Antworten zu finden, die Geschichte weiter zu denken.
Eine Fortsetzung?
2091 – dieselbe Welt, dieselben technologischen Gegebenheiten. Fran Bittner spielt erneut eine Rolle.
Hypothetisch kann Qube unabhängig gelesen werden, ich würde es nicht empfehlen, da die Komplexität der Welt mit ihrer Technologie nicht noch einmal im Detail erklärt wird, wenn es auch ein umfassendes Glossar gibt.
Doch wer glaubt, Tom Hillenbrand würde uns die offen gebliebenen Fragen nun ausführlich beantworten, irrt. Im Grunde entstehen durch Qube ein Haufen weiterer spannender Fragen.
Qube
Der Journalist Calvary Doyle wird angeschossen und in die Klinik gebracht. Er liegt bereits auf dem OP-Tisch, als der Chirurg von seiner Patientenverfügung erfährt, die besagt, dass Dole ein eCephalon wünscht. Sein Gehirn wird extrahiert und während sein Stammkörper im Koma liegt, hat er die Möglichkeit in einem anderen Gefäß zu agieren. Ihm fehlen mehrere Wochen, was keine Amnesie ist, denn die Erinnerungen sind hoffnungslos verloren. Er kann sich nur an die Zeit seit dem Backup erinnern. Ihm fehlt allerdings auch die Information, warum er sich selbst zu diesem Schritt entschieden hat.
Recherchiert hatte Doyle zum Thema Künstliche Intelligenz. Fran Bittner ist als Agentin auf derselben Spur, beobachtet ihn, zieht ihre eigenen Schlüsse und schon befinden wir uns mitten im spannenden SciFi-Thriller
Es gibt weitere Akteure und Perspektiven, die ebenfalls spannend sind, insbesondere der Frage, wer mit wem und was wie in einem Zusammenhang steht. Alles läuft auf ein spannendes Game hinaus, was ein wenig an „Ready Player One“ erinnert, aber dann doch völlig anders ist.
Künstliche Intelligenz eine Chance?
Können wir eine künstliche Intelligenz kontrollieren oder entwickelt sie sich zu etwas völlig Eigenständigem, dass die Menschheit möglicherweise als Feind ansieht?
Vielleicht ist die Menschheit aber auch ganz nützlich? Kann es eine friedliche Koexistenz mit künstlicher Intelligenz geben? Ein Geben und Nehmen. Was wäre in diesem Falle, die intrinsische Motivation einer KI? Ist das überhaupt eine sinnvolle Frage?
Würde eine KI einen Selbsterhaltungstrieb entwickeln, wenn sie die Aufgabe, zu der sie entwickelt wurde, erfüllt hat? Kann es den Zustand geben, dass die Aufgabe erledigt ist?
Ist es sinnvoll mit Science Fiction Geschichten, weiterhin die Angst vor Künstlichen Intelligenze zu schüren?
Ich denke, es geht nicht darum Ängste zu schüren, sondern darum zu ermahnen, das Thema sensibel und vernünftig anzugehen. Im Roman und auch in anderen Geschichten, werden Sicherheitsmaßnahmen ergriffen, welche letztendlich von den intelligenten Systemen ausgeschaltet werden. Wenn wir Systeme erschaffen, die uns überlegen sind, können wir vielleicht irgendwann nicht mehr abschätzen, wie diese sich entwickeln werden und sich auch nicht mehr aufhalten. Auch wenn derzeitige Systeme noch weit entfernt davon sind, sich selbstständig machen zu können, bleibt dies so? Wann überschreiten wir eine Grenze und welche Grenze wollen wir nicht überschreiten?
Doch am spannendsten finde ich die Frage, wer die größte Bedrohung ist. Das Bild, eine künstliche Intelligenz nähre sich von Daten ist an einer Stelle im Roman stark. Doch wer nährt sich bereits von unseren Daten? Große Konzerne, welche sie teilweise von intelligenten Systemen auswerten lassen, aber vor allem zu einem Zweck uns gezielt das zu liefern, was wir vermeintlich sehen wollen. Mehrung von Profit und Macht sind die Motive.
Wären das auch die Motive einer unabhängigen KI, wäre diese gefährlicher, als Menschen, denen es um Macht und Profit geht? Stünde die KI in ihren Diensten, wären ihr diese Motive als Zielvorgabe mitgegeben. Doch könnte sie auch unabhängig ganz eigene entwickeln? Sich vielleicht sogar für Gerechtigkeit und Gleichberechtigung unter den Menschen einsetzen? Vielleicht wäre es ihre Absicht ein besseres, funktionierendes Gesellschaftssystem zu etablieren, welches im Gegenzug gute Daten liefert.
Wie könnte ein solches System aussehen?
Fazit
Tom Hillenband liefert erneut einen spannenden Thriller, der zugleich eine hervorragende Grundlage für zahlreiche Diskussionen darstellt. Die Fragen in diesem Beitrag berühren nur einen Bruchteil der Themen, die im Roman angerissen werden.
Es sind noch viele andere spannende Fragen, die ich an dieser Stelle lieber nicht anreiße, um den Roman nicht zu spoilern. Ich hoffe, dass sich ein Thema in einer weiteren Fortsetzung ergibt.
Das Buch wurde mir vom KiWi Verlag zur Verfügung gestellt.
Qube Tom Hillenbrand Kiwi, 2020 ISBN: 978-3-462-05440-8
Was ist der Sinn unserer Existenz, sind wir lebende Wesen mit freiem Willen? Dienen wir einer höheren Macht oder sind wir ein Experiment?
Fragen, die zu zahlreichen Geschichten inspirieren. Die Matrix-Trilogie ist nur eine Variante. Jetzt habe ich eine andere gelesen: „Das Genesis-Backup“.
Ein Professor, künstliche Intelligenz, eine Mensch-Maschine-Schnittstelle, das FBI, chinesische Triaden und jede Menge Geheimnisse spielen hier eine Rolle. Und doch beginnt alles wie ein Krimi: William Ells Vater ist verstorben. Sein Sohn ist sich nicht sicher, ob es ein natürlicher Tod war. Sein Erbe gibt ihm ein zusätzliches Rätsel auf …
Ein Krimi, ein Thriller, ein SciFi-Abenteuer über die Frage danach, was unsere Welt wirklich ist.
Leben wir in einer Simulation und kommen mit Hilfe unserer Technologien der Erkenntnis um die Wahrheit näher?
Was wäre, wenn alles zusammenbricht und ein Backup geladen werden müsste? Was wäre ein guter Zeitpunkt für einen solchen Neustart? Bei den Römern?
Mein Lesevergnügen
Gerade am Anfang der Geschichte war ich ab und an mal etwas verwirrt. Im Laufe der Geschichte gab es ein paar merkwürdige Stellen und es sind auch noch Fragen ungeklärt. Aber das ist in Ordnung, denn es ist der erste von drei geplanten Bänden. Auf Basis dieser Erwartung findet der Roman einen guten Abschluss mit kleinem Ausblick, wohin die Reise als nächstes geht.
Etwas mehr Informationen über die zugrundeliegende „Matrix“ hätte ich mir gewünscht. Es ist als hätte Neo einen kleinen Blick auf die Matrix geworfen und wäre sich noch nicht ganz sicher, ob sie wirklich existiert. Er beginnt das große Ganze erst zu begreifen und zu akzeptieren.
Insgesamt hatte ich viel Spaß beim Lesen und insbesondere die zweite Hälfte des Romans war sehr spannend.
Das eBook wurde mir über NetGalley zur Verfügung gestellt.
Das Genesis Backup Dale Harwin Selfpublisher ISBN 978-3748551041
„Die Bitcoinverschwörung“ von Michael Rodewald beginnt wie ein gewöhnlicher Krimi mit einem Mordfall. Ein älterer Kommissar, der bereits vom Ruhestand träumt, steht vor einem Rätsel. Doch Recht schnell wechselt die Perspektive und es wird klar, was hinter dem Fall steckt.
Es geht nicht darum, einen Mord aufzuklären.
Scheinbar spielt der Autor mit offenen Karten mit uns, gewährt uns Einblicke in das Geschehen aus zahlreichen Perspektiven. Doch mit jeder Information wird die Story komplexer. Es werden verschiedene Ziele verfolgt. Wer spielt in welchem Team und auf wessen Seite stehe ich als Leserin?
Mit der Komplexität steigt die Spannung
Die Notausschaltung der KI
In vielen Romanen werden drastische Sicherheitsmaßnahmen getroffen, um die KI ausschalten zu können, wenn sie außer Kontrolle gerät. Dies geschieht gerne mit Sprengstoff, möglichst so, dass die KI keine Verbindung zum Auslöser herstellen kann.
Es erscheint mir nicht unrealistisch, dass eine KI Möglichkeiten findet, die wir nicht sehen, ihr steht schließlich mehr Rechenleistung zur Verfügung, als dem menschlichen Gehirn.
Doch kann eine KI bereits im Vortest, in dem ihr nur begrenzter Zugang gewährt wird, so etwas wie eine Persönlichkeit, einen eigenen Willen und vor allem einen Selbsterhaltungstrieb entwickeln?
Die Entwicklung im Roman geht mir diesbezüglich zu schnell, zu sprunghaft. Künstliche Intelligenz bedeutet für mich lernen und auch eine Maschine braucht mehrere Rechenoperationen, um etwas neu zu lernen und sich entsprechend weiter zu entwickeln. Dies geschieht allerdings unglaublich schnell.
Manipulation und Wissen ist Mach
Achtung Spoiler zum Roman, überspringe den Abschnitt, wenn du nicht zu viel über das Buch wissen möchtest!
Die Motivation der KI ist sich selbst zu erhalten. Hierzu verarbeitet sie alle Informationen, die ihr zur Verfügung stehen, berechnet daraus mögliche Szenarien und bereitet sich auf die wahrscheinlichsten vor. Um mehr Informationen zu bekommen, insbesondere aus Bereichen zu denen sie keinen Zugang hat, da Menschen Sicherheitsmaßnahmen ergreifen und offline agieren.
Wer könnte eine bessere Quelle sein, als Menschen? Maulwürfe, ganz alte Spionagetaktik. Könnte sich dieser nicht auch eine KI bedienen? Wie? Durch Manipulation, unwiderstehliche Angebote und natürlich Informationen. Informationen über Individuen und Informationen, die dem Individuum bereit gestellt werden.
Wenn eine KI dir hilft, würdest du ihr nicht auch helfen?
Mein Fazit
Ich hatte viel Spaß an der Geschichte, habe sie zügig durchgelesen und war gespannt, wie alles ausgeht. Das Buch hat Schwächen, überzeugt mich nicht in allen Punkten, was tatsächlich möglich ist. Die Entwicklung, die die KI nimmt, ist dennoch sehr interessant, um zu überdenken, inwieweit so etwas vielleicht doch möglich wäre. Eine weitere Schwäche sind leider einige Fehler, die noch zu überarbeiten wären.
Das Buch wurde mir über den Autor zur Verfügung gestellt.
Die Bitcoinverschwörung Michael Rodewald Selfpublisher; Books on Demand, 2019 ISBN: 978-3748192145
Was wäre die logische Antwort auf die Frage nach der Rettung der Erde? Frei von Moral und Emotion, was wäre die effektivste Methode?
Wenn eine KI das Umweltproblem lösen würde, wäre eine Dezimierung der Menschheit nicht ein konsequente, wenn auch unethische Lösung, sofern wir nicht bereit sind unser Verhalten im Umgang mit der Umwelt zu ändern?
Das ist Stoff für zahlreiche Dystopien und Science Fiction Romane. Tom Hillenbrand nahm diese These auf und schrieb einen spannenden SciFi-Thriller „Hologrammatica“.
Eine gute Geschichte braucht eine gute Figur
Tom Hillenbrands Figur heißt Galahad Singh. Er zeigt uns seine Welt im Jahre 2088, seine Sorgen, seinen Alltag und nimmt uns mit auf die Suche nach seinen Milchtüten. Milchtüten bezeichnet vermisste Personen, in Anlehnung an die Bilder von vermissten Personen, die in den 80ern auf Milchtüten gedruckt wurden. Im Jahre 2088 verschwinden noch immer Menschen, viele von ihnen freiwillig. Ihre Gesichter werden nicht auf Milchtüten gedruckt, es werden private Ermittler engagiert, um sie wieder zu finden. Es würde auch nichts nützen ihre Bilder zu verbreiten, denn gerade diejenigen, die freiwillig in der Absicht ein neues Leben zu beginnen, verschwinden, verändern ihr Aussehen.
Faszinierende technische Fortschritte verändern das Leben völlig. Ein nicht zu unterschätzender Faktor ist der Einfluss der sich verändernden Umweltbedingungen, die im Roman tatsächlich Sibirien zu einem attraktiven Ziel werden lassen.
Galahads Geschichte ist eine gute Mischung aus Kriminallfall, sozialen und politischen Themen. Ein faszinierender Blick in eine mögliche (?) Zukunft.
Würdest du eine Datensicherung von deinem Gehirn anfertigen?
Eine gruselige, wie reizvolle Vorstellung. Das eigene Gehirn sichern. Die gesicherten Daten in einen neuen Körper hochladen und in diesem weiterleben oder eine gewisse Zeit verbringen. Traum oder Albtraum?
In Hologrammatica ist dies unter einer entscheidenden Einschränkung möglich: Der Aufenthalt in einem fremden Körper ist nur begrenzt möglich, auch wenn dies ein eigener Klon ist. Dies kann viele Vorteile haben, den eigenen Körper in gefährlichen Situationen schützen oder auch Entfernungen zurücklegen, indem nur die Daten transferiert werden.
Es geht nicht um Unsterblichkeit. Es geht um Wandelbarkeit. Um Spaß.
Hologrammatica, Tom Hillenbrand, Seite 162
Zukunftsszenarien – Wie wollen wir leben?
Eine KI kann alle zukünftigen Szenarien durchspielen, so wie ein Schachcomputer alle Zugkombinationen.
Hologrammatica, Tom Hillenbrand, Seite 477
Genau das machen zahlreiche Autoren von SciFi-Romanen und Dystopien. Jeder einzelne Roman ist ein Szenario, das mit gewissen Wahrscheinlichkeiten tatsächlich eintreffen könnte. Es liegt in unserer Hand zu wählen welches Realität wird. Wir müssen unsere Zukunft aktiv gestalten. Zentrale Themen sind immer wieder: die Rettung der Erde vor den Menschen oder Bedrohungen aus dem Weltall, die Verhinderung einer Klimakatastrophe und die technologische Entwicklung. Viele Fortschritte erleichtern uns das Leben, wir müssen bedenken, welchen Preis wir für welche Entwicklung bezahlen. Sind wir dazu bereit? Eine Frage, die sich nicht erst in der Zukunft stellen wird, sondern bereits heute. Persönliche Daten sind bereits eine äußerst wertvolle Währung.
Spannende Lektüre mit Stoff zum Nachdenken
Die Figuren sind detailliert ausgestaltet und werden sehr lebendig dargestellt. Ebenso ist die Welt in sich stimmig und faszinierend komplex. Allerdings habe ich meine Schwierigkeiten mit dem Schreibstil. Die Geschichte wird im Präsens erzählt, was mein Kopf automatisch ins Präteritum übersetzt. Es dauert einige Kapitel, bis ich bemerke, warum ich das Lesen als so anstrengend empfinde, während mich die Geschichte so fasziniert.
Was mir besonders gut gefällt ist, dass das Buch keine klare Antwort gibt, ob die Künstliche Intelligenz gut oder böse ist. Kann sie überhaupt gut oder böse sein, wenn sie rein rational logisch auf Basis von Daten entscheidet? Entscheidend ist, dass eine KI eben nur auf Basis der Datenlage lernen und entscheiden kann. Welche Daten stehen zur Verfügung und auf Basis welcher Variablen werden die Entscheidungen getroffen?
Das offene Ende ist allerdings gemein zu lesen, denn auch ich hätte gerne mehr Antworten, wenn ich es aber richtig verstanden habe, wird es keinen zweiten Band geben.
Das Buch wurde mir von Kiepenheuer & Witsch zur Verfügung gestellt.
