{"id":5225,"date":"2021-08-05T21:10:13","date_gmt":"2021-08-05T21:10:13","guid":{"rendered":"https:\/\/knowhow.distrelec.com\/?p=5225"},"modified":"2021-08-05T21:10:16","modified_gmt":"2021-08-05T21:10:16","slug":"koennen-wir-robotern-ethik-beibringen","status":"publish","type":"post","link":"https:\/\/knowhow.distrelec.com\/de\/it-und-digitale-technologien\/koennen-wir-robotern-ethik-beibringen\/","title":{"rendered":"K\u00f6nnen wir Robotern Ethik beibringen?"},"content":{"rendered":"\n

Intelligente Maschinen sind Teil unseres Alltags geworden. Sie fahren unsere Autos, liefern personalisierte Produktempfehlungen und warnen uns vor Betr\u00fcgern. Das Potenzial, mithilfe von Maschinen unsere Lebensqualit\u00e4t zu verbessern (oder unsere Zivilisation in den Abgrund zu st\u00fcrzen, wenn man den Dystopien vieler Sci-Fi-Filme glauben darf) ist riesig. Doch so intelligent Maschinen geworden sind \u2013 k\u00f6nnen sie auch moralisch handeln?<\/em><\/p>\n\n\n\n

\n\n\n\n
\n\t<\/div>\n\n\n\n

K\u00fcnstliche Intelligenz k\u00f6nnte uns eines Tages vollst\u00e4ndig ersetzen. Zumindest, wenn wir den Worten von Stephen Hawking Glauben schenken. In einem Interview mit der Zeitschrift Wired<\/em><\/a> erkl\u00e4rte Hawking: \u201eWenn Menschen Computerviren entwickeln, wird jemand eine k\u00fcnstliche Intelligenz entwickeln, die sich selbst verbessert und vermehrt. Das wird eine neue Lebensform sein, die die F\u00e4higkeiten des Menschen \u00fcbertrifft.\u201d Es ist ein Schreckensszenario, das auch von anderen geteilt wird, etwa von Elon Musk, der erkl\u00e4rte<\/a>, dass er die KI f\u00fcr \u201edas gr\u00f6\u00dfte Risiko f\u00fcr unsere Gesellschaft \u00fcberhaupt\u201d halte.<\/p>\n\n\n\n

Doch ob man diese Bef\u00fcrchtungen teilt oder nicht: Je fortschrittlicher und allt\u00e4glicher die Maschinen werden, umso st\u00e4rker werden ernsthafte Fragen \u00fcber die Rolle von Robotern in unserer Gesellschaft diskutiert werden m\u00fcssen. Das gilt ganz besonders, wenn diese Roboter eines Tages ethische Entscheidungen treffen sollen.<\/p>\n\n\n\n

\u00dcberlegen Sie sich zum Beispiel einmal die folgenden Szenarien:<\/p>\n\n\n\n

Szenario 1<\/strong><\/h3>\n\n\n\n

Sie fahren in Ihrem Auto durch ein Wohngebiet. Wir schreiben das Jahr 2040 und das Fahrzeug steuert sich selbst. Zwei Kinder spielen auf einer nahegelegenen Wiese. Pl\u00f6tzlich laufen sie auf die Stra\u00dfe. Ihr Auto k\u00f6nnte den Kindern ausweichen. Doch dadurch w\u00fcrde es mit einem anderen Auto zusammensto\u00dfen, in dem eine vierk\u00f6pfige Familie f\u00e4hrt. Wen sollte das Auto retten?<\/p>\n\n\n\n

Szenario 2<\/strong><\/h3>\n\n\n\n

Oder stellen Sie sich Folgendes vor: Sie entwickeln automatisierte Systeme f\u00fcr das Milit\u00e4r. Es steht fest, dass ein Angriff auch Zivilisten gef\u00e4hrden w\u00fcrde. Aber wie l\u00e4sst sich die H\u00f6he des Risikos ermitteln? Und bis zu welcher Grenze ist das Risiko vertretbar \u2013 ist es vertretbar, schwangere Frauen und Kinder zu gef\u00e4hrden?<\/p>\n\n\n\n

Szenario 3<\/strong><\/h3>\n\n\n\n

Diese unangenehmen Fragen \u00e4hneln dem ber\u00fchmten Trolley-Problem, einem Gedankenexperiment, das die Philosophin Philippa Foot im Jahr 1967 formulierte. Eine Stra\u00dfenbahn l\u00e4uft auf ihrem Gleis. Pl\u00f6tzlich ger\u00e4t sie au\u00dfer Kontrolle. Sie kann entweder auf ihrem Gleis weiterlaufen und wird dabei f\u00fcnf Personen \u00fcberrollen, die auf den Gleisen stehen, oder der Fahrer kann sie auf ein anderes Gleis umlenken, dadurch aber eine einzelne, andere Person \u00fcberrollen.<\/p>\n\n\n\n

Es gibt f\u00fcr diese Fragen keine eindeutige Antwort. Sie sollen uns vielmehr dazu anregen, durch Argumente und Schlussfolgerungen zu kl\u00e4ren, welche Entscheidung wir am ehesten vertretbar f\u00e4nden. Und auch wenn diese Extremszenarien eher unrealistisch sind, helfen sie uns doch bei unseren \u00dcberlegungen zum moralischen Handeln von KI. Am MIT wurde sogar ein Online-Experiment<\/a> mit einem ausf\u00fchrlicheren, vergleichbaren Szenario entwickelt, dessen Ergebnisse als \u201emoralisches Crowdsourcing\u201c genutzt werden.<\/p>\n\n\n\n

21 %<\/strong> der Befragten w\u00fcrden ein selbstfahrendes Auto mit regulierten Moralvorstellungen kaufen<\/p>

vs.<\/p>

59 %<\/strong> der Befragten w\u00fcrden ein Auto kaufen, das darauf programmiert ist, immer das Leben des Fahrers zu retten<\/p>

(Quelle: <\/em>Wissenschaftsressort<\/em><\/a> der<\/em> Washington Post<\/em><\/a>)<\/em><\/p><\/blockquote>\n\n\n\n

KI nach menschlichem Vorbild \u2013 nicht immer eine gute Idee<\/strong><\/h2>\n\n\n\n

\u201eDie menschliche Natur ist nicht schwarz und wei\u00df, sondern schwarz und grau.\u201d<\/em><\/p>

\u2014Graham Green<\/em><\/p><\/blockquote>\n\n\n\n

Perhaps we don\u2019t need to worry so much about the morality of AI. After all, we\u2019ll be creating them so we can shape their nature. If we train them to think like humans and develop our values, they\u2019ll instinctively blend into our society. However, this approach is problematic in itself.<\/p>\n\n\n\n

Firstly, a robot\u2019s nature will always be different to ours. Even if we were to reach the sci-fi favourite of AI sentience, a robot\u2019s lack of eating, aging and breeding means it would never truly think and behave like a human. Secondly, humans are innately flawed beings. And this can be reflected in the machines we create.<\/p>\n\n\n\n

LEARNING DECEPTION \u2013 READ THE STUDY<\/a><\/p>\n\n\n\n

Auf \u00e4hnliche Weise sind Roboter mit menschen\u00e4hnlichen Eigenschaften in der Lage, menschliche Gef\u00fchle zu manipulieren. Wissenschaftler<\/a> haben herausgefunden, dass die meisten Menschen eher bereit sind, Robotern mit freundlich wirkenden Z\u00fcgen ihre Fehler zu verzeihen. Sie gehen teilweise sogar soweit, die Roboter anzul\u00fcgen, um sie nicht zu verletzen. Robotern ohne Gesichtsz\u00fcge wird diese Art der Behandlung nicht zuteil. Dies zeigt nicht nur, wie wichtig es ist, sich bei der Entwicklung von Robotern sehr genau zu \u00fcberlegen, welche menschlichen Eigenschaften diese \u00fcbernehmen sollten, es verdeutlicht auch, welche ethischen und emotionalen Probleme auftreten k\u00f6nnen, wenn wir Roboter nach menschlichem Vorbild entwickeln.<\/p>\n\n\n\n

Ein weiterer wichtiger Punkt ist die Auswirkung von Vorurteilen auf das Lernverhalten der Maschine. Maschinen mit KI werden von Daten gespeist und durch diese Daten k\u00f6nnen mitunter negative Stereotypen und diskriminierende Rollen verst\u00e4rkt werden. So haben Wissenschaftler herausgefunden,<\/a> dass KIs ohne Aufsicht unter Umst\u00e4nden beginnen, weibliche Namen mit Berufen wie \u201eSekret\u00e4rin\u201c oder \u201eBibliothekarin\u201c und m\u00e4nnliche Namen mit Berufen wie \u201eArzt\u201c oder \u201eWissenschaftler\u201c zu assoziieren. Solange derartige Stereotype in unserer Gesellschaft bestehen bleiben, wird es auch f\u00fcr die Maschine schwer, unvoreingenommen zu bleiben.<\/p>\n\n\n\n

LEARNING TO CONVERSE LIKE HUMANS \u2013 READ THE STUDY<\/a><\/p>\n\n\n\n

Maschinengest\u00fctzte Entscheidungsprozesse heute<\/strong><\/h2>\n\n\n\n

Schon jetzt ver\u00e4ndern KIs und Maschinenlernen in manchen Branchen die Art und Weise, in der wichtige Entscheidungen gef\u00e4llt werden. Dabei werden die meisten Tools jedoch eingesetzt, um die menschliche Entscheidungsfindung zu unterst\u00fctzen, und nicht, um diese ganz zu ersetzen (zumindest auf absehbare Zeit).<\/p>\n\n\n\n

Polizeiarbeit<\/em><\/strong><\/h3>\n\n\n\n

Die Polizei in Durham, UK,  hat ein Prognose-KI-System<\/a> implementiert, das bestimmt, ob ein Verd\u00e4chtiger in Untersuchungshaft behalten werden sollte. Das \u201eHarm Assessment Risk Tool\u201c (Hart) kalkuliert anhand von Polizeidaten aus dem Zeitraum von 2008 bis 2012, ob eine Person mit niedriger, mittlerer oder hoher Wahrscheinlichkeit wieder eine Straftat begehen wird.<\/p>\n\n\n\n

Das System wurde erstmals im Jahr 2013 getestet und die Entscheidungen der KI wurden \u00fcber einen Zeitraum von zwei Jahren hinweg beobachtet. Die Vorhersagen zu Verd\u00e4chtigen mit geringem Risiko waren in 98 % der F\u00e4lle korrekt, die zu Verd\u00e4chtigen mit hohem Risiko in 88 % der F\u00e4lle.<\/p>\n\n\n\n

Finanzen<\/em><\/strong><\/h3>\n\n\n\n

Viele Finanzunternehmen setzen f\u00fcr die Kreditw\u00fcrdigkeitspr\u00fcfung Tools mit KI-F\u00e4higkeiten ein, um die Entscheidungsfindung zu beschleunigen und Risiken zu minimieren.<\/p>\n\n\n\n

Diese Tools k\u00f6nnen Informationen zur Transaktions- und Zahlungshistorie des Kreditnehmers ebenso verarbeiten wie unstrukturierte oder teilstrukturierte Datenquellen (z. B aus sozialen Medien und Mobilfunknutzung). Durch diese zus\u00e4tzlichen Daten k\u00f6nnen potenzielle Kreditgeber das Ausgabeverhalten und die Wahrscheinlichkeit einer R\u00fcckzahlung besser einsch\u00e4tzen und erhalten dadurch einen wesentlich umfassenderen \u00dcberblick \u00fcber die Kreditw\u00fcrdigkeit einer Person.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Versicherung<\/em><\/strong><\/h3>\n\n\n\n

Versicherer verwalten extrem gro\u00dfe Datenmengen. Mithilfe von KI k\u00f6nnen diese Daten wesentlich effektiver ausgewertet werden. Dadurch erhalten die Versicherer ein klareres Bild von ihren Kunden und die Kunden erhalten Pr\u00e4mien, die besser auf ihre Bed\u00fcrfnisse zugeschnitten sind.<\/p>\n\n\n\n

Die KI unterst\u00fctzt au\u00dferdem bei Entscheidungen \u00fcber Versicherungsanspr\u00fcche. Ein Beispiel daf\u00fcr ist etwa Tractable<\/a>, ein KI-Tool zur fotobasierten Schadensanalyse. Dabei k\u00f6nnen Fotos des Schadens zusammen mit einer Sch\u00e4tzung der Kosten in das System eingegeben werden. Das Tool vergleicht das Bild dann mit \u00e4hnlichen F\u00e4llen und kann eine genaue Kalkulation der Kosten abgeben.<\/p>\n\n\n\n

Ethisches Verhalten f\u00fcr Roboter definieren<\/strong><\/h2>\n\n\n\n

\u201eVor dem Gesetz ist jemand schuldig, wenn er die Rechte anderer Menschen verletzt. Ethisch betrachtet macht er sich bereits durch den Gedanken daran schuldig.\u201c<\/em><\/p><\/blockquote>\n\n\n\n

\u2014Immanuel Kan<\/em>t<\/p>\n\n\n\n

Der Autor Wendell Wallach<\/a>, Verfasser des Buches Moral Machines: Teaching Robots Right from Wrong<\/em> beschreibt drei verschiedene Arten von Moral f\u00fcr Roboter:<\/p>\n\n\n\n