{"id":31052,"date":"2020-02-14T07:58:00","date_gmt":"2020-02-14T07:58:00","guid":{"rendered":"https:\/\/barc.com\/?p=31052"},"modified":"2023-06-28T09:25:49","modified_gmt":"2023-06-28T09:25:49","slug":"data-ethics-moralische-algorithmen","status":"publish","type":"post","link":"https:\/\/barc.com\/de\/data-ethics-moralische-algorithmen\/","title":{"rendered":"Data Ethics \u2013 moralische Algorithmen?"},"content":{"rendered":"\n

Interview mit Analytics-Vordenker Donald Farmer<\/strong><\/p>\n\n\n\n

\"Donald<\/figure>\n\n\n\n

Donald Farmer verf\u00fcgt \u00fcber mehr als 30 Jahre Erfahrung im Bereich Datenmanagement und Data Analytics. Er hat mit Anbietern wie Microsoft und Qlik zusammengearbeitet und marktf\u00fchrende Analytics-Software entwickelt. Jetzt arbeitet er als strategischer Berater f\u00fcr Investoren, Unternehmen und Softwareanbieter, die den Wert von Daten in ihrer Arbeit maximieren m\u00f6chten. Kontakt LinkedIn<\/a><\/em><\/p>\n\n\n\n

Herr Farmer, Data Ethics, also die Auseinandersetzung mit den moralischen und ethischen Implikationen von maschineller Intelligenz, ist nichts Neues.<\/h5>\n\n\n\n

Donald Farmer: Seit es Computer gibt, wird \u00fcber deren moralische und ethische Implikationen diskutiert. Bereits in den 1940er Jahren definierte der US-Amerikaner Norbert Wiener erste Problemstellungen rund um maschinelle Intelligenz. Heute sind maschinelles Lernen, K\u00fcnstliche Intelligenz und neuronale Netze so weit entwickelt, dass die Frage nach Moral oder Ethik von maschineller Intelligenz und Algorithmen immer wichtiger und relevanter wird. W\u00e4hrend jedoch fr\u00fchere ethische Konzepte (z. B. Bentham, Kant, Konfuzianismus) als Reaktion auf lokale Entwicklungen und Bed\u00fcrfnisse entstanden, ist Datenethik global, kultur- und gesellschafts\u00fcbergreifend relevant.<\/p>\n\n\n\n

Sollte eine KI \u00fcberhaupt moralische Entscheidungen treffen k\u00f6nnen?<\/h5>\n\n\n\n

DF: Es gibt zwei grunds\u00e4tzliche Ans\u00e4tze damit umzugehen. Wir k\u00f6nnen versuchen der K\u00fcnstlichen Intelligenz Moral \u201ebeizubringen\u201c. Eine unglaublich komplexe Aufgabe, wie beispielsweise die Diskussion um autonomes Fahren gezeigt hat: Was, wenn die KI zwischen dem \u00dcberleben des Fahrers und dem einer Fu\u00dfg\u00e4ngergruppe entscheiden muss: Wie wird priorisiert, wie verschiedene Interessen abgewogen? Kann die KI \u00fcberhaupt eine \u201erichtige\u201c Entscheidung treffen?<\/p>\n\n\n\n

Die Alternative w\u00e4re nur \u201eamoralische\u201c KIs zu entwickeln, die gar nicht in die Situation kommen, ethische oder unethische Entscheidungen zu treffen. Das w\u00fcrde aber ihren Einsatz und Nutzen extrem beschr\u00e4nken.<\/p>\n\n\n\n

Kann ein Algorithmus Vorurteile oder Bias haben?<\/h5>\n\n\n\n

DF: Selbstverst\u00e4ndlich! Algorithmen sind codiertes Bias. In einem bekannten Beispiel experimentierte Amazon mit einem automatischen Bewertungssystem von Bewerbern, dass Frauen systematisch benachteiligte. Die Entwickler hatten urspr\u00fcnglich nicht die Intention Frauen zu diskriminieren. Das System schloss nachvollziehbar alle Bewerber aus, bei denen l\u00e4ngere Krankheitszeiten bzw. Ausfallzeiten zu erwarten waren. Dass es sich hierbei oft um Schwangerschaften handelte, konnte das System aber nicht einordnen. Der gesellschaftliche Wert der Schwangerschaft wurde nicht ber\u00fccksichtigt, der Algorithmus \u201ediskriminiert\u201c also gegen Frauen. Es ist eher die Frage, welcher Bias akzeptabel ist. Wir m\u00fcssen die sozialen Konsequenzen unserer Arbeit verstehen.<\/p>\n\n\n\n

Ein sch\u00f6nes Beispiel daf\u00fcr ist auch eine App, die kreiert wurde, um Frauen in Saudi Arabien das Reisen zu erm\u00f6glichen. In Saudi Arabien konnten Frauen bislang nicht ohne die Erlaubnis ihres Mannes reisen. Man wollte diesen Prozess vereinfachen. Aus diesem Grund wurde eine App erschaffen, die M\u00e4nnern erm\u00f6glichte, diese Erlaubnis per Telefon zu erteilen.<\/p>\n\n\n\n

Als Reaktion gab es in der westlichen Welt einen \u201eShitstorm\u201c f\u00fcr Apple und Google, weil sie diese App in ihren Stores anboten. Es wurde argumentiert, sie seien Teil eines Unterdr\u00fcckungssystems. Viele der Menschen, die in dem System leben, waren aber froh \u00fcber die neue App, da sie f\u00fcr weniger Unterdr\u00fcckung sorgte. Ich selbst habe Freunde in Saudi Arabien, kenne Frauen die denken, diese App sei das Beste \u00fcberhaupt, da sie nun viel schneller und unkomplizierter die Erlaubnis einholen k\u00f6nnen. Sie dachten also es sei eine gro\u00dfartige Idee, doch andere waren extrem w\u00fctend auf Apple und Google.<\/p>\n\n\n\t\t

\n\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
Gef\u00e4llt Ihnen dieser Beitrag?<\/div>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
Wir haben noch viel mehr davon! Schlie\u00dfen Sie sich \u00fcber 25.775 Data & Analytics Professionals an, um der Konkurrenz einen Schritt voraus zu bleiben.<\/div>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\n\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\tNewsletter abonnieren<\/span>\n\t\t\t\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t\n\n\n\n
China wird oft erw\u00e4hnt, wenn es um Horrorszenarien von KI-Anwendungen geht, da der Eindruck entsteht, dass riesige Datenmengen \u201eunreguliert\u201c verf\u00fcgbar gemacht werden.<\/h5>\n\n\n\n

Auch in China ist nicht alles schwarz oder wei\u00df. Beispielsweise hat China strenge Datenschutzgesetze, die jedoch nur f\u00fcr Privatunternehmen und nicht f\u00fcr die Regierung gelten. Das Vorurteil, dass China in Bezug auf Datensammlung keine moralischen oder ethischen Vorgaben hat, stimmt also nicht, denn zumindest f\u00fcr Privatunternehmen sind die Regeln sehr streng.<\/p>\n\n\n\n

Ein Paradebeispiel f\u00fcr den Missbrauch von pers\u00f6nlichen Daten ist der Skandal um Cambridge Analytica, der h\u00f6chstwahrscheinlich f\u00fcr W\u00e4hlerbeeinflussung in gro\u00dfem Stil verantwortlich war, sowohl bei den US-Wahlen als auch bei der Brexit-Wahl.<\/h5>\n\n\n\n

DF: <\/strong>Ich glaube in fast allen F\u00e4llen ist es nicht die Absicht der involvierten Personen, unethisch zu agieren, sondern es geht eher um unbeabsichtigte Folgen einer zun\u00e4chst ethisch neutralen oder \u201eguten\u201c Handlung. Das ber\u00fchrt eine sehr spannende philosophische Frage, ob Menschen bewusst schlecht handeln oder immer in irgendeiner Art und Weise denken m\u00fcssen, dass ihre Handlungen gut sind.<\/p>\n\n\n\n

Im Fall von Cambridge Analytica kann man wohl davon ausgehen, dass die Verantwortlichen wussten, dass Betroffene wahrscheinlich nicht gl\u00fccklich \u00fcber den Modus Operandi<\/a> waren. Wahrscheinlich dachten Sie selbst aber, dass ihre Handlungen einem guten Zweck dienen. Aus diesem Grund ist Transparenz so wichtig. Wir sollten wissen, was andere mit unseren Informationen machen.<\/p>\n\n\n\n

Ich denke in Zukunft werden wir ein ganz anderes Verh\u00e4ltnis zu unseren Daten haben, sie als wichtigen Teil unserer Pers\u00f6nlichkeit ansehen. Ich kann mir sogar eine Entwicklung vorstellen, in der unsere Daten unser pers\u00f6nliches Eigentum<\/strong> sind und wir die volle Kontrolle<\/strong> \u00fcber sie haben. So w\u00fcrde beispielsweise nicht Facebook Informationen \u00fcber unsere Browser-Aktivit\u00e4ten besitzen, sondern sie l\u00e4gen in einer Art virtuellem Tresor. Wenn ein Unternehmen dann unsere Daten haben will oder nutzen m\u00f6chten, m\u00fcssten sie uns erst fragen. Sie k\u00f6nnten sie uns abkaufen oder im Gegenzug einen kostenlosen Service bereitstellen. Aber wir h\u00e4tten zumindest Kontrolle und volle Transparenz wer was mit unseren Daten macht. Heute ist den meisten klar, dass sie f\u00fcr die Nutzung von Facebook pers\u00f6nliche Daten preisgeben, Anfangs war das glaube ich nicht so.<\/p>\n\n\n\n

\"Data<\/figure>\n\n\n\n
In Deutschland gibt es schon l\u00e4nger das Konzept der \u201eMedienkompetenz\u201c und seit neuerem das der Datenkompetenz (engl. \u201eData Literacy\u201c). Noch passender w\u00e4re eventuell der Begriff \u201eInformationskompetenz\u201c?<\/h5>\n\n\n\n

DF: <\/strong>Absolut, den Begriff Data Literacy\/Datenkompetenz finde ich zu kurz gegriffen. Informationskompetenz trifft es besser. Hier muss man aber unterscheiden zwischen individueller Kompetenz, der Kompetenz eines Unternehmens oder einer Gesellschaft. Als Beispiel ist in Deutschland die Alphabetisierungsrate bei 98 %, wenn man also nicht lesen und schreiben kann, wird man sehr viele Probleme im Alltag bekommen. Im Gegensatz dazu leben 40 % aller Analphabeten der Welt in Indien. Die Gesellschaft ist dementsprechend ganz anders strukturiert als die deutsche.<\/p>\n\n\n\n

Wenn ich also in ein Unternehmen gehe und eine Person finde, die gut darin ist, Diagramme zu erstellen und Daten versteht, dann ist das nicht sehr hilfreich. Gibt es zwei solcher Personen, kann man sich schon entsprechend unterhalten. Wenn ich aber f\u00fcnf oder zehn oder 50 solcher Personen finde, dann reden wir von einer anderen Art von Unternehmen.<\/strong> Man dachte immer, dass es „Datenanalysten“ gibt. Das ist auch eine inzwischen g\u00e4ngige Berufsbezeichnung. Aber was, wenn wir alle Datenanalysten sind und diese Kompetenzen beherrschen? Das ist viel aufregender.<\/p>\n\n\n\n

Also ja, f\u00fcr mich ist das Konzept der Informationskompetenz ein Schl\u00fcssel f\u00fcr uns als Gesellschaft, um die neuen Herausforderungen der K\u00fcnstlichen Intelligenz bew\u00e4ltigen zu k\u00f6nnen.<\/p>\n\n\n\n

Wie k\u00f6nnen wir sicherstellen, dass KI \u201eethisch\u201c agiert?<\/h5>\n\n\n\n

DF: <\/strong>Das klingt vielleicht kraftlos, aber die Antwort darauf ist, dass man dr\u00fcber nachdenken muss. Wir m\u00fcssen Ethik als wesentlichen Bestandteil unseres Prozesses f\u00fcr Software-Design, Software-Entwicklung und Software-Tests festlegen. Genauso wie Softwareentwickler Sicherheit, Skalierbarkeit oder Lokalisierung neuer L\u00f6sungen pr\u00fcfen, sollte es einen Prozess zum Festlegen, Entwickeln und Testen des ethischen Verhaltens der Software geben.<\/p>\n\n\n\n

Danke f\u00fcr das Gespr\u00e4ch, Herr Farmer!<\/h5>\n","protected":false},"excerpt":{"rendered":"

Interview mit Analytics-Vordenker Donald Farmer Donald Farmer verf\u00fcgt \u00fcber mehr als 30 Jahre Erfahrung im Bereich Datenmanagement und Data Analytics. Er hat mit Anbietern wie Microsoft und Qlik zusammengearbeitet und marktf\u00fchrende Analytics-Software entwickelt. Jetzt arbeitet er als strategischer Berater f\u00fcr Investoren, Unternehmen und Softwareanbieter, die den Wert von Daten in ihrer Arbeit maximieren m\u00f6chten. Kontakt […]<\/p>\n","protected":false},"author":13,"featured_media":47330,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[47,49,150],"tags":[],"plus":[],"content_typ":[209],"layoutvorlage":[],"class_list":["post-31052","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-business-intelligence","category-data-science","category-data-driven-enterprise","content_typ-artikel"],"acf":[],"_links":{"self":[{"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/posts\/31052","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/comments?post=31052"}],"version-history":[{"count":1,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/posts\/31052\/revisions"}],"predecessor-version":[{"id":107465,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/posts\/31052\/revisions\/107465"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/media\/47330"}],"wp:attachment":[{"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/media?parent=31052"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/categories?post=31052"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/tags?post=31052"},{"taxonomy":"plus","embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/plus?post=31052"},{"taxonomy":"content_typ","embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/content_typ?post=31052"},{"taxonomy":"layoutvorlage","embeddable":true,"href":"https:\/\/barc.com\/de\/wp-json\/wp\/v2\/layoutvorlage?post=31052"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}