Zitiervorschlag: Schuster, LR 2020, S. 61, [●], www.lrz.legal/2020S61
Die Bezeichnung „Legal Tech“ ist im allgemeinen Sprachgebrauch der Juristen angekommen. Besucht man in Deutschland Konferenzen und wohnt Diskussionen bei, entsteht leicht der Eindruck, „Legal Tech“ sei eine allgemeingültige Bezeichnung und kann deshalb als Nenner für sämtliche Diskussionen dienen. Dies ist jedoch mitnichten der Fall. Legal Tech erfasst ein extrem breites Feld. Für den Einen ist Legal Tech die neue Kanzleisoftware, die die Dokumentenablage erleichtert, für den Anderen schon der Einsatz der selbständig subsumierenden künstlichen Intelligenz. Vielen Diskussionen, die um den Legal Tech Hype stattfinden, fehlt es daher leider an der für die Juristen eigentlich so elementaren Konkretisierungsschärfe, denn wie schon Konfuzius wusste: „Wenn über das Grundsätzliche keine Einigkeit besteht, ist es sinnlos, miteinander Pläne zu machen“.
Einig ist man sich bei allen Diskussionen rund um das Thema Legal Tech lediglich über die Zielrichtung: Die Rechtspraxis soll effizienter werden. Während der deutsche Rechtsmarkt aktuell mit dem grundsätzlichen Verständnis um das technische Mögliche ringt, ist der amerikanische Rechtsmarkt bereits zwei Schritte weiter, denn in den USA ist Technologie, die als echte künstliche Intelligenz bezeichnet werden kann, bereits im Kanzleialltag angekommen. Zudem gibt es standesrechtliche Regeln, die der Rechtsanwalt bei Erbringung der Rechtsdienstleistung mit Unterstützung von Künstlicher Intelligenz zu beachten hat. Aus den Entwicklungen der Rechtsmärkte, die sich schneller entwickeln als der deutsche Rechtsmarkt, können Lehren gezogen werden.
Künstliche Intelligenz (KI) - Die große Unbekannte
Intelligenz ist laut Duden die Fähigkeit des Menschen, abstrakt und vernünftig zu denken und auf dieser Grundlage zweckvoll zu handeln.[1] Von Künstlicher Intelligenz spricht man, wenn eine Maschine die Fähigkeit besitzt das menschliche Verhalten zu imitieren.[2] Das System wird darauf trainiert, die Schritte des menschlichen Entscheidungsprozesses (Wahrnehmung; Mustererkennung; Entscheidungsfindung) zu gehen.[3] Anstatt manuell Regeln zu schreiben, wie der Computer einen Datensatz interpretieren muss, ermöglichen maschinelle Lernalgorithmen dem Computer, die Regeln selbst zu bestimmen.
Maschinelles Lernen oder Cognitive Computing erfordert drei Kernprozesse: (1.) das Sammeln von Informationen, (2.) die korrekte Analyse der Informationen und (3.) das Treffen von Entscheidungen auf der Grundlage des Verstandenen. Wie der Rechtsanwalt selbst, wird auch die KI bei diesem iterativen Prozess immer besser, je mehr Erfahrung gesammelt werden konnte.[4]
Einsatz von Künstlicher Intelligenz auf dem amerikanischen Rechtsmarkt
Im Folgenden wird ein kurzer beispielhafter Auszug dargestellt, mit welchen Tools die Rechtspraxis in den USA schon heute ihren Mandanten verbesserte Servicedienstleistungen anbieten wollen.
Electronic Discovery
Das Durchsuchen von elektronischen Daten war schon immer schwierig und teuer, aber seit „Big Data“ liegen sowohl für Einzelpersonen als auch für Organisationen extreme Datenmengen vor. Tendenz immer weiter steigend. Die Masse an auszuwertenden Daten erhöht die Komplexität der Fallbearbeitung und damit auch die Kosten. Rechtsanwälte müssen deshalb ein neues Gleichgewicht zwischen sorgfältiger Fallbearbeitung und der finanziellen Belastung finden. Electronic Discovery kann eine technologische Lösung für dieses Problem bieten. Eine KI wird darauf trainiert sachverhaltsrelevante Dokumente zu kategorisieren. Durch die Methode von Predictive Coding lernt die KI durch Anweisungen, vorzugsweise durch die eines Rechtsanwalts, Dokumente als relevant oder irrelevant zu klassifizieren. Preditctive Coding ist ein klassisches Beispiel für maschinelles Lernen. Das Programm extrapoliert die vom Fachexperten bereitgestellten Eingaben auf eine kleine Teilmenge von Informationen, um die gesamte Sammlung zu klassifizieren. Durch diesen sich wiederholenden Prozess wird das Denken und Analysieren des Fachexperten auf das Programm übertragen.[5] Das sogenannte Lernen erfolgt in einer Reihe von iterativen Schritten, der Rechtsanwalt bestätigt oder korrigiert die systemisch vorgeschlagenen Klassifizierungen.[6] Befürworter von Predictive Coding sehen darin die Möglichkeit die kostenintensive Beweisfindung zu erleichtern.[7]
Legal Research
Naturgemäß sind Recherchearbeiten zur Identifizierung von Rechtsrisiken meist zeitintensive Tätigkeiten für den Rechtsanwalt. Deshalb ist der Versuch die komplexen Rechercheprozesse zu vereinfachen nur logisch. Studien zeigen, dass ein Rechtsanwalt, der sich von einer KI unterstützen lässt, durchschnittlich 24,5% schneller und zu 45 % genauer arbeitet.[8] Mit Künstlicher Intelligenz können Anwalte verstärkt aus umgangssprachlichen Fragen aussagekräftigere und aufschlussreichere Ergebnisse ableiten, als es mit standardisierten Due Diligence Fragebögen möglich ist.[9]
Litigation Prediction
Ein weiteres Einsatzfeld von KI ist das Ergebnis von Rechtsstreitigkeiten mithilfe von Predictive Analysis vorherzusagen. Rechtsprechung, zugängliche Akten- und Aufzeichnung, Juryurteile und andere öffentlich zugängliche Informationen werden gesammelt und auf Muster hin analysiert. Dadurch soll eine intelligente Vorhersage für vergleichbare zukünftige Fälle möglich sein. Getreu der Annahme, dass Vergangenheitswerte der beste Schätzer Zukunft sind.[10]
Contract Analytics
Meist ist der Rechtsanwalt gefordert relevante Informationen in Verträgen schnell zu identifizieren. KI kann hierbei unterstützen. Fristen oder Kündigungstermine können gekennzeichnet werden, und der Rechtsanwalt kann über diese automatisiert informiert werden. Auch andere wichtige Klauseln, wie z.B. Länderklauseln, Rechtswahl oder Freistellungsverpflichtungen, können systemisch erkannt werden.[11]
Due Diligence Reviews
Ähnlich wie bei Contract Management geht es auch bei der Due Diligence Prüfung um die automatisierte Textinterpretation. Wichtige Klauseln werden identifiziert und zusammengefasst. Dieses Werkzeug erlangt besondere Bedeutung bei einer großen Anzahl an zu prüfenden Dokumenten, z.B. bei Unternehmensübernahmen.[12]
Detect Deception
Die Entwicklung von KI dringt auch bereits in den Bereich der sofortigen Täuschungserkennung vor. Diese Technik kann z.B. direkt im Gerichtssaal Anwendung finden. Bisherige Tests zeigen, dass die Technik schon zu 92 % korrekte Ergebnisse liefern kann und damit signifikant besser ist als der Mensch selbst. Aktuell wird diese Technik bereits in einem Pilotprojekt von den Vereinigten Staaten, Kanada und der Europäischen Union zur Grenzsicherung bei Asylsuchenden eingesetzt.[13]
Dieser Auszug an kurzen Beispielen zeigt, wie hilfreich KI in der Rechtspraxis aktuell sein kann und gibt eine Vorahnung darauf wie unverzichtbar ihr Einsatz bei konstant steigender Datenmenge sein wird. Wenig überraschend ist, dass kostensensitive Entscheidungsträger auf die Nutzung von Tech Tools drängen und den Einsatz sowohl von externen Kanzleien als auch von In-House-Anwälten erwarten.[14]
Allerdings geht die Diskussion um den Einsatz von KI mit der Fragestellung nach dem „richtigen Umgang“ einher. Die Amercian Bar Association (ABA) und auch alle bundesstaatlichen Rechtsanwaltskammern sind mit allgemeinen ethischen Meinungen zum Einsatz von KI zurückhaltend. Da aber die technische Entwicklung nicht aufzuhalten ist, haben sich in der Konsequenz für die Nutzung und Nicht-Nutzung von KI konkrete Regeln herausgebildet, die ausformuliert bereits in die ABA Professional Conduct Rules aufgenommen wurden.
Das amerikanische Standesrecht unterliegt der Regelungskompetenz der einzelnen Bundesstaaten. Die Mustervorschriften der American Bar Association, die ABA Professional Conduct Rules, sind aber nahezu in allen Bundesstaaten mit nur geringfügiger Abänderung gültig.[15] Die Standesregeln für US-amerikanische Rechtsanwälte sehen einen ähnlichen Regelungsgehalt vor wie es in Deutschland der berufsrechtliche Rahmen aus RDG, BRAO, BORA, und DSGVO vorsieht.
Welchen Regeln obliegt der amerikanische Rechtsanwalt bei der Nutzung Künstlicher Intelligenz?
Die wichtigsten anwaltlichen Regeln für die Nutzung von smarter Technologie werden im Folgenden vorgestellt:
Duty of Competence
Die ordnungsgemäße anwaltliche Vertretung setzt gem. ABA Model Rule 1.1 juristische Kenntnisse und Fähigkeiten sowie eine gründliche Vorbereitung voraus.[16] Diese Pflicht verlangt von dem amerikanischen Juristen, dass dieser immer aktuell informiert ist, im Besonderen umfasst dies auch technischen Neuerungen. Durch ABA Comment 8 to Rule 1.1. “...maintain the requisite knowledge and skill, lawyers should keep abreast of changes in the law and its practice, including the benefits and risks associated with relevant technology…” wurde das deutlich. In den USA haben die meisten Bundesstaaten[17] diesen Zusatz wörtlich oder leicht modifiziert angenommen oder ihren Rechtsanwälten anderweitig geraten sich über die technologische Praxis auf dem Laufenden zu halten. Konkret verlangt ABA Comment 8 to Rule 1.1. von dem Rechtsanwalt, dass dieser sich über die Vorteile und Risiken relevanter Technologien informiert.[18] Manche Bundesstaaten, wie Florida, etablieren auch Fortbildungspflichten, die konkret eine Technologieausbildung vorsehen.[19] Es wird inzwischen vermehrt angenommen, dass die Nutzung von Künstlicher Intelligenz zwingend erforderlich ist, um dem angeforderten Sorgfaltsstandard in verschiedenen Bereichen der Rechtspraxis überhaupt entsprechen zu können.[20] Aus den Kommentierungen lässt sich ableiten, dass die Juristen die verfügbare Technologie verstehen können müssen, um eine Wertung treffen zu können, ob der technologische Einsatz die Rechtsdienstleistung für den Mandanten verbessern kann. Die Quintessenz ist: Anwälte haben die Pflicht Technologien zu identifizieren, die ihnen die effektivste Arbeitsweise ermöglichen.[21]
Duty to Communicate
Die Aufklärungspflicht eines Rechtsanwalts umfasst gemäß der ABA Model Rule 1.4. und ABA Model Rule 1.5 auch eine Erklärung des Rechtsanwalts an seinen Mandanten, ob KI zur Dienstleistungserbringung eingesetzt wird. Ein Rechtsanwalt sollte grundsätzlich die Zustimmung des Mandanten zum Einsatz von KI haben und muss darüber deutlich informieren. Zudem sollte in der Aufklärung des Mandanten auch klar auf die Risiken Künstlicher Intelligenz bei der Dienstleistungserbringung hingewiesen werden.[22] Außerdem muss der Rechtsanwalt aber auch auf die Nicht-Nutzung von KI hinweisen, wenn dies möglicherweise für den Mandanten nachteilig sein könnte. ABA Model Rule 1.5 verlangt, dass die Rechtsanwaltskosten angemessen sein müssen. Diese Regel wird dann verletzt, wenn Technologie von dem Rechtsanwalt abgelehnt wird, obwohl dies die Anwaltskosten reduzieren könnte.[23]
Duty of Confidentiality
Das Anwaltsgeheimnis schützt auch in den USA gem. ABA Model Rule 1.6 die Interessen der Mandanten. Im Kontext des schützenswerten Interesses obliegt dem Rechtsanwalt ausdrücklich die Pflicht angemessene Anstrengungen zu unternehmen, um eine versehentliche Weitergabe von vertraulichen Informationen durch diverse technische Datenflüsse zu verhindern.[24] Allerdings kann hier eine Dilemma Situation entstehen, wenn vertrauliche Informationen an Dritte weitergegeben werden müssen, um KI anwenden zu können. Die Folge ist, dass Anwälte geeignete Maßnahmen ergreifen müssen, die sicherstellen, dass die vertraulichen Informationen dennoch angemessen geschützt sind. Die Mandanten müssen über die Prozesse vollständig aufgeklärt werden. Um das Datenschutzrisiko zu minimieren, sollten Anwälte mit externen Drittanbietern Vertraulichkeitsgarantien vereinbaren. Ein Rechtsanwalt sollte genau wissen, welche Art von Informationen bereitgestellt werden, wie die Informationen gespeichert werden, welche Sicherheitsmaßnahmen getroffen werden, um die Speicherung zu verschlüsseln und wer Zugang zu den übermittelten Informationen haben wird.[25]
Duty to Supervise
Bei der Erbringung der Rechtsdienstleistung obliegt amerikanischen Rechtsanwälten die Pflicht, die eingesetzten Anwälte und Fachangestellte zu beaufsichtigen, damit sichergestellt ist, dass die Standesregeln eingehalten werden.[26] Bereits 2012 wurde Model Rule 5.3 von „Responsibilites Regarding Nonlawyer Assistants“ zu „Responsibilitites Regarding Nonlawyer Assistance” geändert.[27] Durch diese Änderung wurde klargestellt, dass der Regelungsbereich jede Art der Unterstützung erfasst, menschliche und technische. Demnach ist der Rechtsanwalt verpflichtet die Arbeit der Künstlichen Intelligenz zu überwachen und sicherzustellen, dass die ethischen Berufspflichten gewahrt sind. Konkret bedeutet das, dass garantiert sein muss, dass die Arbeitsergebnisse der Künstlichen Intelligenz korrekt und vollständig sind. Außerdem darf kein Risiko bestehen, dass vertrauliche Informationen offengelegt werden könnten.[28]
Die große Gefahr
Natürlich wird es immer Aufgaben geben, die nicht von einer KI übernommen werden sollten und es darf nicht vergessen werden, dass KI auch echte systemische Nachteile mit sich bringt. Die KI ist immer nur so gut wie ihre Entwickler und Trainer.[29] Es besteht die große Gefahr, dass die KI-Technologien aus historischen Daten Vorurteile und einseitige Ansichten der Entwickler und Trainer übernehmen, was wiederum zu ungewollten Ergebnissen führen kann. Das Problem der Voreingenommenheit bei der Entwicklung und Verwendung von KI impliziert möglicherweise eine ungewollte anwaltliche Berufsethik. Daher ist es für Rechtsanwälte von besonderer Relevanz zu verstehen, wie sich die KI-Systeme entwickeln, damit die Nutzung von KI-Werkzeugen nicht mittelbar die Berufsethik verändern kann. In Gefahr steht nicht weniger als unser deutscher Artikel 3 des Grundgesetzes: „Alle Menschen sind vor dem Gesetz gleich....niemand darf benachteiligt oder bevorzugt werden....“.[30] Wichtig ist zu verstehen, dass mögliche Verzerrungen der KI-Technologie sich aus der Natur der Technologie ergeben, denn diese basieren auf Training und nicht auf Programmierung. Sind die genutzten Daten voreingenommen, werden voreingenommene Ergebnisse produziert. Entscheidend ist deshalb, dass die KI-Welt Abstand nimmt von dem Black Box Modell, bei dem es nicht möglich ist zu erklären, wie die Ergebnisse der KI basierend auf der Dateneingabe generiert wurden.[31] Vielmehr darf sich nur die kontrollierbare und nachvollziehbare KI durchsetzen.[32] Dem Rechtsanwalt obliegt es, ein ausgleichendes Maß zwischen der Grenze der Einsatzmöglichkeiten und der erforderlichen effizienzsteigernden KI-Anwendung zu finden.[33]
Key Takeaways
- Die Berufsethik verlangt, dass amerikanische Rechtsanwälte KI annehmen müssen.
- In den USA gibt es bereits eine Reihe an Standesregeln, die für die Anwendung und Nicht-Anwendung von KI durch Rechtsanwälte gelten.
- Konkret müssen Rechtsanwälte über so viel technisches Know-how verfügen, damit sie die Arbeitsergebnisse der KI überwachen können und in der Lage sind ihre Mandanten über die Technologie aufzuklären.
- Es ist entscheidend, dass Juristen als Organe der Rechtspflege und Grundpfeiler der Gesellschaft verstehen, wie KI ihre Ergebnisse generiert, und eine mögliche Voreingenommenheit von Systemen entschieden bekämpfen.
Bedeutung für den deutschen Rechtsmarkt
Ohne Zweifel wird KI die Rechtspraxis auch in Deutschland grundlegend verändern. Rechtsmärkte wie hier am Beispiel der USA können als Vorbild oder Abschreckung dienen. Wertekonflikte und die kritische Auseinandersetzung mit Kulturunterschieden sind notwendig, um die Zukunft der Rechtspraxis aktiv zu gestalten.
Klar ist, dass Juristen, die heute noch ihre Zeit damit verbringen die voranschreitende Entwicklung von Legal Tech und die in diesem Kontext notwendigen Reformen des Standesrechts, abzulehnen, die Verlierer von morgen sein werden. Ratsamer ist die frühzeitige Aneignung von Digitalkompetenz, denn es ist nur eine Frage der Zeit bis auch das deutsche anwaltliche Berufsrecht ähnliche Pflichten normieren muss.
[1] https://www.duden.de/rechtschreibung/Intelligenz.
[2] Merriam-Webster, Abrufbar unter: https://www.merriam-webster.com/dictionary/artificial%20intelligence.
[3] Sterling Miller, Ten Things: Artificial Intelligence – What every Legal Department really needs to know, Abrufbar unter: https://sterlingmiller2014.wordpress.com/2017/08/15/ten-things-artificial-intelligence-what-every-legal-department-really-needs-to-know/.
[4] Sterling Miller, Ten Things: Artificial Intelligence – What every Legal Department really needs to know, Abrufbar unter: https://sterlingmiller2014.wordpress.com/2017/08/15/ten-things-artificial-intelligence-what-every-legal-department-really-needs-to-know/.
[5] Kaj Sotala, Concept Learning for Save Autonomous AI, Abrufbar unter: https://www.aaai.org/ocs/index.php/WS/AAAIW15/paper/view/10131/10137.
[6] Ralph C. Losey, A Survey of Emerging Issues in Electronic Discovery: Predictive Coding and the Proportionality Doctrine: A Marriage Made in Big Data, Regent University Law Review V. 26, 2013-2014 Nr. 1, S. 20 ff.
[7] Ralph C. Losey, A Survey of Emerging Issues in Electronic Discovery: Predictive Coding and the Proportionality Doctrine: A Marriage Made in Big Data, Regent University Law Review V. 26, 2013-2014 Nr. 1, S. 8.
[8] National Legal Research Group Inc., The real impact of using artificial intelligence in legal research, Abrufbar unter: https://www.lawsitesblog.com/wp-content/uploads/sites/509/2018/09/The-Real-Impact-of-Using-Artificial-Intelligence-in-Legal-Research-FINAL2.pdf.
[9] Sterling Miller, Ten Things: Artificial Intelligence – What every Legal Department really needs to know, Abrufbar unter: https://sterlingmiller2014.wordpress.com/2017/08/15/ten-things-artificial-intelligence-what-every-legal-department-really-needs-to-know/.
[10] Rob Toews, AI will transform the field of Law, Abrufbar unter: https://www.forbes.com/sites/robtoews/2019/12/19/ai-will-transform-the-field-of-law/#5ebf6e6a7f01.
[11] Rob Toews, AI will transform the field of Law, Abrufbar unter: https://www.forbes.com/sites/robtoews/2019/12/19/ai-will-transform-the-field-of-law/#5ebf6e6a7f01.
[12] Lauri Donahue, A Primer on Using Artificial Intelligence in the Legal Profession, Harvard Journal of Law and Technology 3. Jan. 2018.
[13] Jeff Daniels, Lie-detecting computer kiosks equipped with artificial intelligence look like the future of border security, Abrufbar unter: https://www.cnbc.com/2018/05/15/lie-detectors-with-artificial-intelligence-are-future-of-border-security.html.
[14] Sterling Miller, Ten Things: Artificial Intelligence – What every Legal Department really needs to know, Abrufbar unter: https://sterlingmiller2014.wordpress.com/2017/08/15/ten-things-artificial-intelligence-what-every-legal-department-really-needs-to-know/.
[15] Sebastian Neufang, Kostenverteilung im US-amerikanischen Zivilprozess und Urteilsanerkennung in Deutschland, S. 103.
[16] ABA Model Rule 1.1. Abrufbar unter: https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_1_1_competence/comment_on_rule_1_1/.
[17] Arizona, Arkansas, Colorado, Connecticut, Delaware, Florida, Idaho, Illinois, Iowa, Kansas, Massachusetts, Minnesota, Nebraska, New Hampshire, New Mexico, New York, North Carolina, North Dakota, Ohio, Oklahoma, Pennsylvania, Tennessee, Utah, Virginia, Washington, West Virginia, Wisconsin and Wyoming.
[18] The State Bar of California Standing Committee on Professional Responsibility and Conduct Formal Opinion No. 2015-193, Abrufbar unter: https://www.calbar.ca.gov/Portals/0/documents/ethics/Opinions/CAL%202015-193%20%5B11-0004%5D%20(06-30-15)%20-%20FINAL.pdf.
[19] Hedda Litwin, The Ethical Duty of Technology Competence: What Does it Mean for You? Abrufbar unter: https://www.naag.org/publications/nagtri-journal/volume-2-issue-4/the-ethical-duty-of-technology-competence-what-does-it-mean-for-you.php.
[20] James Q. Walker, What´s Artificial About Intelligence? The Ethical and Practical Consideration When Lawyer Use AI Technology, Abrufbar unter: https://www.rkollp.com/assets/htmldocuments/Whats Artificial About Intelligence. The Ethical and Practical Considerations When Lawyers Use AI Technology Bloomberg BNA.pdf.
[21] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.
[22] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.
[23] American Bankruptcy Institute, Ethical Use of Artificial Intelligence in the Legal Industry: The Rules of Professional Conduct, Abrufbar unter https://insolvencyintel.abi.org/bankruptcyarticles/ethical-use-of-artificial-intelligence-in-the-legal-industry-the-rules-of-professional-conduct.
[24] ABA Model Rule 1.6.
[25] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.
[26] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.
[27] American Bar Association CPR Policy Implementation Committee, Variation of the ABA Model Rules of Professional Conduct, Rule 5.3 Responsibilities Regarding Nonlawyers Assistants, Abrufbar unter: https://www.americanbar.org/content/dam/aba/administrative/professional_responsibility/mrpc_5_3.pdf.
[28] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.
[29] Jonathan Vanian, Unmasking A.I.´s Bias Problem, Abrufbar unter: https://www.fortune.com/longform/ai-bias-problem/.
[30] Julia Angwin u. a., Machine Bias, Abrufbar unter: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
[31] Jason Bloomberg, Don´t Trust Artificial Intelligence? Time to open the AI´Black Box, Abrufbar unter: https://www.forbes.com/sites/jasonbloomberg/2018/09/16/dont-trust-artificial-intelligence-time-to-open-the-ai-black-box/#4dcd223e3b4a.
[32] PWC United States, Opening AI´s black box will become a priority, Abrubar unter: https://www.pwc.com/us/en/services/consulting/library/artificial-intelligence-predictions/explainable-ai.html.
[33] David L. Gordon, The Ethics of Artificial Intelligence, Abrufbar unter: https://www.jacksonlewis.com/sites/default/files/docs/Final_The%20Ethics%20of%20Artificial%20Intelligence_Gordon%20and%20Ambrose.pdf.