Der zunehmende Einsatz von Künstlicher Intelligenz (KI) im Rahmen der Digitalisierung ist evident. Aufgrund der stetigen Durchdringung unserer Gesellschaft mit moderner Technologie steht die Frage im Raum, was ist von größter Relevanz, wenn es um den Einsatz von KI geht. Die Antwort lautet: Eine vertrauensvolle Kooperation. Warum diese auf Werten basieren muss, wird im Artikel dargelegt.

Transparenz wird – explizit auch im Rahmen von Entscheidungsprozessen – vielfach als Grundlage oder sogar als notwendige Voraussetzung für die Manifestierung von Vertrauen gewertet. Dies trifft insbesondere im Kontext der Künstlichen Intelligenz (KI) zu. Das mag einer der Gründe sein, warum der Begriff in den einschlägigen Werken der maßgeblichen Institutionen – angefangen bei den “Ethics Guidelines for trustworthy AI: High-Level Expert Group (HLEG)” über das Framework der OECD bis hin zum European AI-Act – in vielfacher Form Verwendung findet. Auffallend ist jedoch die differierende Auffassung bezüglich der Konzeptualisierung dieses Begriffes. Es gibt weder eine einheitliche Einordnung der weiteren zugehörigen Dimensionen, die – neben der bereits definierten elementaren Transparenz von KI-Systemen und Algorithmen – relevant sind, noch eine allgemein anerkannte Definition. Aufgrund der ihr zugeschriebenen Bedeutung ist demnach eine systematische Analyse der Transparenz und deren Respons auf die Vertrauenswürdigkeit bezüglich KI angebracht. Prinzipielle Überlegungen diesbezüglich bietet der nachfolgende Artikel.

In der sprunghaft fortschreitenden Digitalisierung – und einer Welt, die infolgedessen geprägt wird durch Komplexität, Unsicherheit, Geschwindigkeit und Uneindeutigkeit – erscheint es plausibel, dass die Handlungsfähigkeit von Anwendern aufgrund der hohen Entwicklungsgeschwindigkeit potenziell eingeschränkt wird. Denn es ist für den Einzelnen zunehmend weniger möglich, auf vertraute Standards und vorhandene Erfahrungswerte im Umgang mit der Technologie zurückgreifen zu können. Allgemein könnte sich das dadurch evozierte Misstrauen kontraproduktiv im Sinne notwendiger Digitalisierungsprozesse auswirken, da Menschen nur in der Lage sind IT-Technologien – und hier aktuell primär KI-Lösungen – zu nutzen, wenn sie diesen vertrauen. Als Schlussfolgerung erscheint somit die Frage evident, was KI-Anbieter tun müssen, um Anwenderunternehmen ihre Vertrauenswürdigkeit zu dokumentieren und sie so bei deren Entscheidung bezüglich des Einsatzes von KI durchgängig zu unterstützen. Erste Erkenntnisse diesbezüglich liefert die Anwender-Studie “TrustKI”.

Using AI adequately is necessary for user companies to remain competitive. Studies show that nevertheless many companies are hesitant in this regard. In relation to the assumption that people's ability to act is influenced by a lack of trust, particularly in the context of AI, we conducted a study as part of the TrustKI research project to analyze which factors are relevant to documenting trustworthiness in the context of AI. Our evaluation revealed that users demand holistic transparency; the provision of relevant information on the AI solution and proof of technical expertise is not sufficient to build trust, but there is a demand from users for specific information about the respective company. Based on the generally recognized components, we were able to identify further dimensions to provide the required information even more precisely. Thus, the study allows us to propose a preliminary set of information requirements for AI providers.

IT- und IT-Sicherheitsunternehmen Aufgrund der zunehmenden IT-Technisierung und damit einhergehend stetigen Veränderung der Lebensbedingungen ist es notwendig, dass Menschen den IT-Lösungen und Unternehmen weiterhin und kontinuierlich vertrauen können. Denn durch den höheren Grad der IT-Technisierung steigt die Komplexität, wodurch es für den Nutzer zunehmend schwieriger wird, einzelne IT-Lösungen und deren Hintergründe zu verstehen sowie zu bewerten. Diese Veränderung hat Auswirkungen: Zum einen macht sie grundsätzlich den Nutzern – den Menschen – Angst [1], da gewohnte Vorgänge beständig ihre Gültigkeit verlieren. Zum anderen entsteht dadurch sowie durch die Komplexität latent das Gefühl, eine falsche Entscheidung zu treffen, weil nicht alles bedacht werden kann. So fällt dem Aspekt der Interdependenz von Vertrauen und Vertrauenswürdigkeit für deutsche und europäische Unternehmen eine hohe Bedeutung zu, insbesondere auch da sich internationale Tech-Unternehmen zunehmend weniger vertrauenswürdig im komplexen Cyber-Raum verhalten. Dies eröffnet die Möglichkeit, sich über den Aufbau von Vertrauen weltweit gegen internationale Unternehmen nachhaltig zu profilieren und positionieren. Um dieses Ziel zu realisieren, bedarf es einer strategischen Vorgehensweise – zum Beispiel auf Basis des Vertrauenswürdigkeitsmodells.

Die digitale Evolution schreitet unaufhaltsam voran. Das führt auch zu der Konsequenz, dass die innovativen Technologien und somit die gesamte Internet-/IT-Infrastruktur nicht nur zunehmend vielschichtig, sondern auch intransparent wird. Daraus resultiert ein gravierendes Dilemma: gegenläufig zu dem steigenden Einsatz sinkt das Wissen über deren Hintergründe und Zusammenhänge. Dies könnte im Weiteren zu folgender Handlungsalternative führen – entweder unverhältnismäßige Ablehnung der Technologie und entsprechender Dienste oder blindes Vertrauen. Beides verhindert eine sinnvolle Nutzung neuer Anwendungen oder innovativer Dienste – auch wenn Vertrauen, im Sinne des Soziologen Niklas Luhmann, grundsätzlich positiv konnotiert ist. Denn gemäß seiner Definition ist Vertrauen ein Mechanismus der Komplexitätsreduktion [1] – also etwas, wodurch sich das Leben leichter gestalten lässt. Doch sollte hier die Interpretation im Sinne des Philosophen und Soziologen Georg Simmel weiter präzisiert werden. Dieser sieht ,,Vertrauen als einen Zustand zwischen Wissen und Nicht-Wissen, als eine Hypothese künftigen Verhaltens‘‘, auf die Menschen ihr konkretes Handeln gründen [2]. Das zeigt die Relevanz von Vertrauen beim Einsatz innovativer Technologien und unterstreicht gleichzeitig die Notwendigkeit, dass Unternehmen vertrauenswürdig agieren müssen, damit dieses auch gerechtfertigt ist.

Ein allzu kritisches Hinterfragen des Einsatzes von künstlicher Intelligenz (KI) ist eher nicht opportun, denn der allgemeine Tenor zu diesem Thema erscheint mittlerweile relativ konformistisch – so wird in nahezu jeder Veröffentlichung der Leser direkt dahingehend sensibilisiert oder instruiert, dass sich hierdurch enorme Chancen für jeden Lebensbereich auftun, die nicht ungenutzt bleiben dürfen. Das centerum censeo lautet, um international nicht abgehängt zu werden. Dass trotz aller Euphorie auch die Risiken in Betracht zu ziehen seien wird eher nebenbei erwähnt. Da aus diesen jedoch Implikationen für die gesamte Gesellschaft resultieren können, ist es nicht nur ratsam, sondern erforderlich alle Einsatzfelder von KI auch unter ethischen Aspekten zu bewerten und angemessen zu handeln. Denn nur so lässt sich letztendlich erreichen, dass die Menschen der KI vertrauen (können), entsprechende Anwendungen aktiv gutheißen und hierfür bereitwillig ihre Daten zur Verfügung stellen.

Die Forschung bezüglich Gesichtserkennung inklusive der daraus resultierenden Fortschritte im Bereich der Einsatzgebiete erscheinen auf den ersten Blick opportun – lassen sich doch daraus nicht zuletzt auch Maßnahmen umsetzen, die zur Erhöhung der Sicherheit beitragen können. Ob diese Euphorie im Weiteren durchgängig gerechtfertigt ist, soll im Rahmen des Artikels diskutiert werden.