Geschäftsleitungen von Unternehmen treffen täglich Entscheidungen auf Grundlage von Informationen, die ihnen meist ihre Mitarbeiter aufbereitet und präsentiert haben. Beim Ermitteln und Zusammentragen eben solcher Informationen könnten sie jedoch auch informationsbeschaffende Künstliche Intelligenz (KI) einsetzen. Interessant ist dabei der Haftungsmaßstab bei ihrem Einsatz. Spannend ist auch, ob es Situationen gibt oder in Zukunft geben wird, in denen Geschäftsleitungen haften, wenn sie eine am Markt vorzufindende KI zum Beschaffen von Informationen, bewusst nicht einsetzen.
Definition
Was ist Künstliche Intelligenz (KI) ?
Der Begriff der KI wird noch vielfach ganz unterschiedlich verwendet, eine allgemein akzeptierte Definition besteht nicht. Die Hochrangige Expertengruppe der Europäischen Union für Künstliche Intelligenz versteht unter KI ein System, das (in der Regel) folgende Eigenschaften aufweist:
Das System soll ein vorgegebenes Ziel erreichen durch Aufnahme konkreter Daten, welche mit generell-abstrakten Mustern abgeglichen werden, um sodann das Ziel nach vorgegebenen Maßstäben durch Steuerung oder sonstige Beeinflussung ihrer physikalischen oder digitalen Umwelt zu ermöglichen.
Haftung von Geschäftsleitungen beim Einsatz von KI
Geschäftsleitungen von Unternehmen haften, wenn sie bei ihren unternehmerischen Entscheidungen den generell erforderlichen Sorgfaltsmaßstab nicht beachten.
Sorgfaltsmaßstab von Geschäftsleitungen
Geschäftsleitungen müssen bei ihren Entscheidungsfindungsprozessen die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anwenden, wobei sie nicht nur bei der Entscheidung selbst, sondern auch bei der Informationsgewinnung ein unternehmerisches Ermessen haben. Dabei dürfen sie sich grundsätzlich auf die Business Judgment Rule verlassen, die im Kern besagt, dass unternehmerische Entscheidungen zum Wohle der Gesellschaft, die auf der Basis angemessener Informationen und Vorbereitung getroffen werden, grundsätzlich einer (gerichtlichen) Kontrolle entzogen sind.
Doch was sind eigentlich „angemessene Informationen”? Einen einheitlichen Maßstab und eine allgemeingültige Formel gibt es nicht. Der Bundesgerichtshof verlangt, dass “alle verfügbaren Informationsquellen tatsächlicher und rechtlicher Art” ausgeschöpft werden, verbunden mit dem Hinweis, dass dieser Maßstab auf die konkrete Entscheidungssituation zu beziehen sei (BGH, Beschluss vom 14. 7. 2008 – II ZR 202/07).
Pflichten von Geschäftsleitungen beim Einsatz von KI
Geschäftsleitungen treffen beim Einsatz informationsbeschaffender KI die allgemeinen Verkehrs(sicherungs)pflichten, namentlich
- Auswahl-,
- Kontroll- und
- Überwachungspflichten.
Sie müssen daher den Algorithmus des KI-Systems
- sorgfältig auswählen,
- den einzupflegenden Dateninput und die Ergebnisse auf Plausibilität kontrollieren
- und regelmäßig den Gesamtprozess überwachen.
Pflicht zum Einsatz von KI – Ermessensreduzierung auf Null
Wie erläutert, hat die Geschäftsleitung zum Treffen ordnungsgemäßer geschäftsmäßiger Entscheidungen alle verfügbaren Informationsquellen tatsächlicher und rechtlicher Art zwecks Informationsgewinnung einzusetzen. Hierbei hat sie grundsätzlich Ermessen, inwieweit sie diese Informationsgewinnung vornehmen möchte, mithin einen Spielraum, der sich nur an dem allgemeinen für Geschäftsleitungen erforderlichen Sorgfaltsmaßstab zu orientieren hat.
In Zeiten von Big Data und der enormen Ausweitung der Datenmenge werden die Anforderungen an eine ausreichende Informationsgrundlage zur Entscheidungsfindung jedoch umso höher, je umfangreicher die zur Verfügung stehenden Daten und Informationen sind.
Eine Pflicht zum Einsatz von KI bei der Informationsgewinnung könnte sich demnach daraus ergeben, wenn die sorgfaltsgemäße Informationsbeschaffung, welche Grundlage der unternehmerischen Entscheidung sein soll, nicht mehr ohne Zuhilfenahme KI-gesteuerter System sein soll; so zum Beispiel, wenn die vorzufindenden Daten wegen ihrer Menge und Komplexität nicht sinnvoll durch einzelne Mitarbeiter aufgearbeitet werden können. Das der Geschäftsleitung im Rahmen der Informationsgewinnung eingeräumte Ermessen, kann in solchen Fällen auf „Null“ reduziert werden.
Wann jedoch eine solche Ermessensreduzierung vorliegt, lässt sich nicht abstrakt sagen, sondern ist stets einzelfallbezogen zu beurteilen. Da schon die Annahme einer Ermessensreduzierung auf Null der generellen Ratio eines eingeräumten Ermessens widerspricht, stellt sie eine Ausnahme dar.
Geschäftsleitungen haben heutzutage noch einen weiten Ermessenspielraum, ob sie KI bei der angemessenen Informationsgewinnung im Rahmen ihrer Entscheidungsprozesse einsetzen möchten oder nicht. Entscheiden sich Geschäftsleitungen gegen ihren Einsatz und handeln sie dabei auf Grundlage angemessener Informationen und frei von Interessenkonflikten zum Wohle der Gesellschaft, trifft sie keine Haftung.
Lediglich in Einzelfällen wird eine Haftung von Geschäftsleitungen begründet werden können, wenn sie sich gegen den Einsatz einer informationsbeschaffenden KI entscheiden – so zum Beispiel, wenn die Datenlage so komplex und umfangreich ist, dass sie ohne Zuhilfenahme einer KI nicht mehr sorgfaltsgemäß aufgearbeitet und damit Entscheidungsgrundlage für eine unternehmerische Entscheidung sein kann.
