17.10.2025

KI-Systeme in der Logistik rechtskonform einsetzen

Die vielseitige Verwendung von KI erfordert die Einhaltung zahlreicher Verpflichtungen

KI-Systeme sind in fast unzähligen Varianten denkbar, können viele Vorteile bringen und werden zukünftig wegen des Optimierungs- und Kosteneinsparungspotenzials unumgänglich sein, um wettbewerbsfähig zu bleiben. Der Einsatz von KI-Systemen im eigenen Unternehmen kann von großem Vorteil sein. So können KI-Systeme bspw. zur Kosteneinsparung durch Analysieren von Prozessen und Schaffung von Optimierungspotenzialen eingesetzt werden, aber auch zur Texterstellung, Übersetzung und in Bewerbungs- und Bewertungsverfahren. In der Logistik bietet sich der Einsatz von KI insbesondere auch im Bereich der Lagerverwaltung, der Steuerung von Fahrzeugflotten und der Routenoptimierung an.

Plant man aber, KI-Systeme im eigenen Unternehmen einzusetzen, sind gesetzliche Regelungen zu beachten, wie bspw. die KI-Verordnung, die Datenschutz-Grundverordnung, aber auch andere Gesetze wie zum Urheberrecht oder Arbeitsrecht.

Verbotene KI-Systeme

Grundsätzlich sieht die KI-Verordnung direkt Verbote in Bezug auf den Einsatz bestimmter KI-Systeme vor. So dürfen u. a. folgende KI-Systeme nicht verwendet werden:

  • Manipulative KI-Systeme: KI-Systeme, die einer unterschwelligen Beeinflussung des Unterbewusstseins dienen sollen oder absichtlich manipulative oder täuschende Techniken einsetzen, sofern diese geeignet sind, das Verhalten von Personen wesentlich zu verändern und sie dadurch zu beeinträchtigen, eine fundierte Entscheidung zu treffen, die andernfalls nicht getroffen worden wäre und die zu einem erheblichen Schaden für die betroffenen Personen führt oder mit hinreichender Wahrscheinlichkeit führen kann.

  • Die Vulnerabilität ausnutzende KI-Systeme: KI-Systeme, die die Schutzbedürftigkeit von Personen z. B. aufgrund ihres Alters, einer Behinderung oder bestimmter sozialer oder wirtschaftlicher Situationen mit dem Ziel ausnutzen, das Verhalten dieser Personen so zu ändern, dass ihnen erhebliche Schäden entstehen oder mit hinreichender Wahrscheinlichkeit entstehen können.

  • KI-Systeme zur Bewertung von Personen: Systeme, die Personen über einen bestimmten Zeitraum auf Grundlage ihres sozialen Verhaltens oder persönlicher Merkmale bewerten, wenn dies zu ungerechtfertigten Nachteilen führt.

  • Gesichtserkennung: Systeme, die Datenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder Überwachungsaufnahmen erstellen oder erweitern.

  • Ableitung von Emotionen: Systeme, die Emotionen am Arbeitsplatz analysieren, es sei denn aus medizinischen oder Sicherheitsgründen.

Besonderheiten bei Hochrisiko-KI-Systemen

Welche Verpflichtungen Unternehmen beim Einsatz von KI-Systemen Dritter treffen, hängt vom eingesetzten System ab. Bei einem sogenannten Hochrisiko-KI-System sind die Verpflichtungen am weitreichendsten.

Hochrisiko-KI-Systeme können z. B. solche sein, die:

  • als Sicherheitsbauteil für Produkte unter EU-Harmonisierungsvorschriften (z. B. Spielzeug, Aufzüge, Medizinprodukte) verwendet werden,

  • für kritische digitale Infrastrukturen, den Straßenverkehr oder Energieversorgung bestimmt sind,

  • zur Einstellung oder Auswahl natürlicher Personen (z. B. Bewerbungen, Beförderungen, Kündigungen) eingesetzt werden.

Beim Einsatz solcher Systeme sind umfangreiche Pflichten zu erfüllen – etwa ein Risikomanagementsystem, technische Dokumentation, Konformitätsbewertung, Registrierung, Aufzeichnungs- und Transparenzpflichten sowie eine wirksame menschliche Aufsicht.

Weitere rechtliche Verpflichtungen

Auch bei nicht Hochrisiko-KI-Systemen bestehen Pflichten, etwa die Schulung der Mitarbeitenden. Transparenzpflichten können greifen, wenn KI-Inhalte erzeugt oder manipuliert werden. Bei Deepfakes oder automatisch generierten Texten muss offengelegt werden, dass diese künstlich erzeugt wurden – außer sie wurden redaktionell geprüft.

Zusätzlich zur KI-Verordnung sind andere Gesetze zu beachten, insbesondere die DSGVO. Sofern personenbezogene Daten verarbeitet werden, gelten entsprechende Datenschutzpflichten. Auch Urheber-, Marken- oder Arbeitsrecht können betroffen sein.

Erstellen einer Unternehmensrichtlinie

Es empfiehlt sich, eine interne Richtlinie zu erstellen, die regelt, wie das KI-System verwendet werden darf, welche Daten eingegeben werden dürfen und wie die Ergebnisse zu prüfen sind. Dabei sollte auch verhindert werden, dass ein System unbeabsichtigt zum Hochrisiko- oder verbotenen KI-System wird.

Fazit

Der Einsatz von KI-Systemen in Unternehmen kann große Vorteile bringen und wird in naher Zukunft kaum vermeidbar sein – auch in der Logistik. Jede Nutzung muss jedoch sorgfältig geplant und rechtlich abgesichert werden.

Claudia Hamm, Rechtsanwältin, und Andreas Fuchs, Rechtsanwalt