Actualités
AI Act 2026: Welche Pflichten gelten für Unternehmen, die KI-Agenten einsetzen?
AI Act 2026: die Pflichten für Unternehmen, die KI-Agenten einsetzen, und die Best Practices, die Sie schon jetzt umsetzen sollten.
Künstliche Intelligenz hält schrittweise Einzug in Kundenservice, Marketing, Vertrieb, Personalwesen und interne Prozesse. Conversational Agents, Chatbots, KI-Assistenten und Lösungen für generative KI werden inzwischen von immer mehr Unternehmen eingesetzt.
Um diese Entwicklung zu begleiten, hat die Europäische Union den AI Act verabschiedet, die erste Verordnung, die sich eigens der künstlichen Intelligenz widmet. Der 2. August 2026 markiert einen wichtigen Schritt bei ihrer Anwendung: Mehrere neue Bestimmungen werden anwendbar und die Aufsichtsmechanismen werden verstärkt.
Für Unternehmen, die KI-Agenten einsetzen, geht es nicht darum, ihre Projekte infrage zu stellen, sondern sicherzustellen, dass sie transparent, verantwortungsvoll und dokumentiert entwickelt und genutzt werden.
Nicht jede Automatisierung ist KI
Einer der interessantesten Beiträge des AI Act ist, dass er die Definition eines KI-Systems endlich klärt. Entgegen einer weit verbreiteten Vorstellung gilt nicht jede Automatisierung als KI im Sinne der Verordnung.
Laut AI Act ist ein KI-System insbesondere ein System, das aus den erhaltenen Daten Ergebnisse ableiten kann: eine Anfrage verstehen, eine Antwort generieren, eine Empfehlung abgeben oder Inhalte mit einem gewissen Grad an Autonomie erzeugen. Eine Software, die ausschliesslich vordefinierte Regeln anwendet, gilt dagegen in der Regel nicht als KI-System.
Diese Anwendungen gelten in der Regel nicht als KI:
- nach einem Kauf automatisch eine WhatsApp-Nachricht senden
- nach einigen Tagen eine Marketing-Erinnerung auslösen
- einen rein regelbasierten Workflow in Make, n8n oder Zapier ausführen
- eine automatisierte Sequenz in einem CRM starten
Diese Anwendungen fallen dagegen in den Geltungsbereich des AI Act:
- eine in natürlicher Sprache formulierte Anfrage verstehen
- einen Bedarf automatisch qualifizieren
- eine Bestellung oder eine Vereinbarung umformulieren
- in einer Dokumentenbasis suchen
- eine personalisierte Antwort generieren
- eine Offerte, einen Vertrag oder ein Dokument aus einem Gespräch vorbereiten
Diese Unterscheidung ist wichtig. Künstliche Intelligenz schafft echten Mehrwert, wenn sie verstehen, schlussfolgern oder Inhalte erzeugen soll. Wo eine klassische Automatisierung genügt, ist diese oft einfacher, zuverlässiger und günstiger.
Was der AI Act für Conversational-Anwendungen bedeutet
Die meisten mit Sandra entwickelten Conversational Agents nutzen KI-Modelle und fallen damit in den Geltungsbereich des AI Act. Vier Massnahmen verdienen besondere Aufmerksamkeit.
1. Nutzer informieren, dass sie mit einer KI interagieren
Der AI Act sieht eine Transparenzpflicht vor, wenn Personen direkt mit einem KI-System interagieren, ausser dies ist ohnehin offensichtlich. Ein kurzer Hinweis zu Beginn des Gesprächs genügt in der Regel:
Guten Tag, ich bin der KI-Assistent von [Unternehmen]. Ich begleite Sie bei Ihrem Anliegen. Sie können die Angaben vor dem Versand jederzeit prüfen und bestätigen.
Diese Transparenz erfüllt die regulatorischen Anforderungen und stärkt zugleich das Vertrauen der Nutzer.
2. Menschliche Aufsicht vorsehen, wo sie sinnvoll ist
KI-Agenten können einen Interessenten qualifizieren, eine Bestellung vorbereiten, eine Offerte erstellen, Fragen beantworten oder Mitarbeitende unterstützen. Umfasst ein Prozess jedoch eine vertragliche Verpflichtung, einen sensiblen Entscheid oder eine komplexe Situation, empfiehlt sich eine dem Kontext angepasste menschliche Freigabe.
3. KI-Agenten dokumentieren
Die DSGVO hat Unternehmen dazu gebracht, ein Verzeichnis der Bearbeitungstätigkeiten für Personendaten zu führen. Der AI Act führt schrittweise zu einem vergleichbaren Vorgehen für KI-Systeme. Jedes Unternehmen sollte Folgendes benennen können:
- die eingesetzten KI-Agenten
- ihren Zweck
- die verwendeten Modelle
- die bearbeiteten Daten
- die Tools, mit denen sie verbunden sind
- die fachlich verantwortliche Person für jeden Agenten
Über die regulatorischen Aspekte hinaus ist diese Dokumentation ein echtes Governance-Instrument und erleichtert Wartung, Audits und künftige Weiterentwicklungen.
4. Teams schulen
Der AI Act führt zudem eine Pflicht zur AI Literacy (KI-Kompetenz) ein. Mitarbeitende, die KI-Systeme nutzen oder beaufsichtigen, müssen über ein Wissen verfügen, das ihrer Verantwortung entspricht: die Fähigkeiten der KI, ihre Grenzen, die wichtigsten Risiken und die empfohlenen Vorgehensweisen kennen.
Auf dem Weg zu einem AI Control Center
Der AI Act bestätigt eine grundlegende Entwicklung: Künftig müssen Unternehmen KI-Agenten nicht nur erstellen, sondern sie auch inventarisieren, dokumentieren und steuern.
In diesem Sinne entwickeln wir die nächsten Ausbaustufen von Sandra rund um ein AI Control Center, das einen zentralen Überblick über die in der Plattform konfigurierten KI-Agenten, ihre Dokumentation und ihre Governance bietet. Unser Ziel ist es, diesen Ansatz an die Prinzipien der DSGVO anzugleichen, um langfristig ein einheitliches Verzeichnis der Datenbearbeitungen und der KI-Agenten anzubieten.
Fazit
Der AI Act ist ein wichtiger Schritt auf dem Weg zu einem reifen Einsatz künstlicher Intelligenz in Unternehmen. Für die grosse Mehrheit der Organisationen ist er keine Innovationsbremse, sondern ein Rahmen für transparentere, besser dokumentierte und besser gesteuerte Anwendungen.
Weiterführende Links
Weiterlesen
Gespräche, die konvertieren
Eine 30-minütige Demo genügt, um zu sehen, was Ihr WhatsApp-Kanal leisten kann. In Genf oder per Videocall.