Hinweis: Das Beitragsbild wurde mit künstlicher Intelligenz erzeugt.
Baden-Württembergs Verbraucherschutzministerin Theresa Schopper (Grüne) drängt auf verbindliche EU-Vorschriften für KI-gestützte Assistenzsysteme. Ihr Fokus: sogenannte KI-Agenten, die Verbraucher beim Einkaufen, Buchen und Organisieren unterstützen. Schopper fordert, dass diese Systeme reguliert werden, bevor sie flächendeckend zum Einsatz kommen.
Was KI-Agenten im Handel tun
KI-Agenten sind Programme, die eigenständig Aufgaben übernehmen. Im Online-Handel suchen sie Produkte, vergleichen Preise und können Käufe abschließen. Sie handeln dabei weitgehend ohne direkte menschliche Kontrolle.
Genau das macht sie aus Verbraucherschutzsicht heikel. Wer entscheidet, welches Produkt empfohlen wird? Welche Interessen verfolgt das System? Diese Fragen sind bislang nicht geregelt.
Schopper sieht darin ein strukturelles Problem. KI-Systeme dürften Verbraucher nicht manipulieren, sondern müssten sie unterstützen. Das sei ein grundlegender Unterschied, der rechtlich abgesichert werden müsse.
Europäischer Rahmen als Grundlage
Auf EU-Ebene gibt es bereits erste Schritte. Seit dem 2. August 2026 gilt eine Kennzeichnungspflicht für KI-generierte Inhalte. Deepfakes, KI-Texte und Chatbot-Dialoge müssen seitdem als solche erkennbar sein.
Der EU AI Act klassifiziert KI-Anwendungen nach Risikoklassen. Hochrisikosysteme unterliegen strengen Auflagen. Für KI-Agenten im Verbraucherbereich fehlen bisher spezifische Vorgaben.
Schopper setzt genau hier an. Sie verlangt, dass die EU diese Lücke schließt. Die Regulierung müsse greifen, bevor der Massenmarkt entstanden ist.
Relevanz für den Mittelstand in Baden-Württemberg
Für Unternehmen in Baden-Württemberg hat das unmittelbare Folgen. Laut aktuellen Erhebungen setzen bereits 61 Prozent der Firmen KI-Technologien ein. Der Anteil steigt.
Der Mittelstand steht dabei vor einer Doppelaufgabe. Er muss KI-Werkzeuge produktiv nutzen und gleichzeitig kommende Compliance-Anforderungen erfüllen. Datenschutz, Transparenzpflichten und Risikoklassifizierung sind dabei zentrale Themen.
Bemerkenswert: Fast die Hälfte der Unternehmen, die das EU-KI-Gesetz in ihren Berichten erwähnen, ist rechtlich noch gar nicht daran gebunden. Das zeigt, wie stark das Regelwerk bereits als Orientierungsrahmen wirkt, auch über den EU-Binnenmarkt hinaus.
Politischer Druck wächst
Schoppers Vorstoß steht nicht allein. Auch auf Bundesebene gibt es Stimmen, die rasche Regeln fordern. KI dürfe nicht manipulieren, sondern müsse dem Menschen nützen. Diese Linie findet sich in mehreren politischen Positionen.
Das Unternehmen Anthropic, ein führender KI-Entwickler, warnt ebenfalls vor unkontrollierten Systemen. Zu mächtige Modelle könnten zu Risiken für Staaten, Arbeitsmärkte und Sicherheit werden. Anthropic plädiert für harte gesetzliche Schranken.
Der Ruf nach Regulierung kommt aus unterschiedlichen Richtungen: aus der Politik, aus der Zivilgesellschaft und aus der Branche selbst.
Fazit
Theresa Schopper bringt ein konkretes Thema auf die Agenda: KI-Agenten im Verbraucherbereich brauchen klare Regeln. Der Zeitpunkt ist bewusst gewählt. Wer erst reguliert, wenn die Systeme bereits millionenfach im Einsatz sind, kommt zu spät. Baden-Württemberg sendet damit ein Signal, das weit über die Landesgrenzen hinausgeht.