Künstliche Intelligenz ist in vielen Teams längst Alltag. Gründerinnen lassen sich lange Verträge in Minuten zusammenfassen, Entwickler generieren ganze Code-Blöcke, und das Marketing schreibt Entwürfe mit Sprachmodellen. Der Produktivitätsgewinn ist real.
Doch KI am Arbeitsplatz verändert auch die Angriffsfläche eines Unternehmens. Daten verlassen das Haus über neue Wege, Sprachmodelle lassen sich manipulieren, und Mitarbeitende nutzen Tools, von denen die IT nichts weiß. Für Startups mit kleinem oder gar keinem Security-Team ist das besonders heikel.
Dieser Beitrag zeigt dir, welche Sicherheitslücken durch den Einsatz von KI entstehen, was die EU-Regulierung verlangt und mit welchen Maßnahmen du die Risiken spürbar senkst.
Kurz erklärt: Welche Risiken bringt KI am Arbeitsplatz?
Die wichtigsten Sicherheitsrisiken lassen sich in fünf Gruppen einteilen:
- Datenabfluss: Vertrauliche Informationen landen in Cloud-Diensten, deren Verarbeitung du nicht kontrollierst.
- Schatten-KI: Beschäftigte nutzen private KI-Konten ohne Freigabe und ohne Vertrag mit dem Anbieter.
- Prompt Injection: Manipulierte Inhalte bringen ein Sprachmodell dazu, Regeln zu ignorieren oder Daten preiszugeben.
- Zu weitreichende Zugriffsrechte: KI-Assistenten und Agenten erhalten Zugang zu mehr Dateien und Systemen als nötig.
- KI auf Angreiferseite: Kriminelle nutzen Sprachmodelle für überzeugendere Phishing-Mails und Social Engineering.
Geschlossene KI-Systeme sind eine Blackbox
Die verbreiteten KI-Assistenten laufen als geschlossene Systeme in der Cloud. Was genau mit eingegebenen Daten geschieht, wie lange sie gespeichert werden und ob sie ins Training einfließen, hängt von Tarif, Vertrag und Einstellungen ab. Für dich als Nutzer ist das von außen kaum überprüfbar.
Für kleinere Unternehmen ist der Verzicht trotzdem selten eine Option, weil sonst Wettbewerbsfähigkeit verloren geht. Offene Modelle selbst zu betreiben ist möglich, verursacht aber Kosten für Hardware, Betrieb und Know-how. Der realistische Mittelweg: Du wählst Dienste bewusst aus und regelst die Nutzung klar.
Schatten-KI: Das unterschätzte Risiko
Das größte Problem bei KI am Arbeitsplatz sind oft nicht die freigegebenen Tools, sondern die inoffiziellen. Eine Bitkom-Umfrage unter 604 Unternehmen ab 20 Beschäftigten aus dem Sommer 2025 zeigt das Ausmaß:
- In 8 Prozent der Unternehmen ist die private Nutzung von KI-Tools für die Arbeit weit verbreitet, in weiteren 17 Prozent kommt sie in Einzelfällen vor.
- 17 Prozent vermuten solche Nutzung, können sie aber nicht belegen.
- Nur 26 Prozent stellen ihren Beschäftigten selbst generative KI zur Verfügung.
- Lediglich 23 Prozent haben Regeln für den KI-Einsatz festgelegt.
Die Zahlen zeigen ein klares Muster: Wo das Unternehmen keine Lösung anbietet, suchen sich Beschäftigte selbst eine. Kundendaten, Kalkulationen oder Quellcode landen dann in privaten Konten, ohne Auftragsverarbeitungsvertrag und ohne Kontrolle.
Prompt Injection und KI-Agenten
Sprachmodelle unterscheiden nicht zuverlässig zwischen Anweisungen und Daten. Genau das nutzen Angreifer aus. Bei der indirekten Prompt Injection verstecken sie Befehle in Webseiten, E-Mails oder Dokumenten, die eine KI später verarbeitet.
Das Bundesamt für Sicherheit in der Informationstechnik warnt auf seiner Themenseite zu Künstlicher Intelligenz, dass besonders Systeme gefährdet sind, die auf private Informationen zugreifen, nicht vertrauenswürdige Quellen verarbeiten und einen Weg nach außen haben. Gängige Schutzmechanismen wie Fine-Tuning reichen laut BSI häufig nicht aus. Das Amt hat deshalb unter anderem einen Basisschutz gegen Indirect Prompt Injection in dokumentbasierten LLM-Chats veröffentlicht.
Praktisch heißt das: Je mehr ein KI-Agent darf, desto größer der mögliche Schaden. Ein Assistent, der E-Mails liest, Dateien öffnet und selbstständig Nachrichten verschickt, ist ein attraktives Ziel.
Drei typische Szenarien aus dem Startup-Alltag
Wie konkret die Risiken von KI am Arbeitsplatz werden, zeigen Situationen, die in jungen Unternehmen täglich vorkommen:
- Der schnelle Vertragscheck: Eine Gründerin lädt den Entwurf eines Investorenvertrags in ein privates KI-Konto, um ihn zusammenfassen zu lassen. Vertrauliche Konditionen und Namen liegen damit bei einem Anbieter, mit dem das Startup keinen Vertrag hat.
- Der hilfreiche Code-Assistent: Ein Entwickler übernimmt generierten Code ungeprüft. Darin steckt ein veraltetes Paket mit bekannter Schwachstelle oder ein fest eingetragener Zugangsschlüssel.
- Der E-Mail-Agent: Ein KI-Assistent sortiert das Support-Postfach und darf Antworten verschicken. Eine präparierte Kundenmail enthält versteckte Anweisungen, interne Informationen weiterzuleiten.
Keines dieser Szenarien erfordert einen raffinierten Angriff. Es reichen Zeitdruck, fehlende Regeln und zu großzügige Berechtigungen. Genau deshalb lohnt es sich, den Umgang mit KI am Arbeitsplatz früh zu regeln, solange das Team noch klein ist.
Was die KI-Verordnung der EU verlangt
Die europäische KI-Verordnung ist seit August 2024 in Kraft und wird stufenweise wirksam. Sie soll Transparenz schaffen und Risiken je nach Einsatzzweck regulieren. Wie gut sich die Einhaltung bei großen Anbietern überprüfen lässt, ist allerdings offen.
Mit dem sogenannten KI-Omnibus haben Parlament und Rat im Juni 2026 Änderungen beschlossen. Nach dieser Einigung gelten unter anderem:
- Pflichten für Hochrisiko-KI nach Anhang III erst ab dem 2. Dezember 2027 statt ab August 2026.
- Transparenzpflichten nach Artikel 50 grundsätzlich weiterhin ab dem 2. August 2026.
- Die Vorgabe zur KI-Kompetenz wird zu einer Pflicht, die Kompetenz der Beschäftigten zu fördern.
Für die meisten Startups, die KI als Werkzeug nutzen, ist vor allem der letzte Punkt relevant: Wer KI am Arbeitsplatz einsetzt, sollte sein Team befähigen, sie sachkundig zu nutzen. Das ist ohnehin gute Sicherheitspraxis. Ziehe bei konkreten Rechtsfragen eine Fachanwältin oder einen Fachanwalt hinzu.
KI am Arbeitsplatz absichern: sechs Maßnahmen
Die gute Nachricht: Die meisten Risiken lassen sich mit überschaubarem Aufwand deutlich reduzieren. Diese Maßnahmen haben Priorität.
1. Offizielle Tools bereitstellen
Die wirksamste Waffe gegen Schatten-KI ist ein gutes offizielles Angebot. Wähle einen oder zwei Dienste mit Business-Tarif, in dem vertraglich geregelt ist, dass Eingaben nicht zum Training genutzt werden. Schließe einen Auftragsverarbeitungsvertrag ab und prüfe den Speicherort der Daten. Was du dabei beachten solltest, beschreibt auch der Beitrag Datenschutz als Wettbewerbsvorteil für Startups.
2. Eine kurze KI-Richtlinie schreiben
Eine Richtlinie muss nicht lang sein. Eine Seite reicht oft, wenn sie klar regelt:
- welche Tools erlaubt sind und mit welchem Konto
- welche Daten tabu sind, etwa Personaldaten, Kundendaten, Passwörter und unveröffentlichte Finanzzahlen
- dass KI-Ergebnisse vor der Verwendung geprüft werden
- an wen sich Beschäftigte bei Fragen oder Vorfällen wenden
3. Nur so viele Daten wie nötig
Viele Teams geben KI-Assistenten Zugriff auf ganze Laufwerke, ohne vorher zu fragen, was die Aufgabe tatsächlich erfordert. Behandle die KI wie einen neuen Mitarbeiter: rollenbasierter Zugriff und nur auf die Ordner, die sie für ihre Aufgabe braucht. Das begrenzt den Schaden, falls ein Konto kompromittiert oder ein Agent manipuliert wird.
4. Sensible Daten pseudonymisieren
Für Auswertungen von Umsätzen oder Kundenverhalten braucht ein Modell selten echte Namen. Ersetze Namen, E-Mail-Adressen und Kundennummern vor dem Upload durch Platzhalter und führe die Zuordnung erst nach der Auswertung wieder lokal zusammen. Das kostet etwas Zeit, schützt aber deinen Kundenstamm und beugt Datenschutzverstößen vor.
5. Verbindungen unterwegs absichern
Die Verbindung zu großen KI-Diensten ist in der Regel bereits per HTTPS verschlüsselt. In öffentlichen oder fremden WLANs, etwa im Coworking-Space, im Hotel oder am Bahnhof, kann eine zusätzliche Schutzschicht trotzdem sinnvoll sein. Ein VPN-Dienst verschlüsselt den gesamten Datenverkehr zwischen Gerät und VPN-Server und erschwert so das Mitlesen im lokalen Netz. Wichtig: Ein VPN schützt nicht davor, was ein KI-Anbieter mit den Daten macht, die du ihm übergibst.
6. Agenten klare Grenzen setzen
Gerade wenn KI am Arbeitsplatz eigenständig handelt, braucht sie Leitplanken. Erlaube KI-Agenten keine kritischen Aktionen ohne menschliche Bestätigung, etwa das Versenden von E-Mails, Zahlungen oder das Löschen von Daten. Protokolliere, was Agenten tun, und trenne Systeme, die nicht vertrauenswürdige Inhalte lesen, von solchen mit Zugriff auf sensible Daten.
Mitarbeitende schulen: das wichtigste Glied
Jede technische Maßnahme ist nur so stark wie ihr schwächstes Glied, und das ist häufig der Mensch. Kurze, regelmäßige Schulungen zum sicheren Umgang mit KI am Arbeitsplatz gehören deshalb auf jeden Trainingsplan. Die Entwicklung ist so schnell, dass einmalige Workshops nicht reichen.
Kläre in diesen Schulungen auch über klassische Gefahren auf: Phishing, Social Engineering und Ransomware. Diese Risiken sind nicht neu, doch Angreifer nutzen inzwischen ebenfalls Sprachmodelle, um fehlerfreie, personalisierte Nachrichten zu verfassen. Weitere Grundlagen zur Abwehr findest du im Beitrag Online-Startup vor Cyberkriminellen schützen.
Dein Fahrplan für die nächsten 30 Tage
Du musst nicht alles auf einmal lösen. Mit diesen Schritten bringst du die Nutzung von KI am Arbeitsplatz in einem Monat auf ein solides Fundament:
- Frage im Team anonym ab, welche KI-Tools tatsächlich genutzt werden.
- Wähle ein bis zwei offizielle Dienste mit Business-Vertrag aus.
- Schreibe eine einseitige KI-Richtlinie und stelle sie im Team vor.
- Prüfe die Zugriffsrechte bestehender KI-Assistenten und Agenten.
- Plane eine kurze Schulung und wiederhole sie halbjährlich.
Wer KI offen und mit klaren Regeln einführt, nimmt der Schatten-KI den Nährboden und nutzt die Produktivitätsvorteile ohne unnötige Risiken. Welche Werkzeuge sich für Gründerteams eignen, zeigt der Überblick KI-Tools für Gründer.
Was ist Schatten-KI?
Schatten-KI bezeichnet den Einsatz von KI-Tools im Job ohne Wissen oder Freigabe des Arbeitgebers, meist über private Konten. Das Risiko liegt darin, dass vertrauliche Daten ohne vertragliche Absicherung bei externen Anbietern landen.
Darf ich Kundendaten in ChatGPT oder andere KI-Tools eingeben?
Personenbezogene Daten solltest du nur in Dienste eingeben, mit denen ein Auftragsverarbeitungsvertrag besteht und deren Datenverarbeitung geprüft ist. Im Zweifel pseudonymisierst du die Daten vorher oder verzichtest auf die Eingabe.
Was ist Prompt Injection?
Bei einer Prompt Injection schleusen Angreifer versteckte Anweisungen in Texte, Webseiten oder Dokumente ein, die ein Sprachmodell verarbeitet. Das Modell kann dadurch Sicherheitsregeln missachten oder sensible Informationen preisgeben.
Brauche ich als Startup eine KI-Richtlinie?
Eine gesetzliche Pflicht zu einem bestimmten Dokument gibt es nicht, sinnvoll ist eine kurze Richtlinie trotzdem. Sie regelt erlaubte Tools und tabuisierte Daten und hilft dir, die Kompetenz deines Teams nachweisbar zu fördern.
Schützt ein VPN bei der Nutzung von KI-Tools?
Ein VPN verschlüsselt die Verbindung zwischen deinem Gerät und dem VPN-Server und ist vor allem in öffentlichen WLANs nützlich. Es schützt aber nicht davor, wie der KI-Anbieter eingegebene Daten speichert oder verarbeitet.
Ab wann gelten die Pflichten der KI-Verordnung?
Die KI-Verordnung wird schrittweise wirksam. Nach dem im Juni 2026 beschlossenen KI-Omnibus gelten Transparenzpflichten grundsätzlich ab August 2026 und Pflichten für Hochrisiko-KI nach Anhang III ab Dezember 2027.
