Was Sie eintippen, verlässt das Haus
Alles, was Sie in ein öffentliches KI-Tool eingeben, geben Sie an einen externen Dienst weiter — so, wie Sie es in ein fremdes Web-Formular tippen würden. Bei personenbezogenen Daten (Name, Adresse, Telefonnummer, aber auch Konto- oder Gesundheitsangaben, selbst die Kombination harmloser Einzelinfos) ist das ein Problem: Solche Daten dürfen nur mit sauberer Rechtsgrundlage nach außen — und die fehlt bei einem privaten Konto immer, gleich bei welchem Anbieter, ob ChatGPT, Claude, Gemini oder DeepSeek. Entscheidend ist nicht das Werkzeug, sondern ob Ihr Unternehmen mit dem Anbieter einen Vertrag geschlossen hat. Genau deshalb war Philipps „schnelle Umformulierung" in Wahrheit eine Datenpanne, auch wenn nichts Sichtbares passiert ist.
Die Faustregel ist einfach:
Keine Kundendaten, keine Mitarbeiterdaten, keine Vertragsdetails, keine internen Projektnummern, keine vertraulichen Geschäftsinfos in öffentliche KI-Tools.
Ein guter Selbsttest vor dem Eintippen:
Der Aushang-Test
Dürfte dieser Text so an einem
öffentlichen Aushang im Rathaus hängen?
Wenn nein, gehört er in kein öffentliches KI-Tool.
Die Gefahr der Schatten-KI
„Schatten-KI" klingt nach Filmtitel, meint aber etwas ganz Alltägliches: KI-Tools, die die IT-Abteilung weder kennt noch freigegeben hat — der private Chatbot-Account, gleich von welchem Anbieter, die KI-App auf dem eigenen Handy, ein Übersetzungsdienst im Browser, die KI-Funktion im Browser, die man ohnehin privat benutzt. Sobald so etwas für die Arbeit genutzt wird, entsteht Schatten-KI. Nicht aus bösem Willen: Philipp will einfach produktiv sein. Das Problem ist, dass die Firma die Kontrolle über ihre Daten verliert — gleich doppelt:
Sicherheit: Die Daten liegen jetzt in einem System, das niemand im Unternehmen überblickt. Was der Anbieter damit macht, wie gut er es schützt, wer noch Zugriff hat — alles offen. Dass das keine graue Theorie ist, zeigen reale Datenlecks bei KI-Diensten (Beispiel im Vertiefungsteil).
Datenschutz: Ohne Vertrag zwischen Firma und Anbieter (einen sogenannten Auftragsverarbeitungsvertrag) ist die Weitergabe personenbezogener Daten schlicht nicht erlaubt.
Besonders tückisch: Der Abfluss der Daten hinterlässt keine Spur, die man verfolgen könnte. Wer 40 Seiten interne Unterlagen in einen öffentlichen KI-Chat einfügt, erzeugt danach keine Datei, keine Warnung, kein Protokoll im Firmennetz — der Text ist einfach weg nach draußen. Deshalb fällt Schatten-KI meist erst auf, wenn es zu spät ist.
Der Ausweg ist unspektakulär: Nur freigegebene Tools für die Arbeit nutzen. Eine Unternehmensversion — Microsoft Copilot, ChatGPT Enterprise, Google Gemini für Workspace oder was das Haus sonst einsetzt — hat einen Vertrag, klare Datenschutzregeln und meist die Garantie, dass Ihre Eingaben nicht zum Training verwendet werden. Ein privater Account hat davon nichts. Welche Tools freigegeben sind, steht in der KI-Nutzungsrichtlinie oder weiß die IT — fragen Sie vorher, nicht nachher.
KI erfindet manchmal überzeugende Fakten
KI-Chatbots antworten selbstbewusst und flüssig, im Tonfall einer Fachkraft — und liegen trotzdem manchmal komplett daneben. Sie behaupten Gesetze, die es nicht gibt, erfinden Gerichtsurteile mit echt aussehenden Aktenzeichen oder nennen falsche Telefonnummern. Fachleute nennen das Halluzination: Die KI „weiß" nicht, ob etwas stimmt — sie setzt nur die statistisch wahrscheinlichste Wortfolge zusammen (mehr dazu im Vertiefungsteil).
Für den Alltag heißt das: KI-Ausgaben sind Rohmaterial, kein Endprodukt. Zahlen, Namen, Gesetze, technische Angaben immer über eine zweite, verlässliche Quelle prüfen, bevor sie in ein Kundenanschreiben oder Angebot wandern.
Philipp hatte nichts Böses im Sinn — er wollte schnell und gut arbeiten. Genau das macht Schatten-KI so hartnäckig: Der Nutzen ist sofort spürbar, das Risiko bleibt unsichtbar, bis etwas passiert. KI ist ein Werkzeug wie ein Dienstfahrzeug — man fährt nur, wenn man den Führerschein hat und das Fahrzeug dafür freigegeben ist.
Die Schatten-KI
Der Nutzen ist sofort spürbar, das Risiko bleibt unsichtba
Zum Weiterlesen:
Zahlen, Recht und Technik
Nicht Pflichtstoff — für alle, die genauer wissen wollen, warum die Verfahren sich so unterscheiden.
Das Ausmaß ist größer, als viele denken. Eine Studie des DFKI (Springer, 2026) im DACH-Mittelstand fand: rund 71 % der Wissensarbeiter geben Geschäftsdaten in ChatGPT, Claude oder Gemini ein — meist ohne IT-Freigabe. Eine Microsoft-Erhebung kommt auf 78 %, die eigene, nicht bereitgestellte Tools nutzen. Der Netskope Cloud & Threat Report 2026 zeigt, was dabei am häufigsten hochgeladen wird: Quellcode, regulierte Daten und Geschäftsgeheimnisse — und die Zahl der Richtlinien-Verstöße hat sich binnen eines Jahres mehr als verdoppelt. Dass das Datenleck-Risiko real ist, führte Anfang 2026 die App „Chat & Ask AI" vor: Sie legte rund 300 Millionen Gesprächsverläufe offen, teils mit Passwörtern und privaten Angaben.
Artikel 4 der EU-KI-Verordnung verpflichtet Arbeitgeber, Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten zu ergreifen — ohne KMU-Ausnahme. Ein bestimmtes Niveau schreibt die Verordnung seit der Neufassung durch den Digital-Omnibus (in Kraft seit 27. Juli 2026) nicht mehr vor; die Pflicht als solche bleibt. Kurz gesagt: Diese Schulung ist kein freiwilliges Angebot, sondern Compliance. Der AI-Act ordnet KI-Systeme nach Risiko; Chatbots gelten als „begrenztes Risiko" (man muss erkennen können, dass man mit einer KI spricht). Seit dem 2. August 2026 gelten zusätzlich die Transparenzpflichten aus Artikel 50: Wer KI-generierte Inhalte veröffentlicht, muss sie kennzeichnen. Die technische Markierung durch die Anbieter kommt zum 2. Dezember 2026 dazu.
Am sichersten sind Verfahren, die an die echte Adresse des Dienstes gebunden sind und auf einer gefälschten Seite von vornherein versagen: Hardware-Sicherheitsschlüssel nach dem FIDO2-Standard — dieselbe Technik, die auch hinter Passkeys steckt (Lektion 1.2.4).
Kurz gesagt
Behandeln Sie ein öffentliches KI-Tool wie einen offenen Briefkasten auf der Straße: nichts Vertrauliches hinein, nur freigegebene Werkzeuge nutzen, und keine KI-Antwort ungeprüft übernehmen.
- DFKI/Springer 2026: Von Schatten-IT zu Schatten-KI durch ChatGPT (DACH-Mittelstand) — 71 % geben Geschäftsdaten in KI-Tools ein
- Netskope Cloud & Threat Report 2026 (via digitalbusiness) — KI-Datenrichtlinien-Verstöße verdoppelt
