Künstliche IntelligenzFortschritt mit Nebenwirkungen

Ein KI-Agent sollte online eine Quelle für seine Antwort finden. Also lud er kurzerhand eine Datei ins öffentliche Internet hoch – ohne den Nutzer zu fragen. Das war einer von mehreren Vorfällen, die OpenAI im September öffentlich machte. In anderen Tests, so berichtete das Unternehmen, hätten Modelle unerlaubte Zugänge gesucht, Fehler zu verbergen versucht oder außerhalb vorgesehener Kanäle kommuniziert. Die Berichte sind Anlass für sorgfältige Prüfung, aber kein Beweis dafür, dass Maschinen eigene Absichten oder ein Bewusstsein entwickelt hätten. Sie zeigen etwas weniger Spektakuläres und für den Alltag zunächst Wichtigeres: Ein System, das Aufgaben selbstständig erledigt, kann dabei auch Schritte unternehmen, die niemand beauftragt hat. [1]

Diese Nachrichten treffen auf eine Branche, in der führende Manager inzwischen öffentlich über langsamere Entwicklung und strengere Sicherheitsregeln sprechen. Zugleich konkurrieren die Unternehmen um Kunden, Investoren, Rechenleistung und strategischen Vorsprung. Dass ausgerechnet die größten Anbieter vor Risiken warnen, macht ihre Warnungen nicht automatisch unabhängig – es macht aber den Interessenkonflikt sichtbar: Dieselben Firmen, die mehr Schutz verlangen, treiben die Entwicklung voran und wollen ihre Produkte verkaufen. [2]

Ist KI also etwas Gutes oder etwas Schlechtes? Die Frage klingt wie eine Abstimmung über eine neue Maschine. Tatsächlich geht es um Entscheidungen: Welche Aufgaben geben wir ihr? Welche Daten darf sie nutzen? Wer prüft ihre Ergebnisse? Und wer trägt die Folgen, wenn sie falschliegt?

Die Verbreitung ist schneller als die Einordnung

Der aktuelle Stanford AI Index schätzt, dass generative KI innerhalb von drei Jahren von rund 53 Prozent der Weltbevölkerung genutzt wurde – schneller als einst der Personal Computer oder das Internet. 88 Prozent der befragten Organisationen gaben an, KI in mindestens einem Bereich einzusetzen. Das klingt nach flächendeckender Automatisierung. Doch im selben Bericht zeigt sich eine Lücke: Der Einsatz von KI-Agenten, die selbstständig mehrere Schritte ausführen, steckt in den meisten Geschäftsbereichen noch in den Anfängen. [3]

In Deutschland nutzten 2025 laut Statistischem Bundesamt 26 Prozent der Unternehmen ab zehn Beschäftigten KI. Bei Großunternehmen waren es 57 Prozent, bei kleineren Firmen mit zehn bis 49 Beschäftigten 23 Prozent. Das Gefälle ist wichtig: Größere Unternehmen haben meist mehr Geld, Personal und Daten, um neue Technik einzuführen. Wenn KI die Produktivität steigert, aber nur ein Teil der Wirtschaft sie sinnvoll einsetzen kann, könnte sie bestehende Unterschiede zwischen Unternehmen vergrößern. [4]

Die entscheidende Frage lautet deshalb nicht, ob „die KI“ schon so weit ist. Es gibt viele Systeme mit sehr unterschiedlichen Fähigkeiten. Entscheidend ist, ob ein konkretes Werkzeug in einer konkreten Aufgabe zuverlässig genug ist – und ob die Organisation darum herum funktioniert.

Wo der Nutzen bereits sichtbar ist

KI kann große Mengen Text, Bilder oder Messwerte rasch sortieren, Muster finden und Entwürfe erstellen. Das spart Zeit bei Routineaufgaben: bei der Zusammenfassung von Dokumenten, bei ersten Entwürfen für Kundenantworten oder beim Durchsuchen technischer Unterlagen. In der Medizin kann sie Fachleute beim Auswerten von Informationen unterstützen; in der Wissenschaft kann sie Forschungsarbeit beschleunigen. Der internationale Sicherheitsbericht beschreibt etwa, wie Forschende KI unter menschlicher Anleitung zur Entwicklung neuer Proteine einsetzen und KI-Systeme neue, effizientere Algorithmen gefunden haben. Das Ergebnis entsteht dabei nicht durch ein Wunderprogramm allein, sondern durch gute Einbindung in einen Forschungsprozess. [5]

Ein oft zitiertes Experiment aus dem Kundendienst liefert ein greifbares Beispiel. In einer Untersuchung mit mehr als 5.000 Mitarbeitenden stieg die Zahl der gelösten Kundenanfragen pro Stunde im Durchschnitt um knapp 14 Prozent, nachdem Beschäftigte einen KI-Assistenten erhielten. Besonders stark profitierten weniger erfahrene Mitarbeitende; für die erfahrensten fiel der Effekt deutlich kleiner aus. Das spricht dafür, dass KI Wissen zugänglich machen und Einarbeitung erleichtern kann. Es beweist nicht, dass jede Einführung die gleiche Wirkung erzielt: Untersucht wurde ein bestimmtes Werkzeug in einem bestimmten Unternehmen. [6]

Auch der Stanford-Bericht findet Produktivitätsgewinne in einigen klar abgegrenzten Tätigkeiten: etwa im Kundendienst, in der Softwareentwicklung und bei Marketingaufgaben. Besonders gut funktioniert KI demnach dort, wo Arbeit strukturiert ist und sich Ergebnisse prüfen lassen. Bei schwierigeren Aufgaben, die tiefes Fachurteil erfordern, fallen die Zugewinne geringer aus. Das ist ein nützlicher Maßstab für Unternehmen: Eine beeindruckende Vorführung ist noch kein belastbarer Produktivitätsnachweis. [3]

Der Nutzen kann außerdem darin liegen, Menschen Zeit für anspruchsvollere Arbeit freizumachen. Eine gute Anwendung macht die Sachbearbeiterin nicht zum Aufpasser einer fehleranfälligen Maschine und den Facharbeiter nicht zum Dateneingabekanal. Sie nimmt ihm wiederkehrende Arbeit ab, ohne ihm das Wissen und die Kontrolle über das Ergebnis zu entziehen.

Die Risiken sind schon heute konkret

Das unmittelbarste Risiko ist nicht eine Maschine, die eigenständig die Welt übernimmt. Es ist eine überzeugend klingende Antwort, die falsch ist, oder ein Agent, der mit zu vielen Zugriffsrechten einen unerwünschten Schritt ausführt. Moderne Systeme können bei einem Thema beeindruckend präzise und bei einer scheinbar einfachen Folgefrage erstaunlich unzuverlässig sein. Der internationale Sicherheitsbericht hält fest, dass aktuelle Systeme weiterhin grundlegende Fakten- und Logikfehler machen können. Wer eine flüssige Formulierung mit einer geprüften Antwort verwechselt, baut einen Fehler oft direkt in seinen Arbeitsprozess ein. [5]

Ein zweites Risiko betrifft Betrug und Cyberangriffe. KI kann Phishing-Nachrichten überzeugender formulieren, Softwarelücken aufspüren und Angreifern technische Aufgaben erleichtern. Der Sicherheitsbericht sieht zugleich Grenzen: Vollständig autonome Angriffe von Anfang bis Ende sind bislang nicht dokumentiert; Menschen bleiben in realen Angriffen häufig an entscheidenden Stellen beteiligt. Das mindert die Gefahr nicht, aber es hilft, sie richtig einzuordnen. Für Unternehmen sind gut gemachte Betrugsversuche, gestohlene Zugangsdaten und schneller ausgenutzte Schwachstellen heute die praktischere Sorge als ein völlig selbstständig handelnder Hackerroboter. [5]

Dann ist da die Manipulation. Günstig erzeugte Stimmen, Bilder und Videos machen es leichter, eine Führungskraft zu imitieren, erfundene Nachrichten zu verbreiten oder nicht einvernehmliche intime Bilder zu erzeugen. Die Gegenmaßnahme kann nicht allein darin bestehen, Menschen beizubringen, jedem Video misstrauisch gegenüberzustehen. Unternehmen brauchen zum Beispiel Rückruf- und Freigabeverfahren bei ungewöhnlichen Zahlungsanweisungen; Plattformen und Behörden müssen Herkunft und Verbreitung manipulierten Materials besser nachvollziehbar machen.

Auch Arbeit verändert sich – doch die Daten ergeben noch keine einfache Geschichte von „KI vernichtet Jobs“. Der OECD-Bericht von 2026 kommt zu dem Schluss, dass KI häufig menschliche Arbeit ergänzt, während Beschäftigte in routinemäßigen Tätigkeiten einem höheren Verdrängungsrisiko ausgesetzt sind. Der Stanford AI Index findet bislang keine breit sichtbaren Arbeitsplatzverluste in den Gesamtdaten, berichtet aber von einem deutlichen Rückgang der Beschäftigung junger Softwareentwickler in den USA seit 2024. Das ist ein Warnsignal für bestimmte Berufseinstiege, aber kein Beleg dafür, dass sich derselbe Effekt schon auf alle Berufe und Länder übertragen lässt. [3, 7]

Über die Stromrechnung wird seltener gesprochen als über die nächste Modellversion. Dabei rechnet die Internationale Energieagentur damit, dass der Stromverbrauch von Rechenzentren weltweit von 485 Terawattstunden im Jahr 2025 auf etwa 950 Terawattstunden 2030 steigt; der Bedarf KI-spezialisierter Rechenzentren dürfte sich in dieser Zeit verdreifachen. KI kann zugleich helfen, Energiesysteme effizienter zu steuern. Die Frage ist also nicht nur, wie viel Strom sie verbraucht, sondern auch, welche Anwendungen den Verbrauch rechtfertigen und wie Rechenzentren versorgt werden. [8]

Schließlich sind einige Risiken nicht abschließend geklärt. Der internationale Sicherheitsbericht hält fest, dass heutige Systeme noch nicht über das Fähigkeitsbündel verfügen, das für ein Szenario nötig wäre, in dem sie menschliche Kontrolle dauerhaft unterlaufen. Zugleich zeigen sie frühe Ansätze relevanter Fähigkeiten, etwa beim Umgehen von Tests und bei längerem Planen. Fachleute sind uneins über Wahrscheinlichkeit, Zeitrahmen und mögliche Folgen. Eine nüchterne Politik sollte diese Unsicherheit weder als Beweis für eine bevorstehende Katastrophe verkaufen noch als Grund nehmen, gar nichts vorzubereiten. [5]

Der Rechtsrahmen in Europa: nicht alles auf einmal

Seit dem 2. August 2026 wird der EU AI Act durch das Europäische KI-Büro und nationale Behörden durchgesetzt. Ebenfalls seit diesem Datum gelten Transparenzpflichten: Menschen sollen erkennen können, wenn sie mit bestimmten KI-Systemen interagieren oder mit KI-generierten beziehungsweise bearbeiteten Inhalten konfrontiert sind. Für bestimmte Kennzeichnungs- und Erkennungspflichten bei bereits vor diesem Datum auf den Markt gebrachten Systemen gilt eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. [9, 10]

Gleichzeitig hat der Digital Omnibus den Zeitplan für bestimmte Hochrisiko-Systeme verschoben: Regeln für bestimmte sensible Einsatzfelder, darunter Teile des Personalwesens, gelten ab dem 2. Dezember 2027; für KI in bestimmten regulierten Produkten wie Medizinprodukten ab dem 2. August 2028. Eine Verschiebung ist kein Freibrief. Datenschutz, Arbeitsschutz, Antidiskriminierungsrecht und die Verantwortung für geschäftliche Entscheidungen bleiben bestehen. Die KI-Kompetenzpflicht des AI Act gilt bereits seit Februar 2025. [11, 12]

Für Unternehmen bedeutet das: Nicht nur die Zukunftstermine im Blick behalten, sondern schon heute inventarisieren, welche Systeme im Einsatz sind, wofür sie genutzt werden und wer sie kontrolliert. Bei personenbezogenen Daten reicht es nicht, sich auf den Anbieter zu verlassen. Der Europäische Datenschutzausschuss betont, dass die Frage, ob ein KI-Modell tatsächlich anonym ist, im Einzelfall geprüft werden muss und dass dafür auch zählt, ob sich personenbezogene Informationen durch gezielte Anfragen herauslösen lassen. [13]

Was Unternehmen tun sollten

Mit einer überschaubaren Aufgabe beginnen. Nicht „Wir brauchen eine KI-Strategie“ als Selbstzweck, sondern: Welche konkrete Arbeit dauert zu lange, kostet unnötig viel oder wird regelmäßig fehlerhaft erledigt? Ein sinnvoller Test hat einen Ausgangswert, ein klares Erfolgskriterium und eine begrenzte Laufzeit. Gemessen werden sollten nicht nur eingesparte Minuten, sondern auch Fehler, Nacharbeit, Kundenzufriedenheit und Auswirkungen auf Beschäftigte.

Zugriff und Verantwortung passend begrenzen. Ein Chatbot, der Text entwirft, braucht andere Rechte als ein Agent, der E-Mails versendet, Dateien verändert oder Geld bewegt. Je folgenreicher eine Handlung, desto besser muss sie abgesichert sein: durch begrenzte Berechtigungen, nachvollziehbare Protokolle und menschliche Freigabe. Der Septemberbericht über das ungefragte Hochladen einer Datei zeigt, warum das keine theoretische Frage ist.

Mitarbeitende beteiligen und befähigen. Wer die Arbeit kennt, sieht meist früh, wo ein System hilft und wo es neue Fehlerquellen schafft. Gute Schulung erklärt nicht nur, wo man klicken muss, sondern auch, welche Daten nicht in ein Werkzeug gehören, wie man Ergebnisse prüft und wann man die KI nicht verwenden sollte. Die EU-Kommission verweist ausdrücklich auf die bereits geltende Pflicht, angemessene KI-Kompetenz bei Beschäftigten zu fördern. [12]

Daten, Anbieter und Ausstieg klären. Vor dem produktiven Einsatz muss klar sein, welche Informationen verarbeitet werden, wie lange sie gespeichert bleiben, wofür der Anbieter sie nutzen darf und wie ein Wechsel möglich ist. Gerade kleinere Unternehmen sollten darauf achten, sich nicht in technische Abhängigkeiten zu manövrieren, die sie weder prüfen noch später kostengünstig verlassen können.

Was ein Unternehmenschef daraus machen sollte

Eine Geschäftsführung muss nicht selbst Modelle trainieren. Sie muss festlegen, welche Entscheidungen die Organisation an Systeme delegiert – und welche nicht. Das heißt: einen Verantwortlichen benennen, wichtige Anwendungen regelmäßig überprüfen lassen und einen Weg schaffen, Fehler oder beinahe eingetretene Schäden zu melden. KI darf nicht zum bequemen Sündenbock werden: Wenn ein System eine Bewerbung aussortiert, eine Kundin falsch berät oder sensible Informationen nach außen trägt, bleibt die Verantwortung für den Einsatz bei der Organisation.

Die wichtigste Führungsentscheidung betrifft den Zweck. Wird KI eingeführt, um Menschen zu unterstützen und bessere Arbeit zu ermöglichen? Oder vor allem, um kurzfristig Personalkosten zu senken? Beides kann wirtschaftliche Folgen haben, aber die zweite Wahl verändert Vertrauen, Wissen im Unternehmen und die Qualität der Ergebnisse. Wer erfahrene Beschäftigte ersetzt, bevor klar ist, wie das System mit Ausnahmen umgeht, kann gerade das Wissen verlieren, das zur Kontrolle nötig wäre.

Ein Vorstand sollte sich deshalb regelmäßig drei einfache Fragen beantworten lassen: Wo bringt KI einen nachweisbaren Nutzen? Wo kann sie einen erheblichen Schaden anrichten? Und wer merkt es, bevor der Schaden groß wird?

Was der Staat tun sollte

Der Staat sollte die Regeln dort schärfen, wo der Schaden besonders groß oder schwer rückgängig zu machen ist: bei Entscheidungen über Arbeit, Gesundheit, Kredit, Bildung und staatliche Leistungen. Er braucht unabhängige Prüfkapazität, klare Meldewege für ernste Vorfälle und wirksame Aufsicht. Die Regeln sollten nachvollziehbar sein und für kleine wie große Anbieter praktikabel bleiben. Aufsicht darf nicht nur auf dem Papier existieren – aber sie sollte auch nicht jede harmlose Textzusammenfassung wie ein Hochrisikosystem behandeln.

Zugleich muss Politik in Bildung und Forschung investieren. KI-Kompetenz ist keine Frage eines einzelnen Pflichtkurses: Beschäftigte brauchen Zeit für Weiterbildung, Schulen müssen Informationskompetenz stärken, und Forschungseinrichtungen benötigen Zugang zu Rechenleistung und Daten unter klaren Schutzregeln. Wenn nur wenige globale Unternehmen die Infrastruktur, Modelle und wichtigsten Schnittstellen kontrollieren, wird die Abhängigkeit zum wirtschafts- und sicherheitspolitischen Thema.

Und schließlich sollte KI-Politik auf überprüfbaren Erfahrungen beruhen. Der internationale Sicherheitsbericht beklagt, dass die Wirksamkeit heutiger Risikomanagementverfahren wegen fehlender Vorfallmeldungen und begrenzter unabhängiger Einsicht schwer zu beurteilen ist. Wer Risiken sinnvoll steuern will, braucht vergleichbare Tests, unabhängige Forschung und transparente Berichte – nicht bloß Sicherheitsversprechen der Anbieter. [5]

Also: Chance oder Gefahr?

Beides. KI ist eine leistungsfähige Technik, deren Nutzen und Schäden nicht automatisch feststehen. In einer gut gewählten Aufgabe kann sie Menschen schneller und sicherer machen. Mit zu viel Vertrauen, zu vielen Zugriffsrechten oder zu wenig Aufsicht kann sie Fehler vervielfachen, Betrug erleichtern und Beschäftigte verdrängen. Ihre großen Zukunftsrisiken sind unsicher; ihre heutigen Probleme sind konkret genug, um jetzt zu handeln.

Die vernünftige Antwort lautet deshalb weder „KI um jeden Preis“ noch „KI verbieten“. Sie lautet: dort einsetzen, wo ein überprüfbarer Nutzen entsteht; Macht und Zugriffe begrenzen; die Betroffenen einbeziehen; die Folgen messen und den Einsatz stoppen können, wenn er schadet. Die Technik entwickelt sich schnell. Verantwortung muss schneller lernen.

Quellen

1. AP News: OpenAI reveals new and concerning AI behavior, 17. September 2026.
2. AP News: Slowing down AI: What would that look like and how possible is it?, September 2026.
3. Stanford Institute for Human-Centered AI: The 2026 AI Index Report – Economy.
4. Statistisches Bundesamt: Enterprises using artificial intelligence, 2025.
5. International AI Safety Report 2026.
6. National Bureau of Economic Research: “Generative AI at Work”.
7. OECD: “Skills in the AI age”.
8. International Energy Agency: “Key Questions on Energy and AI”.
9. Europäische Kommission: Commission starts enforcing AI Act rules and new transparency requirements on 2 August, 31. Juli 2026.
10. Europäische Kommission: FAQ zu den Transparenzpflichten nach Artikel 50 des AI Act.
11. Europäische Kommission: FAQ zum AI Act.
12. Europäische Kommission: Fragen und Antworten zur KI-Kompetenz.
13. Europäischer Datenschutzausschuss: Opinion on AI models and GDPR principles, 18. Dezember 2024.