Deutsche Zurückhaltung zahlt sich aus

Sie lachen über die „German Angst“. Deutsche Unternehmen sind bekannt dafür, bei neuen Technologien eher zögerlich vorzugehen. Während sich US-Amerikaner, Briten und viele Asiaten mit Verve auf neue Verfahren stürzen und ihren Nutzen austesten, wollen hiesige Entrepreneurs erst von den Vorteilen und vor allem deren Sicherheit überzeugt werden. Anhand der KI ist zu sehen: zu Recht!

AI wird angenommen, auch in Deutschland

Dessen ungeachtet ist die KI auf einem unvergleichlichen Siegeszug, der Autor dieser Zeilen hat in bald 30 Jahren in der IT keine Technik gesehen, die schneller adaptiert worden wäre. 82 Prozent der Wissensarbeitenden weltweit nutzen sie mittlerweile regelmäßig, zeigt uns eine neue Studie von Wrike, einem Experten für Arbeitsmanagement. In Deutschland sind es sogar 88 Prozent. Von wegen German Angst! Mehr als die Hälfte der Anwender setzt dabei auf generative KI-Tools wie ChatGPT bzw. Copilots zur Unterstützung alltäglicher Aufgaben. Darüber hinaus setzen deutsche Teams zunehmend auch auf autonome KI-Agenten, integrierte KI-Funktionen von Drittanwendungen sowie unternehmenseigene KI-Lösungen. Lediglich zwölf Prozent gaben an, aktuell keine KI-Tools im Einsatz zu haben.

In der Praxis sorge die KI für deutliche Effizienzsteigerungen, die jeder Anwender am eigenen Leibe erfahren kann. Ein Viertel der Befragten berichtet von einer schnelleren Aufgabenbearbeitung, 22 Prozent von einer besseren Koordination zwischen Tools und 16 Prozent von einem sofortigen Zugriff auf aktuelle Informationen. Zudem sehen 15 Prozent der Befragten weniger repetitive Aufgaben und 12 Prozent reibungslose Übergaben zwischen Teams.

KI vergrößert die Angriffsfläche

 Die Begeisterung für die KI vernebelt den deutschen Managern aber nicht das Hirn: Die KI muss sicher agieren. Tut sie aber nicht immer. Deshalb braucht sie Hilfe – am besten von einer anderen KI: Für die Zukunft erwarten 41 Prozent der Befragten, dass KI bis Ende 2026 eine zentrale Rolle bei der Datensicherheitsstrategie ihres Unternehmens einnehmen wird. Einen begrenzten Einsatz von KI zur Unterstützung menschlicher Entscheidungen oder zur Automatisierung von Routineaufgaben sehen fast alle Teilnehmer vorher.

Die Skepsis hat einen guten Grund: Der Einsatz der KI vergrößert zunächst die Angriffsfläche in Unternehmen, wie der Sicherheitsexperte Cycode in seinem aktuellen „State of Product Security“-Report darlegt. Der Angriffsvektor wächst demnach mit den durch KI angereicherten Code-Basen, weil die KI oft Schwachstellen einschleust. Und die bleiben unter dem Mantel der sogenannten Schatten-KI oft unbemerkt. Gemeint ist die Verwendung von KI-Tools, die nicht genehmigt sind und sich mittlerweile in vielen Unternehmen im gesamten Software-Development-Lifecycle breit machen.

Neue Angriffsflächen entstehen vor allem dann, wenn diese Tools vertrauliche oder sensible Daten verarbeiten. Mehr als die Hälfte (54 Prozent) der Sicherheitsverantwortlichen sorge sich daher nicht nur wegen KI-generiertem Code, sondern mehr noch über die ihn erzeugende Tool- und Systemlandschaft. „Der sogenannte Tool-Sprawl, also der Einsatz zahlreicher Tools für die Anwendungssicherheit, ist ein Risiko. Unternehmen sollten daher eine Konsolidierung vornehmen, um einheitliche Sichtbarkeit, Kontext und Kontrolle zu erhalten“, so Jochen Koehler, Vice President of Sales EMEA bei Cycode.

KI kann Chaos verbreiten

Eine wilde Verbreitung der KI innerhalb eines Unternehmens kann darüber hinaus für echtes Chaos sorgen. Wie Don Schuerman, CTO von Pegasystems, erläutert, entsteht AI Workslop, also „KI-Murks“, wenn Unternehmen generativer KI in ihren Softwareanwendungen freien Lauf lassen: „Die Anwendungen produzieren Ergebnisse, die zwar oberflächlich tiptop aussehen, bei genauerer Betrachtung aber zusammenbrechen: inkonsistente Empfehlungen, halluzinierte Fakten oder Aktionen, die nicht mit den Richtlinien und Compliance-Vorgaben eines Unternehmens übereinstimmen.“

Schuld daran sei nicht die Technologie selbst, sondern die Art und Weise, wie sie eingesetzt wird. GenAI etwa verfüge über eine generative Varianz: „Wohl jeder hat schon einmal festgestellt, dass Tools wie ChatGPT oder Perplexity auf dieselben Fragen jedes Mal andere Antworten liefern. In kreativen Prozessen ist diese Varianz eine große Stärke, denn sie produziert Ideenvielfalt. In Softwareanwendungen wird daraus allerdings ganz schnell ein gravierender Nachteil.“ Hier müsse die KI vorhersehbar, regelbasiert und kontextsensitiv arbeiten. Sie sollte genehmigte Workflows und Entscheidungen mit der gleichen Zuverlässigkeit ausführen wie jedes andere Unternehmenssystem auch.

„Ist das nicht der Fall, stellt generative KI keine Innovation dar, sondern Chaos, das als Fortschritt getarnt ist“, so Schuerman. Es drohten Fehlinformationen, Compliance-Verstöße und beschädigte Kundenbeziehungen. „Die Belegschaft wünscht sich eine KI, die ihr Fachwissen ergänzt, und nicht untergräbt. Wenn sie sich nicht darauf verlassen können, dass das System repetitive, geregelte Aufgaben jedes Mal korrekt ausführt, haben sie kein Vertrauen und von dem Versprechen, dass sie sich auf höherwertige Aufgaben konzentrieren können, bleibt nichts mehr übrig. Stattdessen müssen sie die KI ständig überprüfen und korrigieren – und haben mehr Arbeit als zuvor.“

Unternehmen sollten deshalb penibel darauf achten, generative KI zur richtigen Zeit in der richtigen Form einzusetzen. In der Designphase einer neuen Softwareanwendung kann sie ungezügelt zum Einsatz kommen. Während der Laufzeit der Anwendung müsse die Varianz dagegen unterbunden werden, indem GenAI in strukturierte Workflows mit Guardrails, Governance und Vorhersehbarkeit ausgestattet werde. „Sonst werden Unternehmen am Ende mehr Zeit damit verbringen, die Fehler der KI zu beseitigen, als ihren Wert zu nutzen“, so Schuerman.

Wir sehen also: Zurückhaltung und behutsames Vorgehen zahlt sich auch in Bezug auf die KI in Unternehmen aus. Die German Angst hat ihre volle Berechtigung und bewahrt uns vor Schnellschüssen, die so manche Pioniere abstürzen lassen.