Neue BARC Studie zeigt den breiten produktiven Einsatz von KI und anhaltende Lücken in der Governance
BARC hat die weltweite Studie „The State of Data and AI Governance“ veröffentlicht. Sie basiert auf den Antworten von 234 Daten- und KI-Verantwortlichen.
KI ist fest im Tagesgeschäft angekommen. Unternehmen setzen sie für Dokumentenanalysen, Datenmanagement und -integration, Analytics, Softwareentwicklung, Sicherheit und Datenschutz, Kundenservice und weitere Geschäftsprozesse ein. Insgesamt haben 97 Prozent der Befragten mindestens einen KI-Anwendungsfall produktiv im Einsatz.
Welche der folgenden KI-Anwendungsfälle hat Ihr Unternehmen im Einsatz? (n=234)
Die Governance-Reife hat mit dieser breiten Nutzung nicht Schritt gehalten. Zwei Drittel der befragten Unternehmen haben in den vergangenen zwölf Monaten mindestens einen Vorfall im Zusammenhang mit KI erlebt. Dazu zählen Datenschutzverletzungen, schädliche oder fehlerhafte Ergebnisse und unautorisierte Nutzung. Die Folgen betreffen beseispielsweise das Kundenvertrauen, regulatorische Risiken und die finanzielle Leistung.
Die Studie zeigt außerdem eine Lücke zwischen etablierter Data Governance und KI-spezifischen Kontrollen. Viele Unternehmen nutzen Werkzeuge für Datenqualität, Zugriff und Metadaten. Überwachung von KI-Modellen und Governance von KI-Agenten sind deutlich weniger verbreitet. Nur 26 Prozent setzen Monitoring und Observability für Modelle ein, 10 Prozent haben eine Governance für KI-Agenten implementiert.
„Die Einführung von KI ist schneller vorangeschritten als ihre Governance“, sagt Kevin Petrie, VP of Research bei BARC US und Co-Autor der Studie. „Unternehmen benötigen jetzt Kontrollen, die Daten, Modelle, KI-Agenten, Anwendungen und Infrastruktur verbinden. Damit schaffen sie eine solide Grundlage für den verantwortungsvollen Einsatz von KI im produktiven Betrieb.“
Es gibt Anzeichen für Fortschritte. BARC klassifiziert 29 Prozent der Befragten als AI Leaders, gegenüber 20 Prozent Anfang 2024. Diese Unternehmen berichten in den meisten Kategorien von weniger Vorfällen und wenden KI-spezifische Kontrollen konsequenter an.
Die Studie untersucht Governance-Strukturen, Verantwortlichkeiten, Technologien, Architektur, Datenqualität, Souveränität und Kontrollen für KI-Agenten. Sie gibt Empfehlungen, wie Unternehmen Richtlinien in operative Schutzmaßnahmen übersetzen können, ohne den produktiven Einsatz von KI auszubremsen.
Studie herunterladen
„The State of Data and AI Governance“ steht dank der Unterstützung von Boomi, Board und SoftProject kostenlos zum Download bereit. Die deutsche Studie können Sie hier herunterladen: https://barc.com/de/research/state-data-ai-governance/
