algorithm assurance

Über Deloitte

Algorithm Assurance

Algorithm Assurance hilft Ihnen, die Anforderungen an einen vertrauenswürdigen Einsatz von Algorithmen und KI in Ihrem Unternehmen zu erfüllen und die Risiken bei deren Nutzung zu minimieren. Deloitte unterstützt Sie dabei, sicherzustellen, dass die von Ihnen eingesetzten Algorithmen und KI Systeme Ihren Erwartungen entsprechend funktionieren und zu keinen unbeabsichtigten Ergebnissen führen, die u.a. Vertrauensverluste bei Ihren Stakeholdern oder Compliance-Verstöße zur Folge haben können.

Der Einfluss Algorithmus-basierter Technologien und künstlicher Intelligenz ist bereits in vielen Branchen allgegenwärtig: Egal, ob es sich nur um eine Suchanfrage im Internet handelt oder um komplexe Vorhersagemodelle. So werden z. B. in der Energiewirtschaft die zukünftige Entwicklung von Strompreisen oder in der Finanzwirtschaft Kreditausfallrisiken und Einstufungen von Kunden mittels KI-gestützter Systeme durchgeführt. Dabei werden z.T. bereits komplett autonome Entscheidungen durch KI getroffen. Die daraus resultierenden Risiken müssen für die betroffenen Unternehmen allerdings kalkulierbar und handhabbar bleiben. Mit unserem Algorithm Assurance Framework prüfen wir die bei Ihnen bestehenden Maßnahmen, die diese Risiken adressieren und schaffen damit für Ihr Unternehmen und Ihre Stakeholder Vertrauen in die eingesetzten Technologien.

Risiken bei Verwendung von Algorithmen und KI

Durch den Einsatz von KI und Algorithmen entstehen Risiken für Unternehmen, die zu Imageschäden, konkreten Rechtsverstößen und negativen finanziellen Auswirkungen führen können. 

In der aktuellen KI-Studie von Deloitte wird der Mangel an Transparenz bei KI-Entscheidungen als größtes Risiko im KI-Kontext in Deutschland erkannt. Weiter führt die Studie als Defizite die Sicherheit hinsichtlich KI-basierter Systeme oder die mögliche Diskriminierung durch KI-Algorithmen an. 

KI-Studie von Deloitte

Zur Website

Algorithmen und KI: Die Notwendigkeit von robusten Governance & Kontrollstrukturen

Ein robuster Kontrollrahmen für Algorithmen ist fundamental für das Risikomanagement und sollte Schlüsselbereiche wie Governance, Algorithm pre-, post- and go-live testing sowie spezifische Kontrollen für wesentliche Risiken überwachen und abdecken.

Fragen, die Sie sich für Ihr Unternehmen in diesem Zusammenhang stellen müssen, sind unter anderem:

  • Kennen Sie die bei Ihnen eingesetzten Algorithmen, die zu potenziellen Risiken für Ihr Unternhemen führen können?
  • Wie ist gewährleistet, dass die verwendeten Algorithmen die Aufgaben, für die sie programmiert sind, auch unter unerwarteten Bedingungen erfüllen?
  • Können Sie sicher sein, dass die verwendeten Algorithmen nicht zu unerwarteten und ungewollten Ergebnissen und Handlungen führen?
  • Wie haben Sie sichergestellt, dass die verwendeten Algorithmen Kunden, Lieferanten, Mitarbeiter und andere Stakeholder einheitlich, fair und transparent behandeln? 
  • Können Sie den Weg transparent nachvollziehen, wie Ihr Algorithmus oder Ihre KI zu bestimmten Ergebnissen kommt?
  • Bestehen bei Ihnen ausreichende Kontrollen, um die Risiken zu managen, die aus der Anwendung von Algorithmen und KI entstehen können?

Deloitte unterstützt Sie dabei, die genannten Risiken zu minimieren und sicherzustellen, dass die verwendeten Algorithmen die Kriterien an einen vertrauenswürdigen Einsatz von KI erfüllen.

Was sind die Anforderungen an eine vertrauenswürdige Nutzung?

Vertrauen in Ihre Algorithmen und KI-Systeme ist ein essentieller Bestandteil bei der Nutzung dieser Technologien. Die folgenden Kriterien müssen hierfür erfüllt sein:

  • Erklärbarkeit für die Transparenz der Entscheidungen
  • Fairness und Nichtdiskriminierung von Entscheidungen, um die Unvoreingenommenheit der KI zu gewährleisten
  • Einhaltung gesetzlicher Vorschriften und Zuordnung der Verantwortlichkeit, um juristische Risiken zu vermeiden
  • Resilienz und Robustheit, um gegenüber Eingriffen von Unbefugten gewappnet zu sein und um konsistente und verlässliche Entscheidungen der KI zu garantieren
  • Performanz, damit die KI weiterhin zur Erreichung des ursprünglichen Unternehmensziels beiträgt
  • Vertraulicher Umgang mit Daten, damit das Vertrauen der Kunden, Lieferanten und anderer Stakeholder nicht gefährdet wird
trustworthy ai framework
Anklicken für größere Ansicht

Erfahren Sie mehr zum Trustworthy AI framework

Hier klicken

Vertrauen und Sicherheit mit Algorithm Assurance von Deloitte

Deloitte unterstützt Sie bei diesen komplexen Herausforderungen. Dabei beschränken wir uns nicht nur auf die reine technische Sicht, sondern untersuchen Ihr System ganzheitlich. Neben den o. g. Kriterien betrachten wir zusammen mit Ihnen verschiedene Dimensionen, insbesondere

  • Governance & Internes Kontrollsystem: Überprüfung und Weiterentwicklung der Governance Strukturen und des Internen Kontrollsystems um KI- und Algorithmusspezische Maßnahmen und Kontrollziele.
  • Algorithmus, Modell und Daten: Überprüfung der Verfahren und Anwendung hinsichtlich Entwicklung, Trainingsdaten- und Modellmanagement, Testing & Deployment. Beurteilung und Unterstützung zur Sicherstellung der Nachvollziehbarkeit von Modellen und Entscheidungen („Explainable AI“).
  • Monitoring: Prüfung der Überwachungsprozesse zur rechtzeitigen Erkennung unbeabsichtigter oder falscher Entscheidungen von KI und Algorithmen.

Unsere Teams, bestehend aus Spezialisten der unterschiedlichen Fachbereiche, helfen Ihnen dabei, die für Ihr Unternehmen resultierenden Risiken aus dem Einsatz von KI und Algorithmen einzuschätzen und zu mitigieren.

Mit unserer langjährigen Expertise zu Prozessen, Technologien, Modellen und Daten finden wir den für Sie besten Weg, um Ihnen die Gewissheit zu geben, dass Ihre Algorithmen robust sind, wie beabsichtigt funktionieren und das Ergebnis erreichen, für das sie entwickelt wurden.

Algorithm Assurance schafft für Sie und Ihre Stakeholder Transparenz und Vertrauen in Ihre KI Systeme und Algorithmen.