Vertrauen durch Erfahrung: Warum Machine Learning keine Blackbox sein muss
Thomas Bierhance
Thomas Bierhance

// //
Lesedauer: 4 Minuten

Vertrauen durch erfahrung

Warum Machine Learning keine Blackbox sein muss


Die Automatisierung von Prozessen in Unternehmen vereinfacht und beschleunigt die Arbeit und kann die Effizienz deutlich steigern. Bei der Umsetzung von Machine Learning-Projekten begegnet man häufig verstärkt Bedenken, da Anwender:innen nicht nachvollziehen können, was die Software genau macht. Dabei nutzen wir im Alltag vielfach Machine Learning-Anwendungen, die uns durch ihre Ergebnisse überzeugen und weshalb wir sie nicht weiter hinterfragen. Unserer Meinung nach sind eigene positive Erfahrungen mit einer solch neuen Software im Unternehmen entscheidend, um Vertrauen und Akzeptanz herzustellen.

In vielen täglichen Anwendungen steckt Machine Learning (oder umgangssprachlich eine künstliche Intelligenz) und erleichtert durch ihre Algorithmen die Arbeit, die Freizeit und das digitale Leben. Zum Beispiel in der Google Suche, bei Empfehlungen zu Musik (Spotify etc.) oder zu Filmen (Netflix usw.). Dabei überzeugen uns vor allem die Ergebnisse und Trefferlisten. Wir fragen uns in der Regel nicht: „Wie hat der Algorithmus funktioniert und kann ich ihm vertrauen?“  

Unser Vertrauen in eine bestimmte Anwendung hängt davon ab, ob die Empfehlungen gut sind. Allerdings müssen wir nicht unbedingt vertrauen, wenn das Risiko gering ist. Es kann vorkommen, dass uns einer der empfohlenen Musiktitel nicht gefällt – na und?
Uns überzeugt die Wirkung: Es gibt eine Vielzahl weiterer Treffer, die genau unserem gewünschten Geschmack entsprechen, und somit können wir sofort beurteilen: „Ja, das ist eine gute und passende Empfehlung! Gefällt mir!

Was bedeuten diese Alltagserfahrungen für B2B-Projekte?

Beim Einsatz von Automatisierungs-Software im B2B wird oft die Frage gestellt: Wie wurde das System trainiert? Wie kommt es zu seinen Lösungen?
Unter dem Stichwort Explainable AI wurden verschiedene Ansätze entwickelt, um diese Fragen zu beantworten. Die Nutzer:innen bekommen einen Einblick über die Trainingsdatensätze oder Vorhersagen. Ein Beispiel: Aufgrund des niedrigen Einkommens der Antragstellerin wird empfohlen, den Kredit nicht zu bewilligen.

Fraglich ist, ob diese Erklärungen und Einblicke automatisch zu einer höheren Akzeptanz führen. Schließlich sind einige Algorithmen so komplex, dass sie nur schwer verständlich sind, selbst mit angemessenem Aufwand. Zudem entsprechen sie nicht unserer persönlichen Erfahrung mit Google, Netflix und ähnlichen Diensten.

Entscheidend sind die eigenen positiven Erfahrungen

In unserem Alltag erfahren wir immer wieder, dass es nicht um die vollkommene Transparenz einer Machine Learning-Lösung geht, sondern vielmehr darum, Vertrauen entwickeln zu können. Explainable AI kann dabei helfen, ist letztendlich aber nur eine vertrauensbildende Maßnahme. Wir konnten die Erfahrung machen, dass selbst der Beweis, dass die Künstliche Intelligenz besser entscheidet, nicht zwangsläufig zu mehr Vertrauen führt. 

Ähnlich wie in den beschriebenen Alltagserfahrungen bildet sich Vertrauen dann heraus, wenn die Ergebnisse der Anwendungen von den Usern selbst direkt verifizierbar sind. Ist dies nicht der Fall, hilft es ungemein, wenn die Anwender:innen nachsteuern können, das heißt, sie machen prozentuale Angaben oder geben Trefferquoten zu den Ergebnissen an, so dass die Anwendung sukzessive präziser wird. Die eigenen Erfahrungen verbunden mit dem Feedback und dadurch immer besseren Ergebnissen ist der überzeugendste Weg zur Akzeptanz. Fragen zur Funktionsweise von Algorithmen spielen dann meist nur noch eine untergeordnete Rolle. 

Fazit

Was bedeutet das nun genau? Wir streben nach einer möglichst benutzerfreundlichen Lösung. Wie können wir dieses Ziel erreichen?

  • Die Machine Learning-Lösung muss nahtlos in bestehende Anwendungen und Prozesse integriert werden.
  • Es ist wichtig, dass die Nutzer:innen weiterhin die Kontrolle behalten und die Möglichkeit haben, im Notfall auf schlechte Ergebnisse zu reagieren. Die Software sollte sich diese Präferenzen merken!
  • Im Entwicklungsprozess ist es von entscheidender Bedeutung, die Nutzer:innen aktiv einzubeziehen.

Wir können solche Lösungen liefern, weil es uns wichtig ist, in den Projekten mit unseren Kund:innen und Partner:innen auf Augenhöhe zusammenzuarbeiten.


Haben wir Deine Neugierde geweckt?

Möchtest Du Dein Unternehmen durch Machine Learning & Data Science effizienter gestalten? Unser Experte Thomas Bierhance (BCxP Practice Lead für Machine Learning & Data Science) berät Dich gerne. Kontaktiere uns!