Artificial Intelligence (AI) – aber nur mit Spurhalteassistent!

Datum

15.07.2021

Dieser Beitrag wurde verfasst von:

Marc Bastien

AI als vereinfachter Begriff

Zunächst eine Vereinbarung zur Vereinfachung: mir ist wohl bewusst, wie unterschiedlich die Begriffe „Data Science“, „KI“, „AI“ oder „ML“ genutzt werden und dass es professionelle Erklärungen zu den Unterschieden gibt. Derzeit scheint sich die Abkürzung „AI“ – nicht unbedingt fachlich begründet, sondern eher von den Herstellern getrieben – durchzusetzen. Im Folgenden möge man mir verzeihen, wenn ich „AI“ verwende, es dient rein der Vereinfachung.

Verfolgt man die Nachrichten rund um die Entwicklung von AI, ergibt sich ein absolut heterogenes Bild, das sich mit meinen Erfahrungen aus meiner täglichen Arbeit deckt: Die Nutzung von AI, insbesondere konkret bei der Unterstützung realer Geschäftsprozesse im Unternehmen, deckt ein breites Spektrum von fast schon traditionellen Business Analytics / Intelligence Themen über Statistik bis hin zu echtem „Machine Learning“ ab, bei dem die Maschine einigermaßen autark Entscheidungen fällt oder zumindest vorschlägt

Chancen in der Nutzung von AI

Welchen Einsatzzweck oder Nutzen hat AI? Bekomme ich von Geschäftspartnern diese Frage gestellt, so kann ich meist nur antworten: „Kommt drauf an“. Ohne Zweifel kann AI in jedem Business einen Mehrwert generieren, aber durch die fachliche und technische Abhängigkeit lässt sich die Mehrwertdiskussion nur selten im Vorfeld abschließend führen. 

Glühbirne als Symbol für Artificial Intelligence

Ein Mittel der Wahl: mit sogenannten „Proof-of-Value“ Workshops vor der eigentlichen Projektinvestition, um den Mehrwert in einem vorgeschalteten Workshop anhand belastbarer Information zu bewerten. So werden echte Daten mit pragmatischen Prozessen, in einer abgeschotteten vordefinierten Umgebung mit erfahrenen Kollegen (Data Engineers, Data Scientists und Analytics Architekten) aufbereitet, analysiert, bewertet und schließlich erste Modelle gerechnet, die Aussagen bezüglich eines Use Cases zulassen. Beispiele: Bessere Response Rate im Marketing, Erkennung von Ausschuss in der Produktion, Vorbestimmung von Zahlungsverhalten im Controlling oder Vorhersage von Schadenshäufigkeiten in der KfZ-Versicherung.

The Next Level Of AI

Die Beispiele von AI sind vielfältig, besonders, wenn der eigentliche Prozess der Analyse so gut und verlässlich ist, dass automatisierte Prozesse denk- und machbar werden, die direkt in den operativen Prozess eingreifen: In der Produktion wird ein Schlechtteil zur weiteren Kontrolle aussortiert oder in der Versicherung ein Vertrag entsprechend gewertet.

Technische Herausforderung:

Die technische Herausforderung, aus einer isolierten, statistischen Analyse einen operativen AI-Prozess zu entwickeln, begegnen wir mit analytischen Plattformen, deren Berechtigung in der Bereitstellung dieser umfangreichen Fähigkeit liegt: Von der nachvollziehbaren, sicheren Integration verschiedener Datenquellen über Entwicklungsumgebungen für AI bis hin zum automatischen Deployment und Bereitstellung von AI-Services zur Integration in den operativen Prozess.

Doch der automatisierte Prozess birgt weitere Unsicherheiten. Wurde im ersten Ansatz noch mit gänzlich nicht-optimierten Daten der Einfluss auf Ausschuss in der Produktion bestimmt, so wird die Optimierung des Prozesses unmittelbar auch die Datenbasis verändern! War zuerst im Produktionsprozess die Fülltemperatur für den Ausschuss verantwortlich, welcher Parameter wird es sein, nachdem diese optimiert wurde? Zwangsläufig wird sich das entwickelte Data Science Modell ändern müssen, um die neue Datenlage zu berücksichtigen. Wer wird das Modell in der Spur halten?

Fachliche Herausforderung:

AI ist, wie bereits erläutert, hochgradig fachlich getrieben und muss daher auch fachlich bewertet werden. Ob Schlechtteile Schlechtteile sind, muss die Qualitätskontrolle entscheiden, ebenso über deren Wert bzw. wie und ob eine AI in den Prozess eingreifen darf. Dem Werkstück wird es letztlich egal sein.

Viel komplizierter wird es jedoch, wenn Menschen im Spiel sind, über die die AI urteilt. Es mag als gerecht empfunden werden, wenn Verursacher von hohen Schäden eine höhere Prämie zahlen. Es mag auch fachlich richtig und gewollt sein. Was aber niemals sein darf: Wir dürfen nicht die Kontrolle darüber verlieren, wie die KI urteilt.

AI muss in der Spur bleiben

Header Transparenz bei Artificial Intelligence.

Die Transparenz und Nachvollziehbarkeit von AI ist die größte Herausforderung für die Nutzung von AI. Im Zusammenhang mit fairer Beurteilung von Menschen oder menschlichem Verhalten sowieso. Im Zusammenhang mit anderen Daten würden wir konsequenterweise in absehbarer Zeit komplett den Durchblick über Zusammenhänge in den Daten verlieren, wenn wir der AI allein das Feld überließen.

Nicht ohne Grund beschäftigen sich auf höchster Ebene Experten und Politiker mit der Nutzung von AI, wie z.B. die EU mit dem neuen Rechtsrahmen für KI im April 2021.

AI Spurhalteassistent: Ein Ansatz

Es gibt einige technische Ideen, um AI in der Spur zu halten bzw. zu überwachen. Wie angedeutet gibt es technische und fachliche Aspekte, die der Spurhalteassistent beachten muss!

  • Technische Aspekte können zum einen die Güte des Modells sein, die sich zwingend aus sich ändernden Datenbeständen bestimmt oder zum anderen ein einfacher „Drift“ des Modells, der sich konzeptionell ergibt.

  • Fachliche Aspekte werden kaum automatisch erkannt, weil die wenigsten Systeme von sich aus „fair“ sind. Der Mensch muss eingreifen, gewolltes Verhalten bzw. eine Kontrollgruppe definieren, um die AI gegen dieses zu messen.

Ein Beispiel für die technische Umsetzung zur Erkennung dieser Aspekte hat IBM einerseits „Stand-Alone“, anderseits als Bestandteil in seine analytische Plattform „Cloud Pak for Data“ integriert: Watson OpenScale.

Screenshot von Watson OpenScale.

Oberfläche von Watson OpenScale

In Watson OpenScale werden AI Modelle aus verschiedenen Quellen (innerhalb der IBM Infrastruktur, aber auch z.B. Microsoft Azure ML Studio und weitere) überwacht und die Ergebnisse einem Nutzer in einem übersichtlichen Dashboard dargestellt bzw. per Alarm aktiv gepushed.

Modelle für die automatische Erkennung von Qualität und Drift sind in der Lösung bereits enthalten und müssen nur konfiguriert werden. Für die Erkennung von Fairness muss zunächst „Fairness“ in OpenScale definiert werden. Beliebige Definitionen und Kontroll- vs. Vergleichsgruppen sind möglich.

Watson OpenScale integriert sich komplett in die IBM analytische Plattform „Cloud Pak for Data“ und komplettiert damit den Ansatz kommend von der Anbindung beliebiger Datenquellen, Bereitstellung von vertrauenswürdigen, dokumentierten Datenbeständen über Erstellung von AI Modellen manuell oder mit AI-Unterstützung, Deployment der AI-Modelle zur Nutzung in operativen Prozessen bis zur Überwachung der Modelle in OpenScale.

Umfangreiche Informationen zu Watson OpenScale finden Sie auf der Website der IBM.

Sprechen Sie uns an!

Marc Bastien
Software ArchitectTIMETOACT Software & Consulting GmbHKontakt