Qualitätssicherung
Für qualitativ hochwertige und zuverlässige Modellvorhersagen/-auswertungen testen und bewerten wir unser Modell im Anschluss an die Entwicklung mit einem Testdatensatz auf Herz und Nieren – auch als Offline-Testing (*) bekannt. Situationsabhängig testen wir dabei die:
Performance
Was ist die Genauigkeit, Effizienz und Latenz?
Robustheit
Wie robust ist das Modell gegenüber Rauschen (noise) oder falschen Input-Daten?
Explainability (XAI)
Sind die Modellentscheidungen nachvollziehbar?
Wie bei der Modellierungsphase müssen alle Ergebnisse dokumentiert werden. Vor allem im Hinblick auf Explainability ist der Austausch zwischen Ihren Fachleuten mit Domänenwissen und unseren KI-Experten wichtig.
Explainable AI (XAI)
XAI zielt bei der Entwicklung von KI-Modellen auf Transparenz, Interpretierbarkeit und Nachvollziehbarkeit ab. Im Gegensatz zu Black-Box-Modellen, können XAI-Modelle erklärt und verstanden werden. Vor allem bei regulatorischen Eingriffen oder ML-unterstützten menschlichen Entscheidungen schafft Nachvollziehbarkeit Vertrauen. Salopp gesagt, der Prozessingenieur an der Fertigungslinie möchte immer genau wissen unter welchen Voraussetzungen welche KI-Entscheidungen getroffen werden.
VORTEILE VON EXPLAINABLE AI (XAI)
Nachvollziehbare Entscheidungsfindung
Reduzierung des Modell Bias
Vertrauen in KI-Modell
Code Sicherheit und Compliance
Fehlerminimierung
Aufdecken von systematischen Prozessfehlern
Oftmals kommt es zu einem Trade-off zwischen Explainability und Modell Performance. D.h. ein Black-Box Modell (z.B. Deep Neural Network) könnte besser als ein „einfacheres“ XAI-Modell performen. Je nach Situation muss dann zusammen mit Ihren Fachleuten entschieden werden, worauf der Fokus gesetzt werden soll.
Jetzt Kontakt aufnehmen
Sie möchten die Vorteile von KI-Lösungen nutzen, um Ihr Unternehmen weiter zu bringen?
Kommen Sie auf uns zu – wir beraten Sie gerne über Möglichkeiten und Anforderungen, damit Sie so schnell wie möglich auf die Überholspur kommen!
