Blick in die Blackbox: Nachvollziehbarkeit von KI-Algorithmen in der Praxis

Von Suchalgorithmen über Entscheidungsbäume bis hin zu wissensbasierten Systemen: In den letzten sechs Dekaden haben KI-Experten eine Vielzahl an KI-Algorithmen entwickelt. Diese regelbasierte KI ist erklärbar. Der Entscheidungsweg eines klassischen KI-Algorithmus ist transparent. Wir können nachvollziehen, warum sich z. B. ein Entscheidungsbaum für eine bestimmte medizinische Diagnose ausspricht. Deshalb bezeichnet man klassische KI-Algorithmen als White-Box-Verfahren.

Die neuronalen Netze stellen eine der mächtigsten Algorithmenfamilien der KI dar. Sie lernen komplexe Zusammenhänge aus Trainingsdaten, die für den Menschen nicht ohne weiteres nachvollziehbar sind. Deswegen entspricht ihr Verhalten einer sogenannten Black-Box.

In dieser Publikation stellen wir Anwendungsfälle aus der Praxis vor, in denen der Entscheidungsprozess von neuronalen Netzen nachvollziehbar gemacht wurde.