Black-Box-Modelle, wie insbesondere die tiefen künstlichen neuronalen Netze, sind für Menschen nicht nachvollziehbar. Die erklärbare KI sucht nach Möglichkeiten, die versteckte Logik oder die einzelnen Ausgaben besser nachvollziehbar oder erklärbar zu machen.

Aus: Fraunhofer-Gesellschaft (2018): Maschinelles Lernen – eine Analyse zu Kompetenzen, Forschung und Anwendung