Wie ermöglicht das System Nachvollziehbarkeit und unterstützt menschliche Entscheidungsfindung?
DeepVA stellt Transparenz und Benutzerfreundlichkeit durch nachvollziehbare Entscheidungen, Prozess-Logging und das Human-in-the-Loop-Prinzip sicher.
Maßnahmen zur Sicherstellung von Transparenz und Benutzerfreundlichkeit
-
Nachvollziehbarkeit von KI-Entscheidungen:
Es besteht die Möglichkeit, Entscheidungen der KI bis zu den zugrunde liegenden Trainingsdaten zurückzuverfolgen – beispielsweise das spezifische Trainings-Sample, das zu einer Erkennung geführt hat. -
Protokollierung interner Abläufe:
Alle internen Prozesse und Workflows werden durchgehend geloggt, um Transparenz, Überprüfbarkeit und eine einfache Nachvollziehbarkeit sicherzustellen. -
„Human in the Loop“-Prinzip:
Unsere KI-Systeme sind so gestaltet, dass die finale Entscheidung stets beim Menschen liegt. Die KI arbeitet nie vollständig autonom, sondern unterstützt den Entscheidungsprozess assistiv.