Softwarepark Hagenberg IN-Breakfast zum Thema „Explainable AI“

Florian Perteneder, Data Scientist bei der Firma Dynatrace am Standort Hagenberg, erörterte in seinem Vortrag das Thema “Explainable AI”.

“Explainable AI”

KI (Künstliche Intelligenz) ist eines der großen Schlagworte des letzten Jahrzehnts und gilt in vielen Bereichen innerhalb und außerhalb der IT als wichtiger Faktor für Innovation. Mit zunehmender Popularität und ihrer Anwendung in vielen Bereichen kommt künstliche Intelligenz oder allgemein maschinelles Lernen jedoch auch immer wieder unter Kritik, insbesondere, wenn Black-Box-Modelle über Jobangebote, medizinische Behandlungen oder sogar Gefängnisstrafen entscheiden. Können wir einer KI vertrauen, obwohl wir nicht wissen wie ihre Entscheidungen zustande kommen, weil die internen Modelle zu komplex sind, um sie zu verstehen?

Explainable AI (XAI; deutsch: erklärbare künstliche Intelligenz) versucht Erklärungen für Modelle zu finden, die das intuitive Verständnis von Menschen übersteigen. Die Anwendungen reichen von individuellen (lokalen) Erklärungen für bestimmte Ergebnisse von Black-Box-Modellen (z.B. Warum wurde mein Kreditantrag abgelehnt? Warum hält mein Bilderkennungsalgorithmus einen Hund für einen Wolf?) bis hin zu globalen Analysen, die die Auswirkungen verschiedener Eingabegrößen quantifizieren (z.B. Was ist der größte Risikofaktor für eine bestimmte Art von Krebs).

Dieser Vortrag gibt eine kurze Einführung zu den Anstrengungen, maschinelles Lernen erklärbar zu machen. Präsentiert wurden Anwendungsbereiche, gängige Methoden (z. B. LIME, SHAP) und generische Ansätze, die unabhängig vom konkreten Anwendungsfall eingesetzt werden können.

>> Die Aufzeichnung des Vortrages können Sie auf hier auf unserem Softwarepark Hagenberg YouTube Kanal ansehen.