Viele KI-Modelle funktionieren wie eine Black Box: Es bleibt oft unklar, welche Schritte zur Erzielung eines Ergebnisses geführt haben. Dies trifft laut Rebecca Davis, Forscherin an der University of Manitoba, auch dann zu, wenn die KI ein Molekül für ein potenzielles neues Medikament identifiziert. Eine Methode, um die Entscheidungsprozesse von KI besser zu verstehen, bietet die Erklärbare künstliche Intelligenz (Explainable Artificial Intelligence, XAI). Davis und ihr Kollege Hunter Storm nutzen diese Technologie, um KI-Modelle zu entwickeln, die unter anderem neue Antibiotikakandidaten vorhersagen. Dabei analysieren sie tausende Optionen, um vielversprechende Wirkstoffe zu identifizieren. Jetzt setzen sie XAI ein, um besser zu verstehen, welche chemischen Informationen für die KI von Bedeutung sind.
Analyse von Arzneimittelmolekülen
In einem ersten Schritt haben die Forscher bekannte Wirkstoffmoleküle in ein KI-Modell eingespeist, das vorhersagen sollte, ob eine Verbindung biologisch aktiv ist. Anschließend wurde mit einem von Pascal Friederich am Karlsruher Institut für Technologie (KIT) entwickelten XAI-Modell untersucht, welche spezifischen Molekülstrukturen für die Vorhersagen der KI ausschlaggebend waren. Diese Analyse half dabei, zu erklären, warum die KI bestimmte Moleküle als aktiv einstufte und andere nicht.
Durch diese Methode konnten Davis und Storm nachvollziehen, welche Merkmale ein KI-Modell als wichtig erachtet und wie es zur Erstellung von Kategorien gelangt. Die Erkenntnis: XAI kann Faktoren erkennen, die dem menschlichen Auge entgehen, und dabei wesentlich mehr Variablen und Datenpunkte berücksichtigen.
Neue Erkenntnisse zu Penicillin
Besonders interessant waren die Ergebnisse, die XAI bei der Untersuchung von Penicillin-Molekülen lieferte. Traditionell gehen viele Chemiker davon aus, dass der Zellkern von Penicillin entscheidend für dessen Wirksamkeit ist. Doch die XAI-Analyse ergab, dass die Strukturen, die an diesem Zellkern angehängt sind, für die antibiotische Aktivität entscheidender sein könnten. Diese Entdeckung könnte erklären, warum einige Penicillin-Derivate nur eine geringe biologische Aktivität aufweisen.
Zukunft der prädiktiven KI-Modelle
Die Forscher hoffen, durch den Einsatz von XAI prädiktive KI-Modelle weiter verbessern zu können. „XAI zeigt uns, welche Strukturen für eine antibiotische Aktivität entscheidend sind. Mit diesem Wissen können wir KI-Modelle gezielt darauf trainieren, diese Merkmale zu erkennen“, erklärt Davis. Sie betont zudem die Bedeutung von XAI, da sie nicht nur die Transparenz der KI-Entscheidungen erhöht, sondern auch das Vertrauen in diese Technologie stärkt.