Künstliche Intelligenz (KI) kann dazu eingesetzt werden, einige der größten Probleme unserer Zeit zu lösen. Sie hilft beim Fortschritt in der Forschung, verbindet die Gesellschaft in einer doppelten digitalen sowie grünen Transformation und ermöglicht unternehmerische Innovationen. Grundlage dabei ist das Vertrauen in die Sicherheit und Verlässlichkeit der Technologie. Das Grazer Know Center beschäftigt sich bereits seit mehr als
20 Jahren mit KI und hat dabei nicht nur die Historie dieses faszinierenden Themas mitgestaltet, sondern es sich auch zur Aufgabe gemacht, der Gesellschaft mit vertrauenswürdiger und erklärbarer KI die Angst vor dieser neuen Evolutionsstufe der Digitalisierung zu nehmen.
KI – Vertrauen muss verdient sein
Für Unternehmen und Privatpersonen in Europa ist der Mangel an Verständnis das größte Hindernis für die breitflächige Verwendung Künstlicher Intelligenz. Angesichts des enormen Potenzials der systematischen Datennutzung für die Lösung globaler Probleme, aber auch für die Steigerung der Wertschöpfung in der Ökonomie, stellt sich die zentrale Frage, wie dieses Verständnis, beziehungsweise Vertrauen, gewonnen werden kann. Die Forschungsarbeit des Know Centers hat dabei das klare Ziel, KI vertrauenswürdig, fair sowie sicherzumachen und Verständnis in die komplexen Strukturen des Hypes, um die Implementierung der Technologie, zu bringen. Gleichzeitig schafft das Zentrum internationale Maßstäbe sowie Standards für die weltweite KI-Entwicklung.
Ein anschauliches Beispiel für den oft kritisierten „KI-Bias“ sind Empfehlungssysteme, die Online-Diensten wie Amazon, Netflix oder Spotify als Erfolgsgrundlage dienen und die Navigation durch eine große Menge an Stimuli und Optionen erleichtern: Die Empfehlungen vieler dieser Systeme orientieren sich dabei jedoch nicht an individuellen NutzerInnen, sondern am Geschmack und an den Präferenzen der breiten Gruppe. Daher vermitteln sie populäre Inhalte und Produkte, die oft aber nicht den Bedürfnissen und Wünschen einzelner Individuen entsprechen – woraus in weiterer Folge Benachteiligung resultiert. Auch im Bewerbungsprozess wurden Faktoren ermittelt, die auf die Benachteiligung von bestimmten Bewerbergruppen durch KI-Systeme hindeuten. KI muss deshalb fair sein – allerdings ist es die datengetriebene Künstliche Intelligenz nicht automatisch: Es erfordert einen wesentlichen Aufwand, KI-Systeme gegen die Bevorzugung bestimmter Entscheidungen abzusichern und für faires Verhalten zu sorgen. Wenn selbst in „simplen“ KI-Systemen für Musikempfehlungen schon Bias existiert, der Probleme macht, kann damit gerechnet werden, dass auf der größeren Ebene, wie bei Decision-Support Systemen in der Industrie, noch schwerwiegendere Konsequenzen auftauchen können. Am Know Center beschäftigt sich deshalb eine eigene Forschungsgruppe mit dem Thema „Fair AI“ (faire KI) und ermittelt Wege, wie Künstliche Intelligenz tatsächlich fair und inklusiv werden kann.
Neueste vom Know Center entwickelte Empfehlungssysteme demonstrieren bereits, wie man es richtig macht: Sie betrachten die persönlichen Vorlieben und Bedürfnisse der NutzerInnen und basieren ihre Entscheidungen auf intelligenten Vorhersagen oder Rückschlüssen. Mit diesen personalisierten Datensätzen kann Fairness gewährleistet werden. Das Besondere ist dabei, dass die Daten der NutzerInnen dabei nie direkt vom Empfehlungssystem „gesehen“ werden – die Ergebnisse werden mit komplett verschlüsselten Daten berechnet. Diese vielversprechende Technologie birgt auch für Bereiche wie die Logistik oder das Gesundheitswesen immense Potenziale.
KI am Know Center – nicht nur fair, sondern auch verständlich
Vertrauenswürdige KI ist nicht nur fair und sicher, sie ist auch verständlich. Wenn Künstliche Intelligenz auf Anfrage erklären kann, wie sie zu einer Entscheidung oder Einschätzung gekommen ist, dann fällt es Menschen wesentlich leichter, ihr zu vertrauen. Moderne datengetriebene Methoden arbeiten aber oft mit hochkomplexen statistischen Modellen, deren Innenleben schwer zu verstehen ist und damit der berüchtigten „Blackbox“ gleicht: Denn einmal mit Daten trainiert, können kaum Rückschlüsse auf die Entscheidungsprozesse und ihre Ergebnisse gezogen werden. Die Lösung dafür ist es, geeignete Methoden zu finden, die Künstliche Intelligenz tatsächlich verständlich machen. Dadurch wird die Möglichkeit geschaffen, zu erkennen, worauf ihre Entscheidungen basieren. Manche Technologien können dem Menschen sogar im schriftlichen oder verbalen Austausch Gedankengänge erklären. Das Know Center erforscht dahin gehend, wie Menschen auf verständliche Weise mit Künstlicher Intelligenz optimal und offen kommunizieren können. Dabei beachtet es Prinzipien wie die Lücke zwischen Menschen und Maschine, welche die Unterschiede in den Fähigkeiten, Fertigkeiten und Eigenschaften zwischen Menschen und Systemen oder Maschinen mit künstlicher Intelligenz bezeichnet.
„Explainable AI (XAI) ist dabei ein faszinierender Ansatz, der darauf abzielt, die Art und Weise, wie Maschinen zu ihren Ergebnissen kommen, und das menschliche Denken ‚kompatibel‘ zu machen. Die erste Herausforderung besteht darin, sicherzustellen, dass die Entwickler und Forscher, die KI-Modelle erstellen, auch verstehen, wie sie funktionieren, insbesondere wenn sie auch auf Daten angewendet werden, die zum Zeitpunkt der Erstellung der Modelle nicht verfügbar waren. Neben visuellen Methoden können hier auch Kausalmodelle eingesetzt werden: Diese sind speziell deshalb spannend, weil Menschen intuitiv Ursache-Wirkungs- Ketten verstehen, während KI-Modelle ihre Entscheidungen immer noch allein auf Basis von Assoziationen berechnen“, erklärt Roman Kern, Chief Scientific Officer des Know Centers. KI kann bisher noch als eine Art Werkzeug verstanden werden, das weiterentwickelt werden muss und nicht als eine eigenständige „Identität“. XAI macht es möglich, dieses Werkzeug optimal zu nutzen und seinen bevorstehenden Wandel besser zu verstehen.
Auf die Zukunft zählen können
Vertrauenswürdige Künstliche Intelligenz und Daten sind der Schlüssel für die nachhaltige und digitale Transformation in Europa. Künstliche Intelligenz wird jedoch nur dann als Unterstützung im Alltag, als Partner im Arbeitsumfeld und als Schlüssel zur Erreichung unserer Umweltziele akzeptiert, wenn ihre technische Grundlage sicher, transparent, fair und nachvollziehbar ist. Das Know Center arbeitet unermüdlich daran, diese Vision Realität werden zu lassen.
„Wir leben in einer Zeit großer Herausforderungen. Um diesen angemessen zu begegnen, braucht es die Bereitschaft zur Kooperation und zum Teilen von Daten. Am Know Center arbeiten weltweit führende Experten an der Entwicklung von privacy-preserving und vertrauenswürdiger KI. Als Zentrum für Spitzenforschung können wir den zukünftigen Rahmen für den vertrauenswürdigen Einsatz von Künstlicher Intelligenz gemeinsam mit den höchsten Ebenen der EU gestalten“, fasst Chief Executive Officer Oliver Bernecker die Mission des Know Centers zusammen.
Das Know Center ist ein führendes europäisches Innovations- und Spitzenforschungszentrum für vertrauenswürdige KI und Data Science. Mit State-of-the-Art & Beyond Technologien, Spitzenforschung im eigenen Haus und hochinnovativen Projekten mit Kunden aus Industrie, Energie und Health Care stellt der Grazer Innovationshub, welcher auch ein COMET-Kompetenzzentrum ist, die Transformation der neuesten Erkenntnisse auf dem Gebiet der Data Science und KI in konkrete Wettbewerbsvorteile für Unternehmen sicher. Für Wissenschaft und Gesellschaft liefert das Unternehmen die technologische Basis für die Lösung der großen Zukunftsfragen. Mit seinen wegweisenden Innovationen trägt das Know Center dazu bei, dass Europa die Technologie- und Datensouveränität zurückgewinnt und die strategische Hoheit über relevante Daten bei gleichzeitiger Wahrung eines offenen und innovationsgetriebenen Marktes garantieren kann.
