Künstliche Intelligenz ist die Grundlage für die Lösung der großen Probleme unserer Zeit, von Pandemie bis Klimawandel. Sie diagnostiziert Erkrankungen, lenkt unsere Energieversorgung und optimiert die Kreislaufwirtschaft der nahen Zukunft. Grundlage ist dabei Vertrauen in die Sicherheit und Verlässlichkeit der Technologie.
Für Unternehmen und Privatpersonen in Europa ist der Mangel an Vertrauen das größte Hindernis für die breitflächige Verwendung von künstlicher Intelligenz. Angesichts des enormen Potenzials der systematischen Datennutzung für die Lösung unserer globalen Probleme, aber auch für die Steigerung der Wertschöpfung in unserer Ökonomie, stellt sich die Frage, wie dieses Vertrauen gewonnen werden kann. Das Know Center forscht mit dem Ziel, KI vertrauenswürdig und sicherzumachen und schafft dabei Maßstäbe für die weltweite KI-Entwicklung.
Empfehlungssysteme dienen als Erfolgsgrundlage von Online-Diensten wie Amazon, Netflix oder Spotify. Sie erleichtern die Navigation durch eine große Menge an Eindrücken und Optionen. Empfehlungen vieler Systeme orientieren sich nicht am individuellen Nutzer, sondern am Geschmack und an den Vorlieben der breiten Gruppe. Daher vermitteln sie beliebte Inhalte und Produkte, die aber oft nicht den Bedürfnissen und Wünschen einzelner Individuen entsprechen. Dadurch kommt es zur Benachteiligung.
KI sollte deshalb fair sein – datengetriebene künstliche Intelligenz ist aber nicht automatisch fair: Es erfordert ein gutes Stück Aufwand, ein Empfehlungssystem gegen die Bevorzugung bestimmter Entscheidungen abzusichern und für faires Verhalten zu sorgen. Am Know Center beschäftigt sich eine eigene Forschungsgruppe mit dem Thema „Fair AI“ (faire KI) und ermittelt Wege, wie Künstliche Intelligenz tatsächlich fair und inklusiv werden kann.
Neueste vom Know Center entwickelte Empfehlungssysteme zeigen schon, wie es gemacht werden könnte. Sie betrachten die persönlichen Vorlieben des Nutzers und basieren ihre Entscheidungen auf intelligenten Vorhersagen oder Rückschlüssen. Mit diesen personalisierten Datensätzen kann Fairness gewährleistet werden. Das Besondere ist dabei, dass die Daten der Nutzer dabei nie direkt vom Empfehlungssystem „gesehen“ werden. Die Ergebnisse werden mit komplett verschlüsselten Daten berechnet. Eine vielversprechende Technologie, die auch in der Logistik und im Gesundheitswesen immense Potenziale verspricht.
Vertrauenswürdige KI ist nicht nur fair und sicher, sie ist auch verständlich. Wenn künstliche Intelligenz auf Anfrage erklären kann, wie sie zu einer Entscheidung oder Einschätzung gekommen ist, dann fällt ihr zu vertrauen wesentlich leichter. Moderne datengetriebene Methoden arbeiten aber oft mit hochkomplexen statistischen Modellen, deren Innenleben schwer zu verstehen ist. Einmal mit Daten trainiert, können kaum Rückschlüsse auf die Entscheidungsprozesse gezogen werden. Die Lösung dafür sind geeignete Methoden, die Künstliche Intelligenz visuell darstellen. Dadurch wird die Möglichkeit geschaffen, zu erkennen, worauf ihre Entscheidungen basieren. Manche Technologien können dem Menschen sogar im schriftlichen oder verbalen Austausch Gedankengänge erklären. Das Know Center erforscht dahin gehend, wie Menschen auf verständliche Weise mit künstlicher Intelligenz optimal und offen kommunizieren können.
Vertrauenswürdige künstliche Intelligenz und Daten sind der Schlüssel für die nachhaltige und digitale Transformation in Europa. Künstliche Intelligenz wird nur dann als Unterstützung im Alltag, als Partner im Arbeitsumfeld und als Schlüssel zur Erreichung unserer Umweltziele akzeptiert, wenn ihre technische Grundlage sicher, transparent, fair und nachvollziehbar ist. Das Know Center arbeitet daran, diese Vision in Realität zu verwandeln.