Know Center Research

Fair AI

Welche Gefahren der Diskriminierung hinsichtlich Hautfarbe, Geschlecht oder Popularität liegen in den Algorithmen einer KI? Was müssen wir selbst rechtzeitig einplanen, was muss die KI selbst können und wie können wir Menschen unterstützen, auf Basis von Erkenntnissen von KI Entscheidungen auf überlegte und kritische Art und Weise zu treffen?

Fair AI

Research Fokus

Die Research Area „Fair AI" hat die Aufgabe, faire, vorurteilsfreie Algorithmen und Bewertungsmethoden, die die Risiken von Diskriminierung minimieren und das Vertrauen in KI fördern, zu erforschen und zu entwickeln. In enger Zusammenarbeit mit den anderen Research Areas arbeiten wir am tiefen Verständnis von Kausalzusammenhängen, die falschen Entscheidungen zugrunde liegen. Unser übergeordnetes Ziel ist es, faire Algorithmen und Bewertungsmethoden zu entwickeln, die wesentlicher Baustein einer vertrauenswürdigen KI sind. Wir wollen Nutzer:innen in ihrer selbstbestimmten, kritischen und informierten Entscheidungsfindung und Interaktion mit KI-basierten Systemen (etwa bei Empfehlungssystemen/Recommender Systems) unterstützen.
Biases in Data and Systems

Kognitive und soziale Verzerrungen (Biases) in der Wahrnehmung und im Verhalten von Menschen werden von KI-basierten Systemen erfasst, reflektiert und potenziell verstärkt. Häufige Beispiele sind die Förderung von Popularitäts-Biases und Polarisierung in Online-Informationen oder die Übernahme von geschlechtsspezifischen Vorurteilen in Suchmaschinen. Unsere Forschung zielt auf das Verstehen solcher kognitiver und sozialer Biases in Benutzerinteraktionen und anderen Formen von KI-Trainingsdaten.

Fairness in Algorithmic Decision Support

Um höchstmögliche Transparenz in Systemen unserer Partner zu schaffen, erforschen wir die Gründe für soziale und kognitive Verzerrungen (Biases) in Algorithmen und entwickeln spezielle Modellierungstechniken für einzelne (Gruppen von) Nutzer:innen. Dies wird zu einem Ökosystem beitragen, in dem ein hohes Maß an Transparenz und Fairness durch personalisierte Algorithmen erreicht wird.

Privacy-aware Recommendations

Empfehlungssysteme/Recommender Systems benötigen typischerweise viele persönliche und private Daten um personalisierte Empfehlungen berechnen zu können. Wir erarbeiten Datenschutzkonzepte für Recommender Systems und geben den Benutzer:innen die Kontrolle darüber, wie viele Daten sie weitergeben. Mit hochinnovativen „Verschleierungstechniken“, die mit unseren Partnern in sensiblen Umgebungen wie dem Gesundheitswesen evaluiert werden, halten wir die Balance zwischen Genauigkeit der Daten und Datenschutz.

Potenziale

Faire KI schafft Vertrauen.

Eine perfekte KI Anwendung, genau auf Ihr Unternehmen zugeschnitten, ist gut. Noch besser allerdings ist es, wenn die KI auch fair ist. Weil dann nämlich alle Ihre Kund:innen (oder auch die Nutzer:innen öffentlicher Dienstleistungen) Ihrem Unternehmen auch langfristig vertrauen werden. Und wenn Daten der wertvollste Rohstoff des 21. Jahrhunderts sind, über den ein Unternehmen verfügen kann, dann ist Vertrauen der wichtigste Rohstoff, der einem von außen geschenkt wird. Besser, den nicht aufs Spiel zu setzen.
Recommender Systeme

Personalisierte Empfehlungen und Entscheidungshilfen, die sich auf der Grundlage von Benutzerfeedback selbst optimieren können

Bias Detection

Gibt es bestimmte Kunden/Nutzergruppen, die ungerecht behandelt werden?

Bias Mitigation

Wie können die Auswirkungen bestehender Verzerrungen (Bias) minimiert werden? Wie können wir die Qualität von Algorithmen verbessern?

Zertifizierung

Entsprechen Ihre Datensätze und Algorithmen dem neuen EU-AI Gesetz? Wie können sie zertifiziert werden?

Fairness Check

Welche Fairnesskriterien sollten angewandt werden? Gibt es einen Kompromiss zwischen verschiedenen Fairness-Definitionen? Wie sieht es mit der Balance der Fairness zwischen Anbietern und Verbraucher:innen aus? Der Fairness Check identifiziert den Status der Fairness einer bestehenden Anwendung und ermöglicht uns, gemeinsam rasch und effizient Wege zu mehr Fairness und Vertrauen zu finden!

User:Innen verstehen

Clustern Sie Nutzergruppen basierend auf ihren Interessen und verstehen Sie die Verbindung zwischen den Nutzer:innengruppen. Angewandte Marktforschung auf Knopfdruck, in Echtzeit und perfekt zur Unterstützung von  strategischen oder kurzfristigen  Entscheidungen in Produktentwicklung, Vertrieb oder Marketing.

Churn Prevention

Identifizieren Sie jene Nutzer:innen, die aufgrund ihres Verhaltens das System möglicherweise verlassen werden. Auf dieser Basis können Sie entsprechende individuelle Retention-Angebote ausarbeiten oder wertvolles Feedback einholen. Lassen Sie keine Kund:innen ziehen, ohne etwas davon zu bemerken!

Nischen erkennen

Oft existieren User Gruppen, die Inhalte bevorzugen, die nicht der Mehrheit entsprechen. Erkennen Sie jederzeit solche Nischengruppen, die auch sehr wahrscheinlich Probleme haben, die für sie passenden Inhalte zu finden. So können Sie lernen, Ihre Angebote weiter zu diversifizieren oder gesondert Angebote für diese Kundengruppen zu kommunizieren. Unterschätzen Sie nicht die Bedeutung dieser Kund:innen, die Nischenangebote bevorzugen!

Provider Fairness

Wer bringt Daten in das System ein? Werden alle Anbieter fair behandelt? Haben alle Inhalte eine Chance, entdeckt zu werden? Immer öfter sind es Plattformen der Sharing Economy oder Cluster–Plattformen, auf denen Unternehmen und Einzelpersonen selbständig Informationen bereitstellen, Leistungen und Produkte tauschen oder Käufe und Verkäufe abwickeln. Sorgen Sie dafür, dass so eine Plattform alle Anbieter fair behandelt und geben Sie damit der Plattform die Chance zu skalieren!

Consumer Fairness

Wer sind Ihre Kunden:innen/Nutzer:innen? Erhalten sie gute Ergebnisse, die durch die AI erzielt werden?

Fair Matchmaking

Wie können wir Matchmaking zwischen verschiedenen Angeboten und Nachfragen in einem System auf faire und transparente Weise realisieren? Was sind die Kriterien, nach denen ein Matchmaking funktionieren soll? Das Ziel ist, am Ende unter einer Vielzahl an Möglichkeiten das beste Ergebnis zu erreichen.

Data Quality Assesment

Wie hoch ist die Qualität der Trainingsdaten im System?

Long-Term Simulations

Analyse des Impacts von privacy-preserving Technologien auf die Präzision von Decision Support und Recommender Systemen sowie die Evaluierung schutzbedürftiger Daten.

Anonymous Users

Session-basierte Empfehlungen für anonyme Nutzer:innen, die nicht angemeldet sind, unter Verwendung von Deep-Learning-Methoden. Viele Nutzer:innen wollen sich, gerade bei nicht so großen Portalen, nicht anmelden oder sind nur rasch auf der Suche nach Informationen oder Produkte. Aus ökonomischer Sicht sollen aber auch diese Nutzer:innen in den meisten Fällen die selben Informationen finden können oder Produkten shoppen können wie angemeldete Nutzer:innen.

Privatsphäre schützen

Häufig ist die Verwendung privater Daten nicht erlaubt. Da müssen wir darauf achten, dass KI Systeme keine Rückschlüsse auf Nutzer:innen aufgrund der in der Session anfallenden Daten ziehen können.

User Control

Den Nutzer:innen durch die Gestaltung der Anwendung von Beginn an ermöglichen, zu entscheiden, wie viele und welche Daten sie mit dem System teilen möchten. Aber auch die Möglichkeit anbieten, das auch wieder zu ändern. Ganz transparent, ohne Kleingedrucktes.

Trade-Off zwischen Präzision & Privatsphäre

Analyse des Impacts von privacy-preserving Technologien auf die Präzision von Decision Support und Recommender Systemen sowie die Evaluierung schutzbedürftiger Daten

Consulting

Beratung zu Empfehlungsalgorithmen und Datenquellen, sowie Evaluierungsmetriken

Dynamic Pricing

Dynamische Anpassung des Preises auf der Grundlage verschiedener Kriterien,
z. B. Fairnesskriterien oder zur Optimierung des Umsatzes

Personalized Search

Kombination von Suchtechnologie mit Recommender Systems. Angepasste Rankings für verschiedene Nutzergruppen unter Anwendung von z.B. Learning2Rank