Anfang 2023 befragte die Jobsucher-Plattform ResumeBuilder.com tausend US-amerikanische Führungskräfte, um herauszufinden, wie generative KI – insbesondere ChatGPT – die Unternehmenslandschaft verändert hat. Rund 50 % der befragten Unternehmen nutzen ChatGPT aktiv für ihre Geschäftsabläufe und etwa 48 % geben an, bereits Mitarbeiter durch die Technologie ersetzt zu haben – mittlerweile werden es weit mehr sein.
Die weltweite Integration generativer KI beschleunigt sich enorm. Speziell Europa ist führend mit gesetzgeberischen Bemühungen (AI-Act). Diese sollen die Schattenseiten der rasanten Innovation generativer KI abmindern und Richtlinien für verantwortungsvolle Geschäftspraktiken und Anpassungen umsetzen.
Generative KI wird die Art und Weise, wie unsere Unternehmen und unsere Wirtschaft funktionieren, komplett verändern. Sie wird die Art und Weise, wie wir mit Software interagieren, neu definieren und Unternehmensstrukturen, Stellenbeschreibungen und vieles mehr grundlegend umgestalten. Die Technologie generiert bereits Text, Sprache, Video, Musik, Bilder und Code. Spannende neue Möglichkeiten ergeben sich, wenn nutzer- oder unternehmensspezifische Daten in den Mix einfließen.
Roman Kern, CSO des Know Centers, vergleicht: „Generative KI hat das Potenzial, das neue ‚Telefon‘ zu sein, das bekannterweise unsere Art zu kommunizieren grundlegend verändert hat. Generative KI wird unter einen ähnlichen Maßstab fallen, besonders für unsere Wirtschaft. Die Folge: Unternehmen, die keine KI einsetzen, werden durch Unternehmen ersetzt, die es tun.“
Während der allgemeine Hype einen konstanten Höhepunkt erreicht, müssen Unternehmen und ihre Führungskräfte diese Technologien dennoch bewusst einsetzen. KI-Gesetze, wie der AI-Act, sind auf dem Weg, und Fragen wie Datensicherheit und Vertrauenswürdigkeit müssen weiter geprüft und mit Vorsicht behandelt werden. Blindes Vertrauen oder übereifrige Umsetzung können reale Folgen und Nachteile ignorieren, die mit dem aktuellen Stand der Technologie einhergehen.
Die von Systemen wie ChatGPT erstellten Inhalte haben wichtige Fragen zu Genauigkeit, Sicherheit und Vertrauenswürdigkeit aufgeworfen. Wenn die KI-Modelle zu extremen oder anspruchsvolleren Aufgaben gedrängt werden, neigen sie zu bizarren Antworten oder sogenannten „Halluzinationen“. Diese Antworten würden oft selbstbewusst als Tatsachen verpackt, sodass die falschen Informationen für die BenutzerInnen und manchmal sogar Domänen-ExpertInnen unglaublich schwer zu erkennen sind.
Trainingsdaten für KI sind oft mit Vorurteilen behaftet bzw. können falsche Informationen in den Mix geraten. Voreingenommenheit der KI kann für betroffene Benutzergruppen bösartige Konsequenzen haben. Ungerechtfertigte Diskriminierung und gefährliche Halbwahrheiten sind nur die Spitze des Eisbergs. Dies erfordert logischerweise die Entwicklung von Schutzmaßnahmen, Konzepten, Vorschriften und modernen Methoden, die die dringendsten Probleme der Technologie entschärfen. Es wird eine vertrauenswürdige KI gefordert, ein Oberbegriff, der sieben wichtige Aspekte beschreibt, die KI erfüllen sollte: menschliches Handeln sowie Kontrolle, technische Robustheit sowie Sicherheit, Datenschutz sowie Datenverwaltung, Transparenz, Vielfalt inklusive Nicht-Diskriminierung sowie Fairness, gesellschaftliches sowie ökologisches Wohlergehen und Rechenschaftspflicht.
Die generative KI basiert auf Deep-Learning-Modellen. Diese sind komplex und ihr Entscheidungsprozess ist kaum nachvollziehbar. Dieser Mangel an Transparenz kann zu Problemen führen. Wenn man nicht nachvollziehen kann, wie ein KI-System zu Schlussfolgerungen gekommen ist, ist man nicht in der Lage, Fehler zu erkennen, bevor sie möglicherweise verheerende Folgen haben. Moderne Ansätze versuchen, dieses Problem an der Wurzel zu packen. Insbesondere das neue Forschungsgebiet XAI (Explainable AI). Es hat das Ziel, derartige „Blackbox“-KI-Modelle zu öffnen und ihre Entscheidungen für den Menschen transparent, verständlich und somit vertrauenswürdiger zu machen.
Derzeit bietet generative KI keinen Einblick in die Art, wie sie Antworten erzeugt. Sie ermöglicht es Benutzern nicht, zwischen vertrauenswürdigen und falschen (oder erfundenen) Informationen zu unterscheiden. Das Ziel von XAI für generative KI-Modelle ist es, Fachleuten und Nutzern zu ermöglichen, die Gründe für ihre spezifischen Ergebnisse zu verstehen und fundierte Entscheidungen über Zuverlässigkeit und Qualität zu treffen. Der Einblick in diese Modelle hat auch den Vorteil, dass bestehende Vorurteile und Diskriminierung tatsächlich erkannt werden können. KI übernimmt Trainingsdaten kommentarlos. Das heißt diskriminierende und unfaire Zustände, die schon lange vor dem ersten Training bestanden, werden einfach weiterverwertet. Verstehbare KI ermöglicht Ungerechtigkeiten, Diskriminierung und „tote Winkel“ zu identifiziert und erste Schritte zu machen, um diese aus der Welt zu schaffen.
Die Anwendung von XAI auf generative KI-Modelle birgt daher ein großes Potenzial. Einige der genannten Probleme ließen sich durch XAI-Herangehensweisen lösen.
Roman Kern: „Generative KI ist nicht unfehlbar und noch vom Einschreiten des Menschen abhängig. KI-Chatbots werden sich in vielen Bereichen menschlicher Aktivitäten explosionsartig vermehren. Die Entwicklung und Integration zuverlässiger XAI-Methoden zur Bewertung der Vertrauenswürdigkeit der generierten Informationen ist daher wichtiger denn je.“
Die Wissenschaft hat schon heute einige Antworten auf die brennendsten Fragen fairer und vertrauenswürdiger KI-Entwicklung, besonders im wirtschaftlichen Kontext. XAI ist nur eine Herangehensweise von vielen, die es ermöglichen wird, KI nachhaltig in der Wirtschaft und Gesellschaft zu nutzen. Unsere Expert:innen denken die Entwicklung voraus und weisen auf Risiken sowie Chancen für Wirtschaft und Gesellschaft hin.