Welche Herausforderungen und Rahmenbedingungen bestehen für den erfolgreichen Einsatz von ChatGPT in Österreich?
ChatGPT ist ein Chatbot, also ein Konversationsagent, der in letzter Zeit mit seinen Antworten auf Fragen aus den unterschiedlichsten Bereichen ein immenses öffentliches Interesse generiert hat. Je nach Fall reichten die Reaktionen von Erheiterung über Erstaunen bis zu Erschrecken. Aber was verbirgt sich hinter der Fassade von ChatGPT und welche Möglichkeiten eröffnen sich dadurch für Unternehmen?
Der Einsatz von aktuellen KI-Technologien, wie ChatGPT, hat viele positiven Aspekte und eine Reihe an potenziellen Anwendungsfällen, wie Prozesse zu vereinfachen und Aufgaben zu unterstützen. Gerne wird hier auch der Vergleich mit dem Taschenrechner gezogen. Ähnlich wie der Taschenrechner den Menschen unterstützt und das Kopfrechnen erleichtert, sind auch aktuelle AI-Methoden dazu geeignet, dem Menschen beispielsweise beim Schreiben von Texten zu unterstützen. Der entscheidende Unterschied ist allerdings, dass der Taschenrechner korrekte Antworten liefert, die Texte der KI allerdings (zumindest aktuell) noch Fehler und Falschinformationen beinhalten können – sogenannte Halluzinationen. In anderen Worten, dem Taschenrechner kann vertraut werden. Die Technologie ist somit „trustworthy“. Künstliche Intelligenz aktuell aber noch nicht. Das gilt auch für ChatGPT.
Wie hinter den meisten textbasierten Dialogsystemen steht auch hinter ChatGPT ein umfangreiches Sprachmodell, das die Grundlage für diese Antworten bildet. ChatGPT kann nur zu Themen antworten, welche auch im Sprachmodell vorhanden sind. Das Sprachmodell wurde mit einer großen Menge an Texten, z. B. von Wikipedia oder aus sozialen Medien, trainiert, um eine möglichst große Bandbreite an Themen abzudecken; deshalb „weiß“ das Modell auch nur das, was aus diesen Quellen zu erfahren ist. Je nach Trainingszeitpunkt können Informationen also nicht mehr zeitgemäß, veraltet oder sogar falsch sein. Gerade im Unternehmensumfeld gibt es viele Bereiche, bei denen das Sprachmodell keine oder nur sehr oberflächliche Antworten bieten kann, etwa, wenn für eine Antwort spezifisches Expertenwissen benötigt wird.
Für Unternehmen spielen beim Einsatz von ChatGPT noch weitere Aspekte eine Rolle. Angesprochen wurden bereits die Aktualität von Information sowie das Fehlen von Experten- bzw. Domänenwissen. Da der Einsatz von ChatGPT oftmals die Generierung von Texten ist, ist sicherzustellen, dass zurückgelieferte Inhalte vor ihrer Weiterverwendung auf deren Wahrheitsgehalt geprüft werden. Ebenfalls relevant ist der Verarbeitungsort, an den die Daten während der Konversation gesendet werden.
Mit wenigen Ausnahmen brauchen aktuelle AI Sprachmodelle viel Rechenleistung und diese steht nur wenigen Organisationen zur Verfügung – allen voran den großen Cloudanbietern. Alle Interaktionen mit Chatbots, die auf solchen Plattformen laufen, können von den Anbietern genutzt werden. In anderen Worten, jede Information, die man diesen AI Tools zugänglich macht, kann (und wird) von den Anbietern verwendet werden. Hier stellt sich die Frage: Werden die eingegebenen Daten mit der notwendigen Vertraulichkeit behandelt? So werden Daten von ChatGPT z. B. in den USA verarbeitet, was primär für DSGVO-relevante Bereiche ein Problem darstellen könnte.
Vertrauliche oder sensible Informationen, beispielsweise firmeninterne Dokumente, sollten daher nicht mit diesen Technologien geteilt werden, solange nicht geklärt ist, wie diese Daten weiterverarbeitet werden. Auch für persönlich Rechte, wie das Recht auf „Vergessenwerden“, gibt es aktuell noch keine ausreichenden technischen Lösungen.
Soll ChatGPT im Tagesgeschäft verwendet werden, ist zudem zu berücksichtigen, dass die kommerzielle Verwendung von ChatGPT kostenpflichtig ist. Je nach Geschäftsfall ist der Einsatz von ChatGPT also nur in angepasster Form möglich. Das Know-Center bietet die notwendige Expertise, um ChatGPT und andere Sprachmodelle nach Bedürfnissen anzupassen, weitere Probleme, was Vertrauenswürdigkeit und Datenschutz betrifft, an der Wurzel zu packen und diese Technologien endlich industriereif zu machen.