Responsible AI – Kann Europa mit USA und China konkurrieren?

Hamburg News: Herr Bogula, was ist mit Responsible AI eigentlich gemeint?

Werner Bogula: Responsible AI ist ein ganzheitlicher Ansatz, der den Einsatz von KI über die technische Machbarkeit hinaus bewerten und begleiten soll. Wir betrachten in unserem ARIC-Framework die Bereiche Technologie, Wirtschaft, Recht und Gesellschaft. Im Zentrum steht überall der Mensch. Beim Einsatz in Wirtschaft und Verwaltung gibt es eine Reihe von sogenannten Stakeholdern, die von den Auswirkungen der Technologie betroffen sind und deren Stimme gehört werden muss.

Hamburg News: Welche Stakeholder sind das?

Bogula: Das sind zunächst die Mitarbeiter:innen, in deren Arbeitsbereich diese Technologie eingeführt werden soll. Nimmt man diese nicht von Anfang an mit, können Misstrauen und Widerstände entstehen, die die Vorteile von KI zunichtemachen können. Keiner lässt sich gerne in neue Prozesse einspannen, die auch noch von Maschinen bestimmt sind. Das gilt ganz besonders bei der KI, die mit vielen Ängsten und Vorbehalten behaftet ist.

Hamburg News: Sind solche Ängste nicht vielleicht berechtigt? Laut einer Studie der US-Bank Goldman Sachs vom April dieses Jahres könnte KI 300 Millionen Arbeitsplätze ersetzen…

Bogula: Es gibt unterschiedliche Projektionen und auch gegenläufige Ansichten wie beispielsweise eine Studie der International Labour Organization (ILO), die im August veröffentlicht wurde, und nach der generative KI voraussichtlich mehr Jobs schaffen als vernichten wird. Doch davon abgesehen haben wir in Deutschland und Europa momentan nicht das Problem, dass zu viele Jobs wegfallen, sondern eher das Problem des Fachkräftemangels. Das Kompetenzzentrum Fachkräftesicherung (KOFA) hat für das Jahr 2022 knapp 68.000 offene Stellen für IT-Fachleute in Deutschland registriert; allein in der Hamburger Verwaltung gibt es 4.000 offene Stellen. Und vor dem Hintergrund des demografischen Wandels tun Wirtschaft und Verwaltung gut daran, die bestehenden Aufgabenbereiche so weit zu digitalisieren, dass KI Mitarbeiter:innen bei Routinearbeiten entlastet, um Freiräume für höherwertige Tätigkeiten zu schaffen. So entstünden statt mehr Arbeitsdruck mehr qualifizierte Tätigkeiten.

Hamburg News: Wie lassen sich weitere Stakeholder, etwa Kund:innen und Verbraucher:innen, für KI gewinnen?

Bogula: Durch Aufklärung. Zunächst kommt es darauf an, die Rahmenbedingungen des Datenschutzes und der Datensicherheit einzuhalten. Darüber hinaus müssen wir aber Misstrauen und Technologievorbehalte adressieren, etwa durch Informationsveranstaltungen. Bei ARIC erklären wir in jährlich über 150 Veranstaltungen die Funktionsweise von KI und diskutieren die Auswirkungen. Dabei steht eine informierte Urteilsbildung im Zentrum, die helfen soll, eine prinzipiell technologiefeindliche Abwehrhaltung abzulösen. Auch das Vertrauen in die Zuverlässigkeit von Technologie kann nur durch Aufklärung geschaffen werden.

Hamburg News: Vertrauen scheint ein Schlüsselbegriff zu sein?

Bogula: So ist es. Wenn kein Vertrauen da ist, nützen auch die besten Argumente nichts. Daher ist auch beim verantwortungsbewussten Betrieb von KI-Lösungen darauf zu achten, dass offen und transparent kommuniziert wird, was die KI genau macht. Rechtssicherheit, Nachvollziehbarkeit und Fairness des KI-Einsatzes sind dabei drei wichtige Faktoren; also das Grundvertrauen, dass KI-Ergebnisse gesetzeskonform sind, dass die Entscheidungen erklärt werden können – auch, um beispielsweise Widerspruch einzulegen. Zu guter Letzt braucht es auch die Sicherheit, dass niemand aufgrund bestimmter Merkmale von der KI bevorzugt oder benachteiligt wird.

Hamburg News: Diese Faktoren sollen ja auch in den bevorstehenden AI Act der EU einfließen, der die Verwendung von KI in ganz Europa regulieren soll. Schafft das für viele Unternehmen nicht zusätzliche Hürden, die den KI-Einsatz noch weiter verkomplizieren?

Bogula: Es ist besser im Vorfeld eine Regulierung zu etablieren, die für ganz Europa gilt, als im Nachgang in vielen Klagen und Einzelprozessen den KI-Einsatz torpediert zu sehen. Selbstverständlich ist es wichtig, dass die Ansprüche aller Stakeholder, also auch der Wirtschaft, zum Ausgleich gebracht werden. Eine rein angstgetriebene Verhinderungskultur schadet am Ende auch den Angestellten und Verbraucher:innen. Was dann passiert, sehen wir etwa in der Medizin, wo aufgrund des deutschen Datenschutzes Datensätze aus USA und China eingekauft werden. Oder im Bereich der KI-Modelle, wo US-amerikanische Unternehmen Produkte schaffen, die über Standardsoftware wie Google Search oder Microsoft Office dann in europäische Unternehmen einfließen, ohne dass jemand dazu gefragt wird. Dass Europa keine starke KI-Industrie hat, die ihre Interessen vertritt, führt dazu, dass nicht wir, sondern die USA die Standards setzt.

Hamburg News: Noch steht nicht fest, wie die Regulierung am Ende aussehen wird. Wie sollen deutsche Unternehmen mit dieser momentanen Unsicherheit umgehen?

Bogula: Das Schlimmste ist es, abzuwarten. Das Interessante ist ja, dass in vielen Unternehmen die Initiative zum KI-Einsatz nicht von der Führung ausgeht, sondern die Mitarbeiter:innen von sich aus anfangen, beispielsweise ChatGPT zu nutzen, um ihre Arbeit zu vereinfachen. Wichtig ist für die Unternehmen hier einen pro-aktiven Ansatz zu verfolgen. Also zusammen mit den Mitarbeiter:innen KI so einzusetzen, dass Arbeitsprozesse für alle produktiver und auch interessanter werden. Dazu gehören auch Guidelines, um den ChatGPT-Wildwuchs zu kanalisieren und im nächsten Schritt die Entwicklung erster eigener KI-Prozesse. Dadurch, dass sich KI so schnell weiterentwickelt, helfen hier weniger Fünf-Jahrespläne mit ausgefeilter KI-Strategie, als vielmehr flexibles Ausprobieren in einzelnen Bereichen, also Dranbleiben.

Hamburg News: Reicht flexibles Ausprobieren denn aus, um den Anschluss an die Marktführer aus USA und China zu halten?

Bogula: Natürlich nicht. Es geht erst einmal darum, den typischen ‚Schaun-mer-Mal‘-Ansatz zu überwinden und allen vor Augen zu führen, wie produktiv und effizient der KI-Einsatz für Mitarbeiter:innen und Kund:innen ist. Damit wird eine Nachfrage für verlässliche und vertrauenswürdige KI geschaffen, für die sich in Europa ein Markt entwickelt. Um diese Nachfrage zu bedienen, muss in Europa allerdings viel mehr Basistechnologie wie etwa Large Language Models (große Sprachmodelle wie ChatGPT) entwickelt werden. In der KI-Forschung sind wir in Europa auch bereits sehr stark, und viele Startups verfolgen interessante Produkte. Nur bei der Umsetzung in Deep-Tech-Unternehmen müssen wir noch massiv nachlegen. Deep Tech meint hier Grundlagentechnologie, die als Basis für anwendungsorientierte KI verwendet wird. Ein Beispiel dafür ist Aleph Alpha aus Heidelberg, die eine europäische Version von ChatGPT entwickelt haben, die nun in der Industrie und Verwaltung nach europäischen Standards eingesetzt werden kann. Und mit der wir den USA und China etwas entgegenzusetzen haben.
ys/mm

Vielen Dank für das Gespräch, Herr Bogula.

Das Interview führte Yvonne Scheller.

Lesen Sie auch die weiteren Teile unserer KI-Serie:

1: IT-Experte Alois Krtil: Hamburg ist ganz klar ein KI-Hotspot

2: KI-Summit 2023: Doom oder Boom?

3: Europäisches KI-Gesetz einfach erklärt

4: Wie KI die (medizinische) Welt verändern könnte