Wer nicht auf KI setzt, gilt als abgehängt. Tech-Kritiker Jürgen Geuter im Interview über den Hype um generative KI und wie Unternehmen sich ihm entgegenstellen können.
Künstliche Intelligenz hat längst ihren Weg in die Arbeitswelt gefunden.In den Führungsetagen deutscher Unternehmen herrscht Handlungsdruck: Wer nicht investiert, gilt schnell als abgehängt. Informatiker und Philosoph Jürgen Geuter, der unter anderem Parteien und den Bundestag zum Thema berät,sieht diese Entwicklung kritisch. Er hat sich bereits bei Tech-Hypes wie Blockchain/Web3 oder dem Metaverse einen Namen als Tech-Kritiker gemacht. Geuter sieht ein ökonomisches Missverständnis darin, dass die Implementierung von KI immer Produktivitäts- und Effizienzgewinne mit sich bringen würde. Im Gespräch erklärt er, wieso viele Unternehmen zu »Nachahmern« werden, wie TechUnternehmen zur Verantwortung gezogen werden können, und wie Demokratien den Umgang mit der neuen Technologie noch gestalten können.
Herr Geuter, würden Sie sich als optimistischen Menschen bezeichnen?
Wir telefonieren gerade miteinander, daher können Sie es nicht sehen: Ich trage als Tattoo auf meinem rechten Unterarm ein Zitat des italienischen Philosophen und Kommunisten Antonio Gramsci: »Pessimism of the intellect, optimism of the will«. Das fasst meine Haltung ganz gut zusammen. Ich denke, es gibt Dinge, die man sich kritisch ansehen und bei denen man verstehen sollte, warum sie nicht funktionieren. Die optimistische Sicht liegt für mich darin, fest daran zu glauben, dass wir vieles an diesen Dingen besser machen können. Wir wissen beispielsweise, was wir gegen die Klimakrise tun könnten oder wie sich die Sozialsysteme oder die Gesundheitsversorgung besser organisieren ließen. Leider mögen viele die Antworten auf bestimmte Fragen nicht – das heißt aber nicht, dass es sie nicht gibt und dass wir uns nicht dafür einsetzen sollten. Dieser gemeinsame Einsatz für bessere Lösungen ist das, was für mich Demokratie ausmacht.
Dann lassen Sie uns doch über Fragen und Antworten in der großen KI-Debatte sprechen: In fast allen Wirtschaftsbereichen wird intensiv über den Einsatz von generativer KI diskutiert, also von KI, die nicht nur Daten analysiert, sondern auch neue Inhalte wie Texte, Bilder, Musik oder Videos erstellt. Wie erklären Sie sich den Handlungsdruck, der in deutschen Unternehmen derzeit herrscht?
Ein Grund ist sicherlich die klassische Fear of Missing Out, kurz FOMO, also der etwas pubertäre Gedanke: Wenn alle mitmachen, muss ich es auch tun. Wenn alle mit Claude arbeiten, dann tun wir es auch. Wir ahmen die anderen nach. Eine weitere Form von Handlungsdruck, der sehr real ist, entsteht durch die Erkenntnis vieler Unternehmen, dass sie die Digitalisierung verpennt oder nur halbgar umgesetzt haben. Da hat man in den letzten Jahren vielleicht hier und dort technisch ein bisschen aufgerüstet, und trotzdem funktionieren die Prozesse nicht. Daraus entsteht schnell der Glaube: Wenn wir jetzt KI nutzen, sind wir wieder vorne mit dabei. Tatsache ist aber, dass es keine Fälle gibt, in denen KI einen echten Mehrwert gebracht hat, indem also etwa die Produktivität messbar gestiegen wäre oder die Kosten gesunken wären. Im Gegenteil: KI auszurollen, ist extrem teuer. Und noch dazu vergleichsweise dumm, wenn man etwa bedenkt, dass aktuell zehn Prozent aller KI-Zusammenfassungen, die Google einem vorschlägt, falsch sind. Zehn Prozent – das ist eine absurd hohe Zahl. KI ist das größte Investment, das jemals in ein Technologieprojekt getätigt wurde. Da wird also viel Geld in etwas gesteckt, das qualitativ völlig inakzeptabel ist. Technologien, die nicht nur keinen Mehrwert bringen, sondern am Ende mehr Arbeit bedeuten, auch weil alle Ergebnisse überprüft werden müssen. Technologien, die noch dazu Risiken mit sich bringen, wenn Letzteres eben nicht mehr geschieht, wenn also Suchergebnisse gar nicht mehr infrage gestellt und davon ausgehend fatale Entscheidungen getroffen werden.
Es braucht Rückgrat – auf allen Ebenen
Manche Unternehmen haben auch Sorge davor, als technikfeindlich zu gelten und ihr Image zu gefährden, wenn sie nicht auf KI setzen. Das kann ebenfalls Handlungsdruck erzeugen …
Ja, und auch hier haben wir es mit blindem Nachahmen zu tun, das für mich im großen Widerspruch zu innovativem Unternehmertum steht. Um genau dieses Nachahmen handelt es sich ja, wenn Unternehmen anfangen, ohne Sinn und Verstand KI-Tools zu implementieren, weil sie ihr Image aufpolieren wollen.
Was sind die Stellschrauben? Wo sollte Ihrer Ansicht nach angesetzt werden, um den Druck rauszunehmen und sich dem Hype entgegenzustellen?
Gerade in größeren Unternehmen würde ich auf der Managementebene anfangen. Viele, die dort sitzen, verstehen ja gar nicht, was sie da eigentlich managen. Heute ist es ein Automobilzulieferer, morgen eine IT-Bude, übermorgen ein Verlag … Management findet also oft völlig losgelöst vom eigentlichen wertschöpfenden Prozess statt. Wenn es mein Geschäftsmodell als Magazinverlag ist, in schnellem Tempo Texte zu produzieren, macht generative KI Sinn. Nicht aber, wenn mein Geschäftsmodell darin besteht, Texte zu produzieren, die eine hohe Qualität haben und denen Menschen vertrauen, die dafür auch bereit sind zu zahlen. Ich muss also verstehen, was ich da tue und wo meine Wertschöpfung liegt. Dann konzentriere ich mich auch auf die entsprechenden Prozesse und kann mich dem Hype entgegenstellen. Aber klar: Dazu braucht es Rückgrat – auf allen Ebenen.
Effizienz ist nicht der einzige Gott
Wie lässt sich das Effizienz-Argument noch entkräften, mit dem viele Unternehmen ihre KI-Aktivitäten untermauern?
Wenn man glaubt, dass die Welt ein Excel-Sheet ist, ergibt pures Effizienz-Denken Sinn. Dann muss ein Unternehmen effizient arbeiten, damit die Zahlen am Ende der Tabelle steigen. Aufgabe von Wirtschaft ist es aber doch, Produkte in einer Qualität zu erzeugen, die dem, was die Menschen brauchen, entspricht. Und das alles unter Berücksichtigung der Welt, in der wir leben und die wir schützen müssen. Alles andere kann nicht unser Ziel auf diesem Planeten sein. Überspitzt gesagt: An vielen Stellen wäre es wirtschaftlich extrem effizient, Kinderarbeit einzusetzen – das heißt aber nicht, dass wir Kinderarbeit legitimieren dürfen. Welche Folgen pures Effizienzdenken und -handeln hat, sehen wir zum Beispiel aktuell in den USA, wo sich Infektionen und Lebensmittelrückrufe häufen, nachdem die Regierung angeblich aus Effizienzgründen zahlreiche Standards und Regeln zum Umwelt- und Gesundheitsschutz stark zurückgefahren hat. Das zeigt: Effizienz hat Kosten, wenn Regulierung und damit auch Sicherheit abgebaut werden. Oder wie im Fall von KI, wenn ich mich dadurch auf wirtschaftliche Beziehungen zu einigen wenigen US-Tech-Unternehmen einlassen muss. Effizienz ist nicht der einzige Gott, und wir dürfen uns ihm nicht unterwerfen. Insbesondere bei generativer KI zählt das Effizienz-Argument ohnehin nicht, weil diese KI ja permanent nachtrainiert werden muss und weil Rechenzentren zu bauen und Infrastrukturen zu schaffen, unglaubliche Kosten verursacht. Von den ökologischen Folgen ganz zu schweigen …
Sie haben die US-Tech-Unternehmen angesprochen. Um sich von ihnen unabhängig zu machen, wird nun vielfach über europäische Alternativen diskutiert. Was halten Sie davon?
Wie Sie sich denken können, wenig. Um nochmal das leidige Thema Effizienz zu bedienen: Wir sehen, dass KI-Unternehmen hohe Verluste an allen Ecken und Enden einfahren. Von effizientem Wirtschaften kann hier schon mal keine Rede sein. Unsere Wirtschaft umzubauen macht also schon aufgrund der Zahlen überhaupt keinen Sinn. Und einen qualitativen Mehrwert bringt es, wie wir sehen, erst recht nicht. Ich würde dafür plädieren, dass sich die USA und China an KI gern die Finger verbrennen dürfen und dass wir uns in Europa lieber auf das konzentrieren, was uns ausmacht: eine hohe Lebensqualität, für die die Menschen auch in der Lage sind zu zahlen. Unser Self-Pitch sollte also auf Dingen wie Qualität, Verlässlichkeit und Vertrauen fußen – und nicht auf minderwertigen, schnell generierten KI-Inhalten, die im Übrigen niemand ernsthaft sehen möchte.
Könnte dann der Hype um generative KI auch bewirken, dass wir uns wieder mehr darüber im Klaren werden, welches unsere Werte sind – wirtschaftlich wie menschlich?
Es wäre schön, wenn die ganze Diskussion uns eines Tages zeigt, dass es einen Wert hat, wenn zum Beispiel ein Illustrator sich für ein Werbeplakat oder eine Verpackung eigene Gedanken – etwa über die »Geschichte«, die er erzählen will, oder über die Zielgruppe – gemacht und diese auch selbst umgesetzt hat. Kreatives Schaffen ist Beziehung. Die Frage ist nur, ob dieser Gedanke auch wirtschaftlich in der Breite Niederschlag findet. Da bin ich ein bisschen skeptisch. Wir sehen es leider an so vielen Produkten – ob an Autos oder Websites oder auch am nächsten Marvel-Film: Die Dinge uniformieren sich, werden sich immer ähnlicher. Gut, das war auch vor KI schon der Fall. Aber mit KI verstärkt sich der Effekt. In einem solchen Marktumfeld ist es ein vermeintliches Risiko, wenn man ausschert und etwas ganz anderes schafft. Etwas, für das Menschen bezahlt werden, die für diese Tätigkeit ausgebildet wurden. Aber ich bin überzeugt, dass dieser Gang ins Risiko am Ende vielversprechender ist, als auf Technologien zu setzen, die nachweislich die kognitive Arbeit von Menschen ersetzen – mit allen denkbaren Folgen. Daher: Ja, die KI-Diskussion könnte uns wieder an unsere Werte erinnern, es kommt aber am Ende darauf an, was wir dann mit dieser Erkenntnis anstellen. Antonio Gramsci lässt grüßen.
Die KI-Blase platzt, wenn wir die Anbieter in Haftung nehmen
Wie steht es um Verantwortung als wertschöpfenden Faktor? Gerade die deutsche und auch die europäische Wirtschaft schreiben sich die ja gerne auf die Fahne. Wie aber lässt sich Verantwortung in einer von KI bestimmten Welt aufrechterhalten?
Keiner der KI-Anbieter übernimmt aktuell von sich aus Verantwortung für seine Produkte, sondern wälzt diese ab auf die Nutzerinnen und Nutzer. Immerhin gab es in jüngster Zeit erste Gerichtsurteile, die Anbieter nun in die Pflicht nehmen. Aber von sich aus hat sich noch kein KI-Unternehmen dazu bekannt, dass es mindestens fragwürdige Inhalte produziert. Es würde sie ja auch entlarven. Stellen Sie sich mal vor, ein Milchproduzent würde auf seinen Verpackungen den Hinweis bringen: »Hier könnte Rattengift enthalten sein«! Für uns in Europa ist es völlig neu, dass Unternehmen keine Verantwortung übernehmen. Und genau an dieser Stelle glaube ich, könnte die KI-Blase platzen: wenn wir die KI-Anbieter in vollem Umfang in die Haftung nehmen. Dann wäre das System nicht mehr tragbar, dann wäre es tot.
Sie beraten unter anderem auch Parteien und den Bundestag zum Thema KI. Wie ist da die Resonanz?
Sehr unterschiedlich. Einige Parteien sind regelrecht AI-pilled, da ist nichts mehr zu holen. Andere sind durchaus offen für Argumente, vor allem was die ökologischen Konsequenzen von KI oder die Auswirkungen auf den Arbeitsmarkt betrifft. Wenn es dann um die Implementierung von KI geht, haben wir in Deutschland den großen Vorteil, dass unser Verwaltungsapparat insgesamt sehr träge ist und in vielem hinterherhängt. Das sorgt im Idealfall dafür, dass wir nicht kopflos nach vorne preschen, sondern aus echten Bedürfnissen heraus Entscheidungen treffen und nach Lösungen suchen. Sie sehen, hier meldet sich wieder der Optimist in mir.
Vielen Dank, Herr Geuter, für das Gespräch!