Was macht (unregulierte) KI mit uns? Marcuse und technologische Rationalität (Teil 2)

In Teil 1 haben wir uns gefragt: Was macht die Technik mit uns? Jetzt gehen wir einen Schritt weiter: Was macht die Technik mit unserer Gesellschaft? Herbert Marcuse hat sich in seinen Philosophien intensiv mit der Frage beschäftigt: Fortschritt ist ja schön und gut--aber um welchen Preis?

Auch Menschen (und nicht nur ihre Amazon-Bestellungen) werden getrackt, analysiert und gemessen

 

Gehen wir ein paar Jahre zurück, ins Jahr 2018 und zu einem der größten Datenskandale der digitalen Geschichte. Das britische Data Analysis Unternehmen Cambridge Analytica hatte über eine Facebook-App Zugriff auf die Daten von rund 87 Millionen Nutzern; und zwar nicht nur die App-Nutzer selbst, sondern auch ihr Freundnetzwerk. Diese Daten wurden ohne Zustimmung gesammelt, ausgewertet und genutzt, um psychologische Profile zu erstellen. Das Ziel war, Menschen mit gezielten, personalisierten politischen Botschaften zu beeinflussen, insbesondere zur (desaströsen) US-Präsidentschaftswahl 2016 und im Vorfeld des Brexit-Referendums. Als der Cambridge Analytica-Skandal aufgedeckt wurde, führte dies nicht nur zu massiver Kritik an Facebooks laxem Datenschutz, sondern zu internationalen Ermittlungen sowie einem bleibenden Bewusstsein für die politischen Gefahren von Big Data.

Vor einem Skandal dieser Art hat uns Marcuse schon in den 60er und 70er Jahren gewarnt. Nicht nur hat Technik selbst ein Eigenleben wie Heidegger es befürchtete, sondern auch der Einsatz der Technik muss hinterfragt werden. Wer war also Herbert Marcuse?

 

Herbert Marcuse war ein zentraler Teil der Frankfurter Schule; einer Denkrichtung, die kritisch auf Gesellschaft, Politik und eben auch Technik geschaut hat. Sein Hauptinteresse war, wie sich Fortschritt, insbesondere technischer Art, auf die Gesellschaft, Freiheit und Menschlichkeit auswirkt. Wie wirken Technik und gesellschaftliche Strukturen zusammen--und wie kann daraus Herrschaft entstehen? Die klassische Vorstellung sieht vor, dass Technik an sich neutral ist; und man sie für Gutes oder Schlechtes nutzen kann. 

Marcuses Kernthese aber ist: Technik ist nie neutral, Technik ist nie einfach nur „ein Werkzeug“. Technik wird immer gesellschaftlich eingebettet, und damit auch politisch geformt.

Er prägte den Begriff ‚technische Rationalität‘ über unsere Gesellschaft: Alles wird in Effizienz, Funktionalität und Produktivität gemessen. Dinge--und Menschen--werden nach Nützlichkeit beurteilt. Wie viel effizienter macht uns die Digitalisierung? Wie viel produktiver als ein Mensch ist ein KI-Chatbot? Die Folge davon ist, dass alternative Denkweisen verlieren, wenn sie nicht in Effizienzmuster passen. Wie Kreativität, die kein Geld macht. Wie ein Innehalten. Achtsamkeit. Zwischenmenschliche Beziehungen. All das, was Marcuse die ‚echten Bedürfnisse‘ des Menschen nannte.

Wie kam Marcuse dahin zu sagen, „Technologische Rationalität ist politische Rationalität“? Technik zeigt uns nicht nur, was möglich ist--sie zwingt uns dadurch auch in bestimmte Denkweisen und Verhalten. Und wie Heidegger schon zeigte, sobald Technik etwas möglich macht, wird es fast zwangsläufig auch immer umgesetzt. Die Möglichkeit wird zur neuen Baseline.

Nur weil Technik immer weiter voranschreitet, heißt es nicht, dass unsere Gesellschaft besser wird. In modernen Gesellschaften wird „Fortschritt“ zwar fast immer automatisch als „gut“ betrachtet, aber was genau wird besser? Und für wen? 

Marcuse fragt: Ist es wirklich gesellschaftlicher Fortschritt, oder nur ein technischer Sprint, bei dem wir Menschlichkeit und Sinn auf der Strecke lassen? Heidegger hat uns gezeigt, dass die Welt, in der wir leben, plötzlich eine Ressource wird, die genutzt werden

Eine Ikone: Herbert Marcuse (1898 – 1979)

kann. Der Fortschrittsgedanke sagt, dass sie genutzt werden muss.

Marcuses Gedanke lässt sich sehr gut auf die aktuelle Debatte über künstliche Intelligenz übertragen. Wird KI dafür genutzt, unsere Leben besser zu machen, oder nur, um Menschen effizienter zu verwalten? Wird KI so eingesetzt, um mehr Zeit für Kreativität, Bildung und menschliche Entfaltung zu schaffen, oder nur, um Produktivität zu steigern und Kosten zu senken--in einem Wettbewerb, in dem Menschen keine Chance haben, zu gewinnen?

Nutzen wir KI, um die Gesellschaft freier, gerechter, lebenswerter zu machen? Oder nutzen wir sie, um Menschen effizienter zu kontrollieren, zu überwachen, zu verwalten? Marcuse würde wohl sagen: KI ist kein neutrales Werkzeug. Sie spiegelt die Interessen wider, die sie erschaffen haben--oft Profit und Macht.

Technik ist nie nur einfach „da“. Technik, und damit auch KI, ist nie neutral. Entscheidend ist immer, wie wir sie einsetzen--und in wessen Interesse. Auch die technische Rationalität ist weiterhin hochaktuell: Alles wird messbar, effizient, funktional; es ist unsere Definition von Fortschritt. Und was einmal möglich ist, wird auch umgesetzt. Wir können Menschen jetzt permanent tracken--also machen wir es auch.

KI ist ein Schatten, der näher rückt

 

Technologische Rationalität bedeutet, dass sich Menschen dem System anpassen und alternative Denkweisen verschwinden. Wir funktionieren in einem System, statt es zu hinterfragen. Die ursprüngliche Idee von Agilität war es, mehr Autonomie, mehr Reflektion und mehr Menschlichkeit in ein Framework zu bringen. Agilität war gegen starre Prozesse, entmenschlichter Arbeit und der blinden Effizienzlogik, die dem ein und selben Schema folgt. Allerdings führen selbst agile Systeme dazu, Verhalten zu normieren, Effizienz zu maximieren und Menschen subtil zu steuern. Wenn wir Marcuses Thesen auf die heutige Welt anwenden, dann ist technische Rationalität nicht nur ein Merkmal von Maschinen, sondern Systemen, die unser Verhalten und unser Denken prägen. Und auch Arbeitsweisen, die für mehr Freiheit vorgesehen waren, sind nicht immun dagegen wenn man aufhört, sie zu hinterfragen.

Marcuse würde wahrscheinlich sagen, dass das Problem nicht die Technologie selbst ist, sondern dass wir anfangen, wie sie zu denken. 

Ergebnisse werden messbar gemacht durch KPIs, Velocity-Tracking und Burndown Charts. Alles, was messbar ist, wird zum Fokus--und der Rest verschwindet schnell im Schatten. Scrum Events, Rollenmodelle und auch best practice cases sind standardisiert, ohne auf individuelle, komplexe Teamzusammensetzungen einzugehen. Wir möchten, dass alles immer gleich funktioniert, ähnlich wie bei einer Dateneingabe eines Computers.

Das Effizienz-getriebene Denken von konstanter Optimierung, mehr Output und schneller liefern wird zum wichtigsten Versprechen von agiler Arbeitsweise. Agile Methoden sollten uns helfen, reflektierter und selbstbestimmter zu arbeiten; werden aber häufig so genutzt, dass sie uns effizienter im Funktionieren machen--eine Effizienz, die jetzt mit künstlicher Intelligenz gemessen wird. Die Frage ist, ob uns das als Gesellschaft weiterbringen wird und wohin dieser Weg uns führt.

Heideggers Appell war, dass Technik den Menschen dienen soll und nicht umgekehrt. Marcuse ruft uns auf, Technik kritisch zu hinterfragen um zu verhindern, dass sie uns formt statt umgekehrt. Er befürwortete Technik, die nicht nur Mittel zum Zweck ist, sondern die unsere Gesellschaft lebenswerter macht. Technik, die wirklich Freiheit schafft, und nicht nur Anpassung und Effizienz. Ein reiner, blinder Fortschrittsglaube sollte nie der einzige Zweck sein, denn wie Adorno und Horkheimer schon sagten: „Fortschritt kann in Barbarei umschlagen“. Wir dürfen nicht vergessen, dass das eigentliche Ziel in unseren 'echten' Bedürfnissen steckt, und die Grundlage dafür ist eine lebenswerte Gesellschaft und echtes Miteinandersein.