Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH, betrachtet im Interview den aktuellen Stand im Bereich KI und gibt einen Zukunftsausblick.

Dass Roboter mechanische Arbeiten übernehmen, wird von den Menschen akzeptiert. Wie sieht es mit KI und der Schrittweisen Übernahme von geistigen Tätigkeiten aus?

Unternehmen äußern mir gegenüber Interesse daran, geistige Arbeiten zu automatisieren, um Menschen zu entlassen, um ihre Margen zu steigern. Dabei unterlaufen ihnen aber gleich mehrere Denkfehler:

1. Erstens, Automatisierung von Aufgaben mit KI braucht eine große Menge Daten aus dem Unternehmen, also in Massendaten („Big Data“) encodiertes Knowhow – aber kaum ein mittelständisches Unternehmen verfügt über genügend Daten.
2. Zweitens, KI ist nicht einfach als „Tool“ zu haben, frei nach dem Motto: Welches Tool muss ich mir kaufen, damit ich meine Angestellten entlassen kann? Bis die IT-Industrie Tools liefern kann, die auch Laien zu bedienen in der Lage sind, wird es noch Jahre dauern. Mindestens so lange und darüber hinaus wird KI auf Konzepten beruhen, die Mathematiker modellieren müssen. Dafür brauchen sie sehr viel vertikales Knowhow über eine bestimmte wirtschaftliche Tätigkeit. Solche Mitarbeiter werden Unternehmen aber kaum finden und für längere Zeit interessiert halten können, denn KI ist wissenschaftliches Rechnen.
3. Drittens, KI ändert die Unternehmensphilosophie, die Strukturen und Geschäftsprozesse in Unternehmen – und sie braucht eine Einsatzkonzept, das die Frage beantwortet: Was soll ich überhaupt mit der KI? Das haben Unternehmen bisher noch kaum durchdacht.

Diese Melange führt dazu, dass KI nicht die Erwartungen erfüllt, die man heute in der Phase eines nie gesehenen Hypes an sie stellt. Es gibt bisher nur wenige Business Cases, für die KI geeignet ist – und ganz überwiegend stammen sie aus dem Bereich des Consumer Marketing. Das ist das, was GAFA schon heute tut. Andere Bereiche liegen ganz abgeschlagen dahinter, etwa Predictive Maintenance oder die Automatisierung von Aufgaben in der Finanzindustrie. Aber gerade bei letzterer ist schon seit Jahrzehnten zunehmende Automatisierung im Gange.

Müssen/können wir intelligente Algorithmen und deren Entscheidungen noch verstehen bzw. in der Lage sein, diese nachzuvollziehen?

Ich kann mein Auto bedienen, aber ich verstehe nicht im Detail, wie das „System Auto“ funktioniert. Ich fände es auch keine gute Idee, an Schulen Informatik zu lehren und dafür Fremdsprachen zu streichen. Schulen bieten ja auch nicht das Fach „Mechatronik“ an, damit jeder Schulabgänger, der einmal Autofahrer wird, sein Auto auch selbst reparieren kann. Darüber hinaus ist die Frage hochphilosophisch, weil sie die Frage nach der Verantwortung stellt.

Eine Maschine, eine KI, kann keine Verantwortung für ihre maschinelle Entscheidung übernehmen; das kann nur der Mensch, weil er ein moralisch handelndes Wesen und eben gerade keine Maschine ist (vgl. Kant – und unser ganzes Rechtssystem). Davon sind Maschinen meilenweit entfernt. KI wird aber immer Entscheidungen treffen, die überraschend und nicht intuitiv sind. Trotzdem muss am Ende jemand – ein Mensch – dafür die Verantwortung tragen.

Weil aber Unsicherheit systemimmanent ist und auch ein Mensch, der für maschinelle Entscheidung Verantwortung trägt, im Zweifel eher nicht versteht, wie die maschinelle Entscheidung zustande kommt, hat das Recht das Konzept der Versicherung entwickelt. Meine Antwort ist deshalb eine juristische: Nein, wir werden algorithmische Entscheidungen nicht mehr verstehen, aber wenn die Maschine einen irgendwie gearteten „Unfall“ verursacht, muss ein Versicherungsfonds einspringen. Diesen gibt es noch nicht, aber die Rechtswissenschaftler arbeiten an dem Konzept.

Wo stehen wir heute technologisch mit KI? Wie sieht die nahe Zukunft aus?

Die Frage beantwortet sich, wenn man auf die militärische Forschung und Entwicklung sieht, denn KI stammt aus ihrem Umfeld. Robotik und KI wachsen vermehrt zusammen, und heraus kommen (teil-) autonome Waffensysteme, die wegen ihrer Schnelligkeit nicht mehr vom Menschen, sondern einer KI, gesteuert werden. Cyber-physische Systeme entstehen auch in der Industrie, etwa bei der Überwachung von Industrieanlagen.

Alle möglichen Steuerungssysteme bzw. entscheidungsunterstützende Assistenzsysteme entstehen – beim Autofahren, in der Verkehrssteuerung und besonders im Bereich Umweltschutz, etwa bei der intelligenten Stromversorgung. Auch die Medizin ist nicht zu vergessen. Und nein, so schnell kommt die Superintelligenz nicht zum Leben – allerdings muss ich mit Blick auf (teil-) autonome Waffen sagen, man muss nicht auf die Superintelligenz warten, um vor KI Angst zu haben, denn auch eine „dumme“ bewaffnete autonome Drohne kann Menschen töten, ohne dass sie auch nur entfernt an die Intelligenz eines Menschen heranreicht.

Beim Autonomen Fahren werden intelligente Algorithmen zu 100% die Kontrolle übernehmen und das Fahrzeug autonom steuern. Werden Algorithmen auch in anderen Bereichen das Kommando übernehmen?

Das haben sie schon, etwa beim Militär oder an den Finanzmärkten. Allerdings gibt es in beiden Fällen den „roten Knopf“, der den Stecker zieht, wenn der Mensch übernimmt. Ich würde deshalb nicht zustimmen, dass beim autonomen Fahren „intelligente Algorithmen zu 100% die Kontrolle übernehmen“. Das heißt: Es gibt abgestufte Konzepte von „man-in-the-loop“, man-on-the-loop“ und „man-out-of-the-loop“. Auch beim autonomen Fahren sehe ich das noch nicht entschieden.

Richtig wäre deshalb zu sagen: Intelligente Algorithmen könnten zu 100% die Kontrolle übernehmen. Ob sie es letztlich tun dürfen, ist eine Frage der Regulierung: Wollen wir das? Die Frage steht in engem Zusammenhang mit der Frage nach der Verantwortung im Fall des Unfalls: Wer haftet? Solange diese Frage nicht geklärt ist, glaube ich nicht, dass intelligente Algorithmen zu 100% die Kontrolle übernehmen, in welchem System auch immer.

Es gibt Stimmen wie von Elon Musk aber auch Sergey Brin, die vor KI warnen und eine Regulierung fordern. Wie ist Ihre Meinung?

Regulierung fordere ich auch. Allerdings keine Regulierung der Technologie selbst, sondern seiner Einsatzkonzepte. Zum Beispiel würde ich gerne das KI-basierte Profiling von Menschen verbieten, selbst wenn sie einwilligen. Das hätte den Effekt, dass Marktmonopole, wie sie Facebook oder Google aufgebaut haben, nicht entstehen könnten. Und man könnte nicht zwischen „guten“ und „schlechten“ Bürgern differenzieren, wie das die chinesische Regierung tut.

Menschen blieben dann freier. Und weil wir schon bei Fragen der Regulierung sind: Im Koalitionsvertrag der Bundesregierung steht, dass man ein Ächtung autonomer Waffensysteme erreichen wolle. Eine solche Art der Regulierung halte ich für wünschenswert, auch wenn der Teufel im Detail steckt.

Was wären Ihre drei Top-Wünsche an die Politik?

Erstens, einen eigenen europäischen digitalen Weg einschlagen, der anders ist als der amerikanische oder der chinesische, besonders aus geostrategischen Gründen. Zweitens, eine Art DARPA einrichten, also weniger Geldmittel in KI-Forschung stecken und stattdessen die KI-Produktentwicklung fördern. Drittens, nach der nächsten technologischen Welle suchen und sie selbst auslösen, denn mit der KI stehen wir in maximaler Konkurrenz zu zwei Großmächten mit quasi unbeschränkten finanziellen Mitteln. Das kann vielleicht die Biologisierung sein oder Quantencomputer – wobei ein Quantencomputer eine Analogmaschine ist.

Wie sieht Ihr Bild von KI im Jahr 2025 aus? Wo stehen wir dort?

Bis dahin wird in Deutschlands Wirtschaft Ernüchterung eingesetzt haben, weil KI eben nicht die Wunderwaffe des 21. Jahrhunderts ist. KI ist nicht leicht zu bauen – wegen fehlender Daten aus den Unternehmen, nicht wegen der Algorithmik. Für Laien ist sie nicht leicht bedienbar – sie braucht am besten spezielle Hardwarearchitekturen. Und Tools wird es nur für bestimmte Standard Use Cases geben.

KMUs werden deshalb nicht viele Möglichkeiten finden, KI wirklich gewinnbringend einzusetzen. Anwendungen, die wir schon heute im Einsatz sehen oder an denen schwerpunktmäßig weitergearbeitet wird, werden reifen, etwa autonomes Fahren, vorausschauende Wartung und die Steuerung verteilter Netze, etwa Energienetze. Ich jedenfalls würde gerne noch erleben, wie die Geschichte im Rückblick auf unsere Zeit unsere heutige Aufregung um die KI bewertet und ob sie sie nicht anders einordnen wird, als wir das heute tun.

Weitere Artikel nach Kategorien:

• #Industrie40
• #KünstlicheIntelligenz
• #Arbeitswelt40
• #Digitalisierung

Meine Daten sollen nicht in Google Analytics erfasst werden.