12 min read
Wie die künstliche Intelligenz unser Leben verändert, ohne intelligent zu sein
Teilen
WhatsappWhatsapp
2020-05-06 2020-05-06 6 Mai 2020 - Massimiano Bucchi
12 min read
Bild

GESPRÄCH MIT LUCIANO FLORIDI

Die Krise hat unsere Sicht auf viele Dinge verändert. Besonders die Technologie ist umso mehr in den Mittelpunkt gerückt, viele erachten künstliche Intelligenz als eine wertvolle Ressource für die Erforschung und Beobachtung von Pandemien. „Ich glaube, dass künstliche Intelligenz in vielen Bereichen Anwendung finden kann. Ich bin mir nicht sicher, ob sie Krisen voraussagen kann, aber sie wird sicherlich ein probates Mittel im Krisenmanagement von Notlagen wie der aktuellen sein.“

Luciano Floridi, Professor für Philosophie und Informationsethik in Oxford, hat es mehr als jeder andere Philosoph verstanden, die Tragweite der informationstechnologischen Revolution sowie die Notwendigkeit zu erfassen, diesem epochalen Wandel mit neuen konzeptuellen Werkzeugen zu begegnen. „Infosfera” und “onlife” sind nur zwei der Ausdrücke, die er in den vergangenen Jahren geprägt hat. Unter den ins Italienische übersetzten Werken finden sich La quarta rivoluzione und zuletzt Pensare l’infosfera (Raffaello Cortina). Laut Floridi ist „künstliche“ Intelligenz „dumm“, jedoch ein mächtiges Werkzeug in den Diensten der menschlichen Intelligenz und Entscheidungsfindung. Es ist weder das lang ersehnte Allheilmittel noch das „größte Risiko der Menschheit“, wie Elon Musk prophezeite. „Es ist schade, dass es einer Pandemie bedurfte, um die Menschen zum Nachdenken zu bewegen.“ – aber eins nach dem anderen.

Was genau ist die künstliche Intelligenz? Ich weiß, dass du sie eher im Sinn einer Trennung denn einer Vereinigung definierst…

Ja, tatsächlich wird alles verständlicher, wenn man zwischen der Fähigkeit, erfolgreich ein Ziel zu erreichen, und der Notwendigkeit unterscheidet, dafür die entsprechende Intelligenz mitzubringen. Hier geht es wirklich um eine epochale Wende. In der gesamten Menschheitsgeschichte, seit wir die Höhle verließen, waren es entweder wir oder ein Tier, die etwas machten – oder wir erfanden, dass es die göttliche Kraft des Flusses war. Und nun haben wir plötzlich, wenn auch nicht ganz so plötzlich, Technologien, die es ohne ein Milligramm Intelligenz schaffen, weit komplexere Probleme zu lösen, wie zum Beispiel die Optimierung bestimmter Ressourcen oder die Reorganisation von Aufgaben in einem Betrieb.  Für mich ist das wie ein Wunder. Der Begriff „künstliche Intelligenz“ wurde 1955 von John McCarthy geprägt. Seine Definition bleibt für mich bis heute ungeschlagen: Künstliche Intelligenz ist demnach auf den Punkt gebracht alles, das Operationen ausführen kann, die als intelligent gelten würden, wenn sie ein menschliches Wesen vollbringen würde.

Der Begriff „künstliche Intelligenz” kann also irreführend sein?

Genau. Doch damals musste diese neue Idee eben verkauft werden und das ist hervorragend gelungen… Probleme mit einem klar abgesteckten Ziel effektiv und effizient zu lösen – und das mit null Intelligenz: Das hat mich zur Definition der Trennung gebracht, die wir vorhin besprochen haben. Im Englischen beschreibt der sehr nützliche Ausdruck agency die Fähigkeit zu handeln. Wenn wir diese Agency und die Intelligenz voneinander trennen, zeigen sich zumindest zwei weitere wesentliche Tatsachen. Erstens: Warum es diese Trennung heute im Gegensatz zu früher gibt; und zweitens, welche Probleme sie mit sich bringt. Beginnen wir mit dem zweiten Punkt, also mit dieser Trennung, dieser Abspaltung der Intelligenz, die dazu führt, dass es möglich ist, ohne Intelligenz erfolgreich ein Ziel zu erreichen. Ein Beispiel, das ich dafür oft bringe, ist mein Handy, das so gut Schach spielen kann wie niemand anderer. Es ist offensichtlich, dass wir in seinem Inneren keine Intelligenz finden werden, es ist ein Handy! Doch man kann eben mit null Intelligenz Schach spielen, wenn es die richtige Software, eine Reihe von Daten und ausreichend Training gibt – und man kein Mensch ist. Denn wenn ich spiele, muss ich meine Intelligenz einsetzen, um zu gewinnen. Um es banal zu beschreiben: Ein Vogel muss seine Flügel einsetzen, um zu fliegen. Ein Flugzeug erreicht dies – teils sogar besser – auf ganz andere Art. Als Leonardo einen Weg suchte, um Menschen das Fliegen zu ermöglichen, und dabei die Vögel nachahmte, war es, als wollte er eine KI entwickeln, die wirklich intelligent ist. Mit seinem Versuch der Nachahmung ist er gescheitert, doch sein ingenieurtechnischer Ansatz (wichtig ist, eine Lösung zu finden, nicht wie man dorthin kommt) war ein außerordentlicher Erfolg.

Was bringt diese Trennung zwischen der Fähigkeit zu handeln und Intelligenz mit sich?

Ich nenne nur ein paar ihrer Folgen. Das Thema Verantwortlichkeit. Würdest Du etwas, das null Intelligenz hat, die Verantwortung für sensible und risikoreiche Operationen übergeben, ohne jegliche Kontrolle? Stopp! Ich sage manchmal im Scherz: Ich würde ruhiger schlafen, wenn sie wirklich intelligent wäre. Ich schlafe überhaupt nicht, weil die KI dumm ist. Man kann zur Intelligenz erziehen. Ein Computer schafft es, sehr schnell hochkomplexe Aufgaben zu lösen, aber er verfügt beispielsweise nicht über die Intelligenz, um zu erkennen, wann er damit aufhören soll. Stellen wir uns vor, dass ein Feuer ausbricht. Ich würde das Schachspiel unterbrechen und damit die Partie verlieren, aber mein Leben retten. Der Computer dagegen würde weiterspielen. Aufgrund dieser Spaltung ergeben sich auch eine Reihe ethischer, politischer und wirtschaftlicher Probleme, mit denen wir uns auseinandersetzen müssen.

Wie zum Beispiel?

Eines dieser Probleme ist die Manipulation. Immerhin besteht eine der wichtigsten Aufgaben, für die wir künstliche Intelligenz einsetzen, darin, Entscheidungen des Menschen zu beeinflussen. Es ist aber nicht sehr klug, Tontöpfe zwischen Töpfe aus Eisen zu stellenum Alessandro Manzoni zu zitieren. Es ist riskant, diese künstliche Intelligenz, die wie gesagt nicht intelligent ist, aber unermüdlich 24 Stunden durcharbeiten kann, um Probleme zu lösen, einer echten Intelligenz zur Seite zu stellen, die flexibel, unbeeinflussbar, anpassungsfähig ist und ihre Meinung ändern kann. Wenn wir eine Pflanze neben einen geraden Stock stellen, wächst sie entlang des Stocks. Und genau dasselbe passiert beispielsweise mit all den Recommender Systemen, die wir online finden (Amazon, eBay, Apple und so weiter). Wir setzen einer anpassungsfähigen Intelligenz ein System vor, das ständig wiederholt: Wenn dir das gefallen hat, wird dir auch jenes gefallen. Das ist gefährlich, denn es höhlt die Autonomie des Menschen aus, seine Unabhängigkeit und Fähigkeit, eine Wahl zu treffen. Stellen wir uns Peppino vor, der heute geboren wird und 20 Jahre lang Empfehlungen und Werbungen für Reisen, Bücher, Restaurants, Musik, Sport, Diäten, Freundschaften, Ausbildungen, Mode, soziale und politische Entscheidungen vorgesetzt bekommt. Wir riskieren, seine menschliche Intelligenz zu zerstören, bis er erwachsen ist.

Das erinnert mich an das Gresham’sche Gesetz in der Volkswirtschaft: Das minderwertigere Geld verdrängt das wertvollere. Gilt dies auch für die Intelligenz?

So ist es: Die fehlende Intelligenz beeinflusst letztendlich die Intelligenz. Eine ganz schlechte Idee. Und die hatten wir selbst. Doch solche Dinge erkennen wir nicht. Die Bedrohung ist nicht der Roboter, der die Welt zerstört oder solch unsinnige Ideen. Es geht um die langen Zeitspannen, die bewirken, dass wir irgendwann wie der berühmte Hummer enden werden, der ganz langsam gekocht wird. Wir haben Problemlösungsverfahren freigegeben, ohne einen sozialpolitischen Kontrollrahmen dafür zu haben. Klarerweise gibt es gewaltige Vorteile, aber die Risiken sind genau so groß.

Davor hast du die Frage aufgeworfen: Warum gerade heute?

Denken wir daran, dass die Algorithmen, die heute verwendet werden, bereits vor 20 Jahren in Zusammenhang mit künstlichen neuralen Netzen beschrieben wurden, nein, sie gehen sogar auf die Siebzigerjahre zurück. Der erste wissenschaftliche Artikel zu künstlichen neuralen Netzen wurde 1943 von McCulloch und Pitts veröffentlicht. Das Problem besteht darin, dass wir in der Vergangenheit weder vergleichbare Technologien noch die Daten oder die Rechenleistung hatten wie wir sie heute haben. Wir müssen uns immer wieder daran erinnern, dass ein Smartphone heute mehr Rechenleistung hat, als die Computer der NASA hatten, dank denen der Mensch erstmals den Mond betrat. Und vor allem gibt es heute Milliarden von Daten, die es damals nicht gab. Rein quantitativ gesehen wurden alle Daten, die es je gegeben hat, von unserer Generation geschaffen, das ist doch erschreckend. Das hat auch die künstliche Intelligenz radikal verändert, sie ist von einem Teilgebiet der mathematischen Logik zu einem der Statistik geworden. Das kannst Du an einem einfachen Vergleich sehen. In der Vergangenheit haben wir die Zutaten (Daten) und das Rezept (Algorithmus) hergerichtet und der Computer (zum Beispiel ein Taschenrechner) hat die Pasta Carbonara zubereitet. Heute geben wir dem Computer die Zutaten (Daten) und sagen ihm, was wir haben wollen (Pasta Carbonara) und das System erlernt das Rezept. Von diesem Moment an bereitet dir der Computer die Carbonara zu. Wenn man ein neurales Netz beispielsweise mit Tausenden von Katzenfotos speist, „lernt” das Netz irgendwann, jede Katze zu erkennen.  

Und wie erklärst du dir dann den Erfolg dieser „dummen” Version der künstlichen Intelligenz – wenn wir von ihrer Effizienz absehen?

Einer der Gründe dafür ist, dass unsere Welt immer mehr auf sie statt auf uns zugeschnitten ist. Die Quintessenz einer funktionierenden künstlichen Intelligenz besteht darin, unser Lebensumfeld so umzustrukturieren, dass die „dümmsten” Fähigkeiten der künstlichen Intelligenz und Robotik erfolgreich sein können. Wenn man sich die Videos der Lagerhäuser von Amazon ansieht, versteht man sofort, dass dieses Ambiente für sie geschaffen wurde. Wir können nun die ganze restliche Welt problemlos so reorganisieren, damit diese Trennung von Intelligenz und Agency Erfolg hat. Doch damit könnten wir auch eine riesige Dummheit begehen. Ein gutes Beispiel dafür sind selbstfahrende Autos: Es gibt sie nicht und sie funktionieren nicht. Oder vielleicht könnten sie in Kalifornien funktionieren, wo es jede Menge Sonne und ausschließlich gerade Straßen gibt. Doch sicher nicht in einem komplexen System wie dem Verkehr unserer Städte.   

Oder man müsste beispielsweise Vorzugsspuren für selbstfahrende Autos schaffen, dann könnten sie auch funktionieren …

Genau. Wir werden unsere Welt an diese Autos anpassen, nicht umgekehrt. Wenn wir Autobahnen und Ampeln verändern, Sensoren installieren und so weiter, dann können diese Autos klarerweise autonom fahren. Aber das würde auch das Ende für traditionelle Autos und menschliche Fahrer bedeuten, vielleicht sogar für Fußgänger. In diesem Fall hätten wir eine Stadt auf das selbstfahrende Auto zugeschnitten. Doch wir erleben es bereits in unserem täglichen Leben: Wie oft hören wir, dass Dinge einfach so gemacht werden müssen – wenn wir zum Beispiel ein Formular online ausfüllen –, weil sonst das System nicht funktioniert? Das ergibt doch keinen Sinn. Die Welt an die Technologie anzupassen und nicht die Technologie an die Welt – dies ist eine der großen Herausforderungen, der wir uns werden stellen müssen.

Glaubst du, dass entsprechend angepasste künstliche Intelligenz auch ein Mittel sein kann, zukünftige Pandemien zu bekämpfen oder sie gar vorauszusehen?

Ich glaube, dass künstliche Intelligenz in vielen Bereichen Anwendung finden kann. Ich bin mir nicht sicher, ob sie solche Krisen voraussagen kann, aber sie wird sicherlich ein probates Mittel im Krisenmanagement von zukünftigen Pandemien oder Umweltkatastrophen sein. Elon Musk sieht in der KI „humanity’s biggest risk“. Ich bin schon seit Jahren der Meinung, dass solche Aussagen nicht sinnvoll sind. Es ist schade, dass es einer Pandemie bedurfte, um die Menschen wieder zum Nachdenken zu bewegen. Allerdings dürfen wir auch nicht glauben, dass KI „humanity’s biggest saviour“ wird. KI wird nicht das Allheilmittel, sondern ein mächtiges Instrument in den Diensten menschlicher Intelligenz, Forschung und Entscheidungsfindung, mit dem effektiv und schnell enorme Datenmengen und komplexe Prozesse in immer komplexer werdenden Szenarien verarbeitet werden können. (Szenarien, in denen sich Implikationen vervielfachen und sich gegenseitig beeinflussen).

Und wie siehst du die Antwort auf diese Herausforderung und ganz generell den Umgang mit künstlicher Intelligenz vonseiten der Politik? Vor allem angesichts der bestehenden Monopole im Bereich der digitalen Wirtschaft?

Das ist ein sehr wichtiges Thema. Primär dürfte es diese Monopole nicht einmal geben. Wir brauchen mehr Wettbewerb und eine stärkere Kontrolle durch das Kartellrecht. Hier kann die Politik durchaus etwas bewirken, das hat sich in der Vergangenheit beispielsweise auch auf dem Strommarkt gezeigt.

Wer soll das machen? Die Nationalstaaten oder Europa?

Ich denke, dafür braucht es die breiten Schultern Europas. Ansonsten wird es schwierig, wenn die gesetzliche Lage in jedem Land anders ist. Denn in diesem Fall gäbe es nicht einen Wettbewerb zwischen Unternehmen um die beste Lösung, sondern zwischen Staaten um die lockersten Standortbedingungen. Eine Selbstregulierung ist schon nützlich, aber sie reicht nicht aus. Wenn Strafzahlungen beispielsweise nicht nur Facebook betreffen, sondern auch seine Inserenten, würden sich die Dinge schon ändern. Doch solche Fragen können nicht auf nationaler Ebene gelöst werden. Genauso wie die Gesichtserkennung: Sie kann sinnvoll sein, um die Sicherheit im Flugverkehr zu erhöhen, doch hat sicher nichts an den Schulen verloren, wo sie aber in einigen europäischen Staaten bereits verwendet wird. Um solche Herausforderungen anzugehen, bräuchten wir allerdings ein schlagkräftiges Europa… Einige wichtige Initiativen sind der EU auch gelungen, die neue Datenschutz-Verordnung beispielsweise ist gut durchdacht. Ein weiterer Erfolg war in der Vergangenheit sicherlich der Umgang mit Microsoft, dessen Haltung sich nach den Sanktionen durch die EU radikal verändert hat.

Vor diesem gesamten Hintergrund siehst du als Philosoph die Notwendigkeit einer Revolution oder, wie du schreibst, eines „reboot”?

Ja, die sehe ich. Wir können diese ganzen Herausforderungen nicht mit „bloßen Händen“ angehen. Oder noch schlimmer, mit einer konzeptuellen Ausstattung aus dem 20. Jahrhundert. In den Neunzigerjahren haben wir das Internet nicht reguliert, weil wir aus der Optik des vergangenen Jahrhunderts argumentiert haben: Es ist ein Kommunikationsnetz (stimmt nicht, wir wissen, dass es ein Lebensraum oder Ökosystem ist, in dem wir immer mehr Zeit verbringen), es ist ein Markt, der sich genauso entwickeln muss wie der Strom- oder Gasmarkt, und wir werden ihn regulieren, wenn er sich entwickelt hat. Aber Internet war weder eine Utility noch – wie gesagt – ein Kommunikationsnetz, es war ein neuer Lebensraum. Wir leben nicht im Fernsehen, aber wir leben im Internet, wie auch unser Gespräch gerade zeigt. Deshalb brauchen wir die Philosophie, eine Philosophie, die sich endlich wieder der Welt zuwendet, statt sich nur um sich selbst zu drehen, wie in den vergangenen Jahrzehnten. Deshalb spreche ich in meinem Buch von der Philosophie als „konzeptuelles Design“. Denn die Philosophie, die gute, kann eine große Hilfe sein, um die Herausforderungen der digitalen Welt anzugehen, aber auch ihre großen Chancen zu nutzen. Nur muss sie sich dafür mit den philosophischen Problemen dieser digitalen Welt auseinandersetzen anstatt der Probleme der Philosophen, die niemanden interessieren. Vor uns steht eine außerordentliche Chance: die Gegenwart zu verstehen, um die Zukunft zu gestalten. Und die dürfen wir uns nicht entgehen lassen.

FACT SHEET

Massimiano Bucchi ist Professor für Naturwissenschaften, Technik und Gesellschaft an der Universität Trient und hatte Gastprofessuren an zahlreichen akademischen Einrichtungen in Asien, Europa und Nordamerika. Er hat ein Dutzend Bücher veröffentlicht, die in mehr als zwanzig Ländern erschienen sind, darunter zuletzt Come vincere un Nobel - L’immagine pubblica della scienza e il suo premio più famoso (Einaudi, 2017, erscheint nun in den USA bei MIT Press) und Sbagliare da professionisti (Rizzoli, 2018). Er veröffentlicht regelmäßig Kommentare in den wichtigen italienischen Tageszeitungen (Il Corriere della Sera, Repubblica, La Stampa, Sole 24 Ore). Seit 2016 arbeitet er an der TV-Sendung Superquark mit.

www.massimianobucchi.it
Twitter: @MassiBucchi

Teilen
WhatsappWhatsapp