Der Vortrag „Vom maschinellen Lernen zur autonomen Intelligenz – AI-Talk von Prof. Dr. Yann LeCun“ befasst sich mit der komplexen Landschaft der Artificial General Intelligence (AGI), deutsch „Künstliche allgemeine Intelligenz“, und zielt darauf ab, einige der gängigen Missverständnisse und Ängste, die damit verbunden sind, zu entmystifizieren. Er hielt den Vortrag an der Ludwig-Maximilians-Universität München am 29.09.2023. Sehen wir uns an, was er im Einzelnen gesagt hat.
Unter Artificial General Intelligence (AGI) versteht man eine Art von künstlicher Intelligenz, die die Fähigkeit besitzt, zu verstehen, zu lernen und Wissen über ein breites Spektrum von Aufgaben anzuwenden, ähnlich wie ein Mensch. Im Gegensatz zu einer eng gefassten oder spezialisierten KI, die auf die Ausführung bestimmter Aufgaben oder die Lösung bestimmter Probleme ausgerichtet ist, wäre die AGI in der Lage, Wissen und Fähigkeiten von einem Bereich auf einen anderen zu übertragen. Im Wesentlichen zielt die AGI darauf ab, die allgemeine Intelligenz und die kognitiven Fähigkeiten des Menschen nachzuahmen, einschließlich Problemlösung, abstraktes Denken und emotionales Verständnis. Allerdings gibt es AGI noch nicht und bleibt weitgehend theoretisch.
Der Vortrag beginnt damit, die Vorstellung in Frage zu stellen, dass AGI ein „Ereignis“ sein wird, bei dem Maschinen plötzlich empfindungsfähig werden oder die menschliche Intelligenz übertreffen, und bezeichnet solche Vorstellungen als Hollywood-Übertreibungen. Intelligenz wird als ein mehrdimensionales Konzept definiert, bei dem der Mensch in bestimmten Aufgaben überragend ist, während er in anderen unzureichend ist, ähnlich wie spezialisierte Maschinen. Computer übertreffen den Menschen bereits in verschiedenen Bereichen, von Spielen bis zur Mustererkennung, was darauf hindeutet, dass der Mensch selbst keine „allgemeine Intelligenz“ besitzt.
Yann LeCun wirft dann einen Blick in die Zukunft und spekuliert über eine Welt, in der KI-Systeme alle Interaktionen zwischen Mensch und Digitaltechnik vermitteln. Diese Omnipräsenz von KI wirft die Frage auf, wer diese mächtigen Systeme kontrolliert. Der Referent plädiert für quelloffene KI-Modelle und argumentiert, dass die Zentralisierung der KI-Macht bei einigen wenigen Unternehmen sowohl unethisch als auch gefährlich ist. Open-Source-Modelle bieten mehrere Vorteile: Sie sind sicherer, entwickeln sich schneller, sind kulturell vielfältig und fördern ein Ökosystem aus Forschung und Innovation.
Dieser Punkt leitet über zu einer breiteren politischen Debatte. Die Regierungen stehen unter dem Druck, die KI zu regulieren und sie aufgrund der wahrgenommenen Risiken „unter Verschluss“ zu halten. In dem Vortrag wird vehement dagegen argumentiert, dass KI zu wichtig ist, um von einigen wenigen kontrolliert zu werden, und dass sie allen zugänglich gemacht werden sollte. Der Referent vergleicht die KI-Revolution mit den Auswirkungen des Buchdrucks und schlägt vor, dass ein weit verbreiteter Zugang zu KI eine neue Renaissance auslösen könnte, indem er die Menschheit tatsächlich „intelligenter macht“.
Das übergreifende Thema ist, dass AGI und KI-Systeme nicht gefürchtet, sondern vielmehr verstanden und verantwortungsvoll gehandhabt werden sollten. Open-Source-Modelle werden als Schlüssel zu einer sichereren, gerechteren Zukunft dargestellt, in der KI als Ergänzung menschlicher Fähigkeiten dient und nicht als Ersatz oder Bedrohung.
Zentrale Gedanken des Vortrags
Der Vortrag bietet einen umfassenden Überblick über den aktuellen Stand und die zukünftigen Auswirkungen der Künstlichen Intelligenz (KI). Hier sind die fünf wichtigsten Erkenntnisse:
Missverständnisse über AGI: Yann LeCun stellt die weit verbreitete Vorstellung von Künstlicher Allgemeiner Intelligenz (KI) als monolithische Einheit in Frage, die in der Lage wäre, den Menschen in allen Bereichen zu überlisten. Sie argumentieren, dass sowohl Maschinen als auch Menschen über spezialisierte Arten von Intelligenz verfügen und nicht über eine „allgemeine“ Intelligenz. Dies ist von entscheidender Bedeutung für die Gestaltung unseres Verständnisses und unserer Erwartungen an das, was KI leisten kann und was nicht.
KI wird die menschliche Intelligenz übertreffen: Trotz der Kritik an AGI ist Yann LeCun überzeugt, dass Maschinen die menschliche Intelligenz in speziellen Bereichen irgendwann übertreffen werden. Sie machen deutlich, dass dies nicht unbedingt etwas ist, wovor man sich fürchten muss, sondern eher eine wahrscheinliche Eventualität, auf die sich die Gesellschaft vorbereiten muss.
KI als Vermittler in der digitalen Welt: LeCun sagt voraus, dass KI-Systeme die primäre Schnittstelle werden, über die Menschen mit der digitalen Welt interagieren. Sie glauben, dass diese KI-Systeme schließlich das gesamte menschliche Wissen speichern werden. Diese Erkenntnis ist wichtig, weil sie uns dazu anregt, die ethischen und gesellschaftlichen Folgen zu bedenken, wenn KI zu unserer wichtigsten Informations- und Entscheidungsquelle wird.
Open Source für KI: LeCun ist ein starker Befürworter von Open-Source-KI-Modellen. Sie argumentieren, dass KI zu wichtig ist, um von einer Handvoll Unternehmen kontrolliert zu werden, und stattdessen kollektiv entwickelt werden sollte, wobei globale Perspektiven genutzt werden sollten. Dieser Ansatz mache die KI sicherer, leistungsfähiger und kulturell vielfältiger, so ihre Argumentation. Die Open-Source-Bewegung in der KI wird als Parallele zur Open-Source-Basis des Internets gesehen.
Regulierung und Steuerung: Gegenwärtig gibt es Bestrebungen, die KI zu regulieren und sie unter Verschluss zu halten, insbesondere von Seiten einiger Regierungen. Yann LeCun spricht sich dagegen aus und erklärt, dass es gefährlich sein könnte, den Zugang zu KI auf einige wenige Einrichtungen zu beschränken. Er ist der Meinung, dass KI das Potenzial hat, alle Menschen intelligenter zu machen, und daher allgemein zugänglich sein sollte, ähnlich wie die Druckerpresse in der Renaissance.
Jeder dieser Punkte ist von Bedeutung, da er das herkömmliche Wissen in Frage stellt, ein differenziertes Verständnis von KI fördert und sowohl die politischen Entscheidungsträger als auch die Öffentlichkeit auffordert, die ethischen, gesellschaftlichen und politischen Auswirkungen der sich rasch entwickelnden KI-Technologien zu berücksichtigen.
Kritik
Obwohl der Vortrag eine umfassende Diskussion über KI bietet, gibt es einige Bereiche, in denen die Argumente von LeCun kritisiert werden könnten:
Übervertrauen in das ethische Design von KI: LeCun geht davon aus, dass künftige KI so konzipiert sein wird, dass sie dem Menschen „untergeordnet“ ist, doch dies könnte eine zu optimistische Sichtweise sein. Das Problem der Anpassung, bei dem die Ziele einer KI nicht perfekt mit denen ihrer menschlichen Anwender übereinstimmen, ist eine bekannte Herausforderung in der KI-Ethik. Die Annahme, dass KI von Natur aus mit menschlichen Werten übereinstimmen wird, könnte naiv und riskant sein.
Spezialisierung vs. Generalisierung: LeCun weist das Konzept der AGI zurück, indem er betont, dass sowohl menschliche als auch maschinelle Intelligenz spezialisiert sind. Das stimmt zwar bis zu einem gewissen Grad, aber der Begriff AGI wird üblicherweise verwendet, um ein System zu beschreiben, das jede intellektuelle Aufgabe ausführen kann, die auch ein Mensch erledigen kann, was es im Vergleich zu den bestehenden, spezialisierten KIs „allgemein“ macht. Diesen Aspekt zu ignorieren, kann den Diskurs über KI-Fähigkeiten verwirren.
Open Source als Allheilmittel: Yann LeCun plädiert für quelloffene KI-Modelle und argumentiert, dass dies die KI sicherer und leistungsfähiger macht. Open Source bietet zwar Vorteile in Bezug auf Transparenz und Zugänglichkeit, birgt aber auch Risiken wie Missbrauch oder Bewaffnung. Open-Source löst nicht per se das Problem der unethischen Nutzung oder Voreingenommenheit in der KI.
Universeller Nutzen der KI: LeCun deutet an, dass KI wie der Buchdruck der Renaissance sein könnte, von dem jeder profitiert. Dabei werden die kritischen Probleme der Ungleichheit bei der KI und der digitalen Kluft übergangen, wo die Vorteile der KI möglicherweise nicht gleichmäßig verteilt sind, was die sozialen und wirtschaftlichen Ungleichheiten noch verschärfen könnte.
Regulierende Haltung: Während LeCun sich dagegen ausspricht, KI „hinter Schloss und Riegel“ zu halten, wird eine gewisse Form der Regulierung allgemein als notwendig erachtet, um unethische Anwendungen von KI zu verhindern, Sicherheit zu gewährleisten und Probleme wie den Datenschutz anzugehen. Wer gegen eine Regulierung argumentiert, ignoriert diese komplexen Zusammenhänge.
Wer ist der Referent Yann LeCun?
Yann LeCun ist ein französischer Informatiker, der vor allem für seine Arbeit in den Bereichen maschinelles Lernen, Computational Neuroscience und künstliche Intelligenz bekannt ist. Er wurde in Soisy-sous-Montmorency, Frankreich, geboren und ist eine der Schlüsselfiguren hinter der Entwicklung und Verbreitung von Faltungsneuronalen Netzen (CNNs), einer grundlegenden Technologie im Bereich des Deep Learning. CNNs sind besonders effektiv für Aufgaben im Zusammenhang mit der Bilderkennung und haben maßgeblich zu Fortschritten im Bereich der Computer Vision beigetragen. LeCun hat für seine Beiträge zahlreiche Auszeichnungen erhalten, darunter 2018 den renommierten Turing Award, der oft als „Nobelpreis der Informatik“ bezeichnet wird. Er wurde auch mit angesehenen akademischen Einrichtungen wie der NYU in Verbindung gebracht, wo er als Professor tätig war. Derzeit arbeitet LeCun als Chief AI Scientist bei Meta Platforms, Inc. (ehemals Facebook) und setzt sich für die Open-Source-Entwicklung von KI-Technologien ein. Seine Arbeit ist sehr interdisziplinär und berührt Bereiche wie Robotik, natürliche Sprachverarbeitung und sogar Neurowissenschaften, da er sich dafür interessiert, wie die Prinzipien hinter Lernalgorithmen Einblicke in die Funktionsweise des menschlichen Gehirns geben können. Insgesamt haben seine Beiträge den Bereich der künstlichen Intelligenz maßgeblich geprägt und finden in verschiedenen Bereichen wie Technologie, Gesundheitswesen und autonomen Fahrzeugen breite Anwendung.
Um es kurz zu machen: TL;DR
Yann LeCun vertritt die Ansicht, dass die Angst vor künstlicher Intelligenz (Artificial General Intelligence, AGI) weitgehend übertrieben ist und auf Hollywood-Mythen beruht. Intelligenz ist mehrdimensional und selbst Menschen haben keine „allgemeine Intelligenz“. In der Zukunft wird KI wahrscheinlich all unsere Interaktionen mit der digitalen Welt vermitteln, weshalb es von entscheidender Bedeutung ist, dass diese Systeme quelloffen sind, um eine übermäßige Machtkonzentration zu vermeiden. Staatliche Regulierung, die KI wegsperrt, wird als gefährlich angesehen; stattdessen sollte KI für alle zugänglich sein, so wie es seinerzeit die Druckerpresse war. Der Referent vertritt die Ansicht, dass eine richtig verwaltete, quelloffene KI zu einer neuen Renaissance führen könnte, indem sie die Menschheit kollektiv intelligenter macht.