Über TED AI:
Die TED.AI ist ein Event im Rahmen der internationalen TED Konferenzen. TED steht für Technology, Entertainment and Design. Die TED.AI ist ein Special zum Thema Artificial Intelligence und wurde 2024 erstmals in Europa durchgeführt. TED beschäftigt sich kritisch mit unterschiedlichen Themen, die Wissenschaft, Unternehmertum, Aktivismus und Kunst betreffen. Das Original der Konferenz wurde erstmals 1984 durchgeführt. 
Seit 1990 findet die TED-Conference jährlich, an vier Tagen in Vancouver statt.
Ich gestehe, ich bin ein großer Fan von Sepp Hochreiter. Ich finde seine Arbeit schlicht genial und er war damit unglaublich früh dran. Hochreiter hat seine grundlegenden Arbeiten über LSTM (Long-Short Term Memory) schon in den 90er Jahren geschrieben und damit einen der wesentlichen Grundsteine dafür gelegt, dass später Transformer-Architekturen entwickelt werden konnten. Man hätte das auch in den 90er Jahren des letzten Jahrhunderts machen können, aber da hatten wir die Rechenkapazitäten noch nicht. Was ich nicht wusste, war, dass Sepp seine Diplomarbeit bei einem anderen Kapazunder der KI-Szene geschrieben hat, Jürgen Schmidhuber. Der deutsche Forscher, der heute in der Schweiz tätig ist, hat drei wesentliche Prinzipien 1991 in einer Arbeit festgehalten. (1) Generativ kann KI sein, wenn sie mit (2) Daten vortrainiert wird und die Entscheidung über das nächste Wort im Satz über (3) Wahrscheinlichkeitsrechnungen und einem Attention-Modell definiert wird. Erinnert sie das an etwas? Genau, das ist das Grundprinzip von GPT (Generative Pretrained Transformer). Jedenfalls war es toll, Sepp Hochreiter in einer Diskussion mit dem wesentlich jüngeren Erfinder des Prinzips von Liquid Neural Networks, Ramin Hasani, zu hören. Was mich ebenfalls wirklich faszinierte, war mein erster Eindruck des Publikums auf der TED.AI. Die Themen, die die beiden diskutierten, waren wirklich nicht trivial und die Fragen und die Diskussion mit dem Publikum hat mich beeindruckt. Eine Halle voll Mathematiker:innen? Auf jeden Fall Menschen die sich weit intensiver und tiefer gehend mit KI beschäftigt haben, als ein paar Prompts auf chatGPT abzusetzen oder Katzenbilder für Social Media zu generieren.
In einem späteren Panel an diesem Freitag durfte ich Selena Deckelmann in einer Diskussionsrunde hören. Sie leitet den Einsatz von AI in der Wikimedia Foundation. Am Samstag hielt sie dazu noch einen ausführlichen TED-Talk. Sie erklärte die demokratischen Methoden, mit denen Wikipedia Texte entstehen. Das ist in sich schon schön. Noch schöner ist es, dass die meisten heute aktiven Sprachmodelle sich diesen Daten für ihre Trainings bedienen. Die nach einem weitgehend demokratischen System erstellten Texte und ein Projekt, das sich außerhalb unseres Wirtschaftssystems befindet (zumindest nicht kommerziell ist), dienen als Grundlage für die großen LLMs. Daraus lässt sich auch ein sehr positiver Blick auf die Zukunft von KI herstellen. Und diese Zukunft wird sehr tiefgreifende Veränderungen bringen.
We overestimate the speed of tech-revolution but we underestimate the size of it.
TED AI Conference
Vienna
Ein bekannter Verleger und Journalist sagte mir vor Kurzem in einem Gespräch, “du erzählst uns schon seit 10 Jahren, dass die Zeitung ausgedient hat – du hast dich geirrt, die Menschen wollen bedrucktes Papier”. Es ließ mich sprachlos zurück. Wir suchen die Zukunft einer Branche, die unter einer schweren Krise leidet, in der Vergangenheit eben dieser. Man hat die Möglichkeit zu transformieren. Tut man es nicht, kommt die Disruption. Andere Marktteilnehmer werden das Geschäft übernehmen und der Journalismus wird neue Wege finden. Wir sahen solche Effekte auch in vielen anderen Bereichen. Ich habe immer wieder bei Konferenzen erzählt, dass es zu Beginn des letzten Jahrhunderts keinen Kutschenhersteller gab, der es schaffte, Autos zu bauen. Vielleicht sollte sich die heutige Autoindustrie dieses Momentum ansehen. Unser gesamter Kontinent lebt davon, dass Menschen ein Bedürfnis nach Mobilität haben und diese Mobilität ist einer massiven Veränderung unterworfen. Das Bedürfnis wird nicht verschwinden, ob die bestehende Industrie die Veränderungen schaffen wird oder ob es neue Marktteilnehmer geben wird, liegt vor allem daran, ob eine Disruption durch Transformation verhindert werden kann – tiefgehende und sehr weitreichende Transformation.
Das bringt mich auf das wunderbare Gefühl, dass ich über die Tage bei der TED.AI kein einziges Gespräch über die Angst vor Disruption führen musste oder über die Angst vor Technologie. Natürlich machen sich viele Sorgen, wie sich die Entwicklung von KI auf die Gesellschaft auswirkt. Wir hörten auf der TED.AI den Architekten des europäischen AI-Acts, Gabrielle Mazzini. Die Reaktionen darauf waren durchaus positiv. Ein spannendes Momentum, das ich hier mitnehmen konnte, aus einem lockeren Gespräch in einer Pause war das Folgende: Wir nutzen den AI-Act als Ausrede nicht innovieren zu können – ein europäisches Phänomen. Der AI-Act ist noch gar nicht in Kraft und wird bereits als Grund dafür verwendet, dass wir in der kommerziellen Entwicklung und Anwendung von KI nicht wirklich viel auf die Straße bringen. Uns fehlt hier der unternehmerische Mut. Es ist nicht die Politik, die hier versagt, es sind die Unternehmer. Wenige Firmen, wie uns der CEO von Aleph Alpha, Jonas Andrulis, erzählte, seien in der Grundlagen-Entwicklung wirklich aktiv. Da fiel mir ein Gespräch ein, das ich vor kurzem mit einem Vertreter vom Fraunhofer-Institut in Berlin führte. Man wird dort jetzt auch einen (!) NVIDIA Rechner erhalten, um Modelle rechnen zu können. Der META-Konzern hat davon 80.000 Stück. Vielleicht können wir aus diesem Zahlenverhältnis den europäischen Mut zur Innovation ablesen.
Meine Erinnerungen an die TED.AI führen mich hier zu einem sehr spannenden TED-Talk von Rama Akkiruja, der VP zum Thema Automatisierung von NVIDIA. Im europäischen Kontext war die Firma NVIDIA, außer Gamern, die auf GPUs Wert legten, kaum jemandem ein Begriff. Aber NVIDIA wurde durch den aktuellen AI-Hype zum wertvollsten Unternehmen der Welt. Die Firma folgte damit dem bekannten Prinzip: “In Zeiten von Goldgräberstimmung muss man Schaufeln verkaufen”. Wissen Sie btw. welches Land auf diesem Planeten am meisten vom internationalen AI-Hype profitiert hat? Genau, sie wussten es natürlich. Es ist die karibische Insel Anguilla. Das Land konnte sein BIP um 13% erhöhen. Genau, durch den Verkauf der TLD (Top-Level-Domain) .ai. Auch jemand, der erkannt hat, dass das Schaufeln verkaufen durchaus Sinn machen kann, wenngleich es hier wohl zufällig passiert ist. Auf einer Reise durch die Karibik im Winter 2024 segelten wir extra nach Anguilla. Ich wollte unbedingt diesen Boden betreten. Das Land weltweit, auf dessen Wirtschaftsleistung KI am meisten eingezahlt hat, hat nicht einmal einen Steg zum Anlegen. Man kann nur vor der Küste Anker werfen und per Beiboot an Land fahren. Das Immigration-Office liegt direkt am Strand. Es tönt Reggae-Sound aus großen Lautsprechern. Die Insel hat doppelt so viele Einwohner (ca. 13.000) wie Eichgraben, das Dorf in dem ich lebe. Wir haben auf der TED.AI viel über Inklusion und Exklusion in dieser umfassenden Transformation diskutiert. Wir haben Risiken und Chancen abgewogen und wir haben nach Lösungen für den enormen Ressourcenverbrauch von KI gesucht. Auch diesen Bereich der TED.AI liebte ich. Einen kritischen Blick, keine selbstverliebte Tech-Euphorie und trotzdem ein Optimismus, der es uns erlaubt, einen positiven Blick auf die Zukunft und die Entwicklung von KI zu behalten. Shaolei Ren (UC Riverside) erklärte den weltweiten Wasserbedarf, der durch jede einzelne Anfrage an ein LLM ausgelöst wird, je nach Kontinent ein wenig unterschiedlich. Mit einem Liter Wasser schaffen wir ca. 60 Anfragen an ein Large Language Modell. Wir haben derzeit tausende Anfragen in der Sekunde. Rechnen können wir alle selbst.
Wie sichern wir unsere digitale Zukunft? Können Maschinen die Macht übernehmen? Ist die Matrix real? The End of the World – as we know it? Die Diskussionen über die Gefahren von KI sind wichtig. Sie sind ein existenzieller Bestandteil einer sinnstiftenden Debatte. Einer Diskussion darüber, wo wir KI einsetzen, was wir mit dieser genialen Technologie tun werden. Einige Panels und viele TED-Talks setzten sich mit dieser Problematik auseinander. Aber über all die Ängste, all die Befürchtungen freute ich mich doch über diesen Satz ganz besonders:
The End of the world? Or what, if AI just works for us.
TED AI Conference
Vienna
Wir hörten Ramin Hasani, der Co-Gründer und CEO von Liquid.ai. Ramin sprach über die neuen Möglichkeiten und die drastische Reduktion von Ressourcenverbrauch durch seine (Co)Idee eines Liquid Foundation Modells. Wir durften während des Talks mit dem Playground spielen. Aber Murphys-Law schlug gnadenlos zu. Als ein großer Teil der 1000 Zuhörer:innen den Playground öffnete, gab das System auf und brach zusammen. Aber Ramin ließ sich den Mut nicht nehmen. Wir sehen hier generative KI die kein Transformer Modell mehr nutzt. Ein weiterer großartiger Schritt Richtung Zukunft. Auch Microsoft stellt sich die Frage, wie man die Qualität von LLMs verbessern kann. Wir durften die erste öffentlich vorgestellte Visualisierung von Causal Transformer Modellen im Gaming Bereich sehen. Modelle, die sich selbst adaptieren und auf Unvorhergesehenes reagieren können. Präsentiert als Spiel, konnte man mit ein wenig Vorstellungskraft eine Ahnung davon bekommen, was damit möglich sein wird. Und wir sahen das später noch live in der Robotik. Wie einfachste Modelle mit 7 (in Worten sieben) Attributen auf Ereignisse reagieren können, die in der Logik eigentlich nicht vorkommen können. Ich habe mich selbst erst vor kurzem intensiv mit dem Thema der Selbstkorrektur in Sprachmodellen beschäftigt. Was mir hier auffiel war, dass openAI sich sehr bedeckt hält, wie sie das eigentlich machen und DeepMind ein ganzes Konvolut an Dokumenten dazu öffentlich bereitstellt.
I’m getting sick about the AI-Hype.
TED AI Conference
Vienna
Wir können mit KI spielen, wir können Texte generieren und Bilder für Social-Media entstehen lassen. Wir können uns aber auch relevanten gesellschaftlichen Problemen widmen. Ein Thema, das auf der TED.AI wirklich breit diskutiert wurde, waren die Auswirkungen des Klimawandels auf die Gesellschaft und auf unser Leben. DeepMind beschäftigt sich intensiv damit, Predictions über Wetter- und Klimamodelle zu erstellen. GenCast z.B. ein Modell, das es erlaubt, große Wetterphänomene wesentlich früher zu erkennen, um den Menschen mehr Zeit zu verschaffen. Aber auch in vielen anderen Panels und Talks war der Klimawandel ein zentrales Thema. Ich bin ja ein großer Fan von DeepMind. Ich las mit Begeisterung das Buch von Mustafa Suleyman – The Coming Wave – und verfolge die Geschichte von DeepMind seit der Gründung im Jahr 2010. 2014 wurde das britische Unternehmen von Google übernommen. Bis heute wird aber vor allem in London geforscht. DeepMind schaffte eine der größten intellektuellen Herausforderungen, die es bisher in der KI-Entwicklung gab. DeepMind schlug 2016 den Weltmeister Lee Sedol im Spiel GO. 200 Millionen Menschen in Asien haben diese Spiele live auf Bildschirmen verfolgt. In Europa wurde der Erfolg kaum beachtet. Lee Sedol sagte dazu, er spiele nicht für sich und in diesem Fall auch nicht für Süd-Korea. Er spiele für die Menschheit, um unsere Überlegenheit zu demonstrieren. Lee Sedol verlor das Spiel 4:1. Das Besondere an diesem Sieg ist im Buch von Suleyman, beinahe nebenbei vermerkt. Das Spiel GO benötigt Intuition. Es ist kein vollkommen logisches Spiel.
And Yes, we are proud about the Nobel Prize.
TED AI Conference
Vienna
DeepMind ist bis heute in der Forschung tätig. Wir hörten die Research-Chefin der Organisation Raia Hadsell. Sie erzählte uns, wie man bei DeepMind auf Basis der im Unternehmen vorhandenen KI-Modelle auf die Idee gekommen war, das Problem von Protein-Folding, als eines der größten verbliebenen Geheimnisse der Naturwissenschaften zu zerlegen. Bis heute ist es DeepMind gelungen, 200 Millionen Proteine zu entschlüsseln. Zwei Millionen Wissenschaftler:innen und Forschende in 190 Ländern nutzen die Datenbank und arbeiten an völlig neuen medizinischen Möglichkeiten, Behandlungen und vielen anderen Feldern, für die wir ein grundlegend anderes Verständnis unserer Naturgesetze brauchen.
It's all about the code.
TED AI Conference
Vienna
Einen hab’ ich noch in meiner völlig subjektiven Liste, die ich hier ausgewählt habe, um darüber zu erzählen. Thomas Dohmke, seines Zeichens CEO bei Github erzählte uns in einem Gespräch mit Vlad Gozman (einem der Organistor:innen hinter der TED.AI Vienna) wie er vom Open-Source Entwickler zu Mobile-Apps über die SDKs von Apple und Google kam. Und wie ihn die Welt von Open Source und einem freien Zugang zu Code immer mehr faszinierte und er davon überzeugt ist, dass eine künftige Welt noch viel mehr Code benötigen wird – und offene Forschung. Er erklärte, warum Github sich sehr früh für den Einsatz von GenAI im Software-Development einsetzte und wie sich dadurch die Anforderungen an Entwickler:innen verändert haben. Und ja, sie haben das richtig gedacht, die Anforderungen werden dadurch höher. Wir werden immer bessere Programmierer:innen brauchen, um den radikal ansteigenden Bedarf und Nutzen von Code zu bewältigen.
Das Team rund um Alina Nikolaou und Vlad Gozman hat mit der TED.AI Vienna eine unglaubliche Konferenz auf die Beine gestellt. Ein Event, mit vielen atemberaubenden Momenten, kritischen Standpunkten, großartigen Entwicklungen und nachdenklichen Zukunftsszenarien. Die TED-Talks begannen am Samstag um 09:30 und endeten um 21:30. Ich sah niemanden müde werden, wir blieben alle konzentriert bei der Sache. Und mit Chris Turner, dem Live-Rapper, durften wir auch herzlich lachen.
Source: @tedaivienna (Instagram), 26. March 2024.
Source: @tedaivienna (Instagram), 28. April 2024.
Wir haben die Möglichkeit, diese Technologie weiter zu adaptieren. Wir haben die Option zu lenken und unsere Forschungen auf Bereiche zu legen, die für uns als Gesellschaft sinnstiftend sind. Ob uns das gelingen wird, ist wie immer offen. Aber es muss uns klar sein, dass künstliche Intelligenz die größte Veränderung in der Gesellschaft auslösen wird, die wir bisher erlebten.
There is the concept of “invent” and there is the concept of “reinvent”, but there is no concept of “uninvent”.
TED AI Conference
Vienna
- Call STRG's CEO Jürgen, or write a mail juergen.schmidt@strg.at Mobile: +43 699 1 7777 165
