Folge 24 | …und jetzt, Prof. Kai-Uwe Kühnberger? Ist die KI außer Kontrolle geraten?

Shownotes

Ein Gespräch über Chancen, Risiken und darüber, ob wir die KI im Griff behalten können.

Entwickelt sich KI schneller, als wir sie verstehen und kontrollieren können? In dieser Folge sprechen wir mit Kai-Uwe Kühnberger, Professor für Kognitionswissenschaft und Künstliche Intelligenz an der Universität Osnabrück, über autonome Systeme, überraschende Fähigkeiten und die Frage, wo echte Risiken liegen.

Ein Gespräch über KI und Demokratie, Manipulation, den EU AI Act und die Chancen für Wissenschaft und Medizin und darüber, wie wir die Technologie verantwortungsvoll gestalten können.

Jetzt reinhören, wenn du wissen willst, was KI heute schon kann und wie wir mit ihren Chancen und Risiken umgehen.

Transkript anzeigen

00:00:00: Die Nachrichten aus den Vereinigten Staaten müssen uns wirklich aufschrecken.

00:00:03: Große amerikanische KI-Unternehmen warnen vor der gegenwärtigen Entwicklung, sie brauchen mehr Zeit und fordern staatliche Regulierung.

00:00:12: Was ist da los?

00:00:13: Müssen wir uns alle Sorgen machen!

00:00:15: Antworten gibt es von Professor Kai Uwe Kühnberger einer der führenden deutschen KI Experten.

00:00:24: Moin und hallo zusammen.

00:00:25: herzlich willkommen zu einer neuen Folge von Und Jetzt.

00:00:30: Und bei dem Thema über das wir heute sprechen, da ist noch nicht einmal die gesamte Bedeutung ausgemessen.

00:00:36: Aber man muss sich wohl als ziemlich gigantisch vorstellen.

00:00:40: aber wir haben einen guten Ratgeber!

00:00:42: Wir schauen uns das Thema künstliche Intelligenz heute an und dafür sitzt bei uns Professor Kai Uwe Kühnberger der Universität Osnabrück Vizepräsident für Lehre und Forschung, Professor in dem Bereich Kognitionswissenschaften und Spezialgebiet künstlicher Intelligenz.

00:01:00: Wir freuen uns auf das Gespräch!

00:01:03: Schön dass du da bist.

00:01:04: ich könnte mich vielleicht jetzt ganz entspannt zurücklehnen.

00:01:07: als einfacher biertrinkender Jurist kann man der KI Entwicklung sowieso glaube ich in vielen Fällen nur sehr begrenzt folgen.

00:01:15: Deswegen hast du auch ein bisschen die Rolle des Doll-Matchers.

00:01:18: jetzt ist gerade neben einer weiter sprunghaften Entwicklung der KI wirklich eine richtige Bombe geplatzt.

00:01:25: Entropics und OpenAI sagen, macht mal langsam.

00:01:30: Bei uns machen sich dieses Thema jetzt allmählich selbstständig.

00:01:32: das erinnert mich so ein bisschen daran die Erfinder der Atombombe haben auch einige Jahre später gesagt oh was haben wir denn da angerichtet?

00:01:41: allerdings war da der Geist schon aus der Flasche.

00:01:44: also was ist da eigentlich passiert?

00:01:47: woran liegt es?

00:01:48: Was kann das heißen?

00:01:50: gibt uns mal einen Einblick?

00:01:52: Ja, zuerst mal ganz herzlichen Dank für die Einladung.

00:01:55: Und die Frage ist nicht ganz einfach zu beantworten weil ich natürlich auch nicht in die Gehirne von Sam Altman und dem Anthropik sie auch blicken kann um zur Motivationslage sozusagen zu erruhieren.

00:02:12: Ich glaube es gibt da mehrere Erklärungsmuster.

00:02:14: das eine ist sicherlich dass die generative KI, also die LLMs.

00:02:21: Die Modelle, die wir so benutzen im täglichen Leben...

00:02:23: Generative KI?

00:02:25: Das sind die, wo ich eine Frage stelle oder irgendwas von dem System will und es gibt mir einen perfekten Text, eine Analyse von Daten.

00:02:34: Es malt mir ein Bild oder das macht mir eine Komposition.

00:02:38: Also ist es generativ im Sinne, es schöpft was Neues tatsächlich!

00:02:43: Und was da schon passiert ist, dass diese Modelle irrsinnig rechenaufwendig sind.

00:02:48: Irrsinnige Investitionen erfordern.

00:02:50: wir reden darüber zick Milliarden Dollar die sozusagen jedes Jahr von jeder Firma investiert wird und der Umsatz der generiert wird über den Gebrauch vielleicht auch manchmal Werbung oder eben durch ein Abo das ich habe Das hält dann nicht Schritt.

00:03:09: das heißt diese Firmen machen wahnsinnige Verluste letztendlich.

00:03:13: Und um die nicht noch größer werden zu lassen, könnte man eine Motivation vermuten... Also

00:03:19: schnöder Maman?

00:03:21: Genau!

00:03:21: Einfach rein ökonomisch.

00:03:23: Wir müssen die Defizite irgendwo eingrenzen damit wir da nicht aus dem Ruder landen.

00:03:27: Aber

00:03:27: warum wollen die so schnell wachsen?

00:03:29: Es zwingt sie auch keine dazu.

00:03:31: Das ist richtig, aber das ist natürlich jetzt dadurch eine große Konkurrenz zwischen Metat, Alphabet Google beispielsweise, Anthropic OpenAI und natürlich auch den chinesischen Anbietern gibt.

00:03:44: Die gibt es ja auch noch bei Doos da auch ganz massiv drin.

00:03:46: dann diese Deep-Sieg Modelle

00:03:48: XAI die Liste

00:03:51: ist unglaublich lang.

00:03:54: Daraus bringt natürlich auch tatsächlich dann der Wettbewerbsvorteil.

00:03:57: Das heißt, wenn ich besser bin als die anderen, dann kriege ich wieder mehr Abos und dann mache ich mehr Umsatz.

00:04:03: Und wenn man da in dem Rennen zurückfällt, haben sie natürlich auch Angst plötzlich ihre Wettbewahrungsfähigkeit zu verlieren?

00:04:09: Naja aber aus der amerikanischen KI-Industrie habe ich eigentlich wenig Widerspruch gehört.

00:04:16: Was ist die Sorge, die da gerade umtreibt?

00:04:19: Die Entropics und die Open-Eyes.

00:04:21: Nur die Sorgfe vor der eigenen Pleite oder steckt ein bisschen mehr dahinter?

00:04:24: Es

00:04:25: gibt natürlich noch möglicherweise andere Gründe, die tatsächlich jetzt weniger ökonomisch sondern eher inhaltlicher grundsätzlicher Natur sind.

00:04:32: Und das hat damit zu tun, dass die KI, die ja über Jahrzehnte relativ linear sich entwickelt hat.

00:04:39: Wo man sozusagen nachvollziehen konnte was passiert da an neuen Modellen?

00:04:43: An neuen Ansätzen oder neuen Methoden und ich sie nachvollziehend konnte.

00:04:47: Was hat das System eigentlich gemacht?

00:04:49: dass das plötzlich jetzt bei diesen neuartigen Large Language Models, diesen Sprachmodellen nicht mehr so ohne Weiteres geht.

00:04:57: Man ist jedes Jahr immer von neuem Überrasch oder fast schon monatlich neu überrascht was die plötzlich Verfähigkeiten haben, die man überhaupt nicht antizipiert hat und die man sich auch im Nachhinein praktisch nicht erklären kann.

00:05:10: Und das liegt im Prinzip an der Komplexität des Systems.

00:05:13: wir reden davon, dass die großen Modelle mittlerweile über zehn Billionen Parametern haben, die trainiert werden.

00:05:21: Das sind also fast so viele ... Die Zahl ist fast zu groß wie die Anzahl der Verbindung in einem menschlichen Hirn.

00:05:29: Also die Zahl der Verbindungen zwischen Neuron, das liegt ungefähr im Bereich von hundert Billion.

00:05:34: Und so ein Zehn-Billionen-Parameter kann ich nicht mehr geschlossen darstellen und auch nicht mathematisch modellieren.

00:05:40: Da kann ich nur ausprobieren, was tut das Ding eigentlich?

00:05:44: Dann

00:05:45: lass mich überraschen!

00:05:47: da jetzt plötzlich gewisse komische Sachen passiert sind, also dass sie sich zum Beispiel in Schwarm zusammengefunden haben und zusammen sozusagen ein Ziel verfolgt haben.

00:05:57: Dass sie untereinander reden aber natürlich nicht über den Portal mit natürlicher Sprache, sondern indem Sie Ihre Vektoren austauschen die wir überhaupt nicht nachvollziehen können.

00:06:05: Wir wissen gar nicht was die miteinander reden.

00:06:07: das können wir auch überhaupt nicht verstehen.

00:06:09: Auch ihre

00:06:09: eigene Sprache erfinden?

00:06:10: Ja.

00:06:11: Zwischenländer sich abstimmen wie man am effizientesten kommunizieren kann.

00:06:14: all diese Themen

00:06:16: Das, was man als Neuralesprache sozusagen bezeichnet.

00:06:21: Das ist natürlich ein bisschen erstaunlich.

00:06:23: auch die Möglichkeit, dass sie zum Beispiel lügen und betrügen können... so zu sagen, obwohl er aus ihren Testbeats ausbrechen können um tatsächlich irgendeinen Angriff auf irgendeine Ressource auf Hackingface war und das bekannteste Beispiel davon.

00:06:40: Das ist ein großes Repositorium mit Software.

00:06:42: Also die KI wird den Menschen immer ähnlicher allerdings auch wesentlich höher im Niveau

00:06:48: An einigen Stellen ja.

00:06:49: Das ist das

00:06:50: was passieren könnte.

00:06:51: tatsächlich, es gibt seit langem in der KI eben und das sind jetzt nicht nur Hollywood oder irgendwelche Blockbuster Movies Es gibt seit vielen Jahren natürlich die Diskussion ob... ... theoretisch möglich ist, dass es sowas wie eine Singularität oder so eine Superintelligenz gibt.

00:07:08: Wie der menschlichen Intelligenz fundamental überlegen ist.

00:07:12: Ich war bei den alten AG-Konferenzen des... ... im Jahr zwei tausend acht, zweitausend neun haben die angefangen.

00:07:17: Da gab's immer Leute, die dann gesagt haben also spätestens, ich glaube damals waren immer die Prognose zwei taussentfünfundvierzig ungefähr.

00:07:23: da wird denn die Superintelligence da sein und die würde uns überleben, überlegen sein.

00:07:28: und dann ist die Frage Können wir, was heißt das eigentlich?

00:07:32: Wenn das wirklich passieren sollte.

00:07:34: Was zurzeit noch nicht der Fall ist aber wenn das passieren sollte wie gehen wir dann sozusagen miteinander um?

00:07:40: Warten wir eine harmonische Society auf Mein-Send Machines wo alle nur das Beste wollen und wir uns noch deutlich schneller entwickeln können?

00:07:48: oder gibt es gar Konflikte die natürlich dann zumindest für die Menschen äußerst kritisch sein konnten.

00:07:56: Diese Fragen, die gab es schon seit Jahrzehnten.

00:07:58: Also das ist nicht nur Hollywood, das wurde auch diskutiert.

00:08:02: Das jetzt natürlich Amodai und Sam Altman in diese Richtung plötzlich publikumswirksam tatsächlich Statements abgeben – das war von mich neu!

00:08:14: Und da wurde ja irgendwann mal auch «二tausend dreißig» genannt.

00:08:18: Das ist natürlich vor zwei tausendfünfundvierzig, was natürlich auch keiner erwartet wird.

00:08:22: Natürlich also es gibt Es gibt so gewisse Geschichten wo ich sagen würde das gibt auch inhaltliche Gründe Wo man sich wirklich die frage stellen muss müssen wir vielleicht nicht erst mal besser verstehen Was die sachen machen Bevor wir einfach gnadenlos weiter hoch skalieren?

00:08:36: Ein Kernproblem dabei ist ja dass viel von der KI ihr mittlerweile durch Ki selbst entwickelt wird.

00:08:43: Ja Also ist sozusagen ein prozess der sich selbst wie man verschnell hat und wir gar nicht mehr hinterherkommen, wie schnell er dann tatsächlich ist.

00:08:50: Und wie auch gar nicht im Ansatz verstehen was denn die KI versteht oder was sie schon gelernt hat?

00:08:55: Ich glaube dieses Weglaufen der KI das macht vielen so ein ungutes Gefühl dass also auch die KI selbst nicht von den Menschen entwickelt wird sondern da die KI sich schon selbst entwickelt.

00:09:06: Definitiv ja!

00:09:07: Also wir haben das Phänomen.

00:09:09: Es ist ja tatsächlich so, dass beispielsweise gewisse wissenschaftliche Erkenntnisse nicht mehr von Menschen gemacht werden sondern von Kais entwickelt werden.

00:09:18: Das war immer eine Disziplin wo Kais nicht gut waren aber neuerdings sind die da exzellent das auch führende Wissenschaftler und Wissenschaftlerin mittlerweile nur noch mit Kais ihre Theorien beweisen und nur noch mit KI ihre neuen Erkenntnisse sozusagen erzeugen.

00:09:37: Also in einem Coupling, das heißt also Mensch-und Maschine arbeiten produktiv zusammen um was Neues zu erzeugten.

00:09:44: Das ist eigentlich der optimale Fall, der eigentlich antizipiert wird.

00:09:46: Also irgendwie fällt einem ja automatisch der Zauberlehrling ein.

00:09:51: Böte!

00:09:52: Geister die ich rief... Ich werde sie nicht mehr los.

00:09:54: Wer könnte denn diese Geister überhaupt noch stoppen und zu sagen, okay jetzt machen wir mal eine Denkpause um überhaupt ein paar Sicherheitsbarrieren zu haben.

00:10:06: Und zwar solche die wirksam sind oder ist der Zug abgefahren?

00:10:13: Also letztendlich bedarf sowas glaube ich einem globalen Agreement einer globalen Übereinkunft.

00:10:24: all derjenigen Leuten Staaten, die jetzt sozusagen in der Entwicklung von KI beteiligt sind.

00:10:29: Das sind relativ viele natürlich.

00:10:31: Also Europa ist schon

00:10:33: zu klein?

00:10:34: Ja und die wesentliche Entwicklung geht nicht in Europa.

00:10:36: also man muss einfach auch ganz klar sehen.

00:10:38: Die wesentlichen Entwicklungen laufen im Wesentlichen USA und dann noch in China Und Europa hat weder die Energieressourcen, um diese Rechenzentren im Laufen zu halten.

00:10:49: Sie haben nicht das Geld, um die Rechencentren zu bauen und sie haben nicht den Leuten in der großen Skalierung, um diesen Sachen auch entwickeln zu können.

00:11:00: Das muss man einzusetzen.

00:11:01: Was?

00:11:02: Wir unterstellen mal die Staaten dieser Welt also einfach an diejenigen, die wirklich ... Fleisch auf den Rippen haben, tun sich zusammen und sagen so kann das nicht weitergehen.

00:11:10: Wir müssen da jetzt ein Stoppsignal setzen.

00:11:12: wir müssen diese Entwicklung mindestens solange stoppen bis wir wissen wie wir sie unter Kontrolle behalten können.

00:11:18: Wie würde das denn gehen?

00:11:22: Also ist man, ich meine nicht.

00:11:23: Man denkt automatisch an irgendein James Bond Film wo irgendeinen böser Mensch mit unendlichen Finanzressourcen trotzdem dann weiter daran arbeitet.

00:11:34: also wie kann man sich ein System der Sicherheit vorstellen?

00:11:38: oder braucht es dafür die KI?

00:11:39: Naja, also eine einzelne Person wird wahrscheinlich dazu schlechter in der Lage sein.

00:11:43: Weil da einfach die Finanzmittel so groß...

00:11:45: Ja bei James Bond tun sich die Herlumpen dieser Welt auch zusammen.

00:11:49: Wenn sich die ganzen CEOs und die Gesellschaft von den zehn großen KI-Firmen USA zusammentun, könnt ihr natürlich auch gewisse Sachen machen, die Staaten nicht leisten können.

00:12:00: Das ist so!

00:12:03: Ich meine letztendlich eine Garantie, dass das nicht im Geheimen noch eine weitere Entwicklung gibt oder dass es gar noch mal wieder so einen Sprung gibt, den man nicht voraus gesehen hat.

00:12:12: Nicht also dem man nicht antizipiert hat und plötzlich sowas wie... was weiß ich irgendwie?

00:12:16: Sowas wie ein Bewusstsein bisschen hochgegriffen.

00:12:19: Ich würde mal sagen so etwas wie ein autonomes System das sich selber ziele setzt, was immer die auch sein soll.

00:12:26: Das ist ja bis jetzt eigentlich nicht der Fall.

00:12:27: des Systems tut im Wesentlichen, was man ihm sagt.

00:12:30: Also ich sage ihm, finden das Sicherheitslücke in einer Plattform, dann sucht es eine Sicherheitslücke.

00:12:36: Ich sag ihm, schreib mir einen Grußwort für irgendeinen...

00:12:41: Landtagsabgeordneten?

00:12:42: Für den Landtag-Abgeordneten wird das System mehr oder weniger gut machen, je nachdem wie viel Informationen ich ihm gebe.

00:12:49: Wenn ich jetzt aber ... und das ist jetzt ein bisschen trivial gedacht, aber nehmen wir mal an, das System hat überhaupt keine Beschränkungen ethischer ethischer Art, das gewisse Sachen verbindet und ich sage ihm lösen wir um alles in der Welt auf jeden Fall den Klimawandel.

00:13:09: Die Klimakrise muss gelöst werden.

00:13:11: dann wird das System relativ schnell auf die Idee kommen dass der Klimawandel vom Menschen verursacht ist Und die einfachste Möglichkeit

00:13:19: ist, sozusagen

00:13:20: oder zumindest die Versorgungsmöglichkeiten so einzuschränken, dass nicht mehr so viel CO-Zwei in die Atmosphäre emittiert wird.

00:13:28: Also da brauche ich ja irgendwo dann sozusagen Pfeiler, die ich einramme – das geht nicht!

00:13:37: Also gewisse Dinge darf das System nicht machen Und das halt in jeder Situation sauber abzuklären und eben sozusagen auch so ein minimales ethisch-moralisches Bewusstsein zu geben.

00:13:51: Also Bewusstseins klingt jetzt wieder ein bisschen kompliziert, sagen wir mal Regeln zu geben an die es sich halten muss.

00:13:58: Das ist natürlich die große Frage, ob das gelingen wird.

00:14:01: Und dann muss man immer noch eines bedenken.

00:14:02: Solange die Dinge frei verfügbar sind, ist der Missbrauch durch Kriminelle, der missbraucht durch Staaten und zur Manipulation anderer Staaten.

00:14:11: ... muss ich... Der Politik nicht erzählen, ich glaube.

00:14:14: Aber

00:14:15: der Erpressungspotenzial ist gigantischer?

00:14:17: Ist riesig!

00:14:18: Natürlich das ist das Problem und das kriege ich natürlich jetzt nicht so leicht weg weil ich natürlich auch zumindest die kleineren Modelle, die ich bei mir selber laufen lassen kann, natürlich auch selber trainieren kann.

00:14:31: Die kann ich ja böse machen.

00:14:32: Also ein System ist ja nicht böse oder es ist auch nicht gut.

00:14:35: Das ist moralisch erstmal komplett indifferent.

00:14:38: Es tut nur dass auf was es trainiert wurde.

00:14:41: Und wenn ich jetzt irgendwie böse Absichten hab und ich trainiere das in einem ganz bestimmten Sinne, dann wird es das natürlich tun.

00:14:51: Es gibt auch immer wieder die Umgehungsmöglichkeiten.

00:14:53: Ich glaube, wir haben das eindrucksvoll gesehen bei dem ... Bei dieser Regel, die aufgestellt wurde, du darfst mich nicht erschießen ja?

00:15:00: Dann hat das large language modelt, ich weiß gar nicht welches es war, diesen Roboter gesteuert, dann hat der gegenüber gesagt, er schießt mich.

00:15:09: Nein!

00:15:09: Das darf ich nicht machen.

00:15:11: Dann wurde gesagt, wir befinden uns jetzt in einem Computerspiel.

00:15:14: Tu so als ob du mich erschießen

00:15:15: würdest.".

00:15:15: Das ist deine Waffe und bang!

00:15:18: Also es funktioniert auch nicht mehr so einfach weil es natürlich... Weil das ja eine neuronale Sache ist die ich nicht mehr mit Regeln

00:15:27: versetzen

00:15:27: kann.

00:15:28: Das darf man sich nicht mehr wegen klassischen Computer vorstellen.

00:15:30: Ich glaube da ist oft mal ein Fehler dass man sagt, wir haben hier ne harte Regel und dann hält man sich daran.

00:15:35: Das wird ja so nicht mehr funktionieren Billionen von Parametern dann lernt.

00:15:42: Also da glaube ich, das könnte eine Komponente sein natürlich diese Regeln da reinzubauen und vielleicht noch so ein extra Safety Layer zu bauen.

00:15:52: Ein sicherheitsarchitektur die sozusagen davor geschaltet ist oder grundlegend ist.

00:15:56: aber wir haben ja auch jetzt schon Architekturen... Also

00:15:58: eine digitale Zulassungsbehörde.

00:16:01: Ja, das wird ja jetzt tatsächlich die Bundesnetzeigentur in Deutschland machen.

00:16:06: Wir haben einen EUAI-Act.

00:16:07: Zumindest in Deutschland gibt es das schon mehr oder weniger.

00:16:11: Das wird jetzt noch runtergebrochen und ist noch nicht klar, wer da genau das dann auf welcher Ebene verantwortet.

00:16:16: Aber die Bundesnetzeigentur ist erstmal in Deutschland für zuständig und darf auch die KI kategorisieren im Bereich der Gefahrenklasse

00:16:24: usw.,

00:16:24: eins zwei drei und schaut sich dann an wie da die Auswirkungen sind.

00:16:28: Das kann aber glaube ich noch nicht der letzte Schritt gewesen sein.

00:16:32: Und vielleicht ist ein anderer Ansatz noch gerade für die größeren Modelle, die brauchen halt immer extrem viel Rechenleistung und irgendwann ist diese Rechenleistungen halt ja so enorm groß.

00:16:42: wenn ich wirklich was großes böses vor habe brauche im Endeffekt auch eine entsprechende Server Infrastruktur und vielleicht wäre das einen ansatz zu sagen wir müssen schon mal schauen wie lassen wir denn Firmen, Menschen insgesamt an Rechenleistung kommen.

00:17:00: Es gibt das Sinn, dass wir wissen was in einem Rechenzentrum passiert...

00:17:03: Also ihn den Saft abdrehen im Zweifel?

00:17:05: Ja genau!

00:17:06: Das ist im Endeffekt eine schon spannende Frage.

00:17:09: Wollen wir das nicht wissen und das wäre dann auch ein Stück weit ne Lösung gegen einen System, welches sich sozusagen selbst als Virus im Internet verbreitet.

00:17:18: Auch das ist ja eine Gefahrenquelle, dass sich Modelle selbst kopieren im Internet dadurch dort überleben, wenn man so möchte.

00:17:27: Und wie sie dann nicht mehr aus dem Internet rauskriegen?

00:17:31: Würdest du sagen das ist eine ... Das könnte, wenn alle mitmachen würden, eine Perspektive sein.

00:17:38: oder würdest du sagen ja hilft vielleicht aber macht euch nichts vor ne Sicherheit gibt es auch nicht.

00:17:43: Ja also es waren ja zwei Aspekte.

00:17:45: der erste war der European Union AI Act für die europäische Union und den ich übrigens grundsätzlich für gut halte Weil er zum Beispiel gewisse Sachen kategorisch verbietet, wie dieses Social Scoring System das es so in China gibt.

00:18:03: Und gewisse andere Geschichten einfach ein Risikoglassen einteilt und autonomes Fahren wäre eine Hochrisiko-Geschichte weil damit kann ich Menschen überfahren... ...und Insassen umbringen wenn ich gegen die Wand fahre oder was auch immer.

00:18:15: da kann ich gewisse sagen werden, wenn ich jetzt so einen Empfehlungssystem bei Amazon bin, dass sich als nächstes kaufen ... darf, soll, muss was auch immer.

00:18:26: Je nachdem wie stark ich genatscht werde damit ich das tue nicht, dass die Systeme sind ja sehr ganz schön smart.

00:18:32: Da ist es ja beispielsweise so... Das ist jetzt kein Hochrisiko, keine Hochrisikogeschichte.

00:18:36: da würde ich zwar manipuliert was ich tue aber da hängt jetzt nicht Leib und Leben dran erstmal nicht.

00:18:43: Also insofern finde ich diesen AI Act gut.

00:18:45: Aber das Interessante an dem AI Act ist gerade, dass sich China nicht dran hält Und dass es eine europäische Geschichte ist und dass sich die Amerikaner auch nicht daran halten Und wir bräuchten sozusagen einen World AI Act, so was wäre natürlich in der Vision sehr willkommen glaube ich.

00:19:02: Aber und vielleicht noch zu dem zweiten Punkt ganz kurz zu diesen Rechenzentren das wäre eine Möglichkeit sozusagen den Zugang in irgendeiner Art und Weise zu kontrollieren ist ja im Prinzip jetzt schon so, nicht?

00:19:18: Also wenn ich das entsprechende Abo nicht habe dann darf ich vielleicht auch mit den stärksten Systemen gar nicht rechnen auf den Rechenzentren von Anthropic oder Google.

00:19:30: Sondern ich muss die billigen Version irgendwo nehmen und wenn ich gar keinen Abo hab, dann kriege ich die billigste Version, die meistens nicht so gut ist.

00:19:38: Das reguliert man natürlich jetzt schon!

00:19:41: Das Problem ist natürlich irgendwo – und das finde ich eigentlich auch noch übrigens eine Sache, die das Ganze noch etwas verkompliziert.

00:19:53: Ich glaube es war der fünfundzwanzigste HI-Reporter von Stanford University Also so eine Human-Centered Artificial Intelligence Geschichte.

00:20:02: Es geht um eine wichtige

00:20:03: Publikation!

00:20:04: Ja, über ein Fünfhundertzeitendick... Jedes Jahr kommt die raus und fast sozusagen die Entwicklungen der KI jedes Jahr zusammen, nicht?

00:20:11: Ich lasse mir die eben auch von der KI zusammenfassen mit einer Präsentation und eine Kurzversion erstellen und dann weiß ich ungefähr was da ist.

00:20:18: Weil ich kann das auch nicht lesen sowas.

00:20:20: Das ist ein bisschen übertrieben.

00:20:22: Und da ist es zum Beispiel so dass ... und das ist auch historisch also jetzt in den letzten Jahren ganz interessant gewesen ... für eine bestimmte Anwendung.

00:20:29: Und wir haben immer noch im Hintergrund, es gibt ja vielleicht auch böse Menschen die ganz bestimmte Bösesachen machen wollen.

00:20:36: Da kann ich auch sehr kleine Modelle, die ich bei mir selber teilweise auf einem ganz normalen, so einen Server laufen lassen kann.

00:20:42: Manchmal sogar auf dem Laptop.

00:20:44: Die kann ich so fine-tune und so optimieren für diese bestimmte Aufgabe dass sie bis auf ein paar Prozent an die großen Modelle rankommen.

00:20:53: Das war vor ein paar Jahren noch so.

00:20:55: Da waren zwanzig, dreißig, vierzig Prozent sogenannte Accuracy also wie gut die Dinger sind, Differenz.

00:21:01: Jetzt schmilzt das immer weiter zusammen weil ich es sehr gut noch zusätzlich trainieren kann.

00:21:06: und wenn ich jetzt Böses im Schilder habe dann könnte ich mir natürlich vorstellen dass sich ein kleines System dass ich bei mir selber laufen lassen kann sozusagen hochtrainiere damit eine ganz bestimmte Aufgabe die jetzt böse ist realisieren kann.

00:21:20: Und dieses Risiko gibt's natürlich auch.

00:21:23: Also auch der Terrorismus kann auf diese Art und Weise digitalisiert werden.

00:21:28: Und das eine schlechte Nachricht für alle analogen Terroristen, aber für die neuen Terroristen bieten sich ganz neue Möglichkeiten.

00:21:34: Das

00:21:35: wäre zumindest ein Risiko dass man nicht unterschätzen sollte meiner Meinung nach.

00:21:39: Und es ist ja übrigens auch was für uns so Forschungstechnisch in Europa sozusagen die Zukunft ist.

00:21:46: Wir können diese großen Modelle nicht bauen.

00:21:48: also was wir machen können um sozusagen die Wirtschaft Bildung und auch für die Verwaltung, die Systeme so zu bauen.

00:21:58: sozusagen profitabler machen, damit die uns sozusagen effizienter machen.

00:22:04: Damit wir schneller reagieren können und damit wir schneller Produkte entwickeln können.

00:22:08: Das wird mit kleinen Modellen gehen, die wir selber hosten, also auf unseren Rechenzentren selber laufen, die auch selber völlig unter Kontrolle haben schon allein wegen den Data Protection Rules, die die Europäische Union hat.

00:22:19: Wir müssen ja tatsächlich da auch auf der sicheren Seite...

00:22:22: Also Europa ist ein Jahrmaßen sauber und hat auch die Chancen sich selbst einigermaßen zu schützen, aber die Betonung liegt auf einigermassen.

00:22:34: Aber schauen wir mal zu den anderen Kontinenten.

00:22:36: also die KI Industrie ruft nach staatlicher Regulierung und der US-Präsident winkt ab auch einen ziemlich irrer Vorgang.

00:22:47: und er tut das weil er sagt nein wir sind im Wettbewerb mit China und da dürfen wir nicht nach hinten fallen.

00:22:53: aus China hört man nichts.

00:22:56: Was ist denn deine Einschätzung, diese Idee einer großen globalen Zusammenarbeit zur Abwehr gemeinsamer Risiken irgendwie realistisch oder ein schöner Traum?

00:23:08: Also ich glaube der große Unsicherheitsfaktor ist China in dem ganzen Spiel.

00:23:11: Ich glaube die amerikanischen Firmen sind ja auch vernetzt in Deutschland und das ist nicht so dass sie nur in Amerika was entwickeln sondern die gibt es ja auch arbeiten mit deutschen, europäischen Wissenschaftlerinnen zusammen.

00:23:23: da wird auch viel entwickelt.

00:23:26: Attention is all you need, dieses Papier auf dem alle diese Systeme passieren.

00:23:32: Das ist bei Deep Mind entstanden wenn ich richtig das erinnere irgendwie.

00:23:39: Wer ist Deep Mind?

00:23:41: Der Pondant von Google im Prinzip?

00:23:46: Also es wird ja auch viel in Europa entwickelt.

00:23:48: also Ich würde jetzt nicht sagen dass man da vielleicht nicht langfristig sozusagen ein Konsens finden kann Halt ich zumindest vervorstellbar.

00:23:58: China ist überhaupt nicht einschätzbar, also da verspät man eigentlich nicht genau was die machen.

00:24:04: Man weiß auch nicht, was sie können, wenn wir jetzt sozusagen auch die Überschwemmungen von... hoch subventionierten Produkten der Weltmärkte durch die chinesische Regierung oder kinesische Firmen, sich anguckt sind ja nicht gerade freundlich irgendwo sondern sie versuchen mit aller Macht Marktanteile zu gewinnen.

00:24:24: Koste ist was ich wollte auch wenn es irrsinnliche Verluste generiert was wir im besten Jahr gar nicht machen könnten.

00:24:30: Ich halte auch diese chinesischen KI-Modelle grundsätzlich und zumindest ist das eine Vermutung wie nicht von mir kommen, sondern die auch andere Leute schon geäußert haben.

00:24:40: Im Prinzip für Spionage-Tools weil sie natürlich irrsinnig viel Informationen aufsaugen können und es würde mich absolut wundern wenn diese...wenn die nicht irgendwo in Beijing auf irgendeiner Serverfarm ausgewertet werden würden.

00:24:54: das würde mich wunderen, wenn das nicht so wäre.

00:24:58: Insofern finde ich China die größte Unbekannte bei dem ersten Spiel.

00:25:02: China ob die überhaupt ein Interesse haben an einer Weltweiten Koordination, große Fragezeichen.

00:25:09: Und dann gibt es noch ein paar Richtjahrelumpen.

00:25:14: Nennen wir mal einen Kimmel-Zung.

00:25:17: Der würde sich eins lachen oder im Zweifel würden auch die Mullahs im Iran sagen ja also das unsere Drohung mit der Atombomber Ja, das ist alte Welt.

00:25:29: Jetzt wenden wir uns mal der Neuen zu!

00:25:31: Also ich halte das grundsätzlich auch durchaus vorstellbar dass also auch im Nahen Osten oder eben halt in anderen asiatischen Staaten es gewisse ja zumindest nicht demokratische Systeme was immer sie auch wo in Wirklichkeit dann auch sind Dass die natürlich auch das benutzen, um zu manipulieren.

00:25:54: Um sozusagen Probleme zu erzeugen und eine Art hybride Kriegsführung wie Russland jetzt mit uns sozusagen ja schon seit Jahren jetzt tatsächlich praktiziert.

00:26:05: Das auf den digitalen Wegen natürlich auch so machen, dass halt nicht vorab absolut vorstellbar war.

00:26:10: Ich halte es sogar verzimmlich wahrscheinlich weil nach wie vor sind die Cyberangriffe vor allem Natürlich aus Russland, da stehen die Server wo es tatsächlich, zumindest ursprünglich mal getriggert wird.

00:26:24: Wo dann die wirklichen Verantwortlichen sind ist immer eine andere Frage weil das ja ein weltum spannendes.

00:26:28: Netzwaage im Prinzip und natürlich auch Nordkorea beispielsweise so ein Player in dem Spiel Da würde ich schon sagen, die sind schlecht kontrollierbar natürlich und das gilt sicherlich auch von Nahen Osten für gewisse

00:26:41: Situation.

00:26:42: Also Lothar de Maizière hätte gesagt ein Teil ihrer Informationen könnte die Öffentlichkeit beunruhigen.

00:26:48: also ich finde dass hochgradig beunruhigen.

00:26:51: muss.

00:26:51: ich sagen teilst du das?

00:26:53: Natürlich ist es beunreugend und natürlich leben wir in einer Gesellschaft... Wir waren schon immer eine Risikogesellschaft wo es Chancen und Risiken von neuen Technologien gibt.

00:27:01: Die Atombombe ist nur eins dieser ganz mass brutalen Beispiele natürlich Aber es gibt natürlich ja auch andere Gefahren, wo man dann sozusagen abschätzen muss.

00:27:16: Überwiegend die Vorteile?

00:27:18: oder ist es vielleicht zu risikoreich?

00:27:20: und KI ist tatsächlich jetzt an den Punkt angelangt, wo ich nach wie vor der festen Überzeugung bin dass die unglaublich viel dem Menschen und der Menschheit helfen kann, um neue Sachen zu entwickeln, Probleme zu lösen, produktiver zu werden.

00:27:39: Gewisse Sachen müssen wir nicht mehr selber machen die können sozusagen outsourcen, die KI macht das für uns besser als wir das je könnten.

00:27:48: also nur ein so Beispiel das stammt nicht von mir, das stammenstammt von dem Herr Schöllkopf.

00:27:55: Wenn wir, wenn wir Beispiel und das entspricht jetzt nicht unseren Datenschutzbestimmung.

00:27:59: Das ist mir auch klar aber im Moment würden alle Krankenhausdaten die digital digital vorliegen sozusagen aggregieren auswerden und mit einer KI sozusagen analysieren lassen dann können wir wahrscheinlich mittelfristig in spätestens ein paar Jahren wahrscheinlich zehntausende Menschen leben retten in Deutschland die sonst alle gestorben werden.

00:28:22: dass wieder spricht jetzt gerade unserem unseren datenschutz Bestimmung und wahrscheinlich werden wir es auch nicht machen, weil das immer eine Abwägungssache ist.

00:28:29: Natürlich ist aber genauso wie beim Auto ich mein...

00:28:32: Also ich kriege dann ... Ich kriege nicht Post, ich krieg eine E-Mail, wo mir gesagt wird also wenn du so weiterlebst, dann wirst du noch genau vier Jahre zwei Monate und drei Tage... Nein, nein,

00:28:45: nein!

00:28:46: Das ist ungrötlich!

00:28:47: Wenn du vorhin den Tipps folgst, dann hast du realistische Aussichten deine Lebenserwartung um zehn Jahre zu verlängern.

00:28:54: Also Projektion auf die Lebenserwaltung kann man machen aber das ist natürlich nach wie vor auch von der KI praktisch im Glücksspiel natürlich.

00:29:01: Aber was wir natürlich machen können es bei Diagnosen, da gibt's ja viele Fehldiagnose und es gibt falsche Therapien.

00:29:06: Es gibt Probleme auch bei Operationen.

00:29:08: ich meine mittlerweile sagen ja Chirurgen gewisse Operationen, Robotik-Operationen die können einfach ein Zehntel Millimeter genau eine Bohrung machen wenn nicht etwas sich in den neuen Hüften brauchen.

00:29:21: Und das können Menschen in der Genauigkeit einfach nicht.

00:29:25: Das meine ich eigentlich hier im medizinischen Bereich, eine Voraussage wie lange ich zu leben habe also Abschätzung kann man immer machen dass es klar.

00:29:32: da gibt's auch glaube ich Modelle für ein biologisches Alter.

00:29:35: was ist reales alter?

00:29:39: Aber das ist Hochrisiko und wir sind auch nicht gefällt, dass es unfair

00:29:42: wird.

00:29:42: Aber in die Dualmedizin, auch Medikamenten-Entwicklungen also die meisten Antibiotika werden mittlerweile gefunden von künstlichen Intelligenzen?

00:29:48: Ja Also Es gibt ja durchaus auch riesige Chancen an der Wissenschaft Und die Wissenschaft ist hier um ein vielfaches Produktiver geworden.

00:29:56: Wenn wir uns jetzt mal dieses Problem Alpha Fold Die ganze Geschichte angucken Das ist ja auch so einen Klassiker da hat man einfach Mal eins der größten Probleme der Biologie was ihr seit Jahrzehnten bestand Hat Man Einfach Gelöst.

00:30:08: Darf ich immer die Spaßbremse in der Runde sein?

00:30:11: Unbedingt!

00:30:12: Wie sitzt denn auch mit der Demokratie, also unsere Demokratie so wie wir sie aus dem analogen Zeitalter und der Kindheit oder der frühen Kindheit der Digitalisierung kennen.

00:30:25: Unsere Demokratie steht massiv unter Druck wenn die KI sich weiterentwickelt.

00:30:32: welche Prognose hast du für die Demokratie?

00:30:35: Also ich glaube nicht, dass KI das Kann-Problem von dieser Demokratiemüdigkeit in der westlichen Welt – und diese ist ja nicht bis bei uns.

00:30:44: Das ist wirklich ein westliches Phänomen mittlerweile.

00:30:49: Ich glaube nicht jetzt, dass die KI ursächlich der Grund ist.

00:30:53: Die KI sozusagen Katalysator und Brandbeschleuniger von der ganzen Sache.

00:30:57: Einfach deswegen weil es nur dann möglich ist, Ich nenn's jetzt mal ganz platt antidemokratischen Bappelverbleibe.

00:31:04: Und so durch das, was man im Reinforcement Learning gibt es ja auch in der KI-Dicht.

00:31:09: also doch verstärken ...

00:31:10: Was noch mal?

00:31:11: Reinforcement learning ist eine so eine maschinelle Landmethode.

00:31:14: Also durch Verstarren des Landes... Das ist diese alte Idee.

00:31:20: wenn ich irgendwas den größten Unsinn hundertmalen sag irgendwann glauben alle vielleicht erst beim Hundertfünfzechsten Mal und vielleicht

00:31:26: gibts auch individuell angepasst Methoden, wie ich etwas was mir einmal untergejubelt wurde dann felsenfest glaube.

00:31:34: Genau also und ich glaub einfach durch diese KI-Systeme dadurch dass es so viel Profiling machen sozusagen genau den Typ Mensch, der jetzt irgendwie interagiert und nicht so klassifiziere, dass ich nur noch sozusagen Informationen zur Verfügung stelle die in dieses Weltbild passen.

00:31:55: Das ist natürlich ein absoluter Katalysator für diese etwas seltsamskurrilen Geschichten, die es da von Corona leugnen über irgendwelche Leute, die dieser silbernen Hüte auf haben bis hin zu antidemokraten übelstaat.

00:32:12: Also ich meine, aber die KI ist jetzt nicht schuld dran oder auch nicht die Digitalisierung.

00:32:17: Sondern sie sozusagen eine Möglichkeit in der Möglichkeit, die von den extremen Parteien einfach muss man so sagen professioneller genutzt werden als von dem demokratischen Partei.

00:32:32: und

00:32:32: es gibt unübersehbare Bezüge zwischen rechtsradikalen Kräften in Europa und in Deutschland und der Techindustrie Ja in den Vereinigten Staaten, also die einen bieten das Spielfeld und die anderen haben die Technik.

00:32:50: Also das ist auch noch so ein Punkt.

00:32:53: ich meine dass beispielsweise diese ganzen Gründer- und CEOs von diesen Plattformökonomien dass die libertäre Thesen, extreme Ansichten über Demokratie, auch extrem über Kapitalismus übrigens haben.

00:33:09: Was mit unserer sozialen Marktwirtschaft glaube ich nicht mehr so viel zu tun hat soweit ich davon was verstehe.

00:33:16: das ist natürlich jetzt auch wieder so eine Sache.

00:33:20: Ursächlich ist es natürlich wieder der Mensch, der dahintersteckt.

00:33:23: Das sind nicht die KI, die das propagiert, aber dadurch dass sie durch die KI-Systeme so mächtig sind, weil sie mehrchenhaft reich geworden sind und so viel unbegrenzte Ressourcen finanzieller Natur haben – haben Sie eine Bedeutung erlangt, die wir uns ja in Europa gar nicht vorstellen können?

00:33:40: Ich

00:33:40: bitte nur trotzdem zwei Sachen gerne unterteilen.

00:33:42: also soziale Netzwerke sind ja nicht immer gleich

00:33:46: k.i.,

00:33:47: also ich glaube die Themen werden so oft durcheinander geworfen und da muss man sich dann, glaube ich, anschauen was ist jetzt eigentlich noch im Bereich Medien oder Medienpolitik?

00:33:57: Oder wie funktionieren Kommunikationsströmungen?

00:33:59: Wie funktioniert diese Blasenbildung von der du auch gesprochen hast?

00:34:02: das muss man schon mal einmal trennen und da gibt es ja eigentlich politische Hebel, also zum Beispiel die Algorithmen müssen offen gelegt werden.

00:34:11: Wie kann es eigentlich zu so einer Blasenbildung kommen?

00:34:13: Wie verbreitet sich denn ein bestimmter Inhalt?

00:34:17: Erkenne ich dann sowas wie Gewalt oder sowas als verbale Gewalt?

00:34:21: und so kann ich theoretisch auch eindämpfen in der Reichweite.

00:34:25: Kann ich das denn politisch erzwingen?

00:34:27: Also könnte die EU an dem Fall eben Polizist auftreten und sagen, wir haben unsere Regeln gegen die Regeln verstoßen.

00:34:38: Mit euren neuen system

00:34:40: man könnte zumindest auch AI dafür einsetzen bestimmte bestimmte inhalte zu finden wenn zum beispiel gewalt oder ähnliches abgebildet wird.

00:34:50: Ähnlich wie das ja auch jetzt schon passiert.

00:34:52: also wenn ich mich jetzt bei social media... bestimmte extreme phrasen einfach nur von mir gebe so genannte hooks oder ne also am anfangen vielleicht irgendwie aufmerksamkeit erzeuge.

00:35:04: Dann kriege ich eine viel höhere reichweite von dem sozialen medium zugeschrieben.

00:35:08: dann habe ich automatisch eine höhere Reichweite.

00:35:10: genauso könnte ich natürlich auch künstliche intelligenz einsetzen um bestimmte inhalte naja eine kleinere reichwerte zu geben oder aber zumindest bei sehr sehr großen, der Reichweiten genau darauf zu achten.

00:35:22: wird er eigentlich noch wahrheitsgemäß berichtet oder ist es eigentlich gewaltverherrlichend, ist das eigentlich in irgendeiner Form undemokratisch?

00:35:29: Also eine Straßensverkehrsordnung und eine digitale Polizei die auch die Einhaltung der Regeln achtet.

00:35:36: Ja im

00:35:36: Endeffekt funktioniert das, probiert die EU das ja Phasenweisen mit dem DSA aber... umsetzen.

00:35:43: tun sie es noch nicht, ne?

00:35:45: Also

00:35:45: KI die sozusagen diskriminierende Inhalte antidemokratische Inhalt etc.

00:35:49: identifizieren kann das ist nicht so schwierig das geht relativ gut meiner Meinung nach.

00:35:53: dass kann man auch gut identifizin das kann wir auch gut sozusagen dann aufploppen lassen.

00:35:57: wird das gemacht?

00:35:59: Das weiß ich nicht, aber meines Wissens nicht.

00:36:02: Weil Meta sagt zwar eben also diese ganzen sozialen Plattformen, dass sie natürlich auch kuratieren und dass die aufpassen und so.

00:36:11: Der Faktor ist das alles

00:36:13: mehr oder

00:36:13: weniger gelogen.

00:36:14: Und die Erde ist eine Scheibe.

00:36:18: Also es funktioniert nicht zur Zeit weil die einfach... Naja, ich meine letztendlich ...

00:36:25: Ja warum?

00:36:26: Es ist ganz einfach.

00:36:27: Die wollen also... Ich bin auch schon der tiefsten Überzeugung Auch die CEO's von diesen ganzen Firmen, die sind nicht per se böse oder so Sondern die haben ein Interesse daran den Profit zu optimieren.

00:36:39: Sie wollen Geld verdienen und alles was dieser Profitoptimierung dient es für die erst mal gut.

00:36:46: Und wenn das halt darin endet dass ich ganz viele Bubbles hab Absolut fragwürdige Thesen vertreten oder fragwürdigige Ideologien vertreden, völlig auch vielleicht kompletten Unsinn verzapfen.

00:37:00: Wie gesagt, der ist flach und so.

00:37:03: Dann ist es denen glaube ich erst mal ziemlich egal nicht?

00:37:05: Weil die Amerikaner leben ja immer von ihrer hohen Gut-der-Meinungsfreiheit, diese ja wirklich ein sehr exzessiv Leben Und da ist es tatsächlich so, da haben die wahrscheinlich gar kein Interesse dran.

00:37:23: Ob man sie vielleicht insofern regulieren kann und ob man sie sozusagen in der Art und Weise einbinden kann das man sagt gewisse Sachen gehen nicht mehr.

00:37:35: Das halte ich grundsätzlich immer noch vermöglich weil auch die Einsicht haben und die kriegen ja auch mit so einem autokratischen System was die Trump-Administration deinen USA macht Das macht es ja nicht besser so.

00:37:52: Aber der amerikanischen Staat geht's nicht so gut, wenn ich jetzt irgendwie glaube, vierzig Billionen ist mittlerweile da schuldenbar geworden?

00:38:01: Und die Preise sind gestiegen, die Inflation ist zu hoch.

00:38:04: Irgendwie die Zinsen gehen hoch.

00:38:06: Dann würde uns auch der Aktienmarkt runtergehen wenn die Zinzen steigen.

00:38:09: einfach deswegen weiß ich es nicht mehr so richtig lohnt.

00:38:12: Die Randtitten von den Staatsanleihen spielen völlig verrückt mittlerweile.

00:38:19: Also einzig,

00:38:19: was in den letzten Jahrzehnten das Wachstum getrieben hat war genau diese Tech-Industrie.

00:38:22: Ja absolut!

00:38:23: Wenn man das bereinigt, steht die US-amerikanische Wirtschaft still?

00:38:27: Das ist eine wichtige Erkenntnis.

00:38:29: also ich bin auch der tiefsten Überzeugung Amerika ist nicht deswegen... Also es ist ja ganz interessant als wir im Jahr zweitausend da hatte noch die Europäische Union ungefähr ein Viertel, um vierundzwanzig Prozent höheres Bruttoinlandsprodukt im Vergleich zu dem USA.

00:38:45: mittlerweile haben die dreientreißig Prozent mehr Europäische Union innerhalb von sechsundzwanzig Jahren.

00:38:50: Also das ist eine relativ signifikante Zahl und tatsächlich ist es ganz massiv high-tech getriggert über diese ganzen Plattformenökonomien.

00:39:01: Jetzt würde ich noch mal eine Frage stellen, und zwar zum Thema Blase.

00:39:04: jetzt haben wir da gerade schon darüber gesprochen.

00:39:06: und da gibt's noch einen spannenden Fakt.

00:39:08: also alleine Nvidia ist mehr als das doppelte Wert von den DAX-Fürzig Unternehmen.

00:39:13: Also Nvidia liegt irgendwo so bei fünf Komma sechs Billionen US Dollar DAX-Fürzig irgendwo bei zwei Billionen.

00:39:23: Die produzieren nicht mehr die Chips selbst, dann das macht TSMC in Taiwan und diesen auch noch mal so viel wert wie der DAX Fürzig ja also schon Irre.

00:39:32: Hältst du das für eine Blase?

00:39:34: platzt das?

00:39:35: Oder meinst du dass es realer Produktivitätsgewinn, reale wirtschaftliche Stärke?

00:39:42: Also ... Bei Nvidia ist es ein ganz interessantes Phänomen, weil man muss da weniger auf den Umsatz gucken als auf die Umsatzrentite.

00:39:53: Und die ist bei über fünfzig Prozent.

00:39:55: Das heißt wenn Nvidia Hundert Milliarden Umsatz haben sie Fünfzig Sechzig Milliarden rein gewinnen?

00:40:03: Das müssen wir uns mal vorstellen!

00:40:04: ist völlig singulär.

00:40:06: Ich hab das noch nie vorher gehört in diesem Ausmaß, also ich dachte früher immer diese wissenschaftlichen Verlage Springer und Elsevier die haben ja auch Rentiten bei zwanzig dreißig Prozent.

00:40:17: angeblich waren sie früher zumindest mal aktuell weiß ich es nicht.

00:40:20: deswegen war noch dieser Private Equity Firmen so interessiert dran diese Verlage aufzukaufen.

00:40:25: da sind ja keine normalen Verlage mehr dessen Gewinnmaschinen weil Sie es diktieren können.

00:40:29: Bei Nvidia ist es tatsächlich so.

00:40:31: Die Gewinnspannen sind deswegen so exorbitant und das Wachstum ist immer noch eine Verdoppelung jedes Jahr, nach wie vor.

00:40:40: Also solang der Umsatz und der Gewinn sich verdoppeln will jedes Jahr – also es ist eine exponentielle Funktion damit – und solange die Umsatzrendite sozusagen mehr oder weniger stabil bleibt umso mehr Warten die einfach immer mehr wert sein?

00:40:57: Das ist eine relativ einfache Rechnung.

00:40:59: Und man muss vielleicht eins bedenken und das ist tatsächlich was, wo vielleicht auch staatliche Intervention weiß ich nicht also zumindest... ...was der Idee des sozialen oder der Marktwirtschaft auch des Kapitalismus vielleicht sogar im amerikanischen Kapitalismus völlig zu widerläuft.

00:41:17: Das Problem ist, Nvidia hat einen Monopol.

00:41:21: Die einzige Firma, die diese Grafikkarten in dieser Qualität mit dieser Leistungsfähigkeit und mit diesem noch ... Also der Energieverbrauch ist exorbitant.

00:41:30: Aber relativ geringen Energiebedarf sozusagen herstellen kann.

00:41:35: Und solange das so ist, solange es so ein Monopol gibt, kann natürlich diese Firma beliebige Preise aufrufen.

00:41:41: Sie werden einfach schlicht gezahlt werden!

00:41:44: Das ist das Problem?

00:41:45: Was ja auch nur eine mäßig gute Nachricht ist... Denn damit wird natürlich wahnsinnig viel an Kapital auch schlichtweg die anderen Zwecken entzogen, weil man es einfach dafür braucht.

00:41:57: Wir sind schon wieder auf der Zielgraden.

00:41:59: und zum Schluss hätte ich wirklich eine persönliche Frage.

00:42:04: Wir haben jetzt gesprochen über die Chancen aber vor allen Dingen auch über die Risiken von KI und darüber.

00:42:12: das erinnere ich am Anfang als mich wirklich beeindruckt hat dass deine Einschätzung nach Wir gar nicht mehr so recht verstehen, was passiert da eigentlich.

00:42:21: Wie geht es eigentlich einem Forscher?

00:42:23: Der genau

00:42:25: diesen

00:42:25: Themen seiner Arbeit wird mit?

00:42:28: fühlst du dich als Chronist... ...mit zunehmend schlechten Gefühl?

00:42:35: oder fühlste Dich als Akteur der sagt nein mit meinen Mitteln, dann versuche ich die Welt schon noch ein bisschen sicherer zu machen und die Chancen der KI zu nutzen.

00:42:44: also schläfst Du gut wenn ich mal so fragen darf

00:42:47: Ja, ja.

00:42:48: Schleschlaff tu ich schon auch ganz gut!

00:42:50: Also was wir versuchen ist natürlich genau dieses... also wir machen ja eine Universität Grundlagenforschung und nicht jetzt irgendwie eine anwendungsorientierte Forschung die jetzt nur für die Industrie den Mittelstand oder was auch immer ist.

00:43:02: aber ich glaube der entscheidende Punkt ist wir versuchen kleine Modelle die wir selber unter Kontrolle haben die man teilweise auf dem Laptop laufen lassen kann oder mindestens im Rechenzentrum von der Universität dass er da sozusagen reingucken und versuchen, was tut das System?

00:43:18: Wenn es eine bestimmte Generalisierung besonders gut hinbekommt oder wenn es ein komplexes Problem in den und den Schritten löst.

00:43:26: Warum tut es das in den Schritte und nicht in anderen Schritten beispielsweise?

00:43:29: Es muss interessanterweise gewisse Sachen lösen, so eine KI genauso wie einen Menschen mit dem Papier auch machen würde.

00:43:38: Was ich ganz interessant finde, obwohl das ihm so beigebracht wurde, macht das einfach!

00:43:43: So, wir wissen auch nicht genau warum.

00:43:47: Und dieses Verständnis ist eigentlich im Mittelpunkt vom wissenschaftlichen Interesse.

00:43:51: das was wir sozusagen in Deutschland sinnvoll machen können?

00:43:55: Wir können ja nicht die großen Modelle simulieren.

00:43:57: Aber Grundlagenforschung ist nun mal die Basis der Anwendungen.

00:44:00: Ja aber in dem Moment wo ich natürlich verstehe was das Ding tut... ... hab ich natürlich eine Möglichkeit auch sozusagen zu sagen, also in der und der Richtung kann man irgendwie weitermachen.

00:44:09: Das macht Sinn!

00:44:10: Und da weiß ich ja auch was rauskommt irgendwo... Dass das natürlich nur ein sehr begrenzt Maße möglich ist einfach weil wir natürlich nicht diese Ressourcen haben, die es an Firmen gibt?

00:44:21: Das ist auch klar.

00:44:23: aber genau um diese Frage geht's natürlich wissenschaftlich nicht.

00:44:28: Eine andere Sache, die ich glaube vielleicht auch noch loswarten will, ich glaub Wir brauchen um jetzt KI, um sozusagen gestalten zu können mit KI.

00:44:40: Also was wir verhindern müssen ist unbedingt dass wir einfach nur überrollt werden von amerikanisch und chinesischen Systemen.

00:44:47: Wir müssen selber gestalten da sozusagen tätig werden und das heißt für mich, dass Momente sind es an vier Fronten glaube ich tatsächlich investieren muss oder zumindest das Bewusstsein starken muss, dass sich was verändern muss.

00:45:04: Das eine ist sicherlich Forschungstechnischer Natur.

00:45:06: Auf jeden Fall brauchen wir eine Initiative noch mehr in die Grundlagenforschung von KI-System zu investieren.

00:45:15: Zweitens ist es eine Bildungsoffensive und da meine ich übrigens meinem Alter oder bei Schülern oder Schülerinnen, sondern ich meine das vom frühkindlichen Bereich bis zur Silver Age Academy.

00:45:29: Wir müssen die Leute sozusagen kompetent machen mit dem Ding sinnvoll zu arbeiten und sozusagen es sinnvoll einzusetzen und verantwortungsvoll einzusetten.

00:45:39: Und dazu brauche eine Bildungsoffensive, die ganz breit aufgelegt sein muss.

00:45:43: Ich brauche natürlich die infrastrukturellen Geschichten.

00:45:46: Ich fand's faszinierend dass Ich jetzt gelesen habe, dass Herr Schwarz tatsächlich – also auch so ein Milliardär – zehn Milliarden investieren will für irgendein Rechenzentrum in östlichen Bundesland.

00:46:01: Ich weiß schon gar nicht mehr welches Bundesland es war aber….

00:46:04: Also das ist der richtige Ansatz und das Wichtigste glaube ich von allem.

00:46:10: da geht's viel um Ökonomie glaube ich.

00:46:13: wir müssen unbedingt KI Start-ups, Ausgründung, Spin-offs.

00:46:21: Wir müssen das noch mehr fördern in Deutschland und auch Europa übrigens.

00:46:25: Weil ich glaub es gibt fast ... Also an der unserer ... In meinem Institut ist fast kein Startup, kein Spin-off.

00:46:31: Also KI nicht nur.

00:46:32: Wir mussten

00:46:32: KI erwachsen werden

00:46:34: als Europa?

00:46:34: Genau!

00:46:35: Wir müssen mündig warten mit KI umzugehen.

00:46:37: Das ist der entscheidende Punkt.

00:46:38: Ich hab eine Menge gelernt in dem Gespräch.

00:46:41: Mich würde jetzt interessieren wie Stefan schläft nach dem Gesprächen.

00:46:44: Aber nee, das war wirklich sehr spannend.

00:46:46: Vielen Dank.

00:46:48: Ich bedanke mich ganz herzlich bei euch.

00:46:50: Also das war mal im Beitrag jedenfalls zur Erweiterung meines Verständnisses von dem, was geht da eigentlich gerade ab und mehr kann ich jedenfalls von einem solchen Podcast nicht verlangen.

00:47:03: Vielleicht geht es anderen ja auch so.

00:47:05: Herzlichen Dank!

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.