Weekly #119: KI zur Diagnose von Krankheiten, Quantenmechanik-Doku

00:00:00: Hi

00:00:18: zusammen, wir haben heute eine Meldung aus der Schnittmenge von Medizin und KI mitgebracht.

00:00:24: Wir sprechen nämlich über ein neues KI-Modell dass ein Team aus Forscherinnen aus England, Dänemark und der Universität Heidelberg entwickelt hat.

00:00:34: Das Tool ist auf die Vorhersage von Krankheiten ausgerichtet.

00:00:37: Dabei ist es nicht nur herausragend, dass es Prognosen für die nächsten zwanzig Jahre treffen soll.

00:00:43: Mein Kollege Wolfgang Stieler wird erzählen, warum es außerdem etwas bietet, worauf bislang kein anderes KI-Modell vorher ausgelegt war.

00:00:52: Unser Tipp der Woche ist ein Ausflug in die erfolgreichste Theorie der Physik, die Quantenmechanik.

00:00:58: Passend zum hundertsten Jubiläum hat Arte eine spannende und empfehlenswerte Doku in die Mediathek gefügt.

00:01:06: Mein Name ist Jenny Lipis.

00:01:08: Ich bin Online-Redakteurin für das Magazin MIT Technology Review und einmal pro Woche darf ich diesen unverschränkten Podcast moderieren.

00:01:16: Viel Spaß beim Zuhören.

00:01:20: Es ist ja gar nicht so lange her, dass wir hier im Podcast schon mal über KI im Einsatz für die Medizin gesprochen haben.

00:01:28: Dabei ging es das letzte Mal um eine Entwicklung von Microsoft, war das.

00:01:33: Da hatten sie eine Gruppe von KI-Agenten entwickelt, die so zusammenarbeiten sollten, um eine Diagnose für Patienten zu erstellen.

00:01:42: Jetzt haben aber Forscherinnen in Nature ein Paper veröffentlicht, das ja eine andere Stelle bei der Diagnostik ansetzt.

00:01:50: Es ist vielmehr auf Prognosen ausgerichtet, wann welche Krankheiten für eine bestimmte Person oder auch eine ganze Bevölkerungsgruppe auftreten.

00:02:01: Und das Ganze haben die Forscherinnen und Forscher mit dem bedeutungsschweren Namen DEFI-II-M versehen.

00:02:08: Du hast dir das Paper näher angesehen, Wolfgang, um was für eine KI geht es denn da, welches Modell haben Sie ja benutzt?

00:02:17: Ich habe deswegen für relativ viel Aufsehen gesorgt, weil diese KI tatsächlich kein Spezialmodell ist, sondern die Architektur ist die, die auch in großen Sprachmodellen drinsteckt.

00:02:29: Das ist ein Transformer, wenn man das und die Architektur geht von GPT-II aus.

00:02:37: GPT-II war das erste große Generally.

00:02:41: Pre-Train-Transformer Sprachmodell von OpenAI und das war ja damals so der große Durchbruch, wo sich wo gezeigt hat, dass wenn du so ein Ding immer größer machst und mit sehr vielen Daten trainierst, dass es dann plötzlich scheinbar völlig neue Fähigkeiten entwickelt, wie ursprünglich in dem System gar nicht angelegt war.

00:03:05: Also in der Lalle ist zum Beispiel Texten zu übersetzen, einfach nur aus der Tatsache, dass es viele Beispiele in der einen und in der anderen Sprache bekommen hat und ähnliche Scherze mehr.

00:03:16: Und die haben das jetzt genommen, also diese Architektur von GPT-II und haben sie noch ein bisschen verändert, gibt ein paar Spezialsachen und haben sie dann trainiert mit Datensätzen, wo im Prinzip, also wo Daten über den Zustand, Alter, Geschlecht.

00:03:35: Ich da war auch Gewicht im Blätterer von Patientinnen und Patienten drin ist und die ganze Krankengeschichte und zwar die ganze Krankengeschichte über einen Verlauf von zwanzig Jahren in Form von Diagnosecoats.

00:03:52: Und das Ding wurde dann so ähnlich trainiert wie so ein Jeopardie-Modell, also im Prinzip mit so was wie Lückentexten, also das heißt es hat ganz viele Beispiele bekommen von diesen setzen, die aus jeweils der Krankengeschichte eines Patienten, einer Patientin besteht, über die letzten zwanzig Jahre.

00:04:13: Und dann haben sie bei einzelnen Beispielen halt Datenpunkte entfernt.

00:04:20: und das Modell sollte lernen, über so ein Autoinkoder, den möglichst gut die fehlenden Datenpunkte zu ersetzen.

00:04:30: Und was Sie jetzt rausbekommen, nach dem, nach diesem, nach diesem Pre-Training, ja, gibt's zudem auch wieder ein Promt in Form von so einem Datensatz und lässt ihn, weil der Datensatz ist nicht vollständig, lässt ihn an die fehlenden Datenpunkte ergänzen.

00:04:51: Also, was in den nächsten zwanzig Jahren passiert.

00:04:55: Okay, weil er das eben aus den anderen Daten schon gelernt hat, sozusagen, ja.

00:05:01: Welche Daten sind das?

00:05:02: Also du hast gesagt, sie sind von Patienten trainiert, also nicht von Patienten, Patienten, Daten trainiert.

00:05:07: Aber wer steckt dahinter?

00:05:10: Da warte man hier irgendwie sofort, wo kommen diese ganzen Daten her?

00:05:13: Diese ganzen Daten kommen von der UK Biobank.

00:05:17: Das war ein großes Experiment, was die britische Regierung intensiv auch gefördert hat Anfang der zweitausender.

00:05:26: Und da stecken Daten von rund vierhunderttausend Freiwilligen drin, die ihre Daten halt wirklich eben für dieses Experiment zur Verfügung gestellt haben.

00:05:35: Und zwar nicht nur ihre Gesundheitsdaten zu dem Zeitpunkt, sondern viel mehr auch noch ihre Gen-Daten.

00:05:42: Ursprünglich war das Ding dazu gedacht, um halt Statistik machen zu können, über sehr viele Menschen über einen sehr großen Zeitraum gucken zu können, ob bestimmte Genvarianten, bestimmte Krankheiten, auslösen können oder zumindest die Wahrscheinlichkeit für bestimmte Krankheiten signifikant erhöhen.

00:06:02: Das ist ein bisschen im Hintergrund getreten.

00:06:04: Diese Forschung ist so ein bisschen in der Sackgasse geraten, weil sich herausgestellt hat, ganz so einfach ist es nicht.

00:06:12: Es gibt nicht das eine Gehen, was zum Beispiel Diabetes verursacht, sondern es ist halt sehr komplex.

00:06:18: Es gibt ganz viele verschiedene Ursachen.

00:06:20: Aber die Daten sind natürlich da und die haben halt angefangen.

00:06:24: Anfang der zweitausender und dann im Laufe der Jahre, dann immer mal wieder zwischendurch so Befragungen gemacht oder Versuchungen und so.

00:06:33: Und diese Daten dann abgedätet.

00:06:35: Also dann wäre es schön.

00:06:36: So, der expandiert worden, also mit dem Großteil dieser Daten und kleinen Teil, splitten sie dann immer ab, um zu gucken, ob das auch funktioniert.

00:06:45: Und dann, also so eine Evaluation zu machen und dann haben sie Daten genommen von dem dänischen Gesundheitsregister.

00:06:53: Da sind Krankengeschichten drin, das ist alles anonymisiert, aber wann und wie Gesundheitsdaten gesammelt werden und ob und wie sie der Forschung zur Verfügung gestellt werden können, in welcher Form.

00:07:08: Das ist halt jeweils Gegenstand von der politischen Debatte.

00:07:12: Man sucht wohl in Großbritannien, das war auch umstritten, aber so gut in Großbritannien.

00:07:16: Also in der Hennemann gibt es halt diese großen Datensandungen über eine lange Zeit.

00:07:22: Und deswegen konnten sie die jetzt nehmen, kommen wir aber schon nicht.

00:07:26: später auch noch zu bei der politischen Debatte.

00:07:29: Ein Statement von einem Experts zu Daten im Gesundheitswesen war dann natürlich auch dieses Typisch, dass die Daten von den Dämen kommen.

00:07:38: Hierzulande haben wir sowas nicht.

00:07:40: Haben wir tatsächlich auch nicht, also nicht über diesen langen Zeitraum, nicht in der Qualität.

00:07:46: Wie hat denn das Tool jetzt abgeschnitten in dem Fazit?

00:07:51: oder was sagen die Forscherinnen und Forscher selber?

00:07:54: Ja, also zum einen in dem Paedra selber ist die Bilanz ganz gut, wobei es so ein Qualitätsmaß für Vorhersage gibt.

00:08:07: Das ist relativ abstrakt.

00:08:08: Da ist drin verwurzelt, wie viele weit positive, wie viele falsch negative Vorhersagen es gibt und so.

00:08:16: Und das wird dann eingedampft auf eine Maßzahl area under Curve AUC.

00:08:22: Und die liegt irgendwo zwischen Null und Eins.

00:08:25: und alles was größer ist, Null, fünf ist besser als geraten.

00:08:28: Im Schnitt liegen die jetzt bei Null, sieben, sechs.

00:08:32: Also schon mich schlecht.

00:08:35: Aber lasst mich zwischendurch noch was einschieben, um das nochmal vielleicht so plastisch zu machen.

00:08:42: In dem Paper ist auch ein Beispiel genannt und das fand ich ganz instruktiv.

00:08:47: Da haben wir also so ein Input und da ist halt als erstes Token als erster Datensatz, also als erstes Datum.

00:08:55: in den Datensatz ist halt das Alter, dann das Geschlecht.

00:08:58: Und dann kannst du da sehen, irgendwie Zeitpunkt zwei Jahre nach Startesversuch oder zwei Jahre.

00:09:05: Ich vermute, dass das in dem Fall nicht das reale Alter war, ist dieser Proband in dem Fall männlich an Chicken Pox.

00:09:14: Also wie heißt das hier?

00:09:19: dann gab es mit drei noch ein Dermitis, aber dann ist lange nichts passiert, mit zwanzigmalen Kräne, mit einundzwanzigmalen Lactoseintoleranz.

00:09:32: dann noch ein paar Infektionen, aber zwischendurch auch lange nichts.

00:09:36: Mit vierzig dann ein erhöhter BMI, aber immer noch im mittleren Bereich, aber wenig Alkohol, mit zweiundvierzig No-Event und so.

00:09:45: Das gibt dem dann dem Modell und als Output kommt raus.

00:09:51: Das wahrscheinlich dann dieser Patient mit vierzig erste Krankheiten bekommt.

00:10:01: Ende Fünfzig, Mierigkeiten, dem Unterleib und diverse Sohne und mit Zweiundsebzig stimmt.

00:10:09: Zwischen Achtendsechzig und Zweiundsebzig sind diverse Einträge, also diese und jene Krankheit.

00:10:14: Da wird es dann so richtig dicht.

00:10:16: Kannst du dir ja vorstellen, wenn du so was kriegst, musst du erst mal trocken schlucken?

00:10:20: Ja,

00:10:20: auf jeden Fall.

00:10:21: Also meine Güte.

00:10:23: Ja, was macht man?

00:10:24: Also dann geht man zum Arzt oder der Arzt hat das ja wahrscheinlich selber dann da vorliegen.

00:10:28: Also man muss dazu verschiedene Sachen sagen.

00:10:30: Das eine ist, also die Einordnung jetzt von den Experten innen, war halt hauptsächlich medizinisch.

00:10:38: Also wir haben sich schon mit Datenverarbeitungen der Medizin beschäftigt, aber ich hatte nicht den Eindruck, dass die jetzt so sehr auf die Architektur des Modells geguckt haben oder was genau diese Kainter jetzt macht.

00:10:50: Und da würde ich jetzt erstmal sagen, okay, das ist ein Transformer.

00:10:54: Das ist auch ein relativ kleiner Transformer.

00:10:57: Zwei M ist wahrscheinlich, ich vermute mal, das ist bloß jetzt zwei Millionen Parameter, der mit rund über vierhunderttausend Datensätzen trainiert worden ist.

00:11:10: Über diese zwanzig Jahre.

00:11:11: Das ist halt auch gemessen an dem, was die großen Sprachtransformer zum Training bekommen haben, relativ wenig.

00:11:23: Und wenn die Hypothese stimmt, dass die größer die Dinger sind, desto mehr Trainingsdaten brauchen sie, und je größer und je mehr Trainingsdaten, desto besser wird die Qualität, dann ist das jetzt halt, naja, so ein hoffnungsvoller Anfang.

00:11:40: Also das, was da jetzt in den Perker gezeigt worden ist, ist jetzt noch nicht ein echtes klinisches Produkt.

00:11:46: Dazu ist auch die Vorhersagegenauigkeit zu gering.

00:11:50: Damit kann man sich auch nochmal angucken.

00:11:53: wie das zum Beispiel für spezifische Krankheiten ist etc.

00:11:57: und dann stellt man fest, naja, da gibt es dann eben auch noch Lücken, also Bereiche, in denen die Ungenauigkeit sehr viel größer wird und andere, in denen die Vorhersagegenauigkeit schon sehr hoch ist.

00:12:12: Das heißt, auch das ist eine Lehre, die wir aus anderen Sprachmodellen ziehen können.

00:12:18: Du hast bei Schwachmodellen immer das Problem, die vorher sagen, wir sind nur so gut wie die Trennungsdaten sind.

00:12:23: Die Trennungsdaten haben in der Regel ein Bias, lassen irgendwas aus.

00:12:26: Und die Vorhersage gilt auch nur für Fälle, die ungefähr so ähnlich sind wie die Trennungsdaten.

00:12:34: Es wird wahrscheinlich jetzt der Fall sein, weil die Patienten in Großbritannien sich nicht so wahnsinnig von denen in Deutschland und Dänemark unterscheiden.

00:12:42: Okay.

00:12:43: Aber das Problem Bias... Schlägt schon zu, also du hast halt bestimmte Leute in bestimmten Krankheitssituationen vermehrt.

00:12:53: Vermehrt alte Leute mit diversen gesundheitlichen Schwierigkeiten.

00:12:58: Du hast Krankeneinträge aus Krankenhäusern, die eher dokumentiert sind als Diagnosen von irgendwelchen Hausärzten.

00:13:06: oder wenn die Leute gar nicht zum Arzt gehen, kann man auch nichts diagnostizieren.

00:13:11: Und das bedeutet, dass halt bestimmte Krankheitsbilder überrepräsentiert sind und andere sind deutlich unterrepräsentiert.

00:13:18: Man kann es auch gesehen davon, dass es auch eine überwiegend weiße, mittelalte Patientenschaft ist und nicht irgendwie jung und farbig ist eigentlich mal.

00:13:30: Und das Dritte ist, auch bei diesem Modell, das ist jetzt in dem Paper überhaupt nicht diskutiert worden, hast du das Problem, das hast du.

00:13:40: immer bei Transformern, dass wenn es um Bereiche geht, die unterrepräsentiert sind, wenn es wenig Trainingsdaten gibt, dass das Modell dann trotzdem ein Output ausspuckt.

00:13:51: Das Modell spuckt immer den wahrscheinlichsten Output aus, auch wenn die Wahrscheinlichkeit sehr, sehr gering ist.

00:13:57: Und das bedeutet, ja, das ist das, was wir normalerweise unter Halluzinationen... Was wir normalerweise als Halluzinationen bezeichnet, da kommt was raus, was sich irgendwie richtig anhört, was aber mit der Realität überhaupt jetzt zu tun haben.

00:14:12: Vor dem Hintergrund muss man jetzt mal gucken, was machen die mit dem Ding?

00:14:17: Und die Medizinetiker etc.

00:14:19: haben dann gesagt, naja, also was man auch gar keinen Fall machen darf, ist das, was ich jetzt gerade eben gemacht habe, nämlich, die Leute einfach so den Output vorlesen, also Patienten, also realen Patienten, weil man darf die nicht alleine damit lassen.

00:14:34: Man muss ihnen auch immer sagen, das ist unter der Voraussetzung, dass du gar nichts änderst und das will ich nicht behandeln.

00:14:43: Einfach nur so, wie es jetzt ist, ist der weitere Verlauf wahrscheinlich folgender.

00:14:49: In dem Moment, in dem du eingreifst, wird natürlich, wenn natürlich die Daten anders, wobei das Eingreifen jetzt hier auch nicht dokumentiert ist, steht, kommt in den Datensätzen nicht vor, ist nur implizit mit drin.

00:15:04: Also vermutlich werden viele dieser Krankheiten, die da jetzt diagnostiziert sind, auch behandelt.

00:15:09: Aber wie ist überhaupt nicht dokumentiert?

00:15:14: Wenn jetzt klar ist, dass ich zum Beispiel mit zwei neunzeigend Krebs sterbe, heißt das dann, ich kann sowieso nichts machen und sollte mich nicht machen lassen.

00:15:24: Also solche Fragen sind da völlig offen.

00:15:28: Also auch eine Begleitung und die Möglichkeit dann aufgrund dieser Prognose tatsächlich eine echte Wahl zu treffen.

00:15:37: Das muss natürlich erst mal irgendwie gewährleistet sein.

00:15:43: Ich finde auch mal super heikel, du hast es ja eben schon so angesprochen.

00:15:46: Also diese Kommunikationsfähigkeit bei Ärzten ist halt immer sehr tricky.

00:15:53: Also das ist auch nochmal so ein Bereich, der dann nochmal, wenn die quasi mit so einem Toolkant frontiert sind, wie sie das rüberbringen, wie der Patient drauf ist und so.

00:16:03: Das ist alles super sensibel einfach.

00:16:08: Ja, und das ist aber wenn das hier in Deutschland... eingesetzt werden sollte, wobei, wie gesagt, dass das Produkt überhaupt noch gar nicht fertig ist, müsste es halt auch tatsächlich erst eine klinische Zulassung kriegen.

00:16:23: Und das ist nochmal ein langer Prozess.

00:16:26: Und das steht völlig in den Sternen, ob das überhaupt passiert, ob irgendjemand Interesse daran hat, so ein Produkt anzubieten.

00:16:32: Bisher zeigt es hier überhaupt nicht, Akteuren dieser Studie haben da auch nichts drüber geschrieben, dass sie das irgendwie anstreben oder so.

00:16:40: Was nämlich sehr interessant ist, ist, dass sie sagen, ja, aber also abgesehen von der persönlichen Freiheit sind, gibt es natürlich die Möglichkeit, das auf einer Populationsebene zu machen.

00:16:50: Und das ist deswegen spannend, weil dann kannst du nämlich Statistik machen und dann kannst du sehen, ah ja, vielleicht tun wir in Sachen Prävention für die und die Bevölkerungsgruppe mit denen und den Risiken zu wenig.

00:17:04: oder da gibt es eine Unterversorgung, weil da einfach viele Leute sterben an Krankheiten, an denen andere nicht sterben.

00:17:11: Und solche Sachen, das wäre tatsächlich sehr interessant.

00:17:16: Und die zweite große Möglichkeit mit solchen Modellen zu arbeiten, wäre auf dieser Basis synthetische Daten zu erzeugen.

00:17:24: Also Krankheitsverläufe von Menschen, die nicht existieren.

00:17:29: die aber realistisch sind, die entbrechen, was realistische Patienten da tatsächlich auch erlebt haben und mit diesen Garten dann wiederum andere spezifische Modelle zu trennen.

00:17:42: Ja, immer.

00:17:42: Das ist ja, ist ja echt eine sensibile Sache.

00:17:45: Wir haben hier, wie gesagt, einen Haufen medizinischer Daten und diese medizinischen Daten gehören, glaube ich, zu dem sensibelsten überhaupt.

00:17:55: Genau, das bringt mich auch noch zu einem anderen Punkt.

00:17:57: Das hatte, glaube ich, auch ein Experte angemerkt beim Science Media Center, wo diese Daten dann landen.

00:18:03: Also wenn diese Diagnose, zum Beispiel, ich bekomme mit sixty-fünf Diabetes oder so was, keine Ahnung.

00:18:09: Steht das dann auf meiner Krankenkassenkarte und weiß ich nicht, oder wer sieht das dann?

00:18:17: Eine Frage, die auf jeden Fall beantwortet werden muss.

00:18:20: Auch die Frage kriegt dann zum Beispiel der Arbeitgeber oder kriegen Krankenversicherung zugriff.

00:18:29: Darauf, die sicherlich sehr großes Interesse daran haben, so eine Auswertung zu sehen.

00:18:36: Und die dann sagen, oh, nee, also du bist jetzt Riegelkuperzient, dich wollen wir jetzt überhaupt nicht mehr versichern.

00:18:41: Wir wissen, dass du in den nächsten zehn Jahren richtig teuer werden wirst.

00:18:44: Such dir mal einen anderen.

00:18:47: Schöne neue Welt, genau.

00:18:48: Neue Welt.

00:18:50: Insofern, ja, ist das halt tatsächlich dann auch eine Frage der gesellschaftlichen Diskussion und der politischen Entscheidung, die wir mit solchen Tools umgeht.

00:19:01: Das heißt aber für mich, das ist gut, dass jetzt dieses Paper rausgekommen ist, weil das sozusagen eine Ankündigung von dem ist, was kommen könnte.

00:19:14: Und das heißt für mich auch, wir müssen auch dringend drüber reden.

00:19:20: Wir haben jetzt quasi schon geredet darüber.

00:19:23: Deinen Text dazu kann man auch online lesen und den Link dazu packe ich gerne noch in die Show Notes.

00:19:29: Vielen Dank, Wolfgang.

00:19:31: Aus diversen Gründen beschäftige ich mich zurzeit mit der Quantenphysik, also der Quantenmechanik.

00:19:37: In diesem Jahr hat nämlich die UN-Generalkonferenz das internationale Jahr der Quantenwissenschaft und der Quantentechnologie ausgerufen.

00:19:47: Und wenn man erstmal so drauf achtet, laufen einem auch vermehrte Veranstaltungen dazu über den Weg.

00:19:53: Eine gute Adresse für zum Beispiel Events in Niedersachsen ist da etwa der Kalender des Quantum Values Lower Saxony, den Link dazu setze ich auch noch in die Show Notes.

00:20:04: Und weil es im Jahr ist, war ich dann auch nicht weiter verwundert, dass ich in der Arte Mediathek über die Doku Quantenmechanik die Entschlüsselung der Welt gestolpert bin.

00:20:16: Und ich finde, dieser Film ist wirklich ideal, wenn man in das Thema einsteigen möchte und vielleicht auch ein bisschen Hemmungen hat, weil man befürchtet, dass es alles viel zu kompliziert für einen selbst.

00:20:27: Kleiner Spoiler, die Quantenmechanik ist natürlich kompliziert, aber nichtsdestotrotz kann man sich da auch als Leier dran wagen.

00:20:37: Die Doku macht einen Rundumschlag und lässt auch sehr redegewandte und begeisterte WissenschaftlerInnen zu Wort kommen und zeichnet so die Entwicklung der Quantenphysik nach.

00:20:48: Es wird deutlich, dass diese neue Physik auf dem subatomaren Level eigentlich eine Revolution in der Wissenschaftsgeschichte dasteht und ihre Anwendung uns in unserem Alltag begleiten.

00:21:00: Dabei spart sie nicht an den Basics und den großen Themen, also zum Beispiel die Erkenntnis, dass ein Elektron sowohl ein Teilchen als auch als Welle wahrgenommen werden kann.

00:21:11: Es wird die Superposition erklärt.

00:21:15: Dann geht es auch um Atomuhren und dazu haben sie in der Doku eine Physikerin gefunden, die gleichzeitig professionelle Tangotänzerin ist.

00:21:23: Und so kann die Doku die physikalischen Überlegung zum Zeitgefühl auch noch sehr anschaulich und eben über das unerwartete Medium des Tanzes auch nochmal erklären.

00:21:35: Dann geht es noch darum, wie schwarze Löcher funktionieren, was Gravitationswellen sind und wie sie detektiert werden können.

00:21:42: Es wird die Quantenverschränkung erklärt und natürlich geht es auch um Quantencomputer, wie Q-Bits funktionieren und warum sie effizienter arbeiten als normale Bits.

00:21:54: Ich glaube, wenn man sich als Nicht-Physiker oder Nicht-Physikerin dafür interessiert, ist diese Arteproduktion genau das Richtige für den Einstieg.

00:22:02: Man mag sich danach ein wenig so fühlen, als hätte man einen Knoten im Gehirn, aber man sieht dann vielleicht Technologien aus unserem Alltag wie Navigation mal mit anderen Augen.

00:22:14: Daher ist das mein Tipp für diese Woche.

00:22:17: Damit sind wir auch am Ende dieser Folge.

00:22:19: Wir hören uns in der nächsten Woche wieder.

00:22:21: Bis dahin.

00:22:21: Macht's gut.

00:22:22: Tschüss.