Der methodische Einsatz von künstlicher Intelligenz in der Diagnose und Therapie des Myelodysplastischen Syndroms (MDS) 

Ausgangslage

Künstliche Intelligenz ist eine der fortschrittlichsten und differenziertesten Methoden der Informatik. Erst in jüngster Zeit, nach den technologischen Fortschritten in jüngster Zeit durch neue Softwarewerkzeuge zur Verarbeitung großer Datenmengen (Big Data), stark gestiegene Rechenleistung der Computer, leistungsfähigere und besserer Algorithmen blühte diese Disziplin der Informatik auf.

Heute werden auf der Grundlage von Tausenden oder Millionen von Datensätzen mit den Methoden der KI Eintrittswahrscheinlichkeiten für Ereignisse und neue bisher unbekannte Muster, Beziehungen, Wege und Ergebnisse ermittelt.

Auf der Grundlage von Tausenden oder Millionen von Datensätzen (Big Data) werden Eintrittswahrscheinlichkeiten sehr schnell berechnet und selbstständig neue bisher unbekannte Ergebnisse identifiziert.

In dem Bereich KI und deren Einsatz in Medizin wird sehr viel geforscht in der Hoffnung, dass man dieser Form der Datenanalyse schneller präzisere Diagnosen und treffsichere Therapien findet mit dem Ziel in ferner Zukunft vielleicht sogar personalisierte Medizin entwickeln zu können um Menschenleben zu retten und Kosten zu sparen.

Dies gilt auch für die KI-Forschung bei MDS.

Eine Forschungsleitenden Hypothesen ist, dass je früher und präziser die ersten Warnzeichen von MDS beim Menschen erkannt werden und je früher und präziser die optimale präventive Therapie und Krankheitstherapie identifiziert und eingeleitet werden kann, desto größer sind die Überlebenschancen. Hinzu kommt, dass der Diagnose-Prozesse gerade bei der heterogenen Erkrankungen MDS sehr ressourcenintensiv ist. So kann es sein, dass der Weg zu den fachlich versierten Hämatologen und Onkologen ein langer ist, bevor dort mit der Diagnostik begonnen werden kann.

Deshalb wird große Hoffnung auf die Methoden der künstlichen Intelligenz gesetzt. Das Ziel ist, die beim Patienten erhobenen Daten schneller, präziser und vor allem komparativ mit Tausenden und gar Millionen von anderen Patientendaten auszuwerten.

Diese Auswertungen sollen in früheren Stadien der Erkrankung typus-spezifisch präzise, nach dem aktuellen Stand der globalen wissenschaftliche Forschung wirksamere Therapie - Entscheidungen ermöglichen. Die Methoden der künstlichen Intelligenz werden als ein möglicher Schlüssel zur Lösung der zunehmenden Vielfalt klinisch relevanter molekularer Marker und Befunddaten bei MDS angesehen. Die Hoffnung ist noch völlig unbekannte Muster, Beziehungen, Wege und Ergebnisse zu identifizieren um Diagnose- und Therapieauswahl-Prozesse schneller, präziser und gar revolutionärer Natur zu treffen.

MDS Myelodysplastische Syndrome und seine Herausforderungen für die Diagnostik und Therapie

Eine besondere Herausforderung für den Einsatz von KI bei MDS ist das Krankheitsbild, dass MDS zu einer diagnostischen Herausforderung machen kann. Myelodysplastische Syndrome umfassen eine heterogene Gruppe von klonalen Blutstammzellerkrankungen mit variablem klinischem Verlauf und Neigung zur leukämischen Transformation. Die Symptome, an denen Patienten mit MDS in unterschiedlicher Ausprägung leiden, sind nicht pathognomonisch für die MDS, sondern können bei einer Vielzahl hämatologischer Erkrankungen vorliegen und sind Folge der hämatopoetischen Insuffizienz (z.B. Anämie, Neutropenie oder Thrombozytopenie). Die Unspezifität der Symptome sowie die Überlappung mit anderen hämatologischen Krankheitsbildern können für die Ärzte im klinischen Alltag eine hohe diagnostische Herausforderung darstellen.

Neben der Diagnosestellung, die vor allem auf der mikroskopischen Beurteilung des Blutes und Knochenmarkes sowie zytogenetischen und molekulargenetischen Befunden beruht, ist die Prognosestellung für den individuellen Patienten und die Auswahl einer geeigneten Therapie essentiell. Diese erfolgt heutzutage überwiegend manuell auf Basis verschiedener Datenquellen und Formatierungen. Auch die Prognoseerstellung erfolgt aktuell durch manuelle Analyse einiger klinischer Faktoren, die in den Risikoscores IPSS und IPSS-revised zusammengefasst sind. Diese werden von Ärzten berechnet. Daneben fließen weitere klinische Faktoren, wie Alter, Therapiewunsch, Spenderverfügbarkeit etc. in die Entscheidung für eine Therapie ein. Außerdem werden noch weitere Faktoren, wie z. B. genetische Faktoren, die in der Literatur hinterlegt sind und auf Analysen von Patientendaten/registern beruhen, hinzugezogen. Aufgrund der Verbesserung der molekularbiologischen Charakterisierungen besteht die Herausforderung diese Befunde in den Entscheidungsprozess mit einzubauen. [1]

Diese Methode der Diagnose und Prognose ist sehr zeitintensiv, beschränkt auf die Vorort verfügbaren bzw. zugänglichen Daten, deren Qalität und unterliegt den Stärken aber auch Schwächen der menschlichen Entscheidungsfindung.

Hinzu kommt die schnell steigende Anzahl an MDS-Typologien, deren Therapieformen und deren variable Wirkungen bei den Patienten. Darüber hinaus fordert der klinische Alltag eine sehr hohe kognitive Last seitens der medizinischen Entscheidungsträger. Hinzu kommt, dass jede menschliche Entscheidungsfindung von 186 Heuristiken unterbewusst beeinflusst wird.

In der Wissenschaft ist das Entscheidungsverhalten von Richtern sehr umfassend untersucht worden. Zahlreiche Studien kommen zu dem Schluss, dass richterliche Entscheidungen hochgradig variable sind, diese häufig sich selbst wiedersprechen und im Falle von Ermessensfreiheit reines Glück oder Pech die bestimmenden Determinanten sind.

Bereits Faktoren wie der Blutzuckerspiegel oder auch wann die letzte echte mentale Pause stattgefunden haben, führen bereits zu deutlichen Entscheidungsunterschieden. Prof. Jonathan Levav, Prof. Shai Danziger und Liora Avnaim-Pesso analysierten mehr als 1.000 Bewährungsentscheidungen von acht erfahrenen Richtern in Israel. Nach einer Snack- oder Mittagspause erhielten 65 Prozent der Fälle eine Bewährung. Die Rate der positiven Entscheidungen fiel dann innerhalb jeder Entscheidungssitzung allmählich, manchmal bis auf null, und kehrte nach einer Pause auf 65 Prozent zurück. [2]

Natürlich folgt eine MDS- Entscheidungsfindung einer definierten Triage und findet unter Einbeziehung von Fachkollegen und Konsilien statt. Trotz der angewendeten Entscheidungsmethoden und Perfektionierung der Verfahrensabläufe können diese nicht immer jede menschliche oder persönliche Schwäche ausschließen oder kompensieren. Aus diesen Gründen wird viel Hoffnung auf Entscheidungsunterstützungssysteme auf der Grundlage von künstlicher Intelligenz gesetzt. Diese sollen, so die Hoffnung, die individuelle patientenspezifische Prognose durch u.a. prädiktive Risikomodellen verbessern sowie dabei helfen, die optimal passende Therapie zu identifizieren.

Die Daten sind die Grundlage der künstlichen Intelligenz

Die Anwendung der Methoden der künstlichen Intelligenz benötigen eine qualitativ sehr gute Datenbasis, um verwertbare Ergebnisse zu berechnen. Diese Datenbasis umfassen in erster Linie die Ergebnisse der Labore, semantische Beschreibungen und Fallbeschreibungen und Daten aus der Fachliteratur. Die Daten müssen korrekt, vollständig und authentisch sein. So sollten zum Beispiel alle Messwerte und auch relevante Umgebungsdaten wie zum Beispiel die Uhrzeit der Datenerhebung nach definierten Standards erfolgen. Der gesamten Datensatz eines Patienten sollte eindeutig zuordbar sein, auch wenn alle personenbezogenen Daten nach gesetzlichen Anforderungen der DSGVO entfernt und somit anonymisiert oder pseudonymisiert worden sind. Dies ist wichtig, um die Ergebnisse einer KI-Software überprüfen zu können.

Auch wird eine große Anzahl von sehr guten vollständigen Datensätzen im mindestens fünfstelligen Bereich benötigt, die für die Schaffung eines Trainings- und Validierungssets benutzt werden können. Das Düsseldorfer MDS-Register kann perspektivisch durch weiteren Ausbau und internationale Vernetzung zu einer solchen Datensammlung werden.

Neben der Anzahl von Datensätzen ist die Datenqualität wichtig. Große Ausreißer in Folge von falscher Dateneingabe werden zwar sichtbar und können korrigiert werden, anders verhält es sich mit minimalen Abweichungen oder Unschärfen. Bei einer häufigen Anzahl können diese Unschärfen starke Auswirkungen für die wissenschaftliche und medizinische Belastbarkeit des Ergebnisses haben. Dieses Risiko besteht besonders bei semantischen Daten aber auch nicht präzisen mathematischen Berücksichtigung von unvollständigen Datensätzen. Zu Reduzierung dieses Problem sind präzise Dateneingabe-Definitionen und eine Eingabe-Disziplin mit Kontroll-Verfahren erforderlich.

Algorithmen ermöglichen die Rechenleistung von künstlicher Intelligenz

Angenommen eine solche Datenbasis ist vorhanden, werden Algorithmen eingesetzt und auf diese Datenbasis angewendet. Ein Algorithmus ist immer eine Abfolge von mathematischen Operationen, wie zum Beispiel: Statistik, Algebra, Analysis, Arithmetik und Gleichungen, die in den Kode einer Computersprache umgewandelt wird.

Natürlich stellt sich die Frage was Algorithmen sind und was diese leisten können.

Nicholas Diakopoulos [3] unterscheidet pragmatisch zwischen vier Hauptkategorien von Algorithmen.

Priorisierungs-Algorithmen werden angewendet, wenn Sie zum Beispiel auf einem der Hotelportale nach einem Zimmer suchen und eine sortierte Liste angezeigt wird. Diese Listen sind zum Beispiel nach der Entfernung zum Hauptbahnhof oder dem Preis sortiert.

So wird bei der Diagnose von Leukämie die visuell krankhaft veränderten weißen Blut-Körperchen höher priorisiert als zum Beispiel das Fehlen von Symptomen, wie zum Beispiel vergrößerte Lymphknoten.

Die Klassifizierungs-Algorithmen ordnen Daten in entsprechende Klassen ein. Durch Klassifizierung können die Anteile an roten und weißen Blutkörperchen sowie Blutplättchen und auch deren prozentuale Verteilung und das Aussehen der verschiedenen weißen Blutzellen (Granulozyten, Lymphozyten und Monozyten) in Klassen eingeteilt werden.

Assoziierungs-Algorithmen suchen nach Verbindungen in den Ausprägungen von Datenpunkten. Vielleicht ist Ihnen der Unterpunkt bei Amazon mal aufgefallen, der den Titel trägt „Kunden, die das Buch X gekauft haben, kauften auch Buch Y“, dies ist eine Leistung von Assoziierungs-Algorithmen. Da zum Beispiel nicht bei allen Patienten ein verändertes Blutbild vorliegt, kann eine Verbindung zu den erhobenen Daten einer Knochenmarksuntersuchung nicht durch einen Assoziierungs-Algorithmus hergestellt werden.

Filterungs-Algorithmen entfernen unwichtige Informationen und berücksichtigen dabei die Ergebnisse von Assoziierungs-, Klassifizierungs- und Priorisierungs-Algorithmen. Diese Filter sind zum Beispiel wichtig, wenn die genau Typologie der Leukämie berechnet werden soll.

Die Berechnungen durch Algorithmen können entlang der diagnostischen Prozesskette eingesetzt werden.

• Frühdiagnose von MDS
• Entscheidungsunterstützung welche präventive Therapie bei der spezifischen Typologie die Wahrscheinlichkeit der Wirksamkeit steigert
• Prognose unter Einsatz von Vorhersagemodellen zur Risikostratifizierung
• Frühdiagnose von Leukämie

Regalbasierte und selbstlernende Algorithmen

Algorithmen können in zwei Hauptparadigmen eingeteilt werden. Der erste Typus ist regelbasiert. Diese Regeln werden von den Hämatologen und Genetikern in Zusammenarbeit mit Datenwissenschaftlern definiert. Diese Regeln sind immer eindeutig und können mit einem Kochrezept als Metapher verglichen werden. Komplizierter und spannender sind selbstlernenden Algorithmen. Diese Algorithmen werden auch als Machine-Learning, Deep-Learning unter den Oberbegriff künstliche Intelligenz gefasst.

Auf der Grundlage einer Datenbasis definiert man ein Ziel und gibt dem System eine Rückmeldung, wenn es sich auf dem richtigen Weg befindet. Diese Rückmeldung erfolgt durch den Menschen. Den Weg sucht sich das System selbst. Diese Suche wird als selbstlernend bezeichnet. Das „Selbstlernen“ oder auch Machine Learning ist in vier Unterkategorien unterteilt: überwachtes und unbeaufsichtigtes Lernen, verstärktes Lernen und tiefes Lernen (Deep Learning).

Bei überwachtem Lernen (Supervised Learning) werden Vorkenntnisse wie ein Datensatz mit historischen Daten in das System eingegeben und mit diesen Daten wird mit der Maschine trainiert, um Vorhersagen für die zukünftigen Datenpunkte zu treffen.

Unüberwachtes Lernen ist, wenn die Maschine ungefilterte Rohdaten erhält. Die Maschine kategorisiert und klassifiziert die Daten anhand von Mustern, die durch verschiedene Techniken wie Computer Vision, visuelle Erkennung usw. identifiziert werden.

Bei der Anwendung von Deep Learning Methoden werden künstliche neuronale Netzwerke (KNN) eingesetzt, um Muster in unstrukturierten Daten zu identifizieren und die Maschine lernen zu lassen.

Die Hoffnung ist, dass durch dieses „Selbstlernen“ neue noch völlig unbekannte Muster, Beziehungen, Wege und Ergebnisse identifiziert und das Diagnose- und Therapieauswahl-Prozesse schneller und im Ergebnis präziser werden.

Künstliche Neuronale Netz sind eine Methode, in der die verschiedenen Algorithmen interagieren und selbst lernen. Da wir Menschen gut darin sind auf etwas bestehenden aufzusetzen und dieses weiterzuentwickeln, sind diese Systeme dem Aufbau unseres biologischen Gehirns nachempfunden. Es besteht aus einem abstrahierten Modell miteinander verbundener Neuronen, durch deren spezielle Anordnung und Verknüpfung sich Anwendungsprobleme lösen lassen.

Stark vereinfacht besteht ein neuronales Netz aus Neuronen, auch Units oder Knoten genannt. Sie können Informationen von außen oder von anderen Neuronen aufnehmen und modifiziert an andere Neuronen weiterleiten oder als Endergebnis ausgeben.

Die Neuronen haben verschiedenen Aufgaben. Sogenannte Input-Neuronen nehmen Information in Form von Mustern oder Signalen aus einer Datenbank zum Beispiel einem MDS Register auf. Hidden-Neuronen, also verstecke Neuronen befinden sich zwischen den Input- und den Output-Neuronen und bilden interne Informationsmuster und Informationsprozesse ab. Output-Neuronen geben Informationen und Signale als Ergebnis an AI-Interface und das User-Interface ab, dass im idealen Fall so gebaut ist, dass dieses in einen aktiven Dialog mit den Ärzten tritt.

Schematische Darstellung eines künstlichen neuronalen Netzes

Die verschiedenen Neuronen sind untereinander über so genannten Kanten verbunden. In Abhängigkeit zur Bedeutung hat jede Verbindung eine bestimmte Gewichtung und je ausgeprägter diese negativ oder positiv ist, desto ausgeprägter ist der Einfluss dieser Verbindung auf ein anderes Neuron. Diese Gewichtung lernt das neuronale Netzwerk selbst, in dem es zu dem definierten Ziel den Weg selbst suchen muss. Nicht jeder Laborwert, der zur Diagnose eines MDS-Typus gehoben wird, hat bei jedem MDS-Typus dieselbe Bedeutung. Diese Gewichtungen und Verbindungen zwischen den Neuronen, die durch Selbstlernen der Maschine entstehen, sind das Wissen, dass als künstliche Intelligenz bezeichnet wird.

Solche neuronalen Netzwerke können ausgeprägten Komplexitäten bzw. Tiefen haben. Die Komplexität steigt je mehr Neuronen in den sogenannten Neuronen-Schichten angeordnet sind und der Anzahl dieser Schichten. Der begrenzende Faktor in der Forschung und in der Praxis ist die zur Verfügung stehende Rechenleistung.

Die wissenschaftliche Hoffnung ist es Verbindungen und Gewichtungen zu identifizieren, die durch das Selbstlernen dieser Maschinen entdeckt werden und damit zum Beispiel zum Beispiel Prognosen von spezifischer MDS-Typologie zu präzisieren und passendere Therapien zu finden.

Die Risiken und Chancen von KI

Beim Einsatz von Maschinen der künstlichen Intelligenz bestehen allerdings auch Risiken.

Ein Risiko ist, dass die Datenbasis zu klein gewählt worden ist oder Fehler hat. Auch kann das neuronale Netz fehlerhaft programmiert sein oder bei nicht präziser Überwachung des Selbstlernens, Fehler entstehen.

Auch besteht das Risiko, dass die Ärzte die Entscheidungsvorschläge nicht kritisch hinterfragen oder auch die Vorschläge der Maschine nicht berücksichtigen.

Wenn wir Software-Lösungen nicht verstehen oder nicht verstehen wollen, wird mindestens eine von 186 Heuristiken der menschlichen Entscheidungsfindung ausgeführt, die kognitive Dissonanz. Wer von uns hat das letzte Mal die Allgemeinen-Geschäftsbedingungen oder die Datenschutzerklärung eines Onlineshops wirklich gelesen? Das wird, wenn überhaupt, wahrscheinlich sehr lange her sein. Die meisten von uns setzen einfach einen Hacken in die entsprechende Checkbox. Dieses bewusste Ignorieren von möglichen Risiken wird als kognitive Dissonanz bezeichnet.

Die Externalisierung der Entscheidungsfindung in Richtung künstlicher Intelligenzsysteme, kann zu einer Externalisierung der Verantwortung und damit leichteren Entscheidungsfindung führen. Deshalb ist reine Entwicklung neuronalen Netzwerke, auf die viel Hoffnung im Sinne der Patienten gelegt wird, zu wenig, wenn sie nicht die Ärzte als aktiv verantwortliche wertvolle Funktion und integraler Systembestandteil einbindet.

In der öffentlichen Debatte wird sehr viel über Ethik und Heuristiken von Entscheidungsunterstützungs-Systemen, die mit Methoden der künstlichen Intelligenz arbeiten, diskutiert. Natürlich können diese Systeme auch Fehler bzw. deren Entscheidungsvorschläge können Verzerrungen unterliegen und z.B. jemanden oder eine Gruppe von Menschen komparativ benachteiligen. Wir haben eine ausgeprägte Sensitivität gegenüber Fehl- oder Falschentscheidungen von IT-Systemen. Diese Sensitivität wird auch als Algorithmus-Aversion [4] bezeichnet. Denn sobald wir kognitiv wissen, dass ein Algorithmus Fehler machen kann, reagieren wir regelmäßig über und verlassen uns nicht mehr auf die Rechenleistung, sondern auf unser eigene sehr leicht beeinflussbare und fehlerhafte Entscheidungsfindung [5]. Der Mensch toleriert nun mal Fehler in einem Algorithmus weniger als bei sich selbst - auch wenn seine eigenen Fehler größer sind. [6]

Menschliche Entscheidungen haben Stärken und sie haben auch Schwächen, deshalb können Methoden der künstlichen Intelligenz eine sinnvolle Unterstützung gerade bei repetitiven und komplexen Analysen auf Basis einer viel höheren Datenbasis sein, weil unsere menschlichen kognitiven Leistungen nun mal Grenzen unterworfen sind.

Es wird wahrscheinlich nie perfekt gerechte und fehlerfreie künstliche Intelligenzsysteme geben, auch weil jeder Mensch Basis seiner Prägung eine andere Definition von Gerechtigkeit und Ethik hat, die sich im Laufe seines Lebens auch ändert bzw. die nur durch marginale Veränderungen externer Faktoren wir Raumtemperatur veränderbar ist. Systeme der künstlichen Intelligenz sind dann eine echte Bereicherung für die Medizin, wenn sie dort stark sind wo der Mensch schwach ist.

Neuronale Netze können in der Medizin dann besonders effektiv sein, wenn diese sich auf z.B. in der Pathologie die Vielfalt der Zellen auf wenig beschränke Bereiche eingrenzen, die ein Pathologe anschließend überprüft. Durch dieses Vorgehen werden die enormen Rechenleistungen von KI-Systemen genutzt, die 24 Stunden und sieben Tagen in der Woche ohne müde zu werden, arbeiten können und dabei kontinuierlich besser werden. Gleichzeitig profiziert der Patient von der Expertise der Pathologen.

Trustworthiness und künstliche Intelligenz

Kernwesensmerkmal dieser Partnerschaftlichen-Systeme sind sogenannte Trustworthiness – Systeme. Diese Systeme enthalten Methoden, die das Lernen von neuronalen Netzwerken nachvollziehbarer und damit auch für Datenwissenschaftler, die Ethikkommissionen, Datenschutzbeauftragen, Forschungs-Kommissionen und Ärzte kontrollierbarer machen und auch Methoden zur aktiven Interaktion mit den Ärzten umfassen.

Die hierarchischen nichtlinearen Transformationen, die neuronale Netze auf Daten anwenden, sind kaum zu verstehen. Dieses Problem wird durch den Nichtdeterminismus der Trainingssysteme für neuronale Netze verschärft. Sehr oft können kleine Änderungen der Hyperparameter eines Netzwerks die Lernfähigkeit des Netzwerks dramatisch beeinträchtigen. Um dieses Problem zu begegnen nutzen AI und Deep Learning Forscher eine Vielzahl von Werkzeugen und Techniken, um den Lernprozess eines neuronalen Netzwerks zu überwachen. Eine der vielen Techniken ist zum Beispiel „Layerwise Relevance Propagation“. Dies ist eine Methode des Step-by-Step Reasoning“, bei denen Schritt für Schritt das System begründet, wie es zu einem bestimmten Zwischenergebnis gekommen ist.

Die Anwendung dieser Techniken ist bei der Entwicklung von neuronalen Netzwerken, wie auch im operativen Betrieb, unabhängig davon ob Supervised Learning, Unsupervised Learning oder Deep Learning Methoden eingesetzt worden sind, entscheidend.

Die Algorithmen, deren Transparenz wie auch AI-Interface-Systeme und User-Interfaces mit den Ärzten sollten so gestaltet sein, dass diese die Datenwissenschaftler und Ärzte bei der Entscheidungsfindung unterstützen. Diese sollten auch aktiv durch eigene kognitive Leistungseinforderung, wie das System zu bestimmten Entscheidungsvorschlägen gelangt ist, mit einbinden. Die Entscheidungsprozesse des KI-Algorithmus sollten auch für die Ärzte im Klinikalltag proaktiv durch AI-Interface-Systems nachvollziehbar und durch konversationale Systeme aktiv integrieren.

Auch medizinische Datenkommunikation bedarf einer Optimierung in Bezug auf eine multiple Sinnes-Ansprache und auch hier neben der neuropsychologisch optimierten visuellen Datenaufbereitung die Implementierung von akustischer semantischer Kommunikation und Entscheidungen des Menschen, die hoch variable sind, zu verbessern.

Zum Beispiel kann das System im Rahmen eines akustischen Dialogs für mögliche Therapien mit einer möglichen prozentualen Wirksamkeitserfolg und die Ärzte darauf aufmerksam machen, wenn noch weitere spezifische Werte genannt werden, dass sich hier die prozentuale Verteilung, in die eine oder andere Richtung verschieben würde.

Eingesetzt werden auch Verfahren des Step-by-Step Reasoning. Hier wird den Ärzten jeder Zwischenschritt und deren Ergebnisse begründet, dem ärztlichen Team auch Fragen gestellt und somit dazu befähigt kognitiv die Entscheidungen nachzuvollziehen. Manche Systeme fragen die Mediziner an spezifischen Stellen nach seiner Einschätzung und bilden Konsilien-Entscheidungen nach.

Gerade hier bei den Methoden der Interaktion der Maschinen mit Ärzten ist noch viel Forschungsarbeit erforderlich, damit die Ärzte die Entscheidungsvorschläge annehmen und konstruktive, wie auch kritische Überlegungen anstreben können, damit die Patienten von den Entwicklungen bestmöglich profitieren.

Zu „Trustworthiness“ von AI-Systemen zählen auch Debatten, welche Anforderungen an die Nachvollziehbarkeit von KI-Anwendungen zur medizinischen Zulassung als auch in der praktischen Anwendung gestellt werden und wie passende Systeme umgesetzt werden könnten. Das Ziel sollte hier im Sinne der Patienten auch sein, dass der Mensch, also die Mediziner, die Entscheidungssouveränität halten und somit die Verantwortung und auch die Haftung tragen.

Die Zukunft der Medizin ist digital

Nach bisherigem Stand der internationalen MDS-Forschung ist es bisher nur sehr wenigen Teams gelungen, unter Einsatz echter künstlicher Intelligenz in Teilbereichen substantielle Ergebnisse zu erzielen. Erste KI-Forschungsarbeiten in der MDS legen nahe, dass hier der Einsatz von künstlicher Intelligenz zur Entscheidungsunterstützung in der Diagnostik und Therapieauswahl in selektiven Bereichen perspektivisch deutlichen Nutzen für die Patienten und bezogen auf den effizienten Einsatz von medizinischen Ressourcen haben kann. Weltweit gibt es noch leider viel zu wenige, die ein solch spezifisches neuronales Netz bauen können auch ist ein sehr großer qualitativ hochwertiger Grunddatensatz erforderlich.

Es ist noch ein arbeitsreicher interdisziplinärer Weg bis wir vielleicht in einzelnen Bereichen zu einer personalisierten Medizin kommen werden. In Deutschland ist komparativ der Weg zu digitalen Gesundheitslösungen besonders steinig und erfolgt nur sehr zeitverzögert. Doch dieser Weg lohnt sich auch wenn die Entscheidungsträger diesen Weg leichter und schneller realisieren könnten, wenn die Sachebene stärker in den Vordergrund rücken würde. Was war es zum Beispiel für ein jahrzehnte-langer und kosten-intensiver Kampf die elektronische Patientenakte auf dem Weg in Deutschland auf dem Weg zu bringen. Österreich und die skandinavischen Länder sind uns nicht nur hier meilenweit voraus. Ob dabei die beste Lösung im Sinne der Patienten in Deutschland herausgekommen ist, ist leider fraglich. Das Arvato, ein privatwirtschaftliches Unternehmen zum Beispiel die Patienten-Daten hostet oder die verwendete Gematik Infrastruktur, die bereits über 10 Jahre alt ist, eingesetzt wird, sind nur zwei Beispiele die nachdenklich stimmen.

Die Gesundheitsausgabe steigen exponentiell und aufgrund der massiven Zunahme von Krebs, chronischen Erkrankungen und Live-Style Erkrankungen wie Diabetes Typ II und der demographischen Entwicklung, brauchen wir digitale Lösungen, die uns dabei helfen kostenintensive Ineffizienzen im Gesundheitssystem, der Krankenversicherungen und auf der Ebene der Leistungsträger zu eliminieren, damit die komparativ hochqualitative Gesundheitsversorgung finanzierbar und damit erhalten bleibt. Auch brauchen wir dringend bessere Diagnose-Lösungen und wirksamere Therapien, um möglichst früh und auch präventiv den Menschen dabei zu helfen gesund zu bleiben, gesund zu werden bzw. eine Erkrankung beherrschbar einzudämmen.

Es Bedarf der umfassenden versierten Nutzung von Daten im Sinne unserer europäischen Werteordnung und unter Einhaltung des DSGVO, einem Gesetz für das die Bürger, die Patienten zu ihrem Schutz erkämpft haben. Gerade bei der unternehmerischen Nutzung von Daten sind hohe kommerzielle Gewinne zu erwarten und die Begehrlichkeiten sind stark ausgeprägt. Hier fehlt es an eindeutigen Mechanismen, um Missbrauch zu vermeiden und auch eindeutige Regeln, um zum Beispiel die Daten-Authenzität zu gewährleisten. Ohne diese Authenzität ist zum Beispiel das Ergebnis eines neuronalen Netzwerks nichts wert.

Es stehen viele Fragen im Raum auf die wir gesamtgesellschaftliche Antworten finden müssen. Zum Beispiel wenn medizinische Daten ein öffentliches Gut werden, dann müssten auch die daraus gewonnenen Erkenntnisse auch ein öffentliches Gut sein, dass dem patenrechtlichen Schutz enthoben ist. Die Richtlinien der High Level Expert Group on Artificial Intelligence (HLEG AI) mit dem Titel „Ethics Guidelines for a Trustworthy AI“ ist ein wichtiger Ansatz in dieser Debatte.

Auf Seiten der Leistungsträger in allen Heilberufen sollte Digitalisierung, künstliche Intelligenz, und Cybersicherheit, essentieller Teil der Ausbildung, des Studiums und der Fortbildung sein, denn die Zukunft der Medizin ist digital und diese braucht versierte Mediziner, Krankenschwestern, Pfleger und Therapeuten dringend.

Dr. phil. Katharina von Knop

CEO und Gründerin der Digital Trust Analytics