PRIMA-AI

Das medizinische Teilprojekt beinhaltet eine prospektive Studie, die in enger Zusammenarbeit mit den technischen und sozialwissenschaftlichen Teilprojekten sowie im kontinuierlichen Austausch mit dem ethischen Teilprojekt durchgeführt wird. In der Studie wird der Einfluss eines KI-Systems auf die Arzt-Patienten-Beziehung und den gemeinsamen medizinischen Entscheidungsfindungsprozess getestet. Zu Beginn der Studie werden die Ärzt:innen zu verschiedenen Aspekten der medizinischen Entscheidungsfindung, der technischen Unterstützung und den erwarteten Auswirkungen der KI-Unterstützung befragt. Anschließend werden die Ärzt:innen in die Nutzung des KI-Tools eingewiesen und an retrospektiven Daten geschult. Das experimentelle KI-Tool wird den Ärzt:innen zur Verfügung gestellt, um die Behandlung der Studienteilnehmer:innen zu unterstützen und in die elektronische Patientenakte zu integrieren. Die Interaktionen der Ärzt:innen mit dem KI-System werden aufgezeichnet. Halbstrukturierte Interviews mit Ärztinnen helfen dabei, ihre Ansichten darüber zu bewerten, wie sich das KI-basierte DSS auf das SDM und die medizinische Begegnung auswirkt. Die Vorhersagegenauigkeit wird von den behandelnden Ärzt:innen bei mehreren Terminen mit KI-Unterstützung innerhalb des Studienzeitraums beurteilt, was zu Neueinschätzungen führen kann.

Das sozialwissenschaftliche Teilprojekt untersuccht sowohl die Ansichten von Patient:innen als auch von Angehörigen zu den Auswirkungen von KI auf SDM in der medizinischen Praxis mithilfe eines qualitativen Längsschnittforschungsdesigns („longitudinal qualitative design“, LQR). Qualitative Forschung eignet sich besonders gut, um unzureichend untersuchte Phänomene zu erforschen und den Einsatz neuer Interventionen und deren Implementierung in die Routineversorgung zu bewerten. Sie kann somit dazu beitragen, die derzeit fehlenden tiefgreifenden Einblicke in die Bedürfnisse und Präferenzen von Patient:innen und Angehörigen in Bezug auf KI-gestütztes SDM zu gewinnen. LQR-Designs sind besonders geeignet, um Kommunikationserfahrungen und -präferenzen in ihrer Entwicklung über die Zeit zu verstehen und zu rekonstruieren. Die wiederholte Befragung ermöglicht es den Studienteilnehmer:innen, über früher erlebte Ereignisse zu reflektieren und die subjektive Bedeutung ihrer Handlungen in einen Gesamtkontext von Erfahrungen einzuordnen. Unter Verwendung eines LQR-Designs wird das sozialwissenschaftliche Teilprojekt das erste sein, das an einer Stichprobe von Nierentransplantationspatient:innen und ihren Angehörigen deren Erfahrungen und Präferenzen in Bezug auf die Verwendung von KI in SDM untersucht. Dies wird dazu beitragen, zukünftige Forschung und klinische Praxis darüber zu informieren, wie KI am effizientesten und effektivsten in die medizinische Begegnung eingeführt werden kann, um das Verständnis der Patient:innen und Angehörigen für die von ihren Ärztinnen und KI-basierten Werkzeugen gegebenen Informationen zu verbessern und ihr Engagement bei der Entscheidungsfindung zu erhöhen.

Grundlage für das technische Teilprojekt ist ein bestehendes KI-System, welches das Risiko von Nierentransplantationspatient:innen für Transplantatverlust, Abstoßungen und Infektionen innerhalb der. Das System, das auf einem Gradient Boosted Regression Tree (GBRT) basiert, wurde an retrospektiven Daten getestet und konnte unabhängig in einem experimentellen Aufbau getestet werden. Im einer ersten Phase wird das System gemeinsam mit Ärzt:innen weiter optimiert und dann so modifiziert, dass es direkt in die klinische Routine integriert und Informationen zur Laufzeit verarbeitet werden können. In einem retrospektiven Aufbau war dies bisher nicht notwendig. Danach wird das System sowie das KI-Dashboard so verändert, dass Ärzt:innen das Risikovorhersagesystem nach ihren Präferenzen konfigurieren können, was das Entfernen oder die Verstärkung bestimmter Funktionen oder einen Fokus auf Präzision oder Recall (d.h. das Auffinden möglichst vieler kritischer Patient:innen) bedeuten kann. Im Zuge dessen wird das derzeitige Dashboard dahingehend erweitert, dass Ärzt:innen bestimmte Parameter verschiedener Patient:innen ändern können, um die Auswirkungen auf das System mit einer Art kontrafaktischer Anfrage an das System zu untersuchen. Zum Beispiel: „Was wäre, wenn der Blutdruck niedriger wäre?“ Auf diese Weise haben die Ärzt:innen eine weitere Möglichkeit, das „Verhalten“ des KI-basierten Systems zu untersuchen. In der dritten Phase schließlich werden weitere Möglichkeiten erforscht, die Empfehlungen des Systems zu erklären und zu begründen. Insbesondere werden verschiedene Formen von Erklärungen und Einsichten über das System erforscht und getestet, die je nach den Präferenzen der Ärzt:innen modifiziert werden können, wozu auch Erklärungen in Form von natürlicher Sprache gehören. Diese werden dynamisch aus Mustern generiert, die aus realen Erklärungen von Ärzt:innen stammen, welche während unserer früheren Studie gesammelt wurden.

Das Ziel des Ethischen Teilprojekts ist es, neue Wege in unserem philosophischen Verständnis des menschlichen Handelns in KI-gestützten SDM zu beschreiten. Es wird dieses Ziel verfolgen, indem es die Interaktionen im KI-gestützten SDM durch die Brille einer Reihe technikphilosophischer Konzepte betrachtet, um die Dynamik menschlicher und nicht-menschlicher Entitäten in komplexen Netzwerken zu verstehen. Zentral dabei ist der Begriff des Aktanten, der sich auf Entitäten bezieht, die ein gewisses Maß an Aktivität und Kausalität aufweisen, obwohl sie keine menschliche Handlungsfähigkeit besitzen. Mit der Beschreibung von KI als Aktant in SDM können wichtige Herausforderungen in Bezug auf die Zuweisung von Handlungsfähigkeit, Verantwortung, die Identifizierung von Verantwortungslücken und schließlich Fragen der Vertrauenswürdigkeit angegangen werden. KI kann so als eine komplexe Entität, ein Akteur, mit einer Entwicklungsgeschichte verstanden werden, an der bestimmte Akteur:innen beteiligt sind. Menschen erscheinen so nicht als alleinige Verursacher der Handlung, in der passive Objekte benutzt werden, um sie nach Belieben zu kontrollieren. Vielmehr sind Handlung ein Zusammenspiel mehrerer Akteur:innen, wodurch die klare Grenze zwischen der Rolle des Menschen als aktivem Akteur und der Rolle der KI als passiv verwischt wird. Mit der Verlagerung der Verantwortung, die auch als Verantwortungsdiffusion bezeichnet werden kann, und der Zusammenarbeit mit der Black Box als handelnder KI, stellen sich Fragen des Vertrauens und der Vertrauenswürdigkeit. Dies ist insbesondere im Kontext von SDM von Bedeutung, für dessen Erfolg die Bereitstellung von vertrauenswürdigen Informationen in zugänglicher Form unabdingbar ist. Die angemessene Konzeptualisierung dieser Fragen im Zusammenhang mit medizinischer KI steht noch am Anfang. Umso wichtiger ist es diese Fragen genau zu analysieren und in enger Zusammenarbeit mit dem Sozialwissenschaftlichen Teilprojekt in die Konzipierung der empirischen Untersuchung einfließen zu lassen sowie die Ergebnisse rückwirkend wiederum mit der Netzwerk-bezogenen Aktanten- und ethischen Theorie in Verbindung zu setzen.