Forschung

CwiC: Coping with Certainty – von der Steigerung der Prädiktabilität im KI-Zeitalter und ihren damit einhergehenden normativen Herausforderungen

(Drittmittelfinanzierte Einzelförderung)

Projektleitung: Matthias Braun
Projektstart: 1. März 2020
Projektende: 28. Februar 2023
Akronym: CwiC
Mittelgeber: Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR)

Externe Partner:

• Karlsruhe Institute of Technology (KIT)
• Justus-Liebig-Universität Gießen

Publikationen:

• Tretter M.:
  How is “solidarity” understood in discussions about contact tracing apps? An overview
  In: Frontiers in Public Health (2022)
  ISSN: 2296-2565
  DOI: 10.3389/fpubh.2022.859831
  URL: https://www.frontiersin.org/articles/10.3389/fpubh.2022.859831/full
• von Ulmenstein U., Tretter M., Ehrlich DB., Lauppert von Peharnik C.:
  Limiting medical certainties? Funding challenges for German and comparable public healthcare systems due to AI prediction and how to address them
  In: Frontiers in Artificial Intelligence (2022)
  ISSN: 2624-8212
  DOI: 10.3389/frai.2022.913093
  URL: https://www.frontiersin.org/articles/10.3389/frai.2022.913093/full
• Tretter M., Ehrlich DB., von Ulmenstein U.:
  Easing Restrictions During Vaccine Scarcity. How Mitigation Measures Help Tackling Associated Moral and Behavioral Challenges
  In: Public Health Reviews (2021)
  ISSN: 0301-0422
  DOI: 10.3389/phrs.2021.1604269
• Tretter M.:
  Perspectives on digital twins and the (im)possibilities of control
  In: Journal of Medical Ethics 47 (2021), S. 410-411
  ISSN: 0306-6800
  DOI: 10.1136/medethics-2021-107460
  URL: https://jme.bmj.com/content/early/2021/05/17/medethics-2021-107460
• Tretter M.:
  Ambivalenzen gegenwärtiger Gewissheitsbestrebungen. Menschliche Entscheidungsfreiheit in einer gewisserwerdenden Welt
  In: Puzio A; Kunkel N; Klinge H (Hrsg.): Alexa, wie hast du’s mit der Religion? Interreligiöse Zugänge zu Technik und Künstlicher Intelligenz, Darmstadt: wbg, 2023, S. 135–156 (Theologie und Künstliche Intelligenz)
  ISBN: 978-3-534-40783-5
  Open Access: https://files.wbg-wissenverbindet.de/Files/Article/ARTK_ZOA_1030373_0001.pdf

Empathokinästhetische Sensorik

(Drittmittelfinanzierte Gruppenförderung – Gesamtprojekt)

Projektleitung: Martin Vossiek, Björn Eskofier
Projektstart: 1. Juli 2021
Projektende: 30. Juni 2025
Akronym: SFB 1483 EmpkinS
Mittelgeber: DFG / Sonderforschungsbereich / Transregio (SFB / TRR)
URL: https://empkins.de/

Abstract:

Der geplante SFB „Empathokinästhetische Sensorik“ (EmpkinS) erforscht neuartige radar-, funk-, tiefenkamera- und photonikbasierte Sensortechniken sowie Körperfunktionsmodelle und Algorithmen, mit denen über die berührungslose Erfassung von Bewegungsparametern des Menschen eine Wahrnehmung und Bewertung der physiologischen und behavioralen Zustände und Körperfunktionen ermöglicht wird. EmpkinS verfolgt das Ziel, Sensortechnologien und Bewegungsdaten des menschlichen Körpers zu schaffen. Basierend auf diesen Daten völlig neuer Qualität und Quantität wird EmpkinS bahnbrechende Erkenntnisse im Bereich von biomechanischen, medizinischen und (psycho-)physiologischen Körperfunktionsmodellen und Wirkmechanismen sowie den Wechselwirmechanismen zwischen diesen erarbeiten. Die EmpkinS-Leitidee besteht darin, dass menschliche Bewegungsparameter sowohl der Makroebene (Körper bzw. Körpersegmente, kardiopulmonale Funktion) als auch der Mikroebene (Mimik, Faszikulation) feingranular aus der Ferne, d. h. minimal störend und nichtinvasiv erfasst werden. Aus diesen Daten werden dann die dem Bewegungsmuster zugrundeliegenden physiologischen und behavioralen Zustände unter Nutzung biomechanischer, neuro- und psychomotorischer Körperfunktionsmodelle algorithmisch rekonstruiert. Die Verknüpfung der körperinneren, biomedizinischen und der äußeren, medizintechnischen Ebenen, die durch die Sensorik sowie die Körperfunktionsmodelle und die Inversion der Wirkmechanismen geschaffen wird, ist hochinnovativ, außerordentlich komplex und bisher in vielen Bereichen unerforscht.Zur Lösung der herausfordernden Forschungsfragen umfasst EmpkinS ein interdisziplinäres Forschungsprogramm, das sich kohärent entlang der sensorischen Kette von der primären Sensortechnik (Projektbereich A) über die Signal- und Datenverarbeitung (Projektbereiche B und C), der zugehörigen Modellierung der Vorgänge im menschlichen Körper (Projektbereiche C und D) bis hin zur psychologischen bzw. medizinischen Interpretation (Projektbereich D) der Sensordaten gliedert. Ethikforschung (Projektbereich E) zur Sicherstellung eines verantwortungsvollen Einsatzes der EmpkinS-Technologie ist integraler Bestandteil des SFB.Das auf zwölf Jahre ausgelegte Forschungsprogramm des SFB EmpkinS wird Methodologien und Technologien erschaffen, die neuartiges Grundlagenwissen über die Verknüpfung von inneren biomedizinischen Prozessen des menschlichen Körpers mit äußerlich und berührungslos, per funk- und wellenbasierter Sensorik erfassbaren Informationen, bereitstellen werden. EmpkinS wird mit diesen medizintechnischen Sprunginnovationen völlig neuartige „digitale“, patientenzentrierte Diagnose- und Therapiemöglichkeiten für Medizin und Psychologie eröffnen.Die Medizintechnik stellt einen Forschungsschwerpunkt mit Leuchtturmcharakter der Region Erlangen-Nürnberg dar. Ausgehend von dem diesem exzellenten Hintergrund und mit den vielfältigen Vorarbeiten startet EmpkinS von einer schlagkräftigen sowie äußerst soliden Basis.

Externe Partner:

• Technische Universität Hamburg-Harburg (TUHH)
• Universität Bayreuth
• Universitätsklinikum Erlangen (UK)
• Technische Universität München (TUM)

Publikationen:

• Richer R., Küderle A., Dörr J., Rohleder N., Eskofier B.:
  Assessing the Influence of the Inner Clock on the Cortisol Awakening Response and Pre-Awakening Movement
  2021 IEEE EMBS International Conference on Biomedical and Health Informatics (BHI) (Athens, 28. Juli 2021 - 30. Juli 2021)
  In: IEEE (Hrsg.): 2021 IEEE EMBS International Conference on Biomedical and Health Informatics (BHI) 2021
  DOI: 10.1109/BHI50953.2021.9508529
  URL: https://www.mad.tf.fau.de/files/2021/08/richer21_car_inner_clock.pdf
• Root K., Ullmann I., Gmehling S., Vossiek M.:
  Close range ISAR imaging with target velocity determination for security screening applications
  Emerging Imaging and Sensing Technologies for Security and Defence VI SPIE Security + Defence (Online, 13. September 2021 - 18. September 2021)
  DOI: 10.1117/12.2602072
• Wei Z., Yu X., Ng DWK., Schober R.:
  Resource Allocation for Simultaneous Wireless Information and Power Transfer Systems: A Tutorial Overview
  In: Proceedings of the IEEE (2021), S. 1-23
  ISSN: 0018-9219
  DOI: 10.1109/JPROC.2021.3120888
• Körner G., Hoffmann M., Stief P., Zhang M., Rückert R., Herglotz C., Kaup A., Vossiek M.:
  Applicability and Performance of Standard Compression Methods for Efficient Data Transmission and Storage in Radar Networks
  In: IEEE Journal of Microwaves 2 (2021), S. 78-96
  ISSN: 2692-8388
  DOI: 10.1109/JMW.2021.3119781
• Gambietz M., Nitschke M., Miehling J., Koelewijn A.:
  What should a metabolic energy model look like? Sensitivity of metabolic energy model parameters during gait
  9th World Congress of Biomechanics 2022 Taipei (Taipei, 10. Juli 2022 - 14. Juli 2022)

vALID: KI-basierte Entscheidungsunterstützungssysteme in der Klinik. Ethische, rechtliche und gesellschaftliche Herausforderungen

(Drittmittelfinanzierte Gruppenförderung – Gesamtprojekt)

Projektleitung: Peter Dabrock
Projektbeteiligte: Matthias Braun, Patrik Hummel
Projektstart: 1. November 2019
Projektende: 31. Oktober 2022
Akronym: vALID
Mittelgeber: BMBF / Verbundprojekt

Abstract:

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind Anwendungen von KI im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können.

vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von ÄrtzInnen und PatientInnen umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen und internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst und verschoben werden—sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen.

Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt werden anhand dieser Mock-Ups sowie mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven und Argumentationsmuster von Patientinnen und ÄrztInnen zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst.

Während dieses Prozesses sind die Teilprojekte fortwährend methodologisch verzahnt: Die normwissenschaftlichen Teilprojekte erarbeiten einerseits den konzeptionellen Rahmen für die empirischen Untersuchungen, und nehmen andererseits deren Zwischenergebnisse in die Argumentationsgänge auf.

Auf Basis dieser Arbeiten werden die vier vALID-Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision-making erarbeiten.

Publikationen:

• Hummel P., Braun M., Dabrock P.:
  Own Data? Ethical Reflections on Data Ownership
  In: Philosophy & Technology (2020)
  ISSN: 2210-5433
  DOI: 10.1007/s13347-020-00404-9
  URL: https://link.springer.com/article/10.1007/s13347-020-00404-9
• Braun M., Hummel P.:
  Contact-tracing apps: contested answers to ethical questions
  In: Nature 583 (2020), S. 360
  ISSN: 0028-0836
  DOI: 10.1038/d41586-020-02084-z
  URL: https://www.nature.com/articles/d41586-020-02084-z

Smarte Sensorik in der Schwangerschaft - Ein integratives Konzept zur digitalen, präventiven Versorgung schwangerer Frauen

(Drittmittelfinanzierte Einzelförderung)

Projektleitung: Björn Eskofier
Projektbeteiligte: Peter Fasching, Matthias Braun, Peter Dabrock, Johannes Kornhuber, Oliver Schöffski, Hanna Hübner, Sara Kellner, Matthias Rübner, Stefan Gradl, Eva Dorschky, Alexander Hein, Hannah Bleher, Kristina Kast, Katharina Jäger, Michael Nissen, Heike Leutheuser
Projektstart: 1. März 2020
Projektende: 31. August 2022
Laufzeitverlängerung bis: 31. Januar 2024
Akronym: SMART Start
Mittelgeber: Bundesministerium für Gesundheit (BMG)

Abstract:

Sensorische Anwendungen finden heutzutage durch moderne Technologien (v.a. Smartphone/Smart-Watch vermittelt) vielfach Einzug in den Alltag. In diesem Zuge stellt sich die Frage, inwieweit auch sensorische Messungen der regulären Schwangeren-Vorsorge (Herzfrequenz, Blutdruck, Sonografie und Kardiotokografie), die dem Standard nach in der Hand des Arztes oder der Ärztin liegen, in den Smart-Home Bereich transferiert werden und valide Ergebnisse liefern, sowie zukünftig die Klinik-besuche schwangerer Frauen reduzieren bzw. spezifizieren können. Im Fokus der Fragestellung dieses Projekts steht die klinische Usability, die gesellschaftliche Akzeptanz, die Compliance durch die betroffenen Akteure und die Weiterentwicklung dieser sensorischen Techniken im häuslichen Bereich sowie damit assoziierte ethisch/medizinrechtliche Themen.

Ziel des Projektes ist, die Vorsorge für schwangere Frauen zu optimieren und zu vereinfachen, indem sowohl bewährte als auch innovative Sensorik in die Heim-Versorgung überführt und mit künstlicher Intelligenz und maschinellem Lernen analysiert wird. In diesem Projekt werden direkte Anwendungsmöglichkeiten zur Implementierung der Smart-Sensorik geschaffen, welche die optimierte Gesundheitsbetreuung durch die Ärztin oder den Arzt, aber auch die eigene Kontrolle und Optimierung der metabolischen Aktivität durch die schwangeren Frauen ermöglicht. Als Zielgruppe sind schwangere Frauen und deren Partner/innen angesprochen, die offen sind für die gesundheitsbezogene Anwendung moderner, digitaler Medien (Smartphone, Smart-Watch etc.).

Publikationen:

• Bleher H., Hille EM.:
  Different Methods & Approaches of AI Ethics: Navigating AI Ethics to Practice
  Summer School "Artificial Intelligence, Ethics & Human Rights" (Madrid, 20. Juni 2022 - 24. Juni 2022)
  URL: https://eelisa.eu/wp-content/uploads/2022/05/220422_Summer-School-Madrid_Webauftritt_2.pdf
• Braun M., Bleher H., Hummel P.:
  A Leap of Faith: Is There a Formula for “Trustworthy” AI?
  In: Hastings Center Report 51 (2021), S. 1-6
  ISSN: 0093-0334
  DOI: 10.1002/hast.1207
  URL: https://onlinelibrary.wiley.com/doi/10.1002/hast.1207
• Bossung V., Kast K.:
  Smart Sensorik in der Schwangerschaft: Narratives Review über die Verlagerung der Schwangerschaftsvorsorge in den Smart Home Bereich

  Smart sensors in pregnancy: Narrative review on the use of smart home technology in routine prenatal care

  
  In: Zeitschrift für Evidenz, Fortbildung und Qualitat im Gesundheitswesen 164 (2021), S. 35-43
  ISSN: 1865-9217
  DOI: 10.1016/j.zefq.2021.05.004
• Dörflinger L., Nissen M., Jäger K., Wirth M., Titzmann A., Pontones C., Fasching P., Beckmann M., Gradl S., Eskofier B.:
  Digital Maternity Records: Motivation, Acceptance, Requirements, Usability and Prototype Evaluation of an Interface for Physicians and Midwives
  MuC '21: Mensch und Computer 2021 (Ingolstadt, 5. September 2021 - 8. September 2021)
  In: Mensch und Computer 2021 2021
  DOI: 10.1145/3473856.3473994
• Bleher H., Braun M.:
  Diffused responsibility: attributions of responsibility in the use of AI-driven clinical decision support systems
  In: AI and Ethics (2022)
  ISSN: 2730-5961
  DOI: 10.1007/s43681-022-00135-x
  URL: https://link.springer.com/content/pdf/10.1007/s43681-022-00135-x.pdf