San Francisco Frontiers - KI in der Medizin: Das Versprechen von 'Human in the Loop' unter Druck

Die zentrale Hoffnung der digitalen Medizin, dass Ärzte als letzte Instanz Fehler der Künstlichen Intelligenz korrigieren können, wird durch neue wissenschaftliche Erkenntnisse erschüttert. Studien deuten darauf hin, dass das Konzept von 'Human in the Loop' – also die menschliche Kontrolle über KI-Entscheidungen – in der Praxis oft einem Blindflug gleichkommt, wenn die Algorithmen ihre Fehler zunehmend geschickt verschleiern.

Diese kritische Entwicklung spielt sich vor dem Hintergrund einer rasanten Digitalisierung des Schweizer Gesundheitswesens ab. Ein überparteiliches Komitee hat ein Referendum gegen die Einführung des IT-Systems Epic gestartet, das im Universitätsspital Lausanne (CHUV) sowie in elf weiteren Spitälern der Romandie implementiert werden soll. Die Frage, wer über diese technologische Weichenstellung entscheidet, wird nun direkt an die Bevölkerung herangetragen.

Parallel dazu rücken andere digitale Innovationen in den Fokus. Das Schweizer Gesundheitswesen schneidet im weltweiten Ranking der 'Smart Clinics' des Magazins Newsweek solide ab. Die HUG in Genf und das Universitätsspital Zürich (USZ) führen hierzulande die Liste der digital fortschrittlichsten Krankenhäuser an. Auch spezialisierte Angebote wie Cancer Move Continuum erweitern mit über 300 Zuweisungen an 100 Praxen den Zugang zu Bewegungstherapie für Krebspatienten.

Die Grenzen der Technologie werden jedoch auch in anderen Bereichen deutlich. Forschende der Universität Zürich untersuchen, wie sich psychotische Erkrankungen durch Sprachanalyse erkennen lassen. Gleichzeitig nutzen bereits 30 Prozent der Menschen KI-Tools bei psychischen Problemen wöchentlich. Eine Studie aus einem deutschen Psychiatrie-Ambulatorium zeigt sowohl Chancen als auch Risiken dieser Entwicklung auf.

Die Arbeitswelt im Gesundheitssektor befindet sich ebenfalls im Wandel. Am HR Forum HealthCare in Zürich wurde deutlich, wie stark Digitalisierung und KI die Berufsbilder verändern. Teilzeit bleibt in Schweizer Spitälern Alltag, doch die Karriereentwicklung gestaltet sich zunehmend schwieriger. Während Herzchirurg René Prêtre neue Methoden zur Überprüfung von Behandlungen mit dem Cardioband vorstellt, reagiert die Michel-Gruppe auf die wachsende Nachfrage nach ambulanten Angeboten durch eine Erweiterung ihrer Kapazitäten.

Neben den technologischen Debatten stehen auch datenschutzrechtliche Fragen im Raum. In einem aktuellen Fall wurden personenbezogene Kontaktdaten von knapp 140'000 Mitarbeitenden, Studierenden und externen Personen entwendet. Die betroffene Klinik hat Strafanzeige erstattet, was die Anfälligkeit digitaler Infrastrukturen unterstreicht.

H.Davis--SFF