KI für Patientensicherheit: was sie kann, was sie braucht, wo der Mensch bleibt

Künstliche Intelligenz verspricht weniger Fehler am Patientenbett. Das ist keine Übertreibung, aber es gilt mit einer wichtigen Einschränkung: Eine KI ist immer nur so gut wie die Daten, aus denen sie lernt und mit denen sie arbeitet. Für Spitäler heisst das, der Weg zu sicherer KI führt über eine verlässliche Datenbasis und über klare Verantwortung.

Was KI zur Patientensicherheit beitragen kann

Der grösste Hebel liegt dort, wo Menschen unter Zeitdruck viele gleichförmige Entscheidungen treffen. KI kann unplausible Verordnungen oder Dosierungen markieren, mögliche Wechselwirkungen früh anzeigen und Auffälligkeiten erkennen, die im Alltag untergehen. Sie unterstützt die Entscheidung, sie ersetzt sie nicht.

Ebenso wertvoll ist die vorausschauende Sicht. Aus Verbrauchs- und Bestandsdaten lassen sich Engpässe und nahender Verfall früher erkennen. Und im Rückruffall hilft KI, betroffene Chargen rasch einzugrenzen. In all diesen Fällen macht KI nicht etwas grundlegend Neues, sondern dasselbe schneller, aufmerksamer und über grössere Datenmengen hinweg.

KI ist nur so gut wie ihre Daten

Hier entscheidet sich, ob KI Sicherheit schafft oder Scheinsicherheit. Lernt ein System aus lückenhaften, widersprüchlichen oder schlecht verknüpften Daten, liefert es plausibel klingende, aber falsche Ergebnisse. Das ist gefährlicher als gar keine Empfehlung, weil es Vertrauen erzeugt, wo keines angebracht ist.

Genau deshalb ist die Datenbasis kein Nebenschauplatz. Scangestützte Erfassung, durchgängige Rückverfolgbarkeit und saubere Stammdaten liefern der KI vollständige, korrekte und verknüpfte Information. Wer scangestützt arbeitet, etwa im Bedside Scanning, schafft nebenbei die Grundlage, auf der KI überhaupt verlässlich werden kann.

Der Mensch bleibt in der Verantwortung

Sichere KI im Spital ist keine autonome KI. Sie schlägt vor, erklärt und warnt, aber die Fachperson entscheidet und kann jederzeit übersteuern. Das ist kein Misstrauen gegenüber der Technik, sondern gute Praxis: Das Vier-Augen-Prinzip gilt auch, wenn das zweite Augenpaar ein Algorithmus ist.

Vertrauen entsteht dabei durch Nachvollziehbarkeit. Eine Empfehlung, die nicht begründbar ist, gehört nicht in einen sicherheitskritischen Prozess. Ebenso wichtig ist, dass nachvollziehbar bleibt, wer wann welchem Vorschlag gefolgt ist oder ihn verworfen hat.

Wie die Regulierung das einordnet

Der regulatorische Rahmen bestätigt genau diese Linie. Nach dem EU AI Act gilt KI, die selbst ein Medizinprodukt oder eine Sicherheitskomponente davon ist, als Hochrisiko. Verlangt werden dann unter anderem Datenqualität und Data Governance, Transparenz, menschliche Aufsicht mit der Möglichkeit zum Übersteuern, Risikomanagement und Marktüberwachung. Die Fristen dafür sind gestaffelt und werden derzeit angepasst, die Stossrichtung ist aber klar.

Die Schweiz geht einen eigenen Weg: statt eines allgemeinen KI-Gesetzes einen sektoriellen Ansatz mit gezielten Anpassungen bestehender Gesetze, eine Vernehmlassungsvorlage ist bis Ende 2026 in Arbeit, und die KI-Konvention des Europarats ist unterzeichnet. Für Medizinprodukte greift ohnehin die Medizinprodukteverordnung (MepV), zuständig ist Swissmedic. Kurz: Was gute Praxis verlangt, verlangt bald auch die Regulierung.

Was Spitäler jetzt tun können

Der erste Schritt ist unspektakulär und entscheidend: die Datenbasis. Mit scangestützter, rückverfolgbarer Erfassung und mit KI-gestützter Stammdatenpflege legen wir ein solides Fundament für intelligente Algorithmen, die echte und verlässliche Partner in den Spitalprozessen werden. Zweitens klein und risikoarm beginnen, etwa mit Hinweisen und Plausibilitätsprüfungen statt autonomer Entscheidungen. Und drittens Aufsicht, Rollen und Nachvollziehbarkeit von Anfang an klären, damit Vertrauen und Verantwortung mitwachsen.

Fazit

KI kann die Patientensicherheit spürbar stärken, aber nicht als Selbstzweck und nicht im Alleingang. Sie braucht verlässliche Daten als Fundament und den Menschen in der Kontrolle. Spitäler, die ihre Prozesse scangestützt und rückverfolgbar aufsetzen, investieren damit doppelt: in die Sicherheit von heute und in die Voraussetzung für sinnvolle KI von morgen.