WHO bringt weltweite Experten zusammen, um verantwortungsvolle KI für psychische Gesundheit voranzutreiben angesichts zunehmender Risiken generativer KI

Mehr als 30 internationale Expertinnen und Experten für Künstliche Intelligenz (KI), psychische Gesundheit, Ethik und öffentliche Politik kamen zu einem Online-Workshop zusammen, um einen Weg für den verantwortungsvollen Einsatz von KI im Bereich psychische Gesundheit und Wohlbefinden zu entwickeln.

Der Workshop wurde vom Delft Digital Ethics Centre (DDEC) an der Technischen Universität Delft (TU Delft) organisiert, dem ersten WHO-Kooperationszentrum für KI in der Governance des Gesundheitswesens, einschließlich Ethik. Er fand als offizielles Vor-Gipfel-Event des India AI Impact Summit 2026 statt und wurde von der Weltgesundheitsorganisation (WHO) unterstützt.

 

KI und emotionale Verletzlichkeit: Eine wachsende Sorge

 

Dr. Alain Labrique, Direktor der WHO-Abteilung für Daten, digitale Gesundheit, Analytik und KI, betonte:

„Da KI zunehmend mit Menschen in Momenten emotionaler Verletzlichkeit interagiert, müssen wir sicherstellen, dass diese Systeme mit Sicherheit, Verantwortlichkeit und menschlichem Wohlbefinden im Mittelpunkt entworfen und gesteuert werden.“

 

Eine zentrale Sorge, die während des Workshops hervorgehoben wurde, ist der zunehmende Einsatz generativer KI-Tools zur emotionalen Unterstützung insbesondere bei jungen Menschen, obwohl diese Systeme weder für Anwendungen im Bereich der psychischen Gesundheit entwickelt noch klinisch getestet wurden. Dies wirft erhebliche Bedenken hinsichtlich potenzieller langfristiger Risiken auf.

 

Sameer Pujari, KI-Leiter der WHO, erklärte:

„Wir stehen an einem kritischen Wendepunkt. Die schnelle Einführung von KI im Alltag hat unser Verständnis ihrer Auswirkungen auf die psychische Gesundheit weit übertroffen. Diese Lücke zu schließen, erfordert koordinierte Maßnahmen und gezielte Investitionen sowohl des öffentlichen als auch des privaten Sektors.“

 

Fachübergreifende Zusammenarbeit ist unerlässlich

 

Dr. Kenneth Carswell von der WHO-Abteilung für nichtübertragbare Krankheiten und psychische Gesundheit betonte die Bedeutung eines multidisziplinären Ansatzes:

„Die Minimierung von Risiken bei gleichzeitiger Maximierung der Vorteile generativer KI erfordert die Zusammenarbeit betroffener Bevölkerungsgruppen, Kliniker, Forschender, Regulierungsbehörden und Datenexperten. Die WHO setzt sich dafür ein, dass das Wohl der Nutzerinnen und Nutzer im Zentrum bleibt, wenn sich diese Technologien weiterentwickeln.“

 

Drei zentrale Empfehlungen

 

Der Workshop endete mit drei wichtigen politischen Empfehlungen:

 

1. Generative KI als ein Thema der öffentlichen psychischen Gesundheit anerkennen
Regierungen, Gesundheitssysteme und die Industrie müssen die breiteren Auswirkungen aller generativen KI-Tools angehen – nicht nur solcher, die explizit für psychische Gesundheit entwickelt wurden.

 

2. Psychische Gesundheit in KI-Auswirkungsbewertungen integrieren
Evaluierungsrahmen sollten sowohl kurzfristige als auch langfristige Effekte messen, einschließlich Risiken wie emotionale Abhängigkeit. Die Teilnehmenden betonten die Notwendigkeit unabhängiger Forschungsförderung zur Bewertung dieser Auswirkungen.

 

3. KI-Tools gemeinsam mit Expertinnen, Experten und Nutzenden entwickeln
KI-Lösungen im Bereich psychische Gesundheit sollten in enger Zusammenarbeit mit Klinikerinnen, Forschenden und Menschen mit eigenen Erfahrungen, einschließlich Jugendlicher, entwickelt werden. Die Tools müssen evidenzbasiert und auf kulturelle, sprachliche und kontextuelle Unterschiede zugeschnitten sein.

 

WHO stärkt globale Zusammenarbeit in der KI-Governance

 

Im Workshop wurde zudem die wachsende Bedeutung des Netzwerks der WHO-Kooperationszentren als strategisches Standbein für den verantwortungsvollen Einsatz von KI im Gesundheitswesen hervorgehoben.

 

Dr. Stefan Buijsman, Geschäftsführer des DDEC, bemerkte:

„Als WHO-Kooperationszentrum können wir die Wirkung verstärken, indem wir mit globalen Expertinnen und Spezialisten sowie Regierungen zusammenarbeiten.“

 

Blick nach vorn: Aufbau eines globalen KI-Konsortiums für Gesundheit

 

Die WHO baut derzeit ein Konsortium von Kooperationszentren für KI im Gesundheitswesen auf, ein globales Netzwerk, das alle sechs WHO-Regionen umfasst. Diese Initiative soll die Mitgliedstaaten bei der verantwortungsvollen Einführung und Steuerung von KI-Technologien unterstützen.

Ein vorbereitendes Treffen der Kandidatinstitutionen fand vom 17.–19. März 2026 an der TU Delft statt, bei dem die Teilnehmenden gemeinsame Prioritäten festlegten und erste Kooperationsstrukturen vereinbarten.

Die Initiative zielt darauf ab, eine globale Infrastruktur aufzubauen, die sicherstellt, dass die Governance von KI im Gesundheitswesen auf Evidenz, Ethik und den Bedürfnissen unterschiedlichster Bevölkerungen weltweit basiert.

 

Fazit

 

Da KI sich rasant im Alltag etabliert, war der Bedarf an verantwortungsvoller Governance – besonders in sensiblen Bereichen wie der psychischen Gesundheit – nie dringlicher. Globale Zusammenarbeit, evidenzbasierte Politik und ethisches Design werden entscheidend sein, damit KI Vorteile bietet, ohne unbeabsichtigte Schäden zu verursachen.

 

 

Quelle: Weltgesundheitsorganisation