Was ich im Vatikan über Künstliche Intelligenz gelernt habe

Als ich letztes Jahr auf Empfehlung meines Freundes Enzo Cursio eingeladen wurde, Teil einer internationalen Arbeitsgruppe des Vatikans zum Thema Künstliche Intelligenz zu werden, war ich zunächst überrascht.
Nicht, weil mich das Thema KI überrascht hätte. Ich beschäftige mich seit Jahren intensiv mit technologischen Entwicklungen, investiere in Unternehmen aus diesem Bereich und beobachte täglich, wie tiefgreifend KI bereits heute Wirtschaft, Gesellschaft und Politik verändert.
Überrascht hat mich vielmehr, dass sich der Vatikan diesem Thema mit einer solchen Ernsthaftigkeit widmet.

Sowohl Papst Franziskus als auch sein Nachfolger Papst Leo XIV. betrachten Künstliche Intelligenz offenbar als eine der entscheidenden Fragen unserer Zeit. Und sie haben etwas getan, was man Institutionen oft nicht zutraut: Sie haben Menschen mit völlig unterschiedlichen Hintergründen zusammengebracht, um gemeinsam darüber nachzudenken.

Über Monate hinweg traf sich die Gruppe aus 16 Wissenschaftlern, Nobelpreisträgern, Professoren, Technologieexperten und Unternehmern regelmäßig online. Viele von ihnen – wie z.B. der israelische Philosoph und Bestseller-Autor Yuval Harari, der britische Wissenschaftler Stuart J. Russel, die äthiopische Kognitionswissenschaftlerin und KI-Forscherin Abeba Birhane und der deutsche Informatiker und LLM-Pionier Alexander Waibel – gehören zu den führenden Köpfen ihres Fachgebiets. Einige haben ihr gesamtes Berufsleben der Erforschung von KI gewidmet.

Beeindruckt hat mich vor allem die intellektuelle Qualität der Diskussionen. Ich habe selten mit einer Gruppe von Menschen zusammengesessen, die so international und divers und gleichzeitig so klug, reflektiert und offen für unterschiedliche Perspektiven war.
Noch stärker beeindruckt hat mich jedoch etwas anderes: Ich war davon ausgegangen, dass wir vor allem über die Chancen von Künstlicher Intelligenz sprechen würden. Über medizinische Durchbrüche, über Produktivität, über Bildung und Wohlstand, über neue Möglichkeiten für Wissenschaft und Gesellschaft. Stattdessen standen die Risiken im Mittelpunkt.

Viele der Wissenschaftler, die seit Jahrzehnten an diesem Thema arbeiten, betrachten die Entwicklung deutlich kritischer als die öffentliche Debatte vermuten lässt. Die Sorgen reichen von Manipulation und Desinformation über Cyberkriminalität bis hin zu Fragen militärischer Nutzung, der langfristigen Kontrolle hochentwickelter KI-Systeme und – auch das – die existentielle Bedrohung der Menschheit durch KI.

Besonders nachdenklich gemacht hat mich, mit welcher Dringlichkeit viele dieser Experten über die möglichen Gefahren sprechen und davor warnen, die Entwicklung zu unterschätzen. Das hat meinen Blick auf das Thema verändert.
Nicht, weil ich plötzlich zum Technologiepessimisten geworden wäre. Im Gegenteil. Ich bin nach wie vor überzeugt, dass KI enorme Chancen für die Menschheit bietet. Aber mir wurde noch deutlicher, dass die eigentliche Herausforderung möglicherweise nicht die Technologie selbst ist. Die eigentliche Herausforderung sind wir Menschen.

Ich habe heute weniger Angst vor einer Künstlichen Intelligenz als vor Menschen, Staaten oder Organisationen, die die Möglichkeiten von KI bedenken- und rücksichtslos nutzen.
Wir erleben derzeit einen globalen Wettlauf um technologische Vorherrschaft. Milliarden und Billionen Dollar fließen in die Entwicklung immer leistungsfähigerer Systeme. Die Vereinigten Staaten und China investieren massiv.

Europa reguliert.

Regulierung ist wichtig. Aber sie allein wird nicht ausreichen. Denn bei KI geht es längst nicht mehr nur um Technologie. Es geht um wirtschaftliche Stärke, geopolitischen Einfluss, Sicherheit und letztlich um die Frage, wer die Regeln der Zukunft bestimmt. Ich fürchte, Europa wird es nicht sein.
Wie haben den Zug verschlafen – und das, obwohl die größten Wissenschaftler und KI-Erfinder aus Europa kommen. Für sein zögerliches, restriktives Verhalten wird Europa einen hohen Preis bezahlen. Sowohl staatliche Einrichtungen wie die European Investment Bank als auch die KfW haben versagt als auch wir als Gesellschaft, denn kaum ein Investor war bereit, rechtzeitig ins Risiko zu gehen. Wir Europäer werden immer mehr zu Milchkühen, die mit Gebühren gemolken werden.

Gleichzeitig hat die Arbeit mit dem Vatikan auch einen positiven Eindruck hinterlassen. Zum ersten Mal hatte ich das Gefühl, dass eine kirchliche Institution versucht, wissenschaftliche Expertise systematisch in ihre Überlegungen einzubeziehen. Es ging nicht um Glauben gegen Wissenschaft. Es ging darum, Wissenschaft, Ethik und gesellschaftliche Verantwortung miteinander zu verbinden.

Das ist auch der Inhalt des gemeinsamen Papiers „Fraternity in the Age of AI“, das aus diesem Prozess hervorgegangen ist. Ausgangspunkt ist die Überzeugung, dass KI die Zukunft der Menschheit grundlegend prägen wird und deshalb klare ethische Leitplanken benötigt.
Der zentrale Gedanke: Künstliche Intelligenz muss dem Menschen dienen, nicht umgekehrt.

Das klingt erstmal selbstverständlich. In einer Zeit, in der immer leistungsfähigere Systeme entstehen, ist es das jedoch keineswegs.
Das Papier fordert deshalb klare Regeln. Menschenwürde, Verantwortung, Transparenz und menschliche Kontrolle sollen auch in einer Welt gelten, die zunehmend von intelligenten Maschinen geprägt wird. Entscheidungen über Leben und Tod dürfen niemals vollständig an Algorithmen delegiert werden. Die Vorteile der Technologie sollen möglichst vielen Menschen zugutekommen und nicht nur wenigen Staaten oder Unternehmen.

Nicht jede Forderung teile ich uneingeschränkt. In manchen Diskussionen war ich wahrscheinlich die pragmatischste Stimme im Raum. Gerade bei Fragen der Verteidigung und Sicherheit wurden meine Positionen durchaus kontrovers diskutiert. Aber genau das war der Wert dieser Gespräche.
Menschen mit völlig unterschiedlichen Perspektiven waren bereit, einander zuzuhören. In einer Zeit, in der viele Debatten von Polarisierung geprägt sind, empfand ich das sehr wertvoll. Denn die Entwicklung der KI wird nicht warten, bis wir uns einig sind.
Aber wir können entscheiden, mit welchen Werten wir ihr begegnen. Vielleicht ist genau das die wichtigste Erkenntnis, die ich aus dem Vatikan mitgenommen habe. Und die Diskussion ist längst nicht beendet.

Im Gegenteil, die Fragen werden größer und dringlicher. Deshalb trifft sich unsere Arbeitsgruppe bereits am 15. Juli erneut für drei Tage im Vatikan. Im Mittelpunkt steht dann ein Thema, das noch vor wenigen Jahren wie Science-Fiction geklungen hätte: die Wechselwirkungen zwischen Künstlicher Intelligenz und nuklearen Risiken.

Wie verändert KI strategische Abschreckung? Welche Auswirkungen hat sie auf militärische Entscheidungsprozesse? Welche Gefahren entstehen, wenn immer leistungsfähigere Systeme in sicherheitskritischen Bereichen eingesetzt werden? Und wie können wir verhindern, dass technologische Entwicklungen schneller voranschreiten als die ethischen und politischen Leitplanken, die sie begrenzen sollen?

Die Fragen werden komplexer. Die Verantwortung wächst. Umso wichtiger ist es, dass wir diese Debatten jetzt führen. Nicht erst dann, wenn die Technologie Fakten geschaffen hat.

Conny Boersch