Rede von Vincenzo Paglia

Wir befinden uns mitten in einer Ära tiefgreifender Veränderungen. Papst Franziskus spricht von einem Epochenwechsel. Damit will er sagen, dass der Mensch zum ersten Mal in der Geschichte der Menschheit das gesamte Leben auf dem Planeten zerstören kann. Es begann mit der Atomkraft, dann mit der Klimakatastrophe und jetzt mit den neu entstehenden und konvergierenden Technologien. Letztere – und unter ihnen die künstliche Intelligenz – können den Menschen radikal verändern, indem sie beispielsweise die DNA verändern oder das menschliche Leben vollständig kontrollieren.

 

Manche sprechen vom Überwachungskapitalismus. Kurz gesagt, von einer „Diktatur der Technik“. Der japanische Wissenschaftler Hishiguro, der seinen eigenen Klon erstellt hat, hat auf einem Akademiekongress vor fünf Jahren sogar gesagt, dass wir die letzte organische Generation sind, die nächste wird nicht organisch sein, vielleicht „Lithium“. Kurzum, die Kernkraft, die Klimakrise und die neuen Technologien erfordern einen neuen globalen Pakt. Für die Atomwaffen gab es einen Nichtverbreitungspakt, für das Klima gab es nach Jahrzehnten die Pariser Konferenz, für die neuen Technologien müssen wir meines Erachtens eine internationale Versammlung zur Steuerung der neuen Technologien einberufen. 

 

Vor diesem Hintergrund hat die Päpstliche Akademie für das Leben im Jahr 2020 ein Manifest veröffentlicht – den "Rome Call for AI Ethics" – in dem alle Beteiligten und die Zivilgesellschaft als Ganzes aufgefordert werden, ethische, pädagogische und rechtliche Grundsätze bei der Realisierung künstlicher Intelligenz zu übernehmen. Der Papst sprach von der Notwendigkeit, von der Gefahr einer Algokratie zu einer Algorethik zu gelangen. 

 

In diesem Sinne hat Papst Franziskus für den Weltfriedenstag am 1. Januar 2024 einen Text mit dem Titel „Künstliche Intelligenz und Frieden“ verfasst. 

 

In diesem Jahr greifen wir dieses Thema zum ersten Mal in den Tagen der Reflexion und des Gebets für den Frieden auf. Die Nachrichten über künstliche Intelligenz sind explodiert. Was bis vor kurzem noch ein Thema für Techniker zu sein schien, füllt jetzt die Seiten der Zeitungen. Es handelt sich um eine neue Technologie, die in der nahen Zukunft unseres Planeten eine entscheidende Rolle spielen wird. Wenn sie nicht verantwortungsbewusst und ethisch korrekt eingesetzt wird, kann sie bis zur Zerstörung des Menschen führen. Wird sie hingegen nach ethischen Gesichtspunkten konzipiert und eingesetzt, wird sie sich sehr positiv auf das menschliche Leben auswirken, auch auf den Frieden. 

 

Zwei Beispiele verdeutlichen die Dringlichkeit einer ethischen Perspektive auch in diesem Technologiebereich. Das erste Beispiel betrifft den Kommunikationssektor.

 

Wir hören bereits von den Risiken von Fehlinformationen und so genannten Deepfakes, das sind mit künstlicher Intelligenz manipulierte Videos, Fotos oder Audioaufnahmen, die den Anschein erwecken, dass jemand etwas sagt oder tut, was er in Wirklichkeit nie gesagt oder getan hat. Diese Technologie kann Fake News verbreiten, falsche Skandale hervorrufen, Belästigungen und Missbrauch begehen, der Cyberkriminalität Vorschub leisten und auf andere Weise die öffentliche Meinung beeinflussen und die Qualität der Demokratien selbst untergraben. Diese Nutzung künstlicher Intelligenz – die auf Störung statt auf sozialen Zusammenhalt ausgerichtet ist – muss natürlich bekämpft werden, weil sie die Schwächsten, die am wenigsten Informierten und die Unfähigsten, sich zu wehren, den realen Risiken und Folgen virtueller Gewalt aussetzt.  

 

Der zweite Bereich, in dem die Anwendung von künstlicher Intelligenz riskant ist, ist der militärische Bereich. Heute kann künstliche Intelligenz eingesetzt werden, um Entscheidungen zu treffen und Aktionen im militärischen Bereich ohne direktes menschliches Eingreifen durchzuführen. Und dies hängt nicht von der Größe der Staaten ab, sondern von der „Wirtschaftsmacht“. Gerade in diesen Tagen sprechen Militärexperten über die veränderte Art der Kriegsführung mit Drohnen, die in der Ukraine erprobt wird... Ich frage mich, ob nicht auch diese Aussicht zur Fortsetzung des Konflikts beiträgt... Technologische Waffen – in Wahrheit auch die anderen – werden im Krieg getestet, nicht auf dem Schießplatz. Dies sind nur zwei von vielen Beispielen.

 

Ich erinnere mich an den 28. Februar 2020, als wir als Päpstliche Akademie für das Leben die Unterzeichnung eines Aufrufs zur Verantwortung einleiteten, den wir "Rom Call for AI Ethics" nannten. Er wurde von mir als Päpstliche Akademie, von Brad Smith, dem Präsidenten von Microsoft, von John Kelly III, dem stellvertretenden Geschäftsführer von IBM, von Qu Dongyu, dem Generaldirektor der FAO, und von der damaligen Ministerin für technologische Innovation und Digitalisierung Paola Pisano für die italienische Regierung unterzeichnet. Der damalige Präsident des Europäischen Parlaments, David Sassoli, war ebenfalls anwesend.

 

Der Aufruf von Rom, der am 20. Februar 2020 in Rom unterzeichnet wurde, ist ein Dokument, das für alle gedacht ist, um ein neues ethisches Bewusstsein zu fördern.  Das Dokument richtet sich an die Gesellschaft als Ganzes: Organisationen, Regierungen, Institutionen, internationale Technologieunternehmen, Religionen.... Die Unterzeichner des Appells von Rom verpflichten sich zu sechs Grundprinzipien: Transparenz, Einbeziehung, Verantwortung, Unparteilichkeit, Zuverlässigkeit und Sicherheit. 

 

Mit dieser Art von Ansatz kann künstliche Intelligenz zu einem Instrument für die menschliche Entwicklung und die Förderung des Friedens werden. Der Einsatz von KI kann die Qualität der Kommunikation und des Verständnisses zwischen verschiedenen Kulturen erleichtern und verbessern und so sprachliche und kulturelle Barrieren überwinden. Ein Beispiel für eine in diesem Zusammenhang eingesetzte KI-Technologie ist ChatGPT-4, das die Verarbeitung natürlicher Sprache nutzt, um die Beilegung von Streitigkeiten zu erleichtern. Indem das System den Kontext von Gesprächen versteht, kann es helfen, Missverständnisse zu vermeiden. 

 

Auch hier gilt: Künstliche Intelligenz kann eingesetzt werden, um potenzielle Konflikte auf internationaler Ebene zu analysieren und vorherzusagen, so dass internationale Akteure proaktiv eingreifen können, um die Eskalation von Spannungen zu verhindern. 

 

Sie kann auch eine wertvolle Unterstützung für die Diplomatie sein. Durch die Beobachtung und Analyse der internationalen Beziehungen kann die Folgenabschätzung Diplomaten und politischen Entscheidungsträgern wertvolle Informationen liefern, um fundierte Entscheidungen zu treffen und den Frieden zu fördern.

 

Im medizinischen Bereich kann künstliche Intelligenz zur Analyse großer Mengen medizinischer Daten eingesetzt werden, um Muster und Trends zu erkennen, die Ärzten helfen, wichtige Diagnosen zu stellen; sie kann zur Entwicklung neuer Medikamente und personalisierter Medizin beitragen. Sie kann unser Leben verbessern. 

 

Sie kann beim Umgang mit Wasserressourcen, bei der Abfallvermeidung und der Identifizierung von Verschmutzungsquellen durch Sensoren eingesetzt werden; sie kann die Luftverschmutzung überwachen. Sie kann bei der Erhaltung der biologischen Vielfalt, der Optimierung des Energieverbrauchs, der Abfallbewirtschaftung und der Verringerung von Abfällen in industriellen Prozessen von Nutzen sein. 

 

Schließlich kann künstliche Intelligenz in mehrfacher Hinsicht einen wichtigen Beitrag zum Umweltschutz auf unserem Planeten leisten. Und sie kann helfen, die Nutzung des Weltraums um die Erde und die Reichtümer des Meeresbodens besser zu verstehen – zwei Bereiche, die noch nicht erforscht sind. 

 

Die PAV setzt sich ihrerseits für die Einbeziehung der religiösen Welten ein. Der Aufruf von Rom wurde im vergangenen Januar auch von Juden und Muslimen unterzeichnet; im kommenden Juli wird er in Hiroshima (Japan) auch von den anderen großen Weltreligionen unterzeichnet werden. In der Zwischenzeit haben ihn dreißig amerikanische und italienische Universitäten unterzeichnet und am 21. September werden wahrscheinlich auch die 160 in Rom versammelten Universitäten Lateinamerikas unterzeichnen. Wir bereiten auch die Unterzeichnung durch die italienischen und europäischen Industrieverbände vor. 

 

Wir halten es für wichtig, dass in allen Bereichen des öffentlichen Lebens eine ethische, pädagogische und juristische Sensibilität entwickelt wird, damit diese neuen Technologien in den Dienst der menschlichen Entwicklung gestellt werden und nicht in den Dienst von Mächten, die durch sie zur Zerstörung des menschlichen Lebens im Lande führen können. Ich bin überzeugt, dass dieser Runde Tisch im Rahmen des Geistes von Assisi auch ein wertvoller Baustein ist, um die Geschwisterlichkeit zwischen den Völkern zu fördern.