Wie man „ethische KI“ entwickelt und potenzielle Gefahren vermeidet

Die UNESCO entwickelte ihre Empfehlungen zur Ethik der künstlichen Intelligenz erstmals im Jahr 2021, als weite Teile der Welt von einer weiteren internationalen Bedrohung, der COVID-19-Pandemie, beschäftigt waren. Die Empfehlungen, die von den 194 UNESCO-Mitgliedstaaten angenommen wurden, enthalten konkrete Leitlinien dazu, wie öffentliche und private Gelder in Programme gelenkt werden können, die der Gesellschaft zugute kommen.

Seitdem wurde viel Arbeit geleistet, um diese Leitlinien in die Praxis umzusetzen. Gesetzgeber, Experten und Vertreter der Zivilgesellschaft trafen sich in UNESCO-Foren, um Informationen auszutauschen und über Fortschritte zu berichten.

Kurz nach dem Forum 2024, das Anfang Februar in Slowenien stattfand, sprach Conor Lennon von UN News mit einigen der Teilnehmer: Aisen Etcheverry, Ministerin für Wissenschaft und Technologie in der chilenischen Regierung; Irakli Khodeli, Leiter der Abteilung KI-Ethik bei der UNESCO; und Mary Snapp, Vizepräsidentin für strategische KI-Initiativen bei Microsoft.

Aisen Etcheverry: Wir waren eines der ersten Länder, das die Empfehlungen nicht nur angenommen, sondern auch umgesetzt hat, mit einem Modell, das sicherstellt, dass KI ethisch und verantwortungsvoll eingesetzt wird. Als ChatGPT auf den Markt kam und wir alle Fragen sahen, die es aufwarf, verfügten wir bereits über Expertenforschungszentren und Kapazitäten innerhalb der Regierung. Unsere Unternehmen arbeiteten bereits mit KI, und wir hatten im Grunde alle Puzzleteile, um eine Diskussion anzugehen, die auf der Regulierungsseite kompliziert ist.

Im Laufe des letzten Jahres haben sich die Dinge weiterentwickelt und wir haben eine Zunahme des Einsatzes von KI durch Regierungen und Behörden festgestellt. Deshalb haben wir etwas Ähnliches wie eine Durchführungsverordnung erlassen, im Grunde Anweisungen für den verantwortungsvollen Umgang mit KI.

Ein gutes Beispiel ist die Agentur, die für die Bereitstellung von Sozialleistungen zuständig ist. Sie haben ein Modell erstellt, mit dem sie vorhersagen können, welche Personen am seltensten nach den Leistungen fragen, auf die sie Anspruch haben. Dann schicken sie Leute zu den identifizierten Personen, um sie über ihre Ansprüche zu informieren. Ich denke, es ist ein schönes Beispiel dafür, wie Technologie den öffentlichen Sektor verbessern kann, ohne die so wichtige menschliche Interaktion in der Art und Weise, wie Regierungen und Bürger interagieren, zu zerstören.

UN News: Was unternimmt Ihre Regierung, um die Bürger vor denen zu schützen, die KI auf schädliche Weise nutzen wollen?

Aisen Etcheverry: Die UNESCO-Empfehlungen haben uns wirklich geholfen, kritisches Denken über KI und Vorschriften zu entwickeln. Wir haben öffentliche Konsultationen mit Experten durchgeführt und hoffen, dass wir dem Kongress im März einen Gesetzentwurf vorlegen können.

Wir haben auch darüber nachgedacht, wie wir Menschen ausbilden können, nicht unbedingt im Programmieren, sondern um diejenigen zu befähigen, die KI verwenden und entwerfen, damit sie aus einer eher sozialen Perspektive heraus mehr Verantwortung für das Ergebnis übernehmen können.

Bei einem verwandten Thema müssen wir bedenken, dass es eine digitale Kluft gibt: Viele Menschen haben keinen Zugang zu digitalen Werkzeugen. Wir brauchen regionale und internationale Zusammenarbeit, um sicherzustellen, dass sie von dieser Technologie profitieren.

Irakli Khodeli: Die Bewältigung der digitalen Kluft ist ein wichtiger Teil der UNESCO-Empfehlungen. Eine der Grundideen, auf denen die Agentur basiert, ist, dass die Wissenschaft und die Früchte des wissenschaftlichen Fortschritts gerecht unter allen Völkern aufgeteilt werden sollten. Das trifft auf die künstliche Intelligenz zu, denn sie ist vielversprechend, um Menschen bei der Verwirklichung unserer sozioökonomischen und entwicklungspolitischen Ziele zu unterstützen.

Deshalb ist es wichtig, dass wir uns, wenn wir über den ethischen Einsatz und die Entwicklung von KI sprechen, nicht nur auf den technologisch fortgeschrittenen Teil der Welt konzentrieren, in dem die Unternehmen diese Tools tatsächlich nutzen, sondern dass wir uns auch an die globale Welt wenden Südländer, die sich in unterschiedlichen Entwicklungsstadien befinden, um sie in dieses Gespräch über die globale Governance der KI einzubeziehen.

Mary Snapp: Technologie ist ein Werkzeug, das die menschliche Erfahrung verbessern oder als Waffe eingesetzt werden kann. Das gilt seit der Druckerpresse und gilt auch heute noch. Daher ist es für uns als Branche sehr wichtig, sicherzustellen, dass es Sicherheitslücken gibt, dass wir wissen, was Computer können und was Technologie kann und was sie nicht tun sollte.

Ehrlich gesagt, im Fall der sozialen Medien haben wir die Probleme vielleicht nicht früher angesprochen; Dies ist eine Gelegenheit, wirklich frühzeitig zusammenzuarbeiten und zu versuchen, die möglicherweise weiteren negativen Auswirkungen abzumildern und gleichzeitig das enorme Versprechen der Technologie zu erkennen.

UN-Nachrichten: Beim UNESCO-Treffen in Slowenien unterzeichnete Microsoft eine Vereinbarung zur Entwicklung von KI nach ethischen Gesichtspunkten. Was bedeutet das in der Praxis?

Mary Snapp: Im Jahr 2019 haben wir ein Büro für verantwortungsvolle KI geschaffen, das im Inneren sitzt [Microsoft President] Brad Smiths Organisation. Dieses Büro verfügt über ein Expertenteam; nicht nur Technologieexperten, sondern auch Geisteswissenschaftler, Soziologen und Anthropologen. Wir machen Dinge wie „Red Teaming“ [using ethical hackers to emulate real attacks on technology]indem wir die KI dazu ermutigen, schädliche Dinge zu tun, damit wir das abmildern können.

Wir teilen nicht unbedingt genau mit, wie die Technologie funktionieren wird, aber wir möchten sicherstellen, dass wir die gleichen Prinzipien mit unseren Konkurrenten teilen. Die Zusammenarbeit mit der UNESCO ist absolut entscheidend, um diese Arbeit für die Menschheit richtig zu machen.

Diese Diskussion stammt aus der neuesten Folge des Flaggschiff-Nachrichtenpodcasts der UN, The Lid Is On, in der es um die verschiedenen Arten geht, wie die UN an globalen Bemühungen beteiligt sind, KI und andere Formen der Online-Technologie sicherer zu machen.

Sie können „The Lid Is On“ auf allen wichtigen Podcast-Plattformen anhören (und jetzt auch ansehen!).