Wie KI eingesetzt wird, um tote indische Politiker vor bevorstehenden Wahlen wiederzubeleben | Geschäft und Wirtschaft


Bengaluru, Indien – Am 23. Januar trat M. Karunanidhi, eine Ikone des indischen Kinos und der indischen Politik, vor einem Live-Publikum auf einer großen Projektionsleinwand auf, um seinem 82-jährigen Freund und Politikerkollegen TR Baalu ​​zur Veröffentlichung seines autobiografischen Buches zu gratulieren .

Er trug seine charakteristische schwarze Sonnenbrille, ein weißes Hemd und einen gelben Schal um die Schultern – Karunanidhis Stil war genau richtig. In seiner achtminütigen Rede gratulierte der erfahrene Dichter und Politiker dem Autor des Buches, lobte aber auch die fähige Führung von MK Stalin, seinem Sohn und derzeitigen Staatsoberhaupt.

Karunanidhi ist seit 2018 tot. Dies war das dritte Mal in den vergangenen sechs Monaten, dass der ikonische Anführer der Partei Dravida Munnetra Kazhagam (DMK) mithilfe künstlicher Intelligenz (KI) für solche öffentlichen Veranstaltungen wiederbelebt wurde.

„Als die COVID-Pandemie die Welt verwüstete, rannte unser Ministerpräsident auf die panischen Stimmen der Menschen zu“, sagte Karunanidhi. „Die Nation weiß, wie Sie gekämpft haben, um das Leben von Menschen zu retten, und ich weiß es auch.“

Senthil Nayagam, Gründer von Muonium, dem KI-Medientechnologieunternehmen, das das Deepfake-Video von Karunanidhi erstellt hat, sagte gegenüber Al Jazeera: „Es öffnet sich ein Markt [for such deepfakes]…. Man kann bestimmte Aussagen einer bestimmten Person zuordnen und erhält so einen höheren Wert.“

AI Karunanidhis erster öffentlicher Auftritt fand letztes Jahr im September bei einer lokalen Medienveranstaltung statt, gefolgt von einem weiteren für eine Kampagne seiner Parteimitglieder. Der wiederauferstandene Führer gratuliert oft Parteimitarbeitern und lobt insbesondere die Führung seines Sohnes MK Stalin – mit dem Ziel, seine Popularität zu steigern.

Bei der Buchvorstellung im Januar erzählte AI Karunanidhi alles, vom Schuldenerlass für Studenten und Geldgeschenken für die Armen bis hin zu frauenfreundlichen Richtlinien und Investitionen – eine Liste der Errungenschaften seines Sohnes im Laufe der Jahre, die den Staat vorangebracht hatten.

Karunanidhis letztes öffentliches Interview fand 2016 statt, bevor seine Stimme rauer und sein Körper gebrechlich wurde. Nayagam nutzte öffentlich verfügbare Daten von Karunanidhi, um ein Sprachmodell zu trainieren und das Abbild des Anführers aus den 1990er Jahren nachzubilden, als er viel jünger war. Das Drehbuch für die zuvor aufgezeichnete KI-Rede sei vom örtlichen DMK-Kader geliefert und vom Parteipersonal überprüft worden, sagte er.

TR Baalu, dessen Team die Schaffung von AI Karunanidhi genehmigte, reagierte nicht auf die Bitte von Al Jazeera um einen Kommentar.

Karunanidhi war einer der dienstältesten indischen Gesetzgeber, der den Bundesstaat Tamil Nadu fast zwei Jahrzehnte lang leitete und insgesamt fünf Amtszeiten als Ministerpräsident innehatte. Der zum Politiker gewordene Dichter schrieb Drehbücher über die Emanzipation niedrigerer Kasten und hat weiterhin Einfluss bei älteren Wählern.

Lokalen Medienberichten zufolge hat die Reaktion auf diese KI-Videos die Führung der DMK-Partei dazu veranlasst, darüber nachzudenken, im bevorstehenden Parlamentswahlkampf 2024 Wahlkampfreden für KI-Karunanidhi zu erstellen.

Ein ethisches und rechtliches Dilemma

Während politische Entscheidungsträger Beispiele für die Art der KI-Kommunikation bewerten, die reguliert werden sollte, nutzte eine politische Partei in einer einzigartigen Anwendung KI, um einen politischen Star von einst wiederzubeleben, um den heutigen Führer zu befördern.

Aber es hat auch einige besorgniserregende ethische und rechtliche Fragen aufgeworfen: „Der Einsatz von KI zur Erstellung synthetischer Audio- und Videoinhalte durch eine lebende Person, die den Inhalt genehmigt hat, ist eine Sache.“ „Es ist etwas ganz anderes, einen Verstorbenen wiederzubeleben und ihm Meinungen zuzuschreiben“, sagte Amber Sinha, Senior Fellow für vertrauenswürdige KI bei der Mozilla Foundation.

Aber der Geist ist bereits aus der Flasche. Laut Diggaj Mogra, Direktor von Jarvis Consulting, einem der größten politischen Beratungsunternehmen Indiens, ist KI-gestütztes Content-Marketing für Wahlkampagnen, einschließlich ausgehender Sprachanrufe und SMS, Avatar-Erstellung, personalisierter Medienansprache und KI-erstellter mehrsprachiger Creatives in sozialen Medien Eine geschätzte Marktchance von 60 Millionen US-Dollar in Indien in diesem Wahljahr.

„In Tamil Nadu gibt es alle großen Führer jeder Partei nicht mehr“, sagte Nayagam und bezog sich dabei auf die ehemaligen Schauspieler und Politiker Jayalalitha, MG Ramachandran und Vijayakanth. Nayagam sagte, er stehe mit mehreren untergeordneten Funktionären über Parteigrenzen hinweg in Kontakt, die daran interessiert seien, KI für ähnliche Deepfakes zu nutzen.

Das Interesse an solchen Anwendungen sei sprunghaft angestiegen, sagte er, nachdem er letztes Jahr im September auf Diese interessanten Anfragen brachten Nayagam und andere Berater auf die Idee einer Geschäftsmöglichkeit im Bereich KI-Wahlkampf.

Weltweit werden im Jahr 2024 in über 60 Ländern nationale Wahlen abgehalten, und der mögliche Missbrauch künstlicher Intelligenz zur Beeinflussung der öffentlichen Meinung hat eine moralische Panik ausgelöst und ist zu einem globalen, heiklen Thema geworden.

Im Vorfeld des indonesischen Präsidentschaftswahlkampfs nutzt Prabowo Subianto, ein ehemaliger Militärgeneral, dem Gräueltaten gegen demokratiefreundliche Aktivisten vorgeworfen werden, generative KI, um sich in einen pausbäckigen KI-Avatar zu verwandeln und so junge Wähler anzulocken.

In Südasien hat der Einsatz von KI für Kampagnen und Missbrauchsfälle an Bedeutung gewonnen. In Bangladesch haben regierungsnahe Konten Deepfakes eingesetzt, um Oppositionsparteien ins Visier zu nehmen. In Pakistan führt der ehemalige Premierminister Imran Khan seinen Wahlkampf aus seiner Gefängniszelle heraus, indem er schriftliche Notizen an seine Anwälte weitergibt, die mithilfe einer Software des US-amerikanischen Start-up-Unternehmens ElevenLabs in KI-Audioreden umgewandelt werden.

„Dieser besondere Einsatz von KI in Kampagnen scheint in Südasien großen Aufschwung zu nehmen“, sagte Sinha von der Mozilla Foundation.

Am 21. Januar organisierte die DMK-Partei ihre zweite jährliche Jugendkonferenz in der Tempelstadt Salem. Das Mega-Event in einer offenen Arena zog 500.000 Unterstützer an und markierte den offiziellen Startschuss für den DMK-Wahlkampf 2024. Parteiführer hielten mitreißende Reden, in denen sie die hindu-nationalistische Bharatiya Janata Party (BJP) herausforderten, und kritisierten deren Politik, einschließlich der Verwässerung der Machtbefugnisse der Staaten durch die von der BJP regierte Mitte.

Bei dieser Kampagne tauchte AI Karunanidhi überraschend wieder in einem Video auf. „In der zehnjährigen BJP-Herrschaft sind die Rechte vieler hart erkämpfter Staaten verloren gegangen“, sagte Karunanidhi und ging dabei auf die anhaltende Feindseligkeit der BJP gegenüber Tamil Nadu ein.

Die dreiminütige Videoansprache, begleitet von inspirierender Musik, endet damit, dass AI Karunanidhi die Stärkung der Rechte des Staates fordert und junge Kader auffordert, für eine demokratische Zukunft zu kämpfen.

Karunanidhi AI_JugendflügelScreenshot von AI Karunanidhi auf der zweiten jährlichen DMK-Jugendkonferenz

„Dies wurde vom digitalen Medienflügel der Partei ins Leben gerufen, um die Kader zu ermutigen und zu begeistern“, sagte DMK-Sprecher Dharanidharan Selvam gegenüber Al Jazeera. „Ich denke, die Kader waren auf jeden Fall enthusiastisch und aufgeregt.“

Verstorbene Anführer seien bei politischen Kampagnen beliebt, „weil sie weiterhin beliebter sind als die Lebenden“, sagte Sumanth Raman, ein politischer Kommentator aus Chennai. „Es gibt derzeit keine Massenführer vom Kaliber von Frau Jayalalitha“ – einem anderen politischen Starlet – „oder Herrn Karunanidhi in Tamil Nadu“.

In den letzten 30 Jahren wurden über ein halbes Dutzend politische Parteien von Akteuren des Staates gegründet. Viele Anführer kamen aus der Welt des Kinos, wo sie überlebensgroße Charaktere spielten, sagte Raman, und vom Volk immer auf ein Podest gestellt wurden.

„Aber das ist irgendwie maßgeschneidert, wenn wir zur nächsten Generation übergehen, wo wir jetzt sind. „Führungskräfte werden täglich einer viel stärkeren Prüfung ausgesetzt, und deshalb hat das nicht diese große Aura“, sagte er.

„Die Popularität eines Verstorbenen nutzen“

Die Wirkung der wiederauferstandenen ikonischen Führungspersönlichkeiten auf das Publikum ist noch nicht absehbar. „Ich denke, das war eine ziemlich gewöhnliche Anstrengung – es ging an ihre Parteimänner, also haben sie es aufgeleckt“, sagte Raman über die KI-Videorede. „Heutige KI ist in der Lage, noch bessere Bilder zu erstellen.“

Beim Buchvorstellungsvideo ist klar, dass es sich um ein synthetisches Video handelt, da die Lippensynchronisation nicht ganz übereinstimmt. Doch der Klang von Karunanidhis Stimme spiegelt die Realität wider.

Nayagam, der Schöpfer von AI Karunanidhi, sagte, einer der Gründe für die unvollkommenen Bilder sei die Nichtverfügbarkeit hochwertiger Videodatensätze gewesen, was sie gezwungen habe, alles zu beschaffen, was im Internet verfügbar sei.

Das auf der Jugendkonferenz ausgestrahlte Video war besser, aber in der Nähe des Mundes inkonsistent. Dennoch war die Reaktion des Online-Publikums auf die Videos positiv, einige kommentierten sie auf YouTube mit „super“. Beide Videos waren eindeutig als KI-generiert gekennzeichnet.

Indien erlebte im Jahr 2020 den ersten Einsatz von Deepfakes im Wahlkampf, als der BJP-Politiker Manoj Tiwari die Erstellung und Verbreitung von Deepfake-Videos von sich selbst im Wahlkampf in Haryanvi und Englisch, Sprachen, die er nicht spricht, genehmigte. Experten verurteilten das Video, begründeten es jedoch damit, dass es ohne Offenlegung geteilt wurde, dass es KI-manipuliert sei.

Man könnte argumentieren, dass die Erstellung von KI-Videos von Politikern eine Erweiterung der Verwendung von Fotos oder Bildern von Toten durch ihre politischen Parteien sei, sagte Sinha, wie beispielsweise die Verwendung von Bildern von Nehru, Indira Gandhi oder Rajiv Gandhi nach ihrem Tod durch den Inder Nationaler Kongress.

„Die Erstellung von synthetischem Audio oder Video geht jedoch noch mehrere Schritte weiter“, sagte Sinha. „In beiden Fällen versucht die Partei, die Popularität eines Toten auszunutzen, doch im letzteren Fall werden ihm aktiv Meinungen und Botschaften zugeschrieben.“

Ein weiteres Rätsel bei der Wiederbelebung eines verstorbenen Politikers ist: Wem gehören die Rechte an der Stimme und dem Konterfei der toten Person?

„Dies hat in Indien natürlich keine rechtliche Grundlage, da wir in Indien keine verankerten Rechte für Verstorbene haben, aber aus ethischer Sicht muss die Einwilligung in Betracht gezogen werden“, sagte Devika Malik, a Der in Delhi ansässige Berater für Technologiepolitik konzentriert sich auf Online-Vertrauen und -Sicherheit. Das indische Recht bietet rechtlichen Schutz vor der Verleumdung einer toten Person.

Auch indische Politiker suchen aktiv nach KI-Lösungen für bevorstehende Kampagnen. Mogra von Jarvis Consulting sagte, dass einzelne Kandidaten versuchen, KI-Sprachklone zu verwenden, um ausgehende Robocalls oder IVRS (Interactive Voice Response System) mit aufgezeichneter Stimme und personalisierten Namen in ihren Nachrichten voranzutreiben. „Es gibt mehrere Anbieter im ganzen Land, die das zu sehr geringen Preisen verkaufen“, sagte Mogra.

Es gab bereits eine aufkeimende synthetische Medienökonomie, die auf der sanktionierten Nutzung von Deepfakes durch Schauspieler und CEOs beruhte, und dieser Markt hat sich auf den politischen Bereich ausgeweitet. Beratungsunternehmen wie Polymath Solutions, betrieben von Devendra Singh Jadoun, nutzen das Klonen von Stimmen, um „personalisierte Nachrichten“ von Politikern an Parteimitarbeiter vor Ort zu übermitteln.

„Es wird bei dieser Wahl massiv eingesetzt werden“, sagte Mogra. Allerdings „ist es ein zweischneidiges Schwert. Es wird eine Menge Fehlinformationen und Desinformationen erzeugen. Ich denke, dass die Vorteile geringer sind und die Fehl-/Desinformationsprobleme usw. höher ausfallen werden.“

Unter dem Gesichtspunkt der sozialen Auswirkungen bleibt unklar, inwieweit diese KI-Videos – selbst schlecht gemachte – die Einstellung der Wähler beeinflussen könnten.

Selbst wenn solche Videos nicht von hoher Qualität seien, „kann dies im Fall eines beliebten früheren Redners wie M. Karunanidhi zu mehr Aufmerksamkeit für die Botschaft führen und dazu beitragen, dass sie viral wird“, sagte Sinha.

Seine neueste Forschung beleuchtet, wie „diffuse Akteure“ oder politische Berater, die trotz keiner Parteizugehörigkeit an Kampagnen zusammenarbeiten, um ihre Botschaft zu verbreiten.

Die Nutzung sentimentaler Appelle von bestimmten Anhängern oder Familien – insbesondere wenn diese personalisiert und über WhatsApp gesendet werden – kann eine wirksame Kommunikationsstrategie sein und die Meinung der Wähler beeinflussen, fügte Malik hinzu.

Doch hinsichtlich der Wirksamkeit synthetischer Medien gehen die Ansichten von politischen Befürwortern und Praktikern stark auseinander.

Jarvis‘ Mogra prognostiziert, dass der Neuheitsfaktor KI-basierter personalisierter Nachrichten von Politikern – sei es Audio oder Video – bald nachlassen wird. „Wenn die Leute anfangen, es oft zu sehen, werden sie erkennen, dass es überall passiert, und sie sehen es überall – genau wie das, was mit WhatsApp passiert ist“, sagte er.

Zuvor legten politische Parteien besonderen Wert auf die Einrichtung von WhatsApp-Gruppen zur Öffentlichkeitsarbeit. Jetzt weiß jeder, dass jede Person Teil von Hunderten von Gruppen ist und niemand viel Aufmerksamkeit schenkt oder alle Chats liest.

„Ich denke, dass wir mit diesen generativen KI-Lösungen und Anwendungsfällen viel schneller mit ähnlichen Problemen konfrontiert werden“, sagte Mogra.



Source link