How AI is used to resurrect dead Indian politicians as elections loom | Business and Economy


Bangalore, Inde – Le 23 janvier, icône du cinéma et de la politique indienne, M Karunanidhi est apparu devant un public en direct sur un grand écran projeté, pour féliciter son ami et collègue politique TR Baalu, âgé de 82 ans, pour le lancement de son livre autobiographique.

Vêtu de ses lunettes de soleil noires, d'une chemise blanche et d'un châle jaune autour des épaules, le style de Karunanidhi était parfait. Dans ses huit minutes discoursle poète vétéran devenu homme politique a félicité l'auteur du livre, mais a également fait l'éloge de la direction compétente du député Staline, de son fils et de l'actuel chef de l'État.

Karunanidhi est mort depuis 2018. C'était la troisième fois, au cours des six derniers mois, que le chef emblématique du parti Dravida Munnetra Kazhagam (DMK) était ressuscité en utilisant l'intelligence artificielle (IA) pour de tels événements publics.

« Lorsque la pandémie de COVID a ravagé le monde, notre Ministre en chef s’est précipité vers les voix paniquées du peuple », a déclaré Karunanidhi. « La nation connaît la façon dont vous vous êtes battu pour sauver la vie des gens, et moi aussi. »

Senthil Nayagam, fondateur de Muonium, la société de technologie médiatique d'IA qui a réalisé la vidéo deepfake de Karunanidhi, a déclaré à Al Jazeera qu'« il y a un marché qui s'ouvre ». [for such deepfakes]…. Vous pouvez attribuer certaines déclarations à une personne en particulier et cela lui donne plus de valeur ».

La première apparition publique d'AI Karunanidhi a eu lieu dans un média local événement l'année dernière, en septembre, qui a été suivie d'une autre pour une campagne menée par les membres de son parti. Le leader ressuscité félicite souvent les militants du parti et loue particulièrement le leadership de son fils, le député Staline, dans le but de renforcer sa popularité.

Lors du lancement du livre en janvier, AI Karunanidhi a tout raconté, de l'annulation de la dette étudiante et des cadeaux en espèces aux pauvres, en passant par les politiques favorables aux femmes et l'investissement – une liste des réalisations de son fils au fil des années qui ont propulsé l'État en avant.

La dernière interview publique de Karunanidhi remonte à 2016, avant que sa voix ne devienne grossière et son corps fragile. Nayagam a utilisé les données accessibles au public sur Karunanidhi pour former un modèle de discours et a recréé l'image du leader des années 1990 alors qu'il était beaucoup plus jeune. Le scénario du discours préenregistré d'AI, a-t-il déclaré, a été fourni par les cadres locaux du DMK et a été vérifié par le personnel du parti.

TR Baalu, dont l'équipe a approuvé la création d'AI Karunanidhi, n'a pas répondu à la demande de commentaires d'Al Jazeera.

Karunanidhi était l'un des législateurs indiens les plus anciens qui a dirigé l'État du Tamil Nadu pendant près de deux décennies, effectuant un total de cinq mandats en tant que ministre en chef. Le poète devenu homme politique a écrit des scénarios sur l’émancipation des castes inférieures et continue d’exercer une influence sur les électeurs plus âgés.

Selon les médias locaux, la réaction à ces vidéos d'IA a incité la direction du parti DMK à penser à créer des discours de campagne d'AI Karunanidhi lors de la prochaine campagne électorale parlementaire de 2024.

Alors même que les décideurs politiques évaluent les types de communication de l'IA qui devraient être réglementés, dans un usage unique en son genre, un parti politique a utilisé l'IA pour ressusciter un pilier politique d'antan afin de promouvoir le leader d'aujourd'hui.

Mais cela a également soulevé des questions éthiques et juridiques troublantes : « L’utilisation de l’IA pour créer de l’audio et de la vidéo synthétiques par une personne vivante qui a signé le contenu est une chose. C’en est une autre de ressusciter une personne décédée et de lui attribuer des opinions », a déclaré Amber Sinha, chercheuse principale pour Trustworthy AI à la Fondation Mozilla.

Mais le génie est déjà sorti de la bouteille. Selon Diggaj Mogra, directeur de Jarvis Consulting, l'un des plus grands cabinets de conseil politique d'Inde, le marketing de contenu facilité par l'IA pour les campagnes électorales, y compris les appels vocaux et SMS sortants, la création d'avatars, la diffusion médiatique personnalisée et les créations multilingues créées par l'IA sur les réseaux sociaux, est une opportunité de marché estimée à 60 millions de dollars en Inde cette année électorale.

« Au Tamil Nadu, tous les grands dirigeants de chaque parti n'existent plus », a déclaré Nayagam, faisant référence aux anciens acteurs devenus politiciens Jayalalitha, MG Ramachandran et Vijayakanth. Nayagam a déclaré qu'il avait été en contact avec plusieurs fonctionnaires de bas niveau de tous les partis intéressés par l'utilisation de l'IA pour des deepfakes similaires.

L'intérêt pour de telles applications a explosé, a-t-il déclaré, après avoir partagé l'année dernière sur X en septembre un message de quatre minutes. clip audio du programme Mann Ki Baat du Premier ministre Narendra Modi, que son entreprise avait cloné en huit langues. Ces enquêtes intéressantes ont donné à Nayagam et à d’autres consultants l’idée d’une opportunité commerciale dans la campagne électorale d’IA.

À l’échelle mondiale, plus de 60 pays devraient organiser des élections nationales en 2024, et la possible utilisation abusive de l’intelligence artificielle pour influencer l’opinion publique a provoqué une panique morale, devenant ainsi un sujet brûlant à l’échelle mondiale.

À la veille de la campagne présidentielle indonésienne, Prabowo Subianto, un ancien général militaire accusé d'avoir commis des atrocités contre des militants pro-démocratie, utilise l'IA générative pour se réimaginer comme un avatar de l'IA aux joues potelées, afin d'attirer les jeunes électeurs.

En Asie du Sud, l’utilisation de l’IA à des fins de campagne et les cas d’utilisation abusive ont pris de l’importance. Au Bangladesh, des comptes pro-gouvernementaux ont utilisé des deepfakes pour cibler les partis d’opposition. Au Pakistan, l'ancien Premier ministre Imran Khan a fait campagne depuis sa cellule de prison en transmettant à ses avocats des notes écrites, qui sont transformées en discours audio IA à l'aide du logiciel de la start-up américaine ElevenLabs.

“Cette utilisation particulière de l'IA dans les campagnes semble prendre un essor considérable en Asie du Sud”, a déclaré Sinha de la Fondation Mozilla.

Le 21 janvier, le parti DMK a organisé sa deuxième conférence annuelle de la jeunesse dans la ville-temple de Salem. Le méga-événement organisé dans une arène ouverte a attiré une foule de 500 000 partisans et a marqué le lancement officiel de la campagne électorale de 2024 du DMK. Les dirigeants du parti ont prononcé des discours enthousiasmants contre le parti nationaliste hindou Bharatiya Janata (BJP) et ont critiqué ses politiques, notamment la dilution des pouvoirs des États par le centre dirigé par le BJP.

Lors de cette campagne, AI Karunanidhi a fait une réapparition vidéo surprise. « De nombreux droits d'États durement combattus ont été perdus au cours des dix années de règne du BJP », a déclaré Karunanidhi, développant l'hostilité continue du BJP envers le Tamil Nadu.

La vidéo de trois minutes discoursaccompagné d'une musique inspirante, se termine par AI Karunanidhi appelant au renforcement des droits de l'État et exhortant les jeunes cadres à lutter pour un avenir démocratique.

Capture d'écran d'AI Karunanidhi lors de la deuxième conférence annuelle de la jeunesse du DMK

“Cela a été créé par l'aile des médias numériques du parti pour encourager et enthousiasmer les cadres”, a déclaré à Al Jazeera le porte-parole du DMK, Dharanidharan Selvam. « Je pense que les cadres étaient vraiment enthousiastes et excités. »

Les dirigeants décédés sont en vogue dans les campagnes politiques « parce qu'ils continuent d'être plus populaires que les vivants », a déclaré Sumanth Raman, un commentateur politique basé à Chennai. « Vous n'avez pas de dirigeants de masse du calibre de Mme Jayalalitha » – une autre starlette politique – « ou de M. Karunanidhi au Tamil Nadu pour le moment ».

Au cours des 30 dernières années, plus d’une demi-douzaine de partis politiques ont été fondés par des acteurs de l’État. De nombreux dirigeants sont issus du monde du cinéma où ils incarnaient des personnages plus grands que nature, a déclaré Raman, et étaient toujours mis sur un piédestal par le peuple.

«Mais cela s'adaptera en quelque sorte lorsque nous passerons à la prochaine génération, où nous en sommes actuellement. Les dirigeants sont soumis à une surveillance bien plus grande au quotidien et, par conséquent, vous n'avez pas cette immense aura à ce sujet », a-t-il déclaré.

“Tirer parti de la popularité d'une personne décédée”

L’impact sur le public de la résurrection de dirigeants emblématiques se fait toujours sentir. “Je pense que c'était un effort assez ordinaire – il est allé aux hommes de leur parti alors ils en ont profité”, a déclaré Raman, à propos du discours vidéo de l'IA. “L'IA d'aujourd'hui est capable de produire des images encore meilleures.”

Pour la vidéo de lancement du livre, il est clair que la vidéo est synthétique, car la synchronisation labiale ne correspond pas tout à fait. Pourtant, le son de la voix de Karunanidhi reflète la réalité.

Nayagam, le créateur d'AI Karunanidhi, a déclaré que l'une des raisons de ces visuels imparfaits était l'indisponibilité d'ensembles de données vidéo de haute qualité, les obligeant à rechercher tout ce qui était disponible sur Internet.

La vidéo diffusée lors de la conférence des jeunes était meilleure, mais incohérente au niveau de la bouche. Pourtant, la réponse du public en ligne aux vidéos a été favorable, avec quelques commentaires « super » sur YouTube. Les deux vidéos étaient clairement étiquetées comme générées par l’IA.

L'Inde a été témoin de la toute première utilisation de deepfakes lors d'une campagne électorale en 2020, lorsque le politicien du BJP, Manoj Tiwari, a autorisé la création et la distribution de vidéos deepfakes de lui-même en campagne en haryanvi et en anglais, des langues qu'il ne parle pas. Les experts ont décrié la vidéo, mais au motif qu’elle a été partagée sans divulgation, elle a été manipulée par l’IA.

On peut affirmer que la création de vidéos IA de politiciens est une extension de l'utilisation de photographies ou d'images de personnes décédées par leurs partis politiques, a déclaré Sinha, comme l'utilisation d'images de Nehru, Indira Gandhi ou Rajiv Gandhi après leur mort par les Indiens. Congrès national.

“Cependant, la création d'audio ou de vidéo synthétique va encore plus loin”, a déclaré Sinha. « Dans les deux cas, le parti tente de tirer parti de la popularité d’une personne décédée, mais dans le second cas, des opinions et des messages lui sont activement attribués. »

Une autre énigme liée à la résurrection d'un homme politique décédé est la suivante : à qui appartiennent les droits sur la voix et l'image de la personne décédée ?

“Bien entendu, cela n'a aucun fondement juridique en Inde, car nous n'avons aucun droit consacré pour les personnes décédées en Inde, mais d'un point de vue éthique, le consentement doit être pris en compte”, a déclaré Devika Malik, une Consultant en politique technologique basé à Delhi, axé sur la confiance et la sécurité en ligne. La loi indienne offre une protection juridique contre la diffamation d'une personne décédée.

Les politiciens indiens recherchent également activement des solutions d’IA pour leurs prochaines campagnes. Mogra de Jarvis Consulting a déclaré que les candidats individuels essayaient d'utiliser des clones vocaux d'IA pour envoyer des appels automatisés sortants ou IVRS (Interactive Voice Response System) avec une voix enregistrée et des noms personnalisés dans leurs messages. “Il y a plusieurs vendeurs qui parcourent le pays pour le faire, vendant cela à des tarifs très nominaux”, a déclaré Mogra.

Il existait déjà une économie médiatique synthétique en plein essor basée sur l’utilisation autorisée de deepfakes par les acteurs et les PDG, et ce marché s’est étendu au domaine politique. Des cabinets de conseil tels que Polymath Solutions, gérés par Devendra Singh Jadoun, utilisent le clonage vocal pour transmettre des « messages personnalisés » aux militants des partis sur le terrain et émanant des politiciens.

“Il sera utilisé massivement lors de cette élection”, a déclaré Mogra. Cependant, « c'est une arme à double tranchant. Cela créera beaucoup de désinformation et de désinformation. Je pense que les bénéfices sont moindres et que les problèmes de désinformation et de désinformation seront plus importants.

Du point de vue de l’impact social, il reste difficile de savoir dans quelle mesure ces vidéos d’IA – même celles de mauvaise qualité – pourraient façonner l’attitude des électeurs.

Même lorsque ces vidéos ne sont pas de haute qualité, « dans le cas d’un ancien orateur populaire tel que M. Karunanidhi, cela peut attirer davantage d’attention pour le message et l’aider à devenir viral », a déclaré Sinha.

Son dernier recherche met en évidence comment des « acteurs diffus » ou des consultants politiques, qui, malgré leur absence d’affiliation à un parti, collaborent aux campagnes pour diffuser leur message.

Tirer parti des appels sentimentaux de fidèles ou de familles spécifiques – en particulier lorsqu’ils sont personnalisés et envoyés sur WhatsApp – peut être une stratégie de communication efficace et pourrait influencer l’opinion des électeurs, a ajouté Malik.

Mais les points de vue des défenseurs des politiques et des praticiens divergent fortement sur l'efficacité des médias synthétiques.

Mogra de Jarvis prédit que le facteur de nouveauté des messages personnalisés basés sur l'IA envoyés par les politiciens – qu'ils soient audio ou vidéo – s'épuisera bientôt. “Si les gens commencent à le voir beaucoup, ils se rendront compte que cela se produit partout, et ils le voient partout – tout comme ce qui s'est passé avec WhatsApp”, a-t-il déclaré.

Auparavant, les partis politiques mettaient davantage l’accent sur la création de groupes WhatsApp à des fins de sensibilisation. Désormais, tout le monde sait que chaque personne fait partie de centaines de groupes et personne n’y prête beaucoup d’attention ou ne lit toutes les discussions.

“Je pense que nous serons confrontés à des problèmes similaires à un rythme beaucoup plus rapide avec ces solutions et cas d'utilisation d'IA générative”, a déclaré Mogra.



Source link

Scroll to Top