L'intelligence artificielle (IA) converge avec une vaste gamme de technologies allant de la biotechnologie ¨¤ la g¨¦nomique en passant par la neurotechnologie, la robotique, la cybertechnologie et les syst¨¨mes de fabrication. Ces technologies sont de plus en plus d¨¦centralis¨¦es, ¨¦chappent au contr?le des ?tats et sont accessibles par de nombreux acteurs dans le monde entier. Si ces tendances peuvent lib¨¦rer un ¨¦norme potentiel pour l'humanit¨¦, la convergence de l'IA et des nouvelles technologies pose aussi des risques sans pr¨¦c¨¦dent pour la s¨¦curit¨¦ mondiale. En particulier, elles repr¨¦sentent des d¨¦fis pour le syst¨¨me multilat¨¦ral et les Nations Unies, qui agissent au niveau inter-¨¦tatique.?
Capable d'apporter des r¨¦ponses rentables, efficaces et en temps r¨¦el ¨¤ diverses questions de d¨¦veloppement humain ou ¨¤ celles li¨¦es ¨¤ la s¨¦curit¨¦, l'IA a un r?le important ¨¤ jouer dans la gestion complexe des risques pour les populations vuln¨¦rables ainsi que pour ¨¦viter les crises et renforcer la r¨¦silience face aux chocs qui traversent nos soci¨¦t¨¦s. Tandis que l'IA, en convergence avec d'autres technologies, est int¨¦gr¨¦e ¨¤ tous les piliers de l'activit¨¦ des Nations Unies, son r?le sera crucial dans le programme de pr¨¦vention.
Cependant, en tant que technologie ¨¤ double usage, l'IA peut tout aussi bien autonomiser les populations que les priver de leurs moyens. Sa capacit¨¦ ¨¤ empi¨¦ter sur la vie priv¨¦e et ¨¤ la contr?ler a des incidences directes sur l'ordre du jour des Nations Unies en mati¨¨re de pr¨¦vention et de droits de l'homme. Face ¨¤ ces nouvelles formes de contr?le social et biologique, il sera en effet peut-¨ºtre n¨¦cessaire de repenser le cadre actuellement en place pour surveiller la D¨¦claration des droits de l'homme et la mettre en ?uvre. Au vu des risques ¨¦volutifs en mati¨¨re de s¨¦curit¨¦, le syst¨¨me multilat¨¦ral devra anticiper et mieux comprendre le domaine de convergence de l'IA en rapide expansion.?
Il est donc n¨¦cessaire, dans le programme de pr¨¦vention et son intersection avec les nouvelles technologies, de faire preuve de pr¨¦voyance et d'inclure des orientations normatives fond¨¦es sur un int¨¦r¨ºt renouvel¨¦ dans la Charte des Nations Unies afin d'orienter la cr¨¦ation, le d¨¦ploiement et la gouvernance des syst¨¨mes d'IA.
LES PROMESSES DE LA CONVERGENCE DE L'IA
Nous sommes entr¨¦s dans une ¨¨re de la convergence technologique qui vise ¨¤ fusionner notre vie physique, num¨¦rique et biologique. Les informaticiens d¨¦veloppent des algorithmes capables de rep¨¦rer des mod¨¨les dans de vastes ensembles de donn¨¦es avec une efficacit¨¦ surhumaine et, de plus en plus, sans supervision. En m¨ºme temps, les g¨¦n¨¦ticiens et les neuroscientifiques d¨¦cryptent des donn¨¦es li¨¦es ¨¤ nos g¨¦nomes et au fonctionnement de notre cerveau, ce qui leur permet d'en savoir plus sur la sant¨¦ humaine, le bien-¨ºtre et la compr¨¦hension.?
R¨¦sultat ? Les capacit¨¦s fonctionnelles permettant d'¨¦viter les crises, qui ¨¦taient auparavant inimaginables, sont aujourd'hui r¨¦elles, renfor?ant les efforts men¨¦s dans des domaines allant de la m¨¦decine de pr¨¦cision ¨¤ la s¨¦curit¨¦ alimentaire en passant par la pr¨¦vention des conflits. Par exemple, des algorithmes d'apprentissage approfondi permettent de diagnostiquer la r¨¦tinopathie1 chez les patients vivant dans les r¨¦gions rurales de l'Inde qui manquent d'ophtalmologues. Les m¨ºmes algorithmes sont capables d'identifier des biomarqueurs positifs parmi de vastes donn¨¦es g¨¦nomiques issues des populations afin de concevoir des tests sanguins pour d¨¦pister divers cancers2. Des soci¨¦t¨¦s comme Zipline3 int¨¨grent la technologie de l'IA dans des drones autonomes afin de fournir aux h?pitaux des r¨¦gions rurales d'Afrique des fournitures m¨¦dicales essentielles, comme les vaccins.?
L'IA pourrait aussi devenir un outil puissant pour l'action internationale en faveur du d¨¦veloppement men¨¦e par les Nations Unies. En collaboration avec l'Organisation et d'autres partenaires mondiaux, la Banque mondiale met en place un M¨¦canisme d'action contre la famine4, qui relie les syst¨¨mes d'apprentissage approfondi mis au point par Microsoft, Google et Amazon, afin de d¨¦tecter les crises alimentaires qui sont sur le point de provoquer une famine. Le m¨ºme outil permet de connecter directement le financement agile aux sources d'ins¨¦curit¨¦ alimentaire. L'initiative Global Pulse lance une initiative5 qui utilise l'apprentissage automatique pour surveiller les effets de l'extr¨ºme violence sur les discours de haine en ligne.
L'optimisation combin¨¦e de la biom¨¦trie, de la g¨¦nomique et des donn¨¦es comportementales donnent lieu ¨¤ ??l'informatique affective??, des algorithmes capables de nous analyser, de nous faire progresser et de communiquer avec nous. Cette forme d'analyse ¨¦motionnelle am¨¦liorera l'interaction homme-machine dans des applications qui pourraient autonomiser les populations d¨¦favoris¨¦es dans des domaines comme la m¨¦decine6 de pr¨¦cision et l'¨¦ducation cibl¨¦e7.
Gr?ce ¨¤ l'informatique affective, les syst¨¨mes d'intelligence artificielle nous surveilleront, nous observeront et nous ¨¦valueront?: nous passerons d'un algorithme pr¨¦dictif ¨¤ un autre. L'entr¨¦e dans ce monde de la convergence de l'IA est un pas vers un syst¨¨me de surveillance omnipr¨¦sente et pr¨¦cise.
LA SURVEILLANCE PR?CISE ET LE CONTR?LE SOCIAL
Dot¨¦s de la reconnaissance faciale, les algorithmes captureront des donn¨¦es cognitives de plus en plus affin¨¦es, non seulement nos caract¨¦ristiques biom¨¦triques, mais aussi nos ¨¦motions et nos comportements. Cette nouvelle forme d'informatique qui intervient dans notre vie a des?cons¨¦quences importantes pour l'autod¨¦termination et la vie priv¨¦e, en particulier pour celle des enfants.
Par exemple, la poup¨¦e intelligente ??mon amie Cayla8?? parle et envoie des donn¨¦es ¨¦motionnelles aux enfants, ce qui a donn¨¦ lieu ¨¤ une plainte devant la Commission f¨¦d¨¦rale du commerce des ?tats-Unis9 et son interdiction en Allemagne. Aux ?tats-Unis, l'analyse ¨¦motionnelle est d¨¦j¨¤ utilis¨¦e dans les tribunaux pour d¨¦tecter le remord10 dans les vid¨¦os de d¨¦position. Elle fera bient?t partie des entretiens d'embauche11 pour ¨¦valuer les r¨¦ponses des candidats et leur aptitude ¨¤ exercer l'emploi recherch¨¦.?
Facebook met au point un ami IA qui reconna?t les pens¨¦es suicidaires12 par la conversation et l'analyse ¨¦motionnelle. Les start-ups Neuralink et Kernel d¨¦veloppent des interfaces informatiques13 qui liront les processus mentaux des personnes et influenceront les m¨¦canismes c¨¦r¨¦braux impliqu¨¦s dans leurs d¨¦cisions. Une entreprise utilise d¨¦j¨¤ des d¨¦tecteurs sans fil pour analyser les ondes c¨¦r¨¦brales14 de ses employ¨¦s et surveiller leur sant¨¦ ¨¦motionnelle.
Dans de nombreuses villes, le g¨¦ant Alibaba d¨¦ploie des millions de cam¨¦ras ¨¦quip¨¦es de la reconnaissance faciale15. Des bases de donn¨¦es de visages, g¨¦nomiques, d'informations financi¨¨res et personnelles parrain¨¦es par le gouvernement sont cr¨¦¨¦es pour ¨ºtre connect¨¦es aux notations de cr¨¦dit, aux emplois et pour mesurer la loyaut¨¦ des citoyens ainsi qu'aux classifications d'¨¦chantillons de l'ADN pour retrouver des membres de la famille. R¨¦cemment, 5?000 ¨¦tudiants16 ont ¨¦t¨¦ photographi¨¦s et des ¨¦chantillons de leur salive ont ¨¦t¨¦ pr¨¦lev¨¦s sans obtenir de consentement ¨¦clair¨¦ afin d'alimenter une base de donn¨¦es de visages et g¨¦nomiques. En outre, Cloud Walk17, une entreprise informatique sp¨¦cialis¨¦e dans la reconnaissance faciale, d¨¦veloppe une technologie IA qui suit les mouvements et les comportements des personnes afin d'¨¦valuer leurs possibilit¨¦s de commettre un crime.
La capacit¨¦ de l'IA ¨¤ influencer et ¨¤ contr?ler les comportements dans la vie priv¨¦e et ¨¤ avoir un effet sur l'auto-d¨¦termination des populations pourrait de plus en plus emp¨ºcher les Nations Unies de surveiller les violations des droits de l'homme et de prot¨¦ger les populations. Cette capacit¨¦ est encore plus limit¨¦e lorsque le secteur priv¨¦ d¨¦tient, presque exclusivement, les donn¨¦es requises et est mieux ¨¤ m¨ºme de comprendre les algorithmes et de?les concevoir.
LA D?GRADATION DE LA V?RIT? ET DE LA CONFIANCE
Les implications ¨¤ double usage de l'IA deviennent difficiles ¨¤ anticiper, ¨¤ contenir et ¨¤ att¨¦nuer. Se fondant sur l'analyse comportementale et affective, l'IA permet de diffuser de la propagande de mani¨¨re plus efficace et ¨¤ plus grande ¨¦chelle dans les m¨¦dias sociaux.
Deepfake18 par exemple. Les programmes d'IA sophistiqu¨¦s peuvent maintenant manipuler les sons, les images et les vid¨¦os, produisant de fausses vid¨¦os qui sont souvent impossibles ¨¤ distinguer des originales. Les algorithmes d'apprentissage approfondi peuvent, avec une pr¨¦cision surprenante, lire sur les l¨¨vres, synth¨¦tiser la parole et, dans une certaine mesure, simuler les expressions faciales.
Une fois diffus¨¦es, ces simulations peuvent facilement ¨ºtre utilis¨¦es ¨¤ mauvais escient et avoir des cons¨¦quences f?cheuses (cela se passe d¨¦j¨¤ ¨¤ un faible niveau). La veille d'une ¨¦lection, les vid¨¦os de Deepfake pourraient montrer ¨¤ tort des autorit¨¦s publiques impliqu¨¦es dans le blanchiment d'argent ou la panique pourrait ¨ºtre sem¨¦e dans le public par des vid¨¦os faisant ¨¦tat d'¨¦pid¨¦mies ou de cyberattaques inexis-tantes. Ces fausses informations pourraient conduire ¨¤ l'escalade de tensions internationales.
La capacit¨¦ d'un acteur ¨¤ influencer l'opinion publique par des simulations trompeuses pourrait avoir de graves?cons¨¦quences ¨¤ long terme pour l'ONU et son r?le en mati¨¨re de maintien de la paix et de la s¨¦curit¨¦. En ¨¦rodant le sentiment de confiance et de v¨¦rit¨¦ entre les citoyens et l'?tat et, en fait, parmi les ?tats, les fausses informations pourraient ¨¦roder nos services de renseignement et nos syst¨¨mes de gouvernance ¨¤ l'¨¦chelle mondiale.
LA CYBERCOLONISATION ET LES NOUVEAUX RISQUES POUR LA S?CURIT?
La capacit¨¦ des technologies d'intelligence artificielle ¨¤ influencer de vastes populations pourrait donner lieu ¨¤ une cybercourse. Les nations puissantes et les grandes plates-formes technologiques pourraient se lancer dans une?concurrence frontale pour recueillir nos donn¨¦es collectives afin d'¨¦tablir leur sup¨¦riorit¨¦ ¨¦conomique, m¨¦dicale et en mati¨¨re de s¨¦curit¨¦. Il est de plus en plus vraisemblable que des formes de ??cybercolonisation?? se produiront, les ?tats puissants ¨¦tant capables, gr?ce ¨¤ l'IA et ¨¤ la biotechnologie, de comprendre les populations et les ¨¦cosyst¨¨mes d'autres pays et de les contr?ler.? ?
Ces formes de bio-intelligence sont un avantage strat¨¦gique dans l'arsenal s¨¦curitaire d'un pays et entra?neront le d¨¦veloppement de strat¨¦gies dans les domaines des contre-mesures m¨¦dicales et de la recherche militaire.?
Cependant, la responsabilit¨¦ morale li¨¦e ¨¤ l'utilisation de syst¨¨mes d'IA dans la s¨¦curit¨¦ de notre environnement n'incombe plus seulement aux ?tats. Elle est de plus en plus partag¨¦e entre les d¨¦veloppeurs, les utilisateurs et les pirates informatiques. Cette forme de???responsabilit¨¦ atomis¨¦e?? repr¨¦sente un ensemble de d¨¦fis interd¨¦pendants pour le syst¨¨me multilat¨¦ral. ?
QUEL EST LE R?LE DU SYST?ME MULTILAT?RAL??
Politiquement, juridiquement et moralement, nos soci¨¦t¨¦s ne sont pas convenablement pr¨¦par¨¦es ¨¤ faire face au d¨¦ploiement de l'intelligence artificielle et ¨¤ la convergence des technologies. Les Nations Unies ont ¨¦t¨¦ cr¨¦¨¦es de nombreuses d¨¦cennies avant cette r¨¦volution technologique. L'Organisation est-elle actuellement en mesure de d¨¦velopper le type de gouvernance responsable capable de canaliser le potentiel de l'IA, de r¨¦duire les risques existants et ¨¦mergents et d'assurer notre s?ret¨¦, notre s¨¦curit¨¦ et notre bien-¨ºtre??
La r¨¦surgence des programmes nationalistes dans le monde indique un amoindrissement de la capacit¨¦ du syst¨¨me multilat¨¦ral ¨¤ jouer un r?le important dans la gouvernance mondiale de l'IA. Les grandes entreprises ne voient gu¨¨re d'int¨¦r¨ºt ¨¤ adopter des approches multilat¨¦rales pour des technologies qui sont lucratives et brevet¨¦es. En ce qui concerne les cybertechnologies, il est possible que les ?tats Membres puissants pr¨¦f¨¨rent fixer leurs propres avantages comp¨¦titifs ainsi que leurs propres r¨¨gles. Ils peuvent s'opposer ¨¤ l'engagement des Nations Unies dans la gouvernance mondiale de l'IA, en particulier lorsqu'il s'agit des applications militaires.
Mais il existe des moyens par lesquels l'Organisation peut cr¨¦er des r¨¦seaux transparents, collaboratifs pour traiter notre ??syndrome du d¨¦ficit de confiance??. Premi¨¨rement, elle doit renforcer son engagement avec les grandes plates-formes technologiques d'intelligence artificielle et offrir une tribune pour renforcer leur coop¨¦ration ainsi qu'avec les acteurs ¨¦tatiques et la soci¨¦t¨¦ civile. En mati¨¨re de coop¨¦ration, elle doit ¨ºtre une passerelle entre les int¨¦r¨ºts des nations qui sont des chefs de file dans le domaine de la technologie et les acqu¨¦reurs.?
Dans cette fonction d'interm¨¦diation, un grand nombre d'entit¨¦s au sein du syst¨¨me des Nations Unies pourraient jouer un r?le qui est particuli¨¨rement n¨¦cessaire au niveau mondial?:?
?1. faire des pr¨¦visions technologiques, qui comprennent divers d¨¦fis auxquels sont confront¨¦s les pays;?
?2. n¨¦gocier des cadres normatifs ad¨¦quats; et
?3. d¨¦finir des normes en mati¨¨re de surveillance et de coop¨¦ration et mettre en place des cadres de surveillance.?
La pr¨¦vision inclusive, les m¨¦canismes de suivi normatif et les cadres de coop¨¦ration seront particuli¨¨rement cruciaux dans la promotion et la protection des droits de l'homme.?tant donn¨¦ les cons¨¦quences importantes, parfois corrosives, que l'IA a pour l'autod¨¦termination, la vie priv¨¦e et d'autres libert¨¦s individuelles, les entit¨¦s des Nations Unies devront collaborer pour surveiller et garantir la coh¨¦rence des multiples efforts normatifs men¨¦s par les acteurs nationaux, r¨¦gionaux et priv¨¦s.?
Enfin, la r¨¦alisation du programme de pr¨¦vention des Nations Unies n¨¦cessitera un tour d'horizon prospectif, pointu et inclusif pour anticiper la nature et l'ampleur des risques en mati¨¨re de s¨¦curit¨¦ qui constitueront une menace non seulement pour les nations, mais aussi pour les personnes et les populations vuln¨¦rables. Ce type de pr¨¦vision deviendra de plus en plus crucial alors que l'IA converge avec d'autres technologies qui ¨¦chappent au contr?le des ?tats et qui sont davantage accessibles par un plus vaste ¨¦ventail d'acteurs dans le monde.?
Sous l'impulsion d'un mandat accord¨¦ ¨¤ l'Universit¨¦ des Nations Unies (UNU) dans la Strat¨¦gie du Secr¨¦taire g¨¦n¨¦ral en mati¨¨re de nouvelles technologies, le Centre de recherche sur les politiques ¨¤ l'UNU a cr¨¦¨¦ une plate-forme sur ??l'IA et la gouvernance mondiale?? en tant qu'espace inclusif pour les chercheurs et les acteurs politiques ainsi que pour les dirigeants des grandes entreprises et les leaders d'opinion afin d'anticiper et d'¨¦tudier les d¨¦fis d'ordre mondial pos¨¦s par l'intelligence artificielle. Par les propositions faites par les leaders dans ce domaine, la plate-forme vise ¨¤ favoriser les id¨¦es venant de diff¨¦rents secteurs afin d'¨¦clairer les d¨¦bats existants sous l'angle du multilat¨¦ralisme et ¨¤ partir des le?ons tir¨¦es du travail men¨¦ sur le terrain. Ces id¨¦es aideront les ?tats Membres, les fonds multilat¨¦raux, les institutions, les programmes des Nations Unies et autres parties prenantes ¨¤ d¨¦finir leur r?le individuel et collectif dans la cr¨¦ation d'une gouvernance de l'IA.
Dans ce contexte, le d¨¦fi le plus important pour l'Organisation est particuli¨¨rement d'actualit¨¦, car il s'agit de r¨¦tablir un sentiment de confiance dans le syst¨¨me multilat¨¦ral. Nous pouvons conclure que les technologies de l'IA sont une question qui concerne tout le monde et tous les ?tats. Si aucune gouvernance collaborative n'est mise en place, ces technologies pourraient compromettre la stabilit¨¦ mondiale. ?
Notes
1. Daniel Shu Wei Ting et al., ??Development and validation of a deep learning system for diabetic retinopathy and related eye diseases using retinal images from multiethnic populations with diabetes??,?The Journal of the American Medical Association, vol. 318, n? 22 (12 d¨¦cembre 2017), p.p. 2211-2223. Disponible sur le site .
2. Claire Asher, ??Artificial Intelligence to boost liquid biopsies??,?The Scientist, 26 juin 2018. Disponible sur le site .
3. Pour plus d'informations, voir le site WebZipline International .
4. Banque mondiale, M¨¦canisme d'action contre la famine (FAM). Disponible sur le site at?(consult¨¦ le 4 d¨¦cembre 2018).
5. Alexandra Olteanu et al, ??The effect of extremist violence on hateful speech online??, Association for the Advancement of Artificial Intelligence, 16 avril 2018. Disponible sur le site .
6. Massachusetts Institute of Technology Media Laboratory, ??Predicting students' wellbeing from physiology, phone, mobility, and behavioral data??. Disponible sur le site?(consult¨¦ le 4 d¨¦cembre 2018).
7. Massachusetts Institute of Technology Media Laboratory, ??Affective learning companion: Exploring the role of emotion in propelling the SMET learning process??. Disponible sur le site (consult¨¦ le 4 d¨¦cembre 2018).
8. Pour plus d'informations sur la poup¨¦e intelligente Cayla, voir le site Web?.
9. Commission f¨¦d¨¦rale du commerce des ?tats-Unis, ??Complaint and request for investigation, injunction, and other relief??, 6 d¨¦cembre 2016. Disponible sur le site .
10. Pour en savoir plus sur la plate-forme MediaRebel, voir le site Web .
11. Minda Zetlin, ??AI is now analyzing candidates' facial expressions during video job interviews??, Inc., 28 f¨¦vrier 2018. Disponible sur le site .
12. Jordan Novet, ??Facebook is using A.I. to help predict when users may be suicidal??, CNBC, 21 f¨¦vrier 2018. Disponible sur le site?.
13.Rafael Yuste et al, ??Four ethical priorities for neurotechnologies and AI??,?Nature, vol. 551, no 7679 (8 novembre 2017). Disponible sur le site .
14. Stephen Chen, ?? Forget the Facebook leak': China is mining data directly from workers' brains on an industrial scale??,?South China Morning Post, 29 avril 2018. Disponible sur le site?.
15. Hua Xiansheng, ??City brain and comprehensive urban cognition??, Alibaba Cloud, blog, 30 septembre 2017. Disponible sur le site .
16. Wenxin Fan, Natasha Khan et Liza Lin, ??China snares innocent and guilty alike to build world's biggest DNA database??,?The Wall Street Journal, 26 d¨¦cembre 2017. Disponible sur le site
17. Pour plus d'informations sur la technologie CloudWalk, voir le site de l'entreprise
18. Hilke Schellman, ??Deepfake videos are getting real and that's a problem??,?The Wall Street Journal, 15 octobre 2018. Disponible sur le site