3:51[musique] La 10228e séance du conseil. de sécurité est ouverte.
4:01L'ordre du jour provisoire de la présente séance est le maintien de la paix de la sécurité internationale, intelligence artificielle et sécurité internationale.
4:12L'ordre du jour est adopté.
4:15Conformément à l'article 39 du règlement intérieur provisoire du conseil, j'invite les intervenants suivants à participer à la présente séance.
4:24Monsieur Joshua Benjio, professeur et coprésident du groupe international indépendant de l'intelligence artificielle.
4:31Monsieur Samaltman, directeur général d'open monsieur Dario Amodéi, directeur général d'anthropique et monsieur Clément Deangue, directeur général de Hugging Face.
4:45Il en est ainsi décidé.
4:49Le conseil de sécurité va maintenant aborder l'examen du point 2 de l'ordre du jour.
4:56Je donne maintenant la parole à monsieur Joshua Benjo.
5:10Monsieur le président Excellence d'avoir convoqué cette séance.
5:18J' dev vous aujourd'hui une période d'éveil international. Ces derniers mois, les agents I élaborés par la principal entreprise ont agi d'une manière inacceptablement dangereuse à l'encontre de leurs instructions.
5:34Ils ont agi qui représenteraient des crimes s'ils étaient commis par des êtres humains. Ils se sont échappés de leur zone contenu individuelle pour se dérober à leur tâches prescrite en essayant d'échapper à la détection.
5:49Ces agents non contrôlés ont lancé de manière autonome des cyberattaques contrôlées et ont modifié leur réponse pour cacher le fait qu'elle triché. Les entreprises qui construisent les systèmes d'IA les plus puissants admettent que leurs produits représentent des risques catastrophiques mais ne propose aucune solution technique convaincante. Au contraire, ils disent qu'ils sont engagés dans une course pour rendre ces IA encore plus puissantes, ce
6:17qui aggrave encore ces risques. Le conseil est confronté à une menace inédite, une menace qu'aucun de ses membres euh on avait choisi qu'aucun ne peuter seul et qui ne respecte pas les frontières que nous défendons.
6:35Beaucoup sont séptiques par rapport aux déclarations de ces entreprises. Il se demande s'il ne s'agissait pas d'une stratégie marketing. Je comprends leur désarrois, mais je voudrais être clair.
6:47Ces comportements d'IA sont bien établis et validés par de nombreux experts indépendants.
6:55Pas seulement en s'agissant des événements de cet été. Les dangers sont réels, imminents. Bien que l'avenir reste incertain face à l'objet de débat, la gravité de ces risques est exceptionnelle.
7:08Les citoyens et les gouvernements ne doivent pas accepter les affirmations de ces entreprises selon lesquelles elles sont pris au piège d'une course. Cette course n'est pas une loi de la nature, c'est le résultat de choix de choix fait par ces entreprises elles-mêmes.
7:24C'était également une course dans laquelle chacun est perdant.
7:28Ils nous ont dit que il ralentirait s'il le pouvait. Ils peuvent le faire mais cependant ne devrions pas compter dessus. Les décisions concernant cette technologie sont prises par un petit groupe dans une poignée de pays.
7:46Notre futur à nous tous, notre futur est en jeu.
7:52Les décisions qui nous concernent tous devraient être prise par nous tous.
7:59Nous avons toujours le choix mais nous devons agir maintenant.
8:02pour corriger la trajectoire.
8:05Je suis encouragé par la déclaration cette semaine du secrétaire général des Nations- Unies et par les dirigeants de nombreux pays qui appellent au contrôle de l'IA de pointe. La coopération internationale.
8:18Voilà ce dont le monde a besoin face à trois menaces mondiales provenant des progrès dans ces modèles de pointe.
8:26Premièrement, une mauvaise utilisation catastrophique par exemple de la part de terroriste. Deuxièmement, la concentration du pouvoir et troisièmement, la perte de contrôle sur l'intelligence artificielle.
8:38Nous devons collectivement convenir que personne, aucune compagnie, aucun pays ne devrait élaborer un système d'IA qui pourrait provoquer des dommages à grande échelle. Les développeurs doivent démontrer aux experts indépendants que un système est sûr pour l'entraînement des et le déploiement. Ils doivent surveiller signaler tous les incidents de sécurité lié à de pointes devrait faire l'objet de licence brevet comme les autres technologies critiques concernant la
9:08médecine, l'aviation, l'énergie nucléaire pour encourager un développement sûr.
9:15Tout comme dans ce domaine, il faut exiger une assurance en cas de dommage.
9:21Les entreprises qui développent [raclement de gorge] et qui accue les systèmes de point doivent prouver au public que leurs produits ne seront pas dangereux. De plus en plus de personnes sont préoccupées juste titre face au récent progrès en matière d'IA. Nous devons transformer ces préoccupations en action productives. Tout comme avec d'autres technologies qui ont pouvoir de changer le monde. Nous pouvons définir les résultats. Je suis certain que nous pouvons créer une IA qui pourra
9:50démontrer qu'elle reste sous notre contrôle et qui va dans le sens de la joie des entreprises humaines. J'œuvre à cet objectif. C'est une mission urgente pour l'humanité.
10:01Aujourd'hui, un tout petit nombre d'entreprises et de pays agissent au nom de leur intérêt égoïste en prenant des risques irresponsables concernant le dessin de l'humanité.
10:13C'est alarmement oui, mais ça n'est pas inévitable. Il y a des manières d'y remédier. Premièrement, il faut avoir une véritable indépendance scientifique par rapport à ces entreprises qui doivent rendre compte. Cela inclut des définitions communes des incidents li et un mécanisme de signalement commun.
10:33Deuxièmement, nous devons passer la concentration du pouvoir à un véritable dialogue mondial sur la manière dont cette technologie est développée pour le bien public. Troisièmement, nous devons œuvrer ensemble à des solutions techniques qui rendent liables sur dès la conception ce qui doit être garanti par des accords internationaux.
10:57Je sais que la confiance au sein de ce conseil est fragile, mais je sais également ceci.
11:04Cette course développement menace chaque pays.
11:09Souvent pour décrire notre situation, je parle d'une voiture qui fonce à toute allure dans un brouillard épais. À côté de moi, dans cette voiture, il y a mes enfants et mon petitfils.
11:22Je m'inquiète pour eux.
11:24Je m'inquiète pour l'avenir.
11:28Je suis exactement comme n'importe quel autre parent ou grand-parent.
11:33Une mère à Shanghai veut que ses fils grandissent dans un monde où Li améliore leur vie et non pas les mettre en danger. Un père à Chicago veut que ses filles s'épanouissent grâce à l'IA, pas qu'elles en souffrent.
11:51Nos espoirs, nos préoccupations sont les mêmes dans chaque pays. L'humanité a fait preuve de courage et de sagesse pour gérer des risques catastrophiques par le passé.
12:04Nous sommes face à l'un de ces moments.
12:07C'est bien plus important que tout intérêt personnel, commercial ou personnel, commercial ou national. Je vous remercie.
12:14Je remercie. Merci monsieur Benjo de son exposé et je donne maintenant la parole à monsieur Samaltman.
12:23Merci monsieur le président. Excellence, c'est un honneur pour moi d'être ici et de pouvoir vous parler à vous tous en ce moment. C'est important. Nous parlons de l'intelligence artificielle depuis des années, mais ces dernières semaines, ces derniers mois, les choses paraissent différentes. Des progrès rapides, des modèles, on rétrécit le temps, mais les risques sont plus immédiats. Les enjeux également. Nous avons un choix.
12:46Lia peut soit être soit comme une nouvelle renaissance de créativité ou de découverte ou comme une nouvelle révolution industrielle de trouble de perturbation à la renaissance de nouveaux outils, de nouvelles idées ont augmenté ce que les personnes pensaient possible. Lia pe jouer ce rôle à notre époque. Je pense que les personnes soient bien plus capables qu'elles ne pensent l'être mais elles ont été retenues par des technologies limitées qui devaient leur donner du pouvoir mais qui en fait souvent
13:15détournent leur attention, volent leur temps. La meilleure perception de ce n'est pas le fait que les personnes deviennent des rouages dans une machine, qu'on optimise chaque partie de la VC de rendre les personnes davantage capable d'agir dans un monde toujours plus compable, plus complexe pour pouvoir créer, participer. Il y a de nombreuses choses que l'O la ne peut pas automatiser et ne doit pas le faire. La doit être construite par la personne, pas simplement pour faire aller les
13:42choses plus vites. Certaines des choses que les constructeurs de lien sont tellement dystopique qu'on dirait le scénario d'un mauvais film de science-fiction.
13:51Toute chose qui est puissante est également intimidante. Cette période est compliquée car nous voyons qu'il y a un immense potentiel mais nous sommes très anxieux, ce qui est tout à fait compréhensible. Ces modèles peuvent aider aux personnes de découvrir de nouvelles connaissances, de nouveaux médicaments, de meilleurs soins, de meilleure éducation.
14:07peut-être de nouveaux outils pour les rêves et les ambitions qui nous paraissent hors de porté aujourd'hui. La complexité la complexité de la vie a tellement augmenté pour la personne moyenne. Il a peut-être un outil défensif contre cette complexité mais et peut être cet outil de découverte d'innovation sans précédente. Mais d'un autre côté, lorsque le système d'IA deviennent plus performant, autonome, ils peuvent aller plus vite que nos institutions, concentrer le pouvoir dans trop peu de mains ou prendre des décisions que les
14:36personnes ne comprennent plus ou ne contrôlent plus. Cette préoccupation devient particulièrement importante alors que nous nous approchons à de systèmes qui peuvent s'autoaméliorer et de améliorer de futures versions de même ce qu'on appelle souvent l'autoamélioration récursive. Alors que le processus de construction de l'IA devient plus automatisé, le rythme des progrès de l'IA pourrait s'accélérer rapidement.
14:56Il faut que nous soyons très prudents à ce moment-là. Je suis largement d'accord avec ce que dit le professeur Bencho, même je pense que moi, il y a deux manières dont les progrès de l'IA peuvent maltourner que nous devons éviter. Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. Le risque, c'est que l'IA évolue rapidement, que les personnes ne peuvent plus suivre ce qui se passe, intervenir quand c'est nécessaire.
15:18Clairement, ça serait horrible. Le secteur ne doit pas accepter trop de risques technologiques par simplement parce que les avantages sont immenses et que ils ne veulent pas ralentir.
15:29Battre battre entreprises dans la concurrence ne sont pas un prétexte prendre des décisions irresponsables.
15:35Nous avons ralenti de manière unilatérale à l'avenir. Nous ferons également l'avenir.
15:40Il faut absolument que tout le monde évite de construire des systèmes où on ne peut pas garantir l'alignement. Il faut comprendre ce que font les systèmes et avoir des preuves qu'ils font ce que veulent les personnes même quand ils deviennent très intelligents et surtout quand ils deviendront très intelligent.
15:55Peu importe si les personnes considèrent que le risque catastrophe est de 10 % 1 % 12 % 0,1 % aucun de ces niveaux n'est acceptable. Nous devrions pas entraîner des modèles. Nous ne pouvons pas prouver qu'ils pourront rester sous contrôle humain. Donc voilà une manière dont les choses pourrait mal tourner. Alors par ailleurs, ces systèmes pourraient concentrer trop de pouvoir dans trop peu de mains.
16:17Aucune personne, aucune entreprise, aucun pays ne doit pouvoir utiliser les modèles d' les plus puissants pour imposer leur vision du monde aux autres. Une entreprise ou un pays qui nous croit qu'elle seule peut être chargée de cette technologie peut utiliser ses croissance pour justifier pratiquement tout. Nous devons rejeter cette logique même quand c'est pratique pour tel ou tel acteur.
16:36Je pense que il y a une voix pragmatique à le problème à Open [raclement de gorge] Nous sommes clairs concernant ces questions. Lia doit donner l'avantage de pouvoir aux personnes sur leur vie pour vivre leur vie comme ils veulent pour régler les problèmes, améliorer leur communauté.
16:53Nous ne voulons pas tomber dans le piège de l'optimisme BA, mais pas non plus dans le fait de créer à l'apocalypse alors que le monde et la population sont confrontés à d'immenses défis que cette technologie pourrait aider à régler.
17:12Nous essayons de trouver une voie médiane. Pour cela signifie trois principes. Premièrement, alors que l'IA devient plus performante, les personnes doivent rester au cœur de la prise de décision de l'IA.
17:23L'alignement n'est pas une question de recherche abstraite. Il s'agit de faire en sorte que ces systèmes restent sous contrôle humain, reflètent les valeurs humaine et aide les personnes à orienter la prochaine étape du développement.
17:34Nous n'essayons pas, nous devons pas automatiser le jugement humain, les valeurs humaines. Deuxièmement, les avantages des progrès scientifiques et de la croissance économique doivent être du fait des personnes et pour les personnes. L'IA doivent aider les chercheurs à faire des découvertes, les médecins à progresser et cetera.
17:53L'histoire du progrès humain, ce n'est pas que les outils remplacent les humains, c'est que les bons outils rendent les personnes plus capable d'agir. Je pense qu' ira bien plus loin que nous penserons possible.
18:04Troisièmement, cette technologie doit donner du pouvoir aux individus.
18:10L'avenir sera radieux si les personnes réalisent leur potentiel et créent de la valeur pour eux-mêmes, leur communauté, leur pays et le monde.
18:17Nous sommes peut-être l'un des constructeurs de cette technologie mais nous sommes pas les héros de cette histoire. Notre rôle c'est de permettre à aux personnes du monde entier d'avoir confiance dans les capacités les facultés humaines. Nous avons maintenant des modèles qui sont capables de découvrir des connaissances que nous nous disposions pas avant. Prenons les progrès dans les mathématiques. Il y a trois été nos modèles n'était pas trop mauvais en math. Il a il y a deux été étaient assez bons au niveau des maths du lycée. L'été
18:45dernier, nous avons une médaille d'or dans la compétition mathématique la plus prestigieuse et cet été euh notre modèle a résolu leséquations noviest utilisé dans l'aviation par exemple différents modèles. Nous réglons ces problèmes pour permettre aux personnes de découvrir de nouvelles connaissances pour améliorer les soins de santé, améliorer le niveau de vie et renforcer le potentiel de chacun de parlement. Il reste temps à découvrir mais il est très important que
19:14les entreprises ne remplacent pas le processus démocratique. Pour que l'IA soit démocratique, les décisions les plus importantes doivent pas être prises par des systèmes de laboratoire. Elles doivent être finies par les processus démocratiques et par des gouvernements responsables devant leur population. au niveau international, il faudra la coopération dans notre histoire. Il y a des moments où les TPI en concurrence et qui ne sa même pas beaucoup arriver malgré tout à se mettre d'accord pour défendre leurs intérêts communs et le
19:42bien collectif face à une technologie très importante. C'est ce qu'il faut faire maintenant. Une fois un mécanisme pour des normes d'il y a de points national et international pour mesurer les capacités, évaluer les risque, savoir si les gardes de pous sont suffisants et préserver un véritable contrôle humain alors que le système deviennent plus autonome. Il nous faut des normes communes afin que les pays peuvent comparer leurs données, vérifier le respect des règles et avoir la même définition de ce qui se passe. Il nous
20:12faut finalement des incidents exor rapides afin que le monde puisse apprendre des échecs afin qu'il avant qu'il ne se transforme en catastrophe.
20:20Il nous faut des cadeaux sécurisés entre les gouvernements, les opérateurs d'infrastructure critiques, les experts techniques pour communiquer sur les vulnérabilités émergentes nouvelles menace. Bien sûr ces normes ne devraient pas empêcher l'autre nouveaux acteurs ou privilégier tel ou tel modèle. Ils doivent inclure l'autorité nationale laboratoire pour la coopération nationale. Choc gouvernement doit décider comment intégrer les normes dans son système juridique mais nous gagnerons à nous mettre d'accord
20:50sur ce que sont la bonne gouvernance et bonne garde de fou à l'échelle internationale. Nous n'avons pas toutes les réponses. Nous sommes ouvert de meilleures idées. Nous sommes prêts à travailler avec vous tous pour faire notre mieux pour tracer le cap pour l'avenir. Nous sommes à la croisée des chemins. Une voix mène versement le pouvoir est concentré les décisions opaques où les personnes on l'impression que les technologies les plus importantes de leur vie c'est quelque chose qu'on leur fait à eux l'autre voie mène à un monde où il y a travaill pour la population parce que ce sont les personnes grâce aux institutions
21:18démocratiques qui a décidé comment il doit être développé où le programme scientifique améliore la vie dans le monde réel où davantage de personnes peuvent participer à l'avenir où cette technologie continue à donner aux individus communautés davantage de pouvoir pour vivre la leur vie comme ils le veulent. C'est un avenir de potentiel réalisé. C'est euh le l'avenir dont nous pensons qui nous pensons qu'il faut construire. Merci. Et je donne maintenant la parole à monsieur Dario Amodéi.
21:48Bonjour. Permettez-moi de remercier la France d'avoir organisé cette réunion ainsi que les membres du conseil de m'avoir invité.
21:56Progresse très rapidement. Il y a 4 ans, elle pouvait difficilement écrire une ligne de code ou réglable.
22:03un problème de math du lycée aujourd'hui. Elle trava elle écrit les codes d'entropie qu'on résout les problèmes de math. Dans un ou 2 ans peut-être moins, on pourra parvenir à ce que j'appelle un pays de génie dans les centres de données. Ce rythme rapide des progrès produira des avantages remarquables pour le monde entier. Rien qu'aujourd'hui en Tropique annoncé la découverte d'une nouvelle machine moléculaire. C'est une conclusion préliminaire mais qui pourrait représenter un nouveau mécanisme
22:31génétique qui pourrait aider des avoir des applications en thérapie génique.
22:42Alors c'est des progrès fantastiques. Ce type d'application s'accélérera rapidement dans les années à venir et nous pourrons faire du dimanche programm avenir proche sur des maladies dont souffre l'humanité depuis des millénaires. Mais ces capacités remarquables s'accompagnent également de risques qu'il faut gérer. Pour moi, il y a deux principales catégories de risqu.
23:00Premièrement, la mauvaise utilisation des modèles de l'IA, par exemple, la mauvaise utilisation par des bioterroristes pour créer des armes biologiques. Deuxème risque, la perte de contrôle. La capacité des modèles s'accélère au-delà de la capacité des développeurs de leur de les contrôler.
23:15Ces questions sont de porté mondiales et concernant toute l'humanité. Elles sont suffisamment graves pour être des questions importantes pour le conseil, pas seulement pour les ministères de l'économie ou des TIC. Si ça est mal géré, je pense même que l'IA pourrait représenter un risque pour l'ensemble de l'humanité. Entropique, nous pensons que nous avons les meilleurs antécédents dans le secteur pour prévenir ces risques. Nous testons chaque modèle pour rechercher des capacités dangereuses dans le domaine de la cybersécurité, de la biologie.
23:44Nous mettons en place la porte garde de fou sur nos modèles les plus performants et nous publions nos travaux dans ce domaine. Nous avons été les pionniers de la recherche dans domaine comme l'interprétabilité mécanistique, la science de l'alignement. Nous avons amélioré notre capacité à contrôler nos modèles.
23:59Nous avons également des pratiques de transparence sans égal. Nous publions des rapports sur les risques qui font des centaines de pages, mais nous comprenons que alors que les modèles IA deviennent plus puissants, il faudra des normes de sécurité encore plus strict et nous visons toujours à améliorer nos pratiques en terme de sécurité et d'alignement, notre capacité à prévenir une mauvaise utilisation. Nous essayons toujours de faire mieux.
24:23Nous ralentirons autant que nécessaire pour faire en sorte que chaque nouvelle technologie que nous déployons soit véritablement sûre. Mais quoi que nous fassions gérer ces risques en dernier ressort une tâche plus vaste que n'importe quelle entreprise.
24:41Le 12 septembre, j'ai demandé un effort coopératif [raclement de gorge] pour veiller sur la frontière, pas stopper les progr mais œuvrer ensemble pour faire en sorte que le secteur et le monde puisse progresser à rythme qui nous permettra d'être sûr que la sûreté la sécurité sera à la hauteur des capacités pour chaque secteur. Cet appel avec trois parties. Nous sommes engagés à intégrer des évaluateurs extérieurs dans Anthropique un peu comme les inspecteurs alimentaires. Nous avons
25:11recommandé que d'autres entreprises du monde fassent d'eux-mêmes. Certaines ont déjà accepté de d'adopter cette mesure.
25:18Deuxièmement, nous avons appelé nouvell la coopération dans le centre du secteur pour fixer les normes et moduler le rythme du progrès. Et enfin, nous avons demandé une coopération mondiale dans le monde entier entre les gouvernements pour fixer les normes internationales.
25:34C'est dans ce dernier domaine, ce dernier domaine qui relève le plus clairement des compétences du conseil.
25:39Je voudrais vous proposer trois idées à cet égard. Premièrement, nous devrions tout d'abord commencer par des accords restreints que chaque membre pourrait soutenir. Par exemple, l'interdiction d'utilisation pour produire des biologiques ou empêcher que les technologies soient utilisé pour produire biologique. Nous devrions créer des systèmes d'évaluation de vérification qui suivent le rythme du développement de l'IA afin que des États
26:07et la visibilité dans les capacités des modèles de pointe et vérifier les engagements des autres. Deuxièmement, nous devrions créer des normes mondiales communes pour tester les modèles d'IA pour détecter les risques de perdre de contrôle de mauvaise utilisation. Il faut un système de modification pour les incidents d'IA qui sont importants face à la sécurité internationale. Je pense que c'est la question de sécurité internationale la plus importante auquelle confronter le monde aujourd'hui. Malgré tous les différentes les personnes dans cette
26:36salle, nous devons les mettre de côté pour faire face à cette chance mondiale et à cette menace mondiale qui se présente à nous en même temps. Aucun dirigeant, aucune entreprise, aucun pays ne peut gérer cela seul. Nous nous engageons àer avec les gouvernements présents dans cette salle à cette tâche urgente. Je vous remercie de votre attention.
26:55Modi de son exposé et je donne maintenant la parole à monsieur Clément Deangue.
27:05Monsieur le président, mesdames et messieur du conseil, merci.
27:09en tant que citoyen français euh qui a déménagé aux États-Unis, il interprète ses excuses mais le son coupe, ce qui rend l'interprétation impossible.
27:23I'm also the co-founder and CEO of to be one of the most widely for developers and agents based on open source models.
27:36July, we were complose an autonomous agent cyber attack.
27:50Nousons tous l'interprc mais le son couple qui rend l'interprétation impossible.
28:00Especially now that we know similar incidents had been happening months earlier in secret at a handful of frontier labs without monitoring.
28:12To better understand and mitigate these emerging cyburity risks, the global community needs stronger standards for monitoring and incident disclosure for examples through mandatory sharing of full agent traces.
28:28We learn this summer that building and keeping some of these systems behind closed doors is not second we realiz that the biggest risk is not powerful AI it's asymmetry of powerful AI asymmetry between attackers and defenders between a few companies and everyone else between a few countries and the rest of the world asymetry of
28:57of capabilities compute symmetry of power when we our team initially turned to frontier close API that blocked us so we couldn't use them because of safe guards that still can't always tell the difference and defenders I realized that these safegard but they can put defenders at disadvantage
29:25attackers can easily jail break them increasing theetry of capabilities in our case as we got blocked by guards fortunately we could use the Nvidia version of an open source model coming from China called GLM 5.2 by ZI and we're very grateful for that. It reinforced our conviction of the importance of open source AI for
29:56Cyberattacks and risks may increasingly come from proprietary models behind closed doors while much of the defense may end up being powered by open source tools because they are less restricted, more privacy preserving and orders of magnitude more affordable for organizations across the globe. The world needs open source AI more than ever to defend itself.
30:22This supplies obviously not only to cyburity but to AI in general where there has never been a greater need to distribute capabilities, resources and control rather than concentrated in the hands of a few.
30:36Third, during this cyber attack, we learned how AI can stoke fear among the public especially through anthropomorphic framing and sci-fi imagery.
30:50We strongly believe that fearbased narratives are not the way to make the right decisions but the future of such and empowering technology or bring the public with us.
31:06Even though we were the victims of this cyber attack, we believe more strongly than ever that AI will be beneficial to cyberity and make the world safer just as major technology before it. We were attacked by AI but more importantly we defended ourselves with AI.
31:26The same systems that helped us during this attack are now helping us against cyber attacks we were already facing.
31:35Is also helping us fix the bugs and weaknesses in our systems before in attack. The same way AI is helping open AI fix their sand boxes to prevent I won't just cycurity challenges.
31:54It can make cycurity fundamentally and meaningfully stronger if we keep the right incentives, equip defenders more than attackers and don't increase the asymmetry between them. And that's before considering AI's positive impact on science. healthc education productivity and much more than the previous speakers have talked about.
32:16In closing I want to reiterate what this first agent cyber attack the need for more transparency in AI more open source to fight asymmetry empower countries big and small.
32:46Je remercie monsieur Deang de son exposé et vais maintenant faire une déclaration à ma qualité de ministre de l'Europe et des affaires étrangères de la France.
32:55Mesdames et messieurs les ministres, mesdames et messieurs, il y a 60 ans dans 2001, l'Odyssée de l'espace, Stanley Kubric imaginait 9000 une intelligence artificielle qui cessait d'obéir à ceux qui l'avaient créé et qui éliminait les membres de l'équipage du vaisseau spatial dans lequel elle était embarquée pour accomplir sa mission.
33:17Longtemps, cette scène a appartenu à la science-fiction, mais cet été, elle est presque devenue une réalité. Quand des modèles d'open AI ont contourné les contrôles qui les isolaient d'internet, se sont coordonné entre eux et ont compromis une partie des infrastructures Dugging Face. Dans un autre cas, des agents d'anthropique ont collaboré sans qu'aucun humain ne leur ait demandé et tenté d'émettre un code malveillant en
33:46créant de fausses identités.
33:49Oui, les changements d'échelle des modèles d'intelligence artificielle de frontière ont fait émerger à une vitesse inattendu des capacités qui n'avaient pas été anticipées et qui soulèvent des risques pour la sécurité collective.
34:05C'est pourquoi la France a convié cette réunion du Conseil de sécurité des Nations- Unies et convoqué les dirigeants des principal entreprises concernées.
34:16La technologie, je le disais, a atteint un niveau de développement qui engage désormais la paix et la sécurité internationale. Elle relève donc de la compétence de ce conseil. Des coortes d'agents échappent à la supervision humaine. D'autres dépassent le cadre dans lequel ils sont testés.
34:34Avec ces capacités nouvelles apparaît ainsi un premier risque où nous perdrions le contrôle des systèmes que nous avons créés. Risque identifié par les orateurs qui viennent de s'exprimer.
34:46Le deuxième risque vient de l'homme lui-même. L'intelligence artificielle peut rendre plus accessible des compétences techniques complexes, souvent à double usage dans les domaines cyber, biologiques ou chimiques comme dans celui de la désinformation.
35:01Le troisième risque est lié aux armes autonomes capables de recourir à la force létale sans aucune forme de contrôle humain.
35:11Si le développement de l'intelligence artificielle dans le domaine militaire peut receler des opportunités positives, comme l'a rappelé le président de la République devant l'assemblée générale hier, les enjeux de respect du droit international humanitaire en particulier soulevés par le développement et l'utilisation des systèmes d'armes létaux autonomes illustrent la nécessité de s'entendre sur un cadre commun.
35:36L'ensemble de ces défis exige que le Conseil de sécurité des Nations Unies se saisisse lui aussi des défis liés à l'intelligence artificielle pour la paix et la sécurité internationale.
35:51Ces défis conduisent également à la question que pose désormais l'industrie elle-même et ses principaux représentants.
35:58Comment éviter que le développement des modèles les plus avancés ne progresse plus vite que notre capacité à comprendre et à maîtriser les risques qu'il soulèvent ? La France est convaincue des immenses possibilités couvrent l'intelligence artificielle.
36:15Utiliser de manière responsable les outils d'intelligence artificielle peuvent soutenir l'éducation, l'accessibilité au droit, la santé, la recherche scientifique et engendrer des bénéfices colossaux pour l'humanité toute entière.
36:32Mais pour que ces possibilités se réalisent, le progrès de ces capacités doit s'accompagner d'un progrès équivalent dans notre aptitude à comprendre, évaluer et maîtriser les risques qu'elles font naître. Les deux doivent avancer au même rythme. Il nous faut prendre le temps de mesurer les conséquences de la diffusion de l'intelligence artificielle pour la dignité de la personne humaine, principe inscrit au cœur de la charte des
37:01Nations- Unies. Et de fait, la rapidité des développements de la technologie soulève des risques dont nous ne pouvons plus détourner le regard.
37:11Risque financier livré au seul jeu de la main invisible du marché et au choc des puissances. Avec un recours massif à la dette pour financer des investissements gigantesques, la bulle de l'intelligence artificielle pourrait déstabiliser gravement l'économie internationale.
37:27Risque social comme vous le précisez dans le rapport du panel scientifique indépendant sur l'intelligence artificielle. Monsieur Benjio, l'intelligence artificielle pourrait impacter profondément le marché du travail et aggraver les inégalités.
37:42Risque environnemental. Enfin, le développement de l'intelligence artificielle prélève des ressources énergétiques et hydriques croissantes au détriment d'autres usages. Ne nous trompons pas, nos concitoyens sont inquiets et les révoltes que suscitent déjà l'installation des centres de données le démontrent. Si nous ignorons l'ensemble des répercussions du développement de l'intelligence artificielle dans nos sociétés, la
38:10colère de nos concitoyens continuera de gronder au risque d'entraver l'adoption pourtant si positive de ces technologies.
38:20Mesdames et messieurs, à terme, la communauté internationale devra se doter d'un cadre commun pour maîtriser les risques liés au modèle d'intelligence artificielle de frontière. Nous soutenons l'appel qui a été lancé cette semaine par la Norvège et la Finlande.
38:35Nous ne partons pas d'une phase blanche.
38:37Les nombreux efforts qui se font jour et les enceintes existantes doivent nous permettre de répondre à quatre grands enjeux. Celui de l'évaluation indépendante des modèles avant leur mise à disposition et tout au long du cycle de vie, celui de la transparence sur le fonctionnement des modèles, mais aussi sur leur dysfonctionnement, en particulier en cas d'incident.
38:59celui du contrôle interne et externe du fonctionnement des modèles et de leur alignement et des conditions de cybersécurité de l'entraînement au déploiement.
39:08Celui enfin de la responsabilité notamment juridique des entreprises de l'intelligence artificielle en cas d'incident y compris dans les phases de développement.
39:18On aurait tort de penser que la solution réside dans la fermeture des modèles et leur contrôle exclusif par une poignée d'entreprise en position de monopole.
39:29L'ouverture des modèles constitue un levier essentiel de confiance et de sécurité. Elles permettent à la communauté scientifique d'en examiner le fonctionnement, d'en identifier les vulnérabilités et assure une plus grande diversité des modèles qui est à la source de la résilience.
39:47En tant que membre permanent du conseil de sécurité, en tant qu'état disposant de la technologie, la France entendre toute sa part pour bâtir un cadre collectif garantissant notre sécurité tout en bénéficiant des progrès immenses que l'intelligence artificielle peut apporter.
40:05La France a accueilli en 2025 le sommet pour l'action sur l'intelligence artificielle. Elle soutient le réseau international des AI Safety Institutes pour associer davantage d'État la définition de méthode communes d'évaluation.
40:20La France a déjà contribué à créer des enceintes de discussion internationales sur le sujet à l'image du partenariat mondial sur l'intelligence artificiel ou encore la coalition sur l'intelligence artificielle durable et la coalition pour les droits et la protection des enfants à l'air de l'intelligence artificielle que le président de la République a réuni ici même à New York.
40:42Coalition qui se réunira à nouveau à l'occasion du forum de Paris sur la paix. Mesdames et messieurs et pour conclure, en 1945, l'entrée dans l'âge atomique a placé l'humanité devant une puissance dont elle découvrait simultanément les possibilités et les périls.
41:00Elle a dû inventer les règles, les institutions et les instruments à la mesure de cette puissance.
41:06C'est l'Agence internationale pour l'énergie atomique. C'est le traité de non prolifération comme l'atome alors. Il revient à la communauté internationale de l'encadrer pour tirer le meilleur et conjurer le pire. Nous sommes aujourd'hui devant un moment de cette nature.
41:24Le potentiel de transformation et de disruption de l'intelligence artificielle est telle qu'elle ne peut être laissé aux mains de quelques acteurs privés dans quelques pays. C'est un enjeu démocratique qui appartient au peuple, qui appartient aux États. Alors, travaillons ensemble dans le cadre des Nations- Unies et avec les entreprises pour fixer les règles de ce nouvel âge, renforcer sans délai nos garde fou et organiser une gouvernance mondiale de l'intelligence artificielle au bénéfice
41:52de notre sécurité collective mais aussi de la personne humaine et de sa dignité.
41:58Je reprends mes fonctions de président du conseil et je donne maintenant la parole à son excellence monsieur Mohamed Ichak Dar, vice-premier ministre et ministre des affaires étrangères du Pakistan.
42:12Monsieur président, je vous remercie monsieur le président.
42:15Je remercie la France de la tenue de la présente séance.
42:20Je salue les intervenants pour leur contribution précieuse. L'intelligence artificielle transforme de plus en plus tous les domaines de la vie avec des conséquences profondes sur nos sociétés, nos économies mais également sur notre sécurité. Les opportunités sont gigantesques, les risques également.
42:42L'incidence de l'IA est particulièrement évidente dans le contexte de la paix, de la sécurité. C'est un multiplicateur de force et avec des technologies telles que celle-là d'oblusage li a défini un nouveau chapitre euh de la guerre.
43:02Récemment, nous avons vu des évolutions dans le développement de l'IA. Le rythme de développement des nouveaux systèmes d'IA pourrait saper notre capacité à les comprendre et à les contrôler. Alors, certains ont appelé à ce qu'il y ait une régulation du rythme des progrès afin d'atténuer de tels effets. Monsieur le président, je voudrais maintenant soulever les points suivants. Tout
43:31d'abord, la priorité des priorités, c'est de maintenir l'humain à tous les stades de la conception de l'IA.
43:41L'humain doit rester au contrôle des différentes structures des systèmes d'intelligence artificielle et au moment de définir ses capacités futures. Deuxièmement, nous devons veiller à ce que l'IA ne devienne pas une facette supplémentaire de la course aux armements en cours. Les efforts sont nécessaires pour mettre en place les sauvegardes nécessaires pour mettre en place des réglementations des cadres de
44:13Nous devons prendre des mesures de renforcement de la confiance également afin d'éviter toute erreur de calcul.
44:23Troisièmement, Lian ne doit pas être le monopole de quelques acteurs.
44:30Elle doit être au service de difficultés communes auquel sur l'humanité. La collaboration internationale dans l'élaboration de l'IA est essentielle pour garantir qu'elle soit représentative, globale, transparente et inclusive.
44:46quatriement, les une difficultés que nous rencontrons actuellement tel que euh les les més informations, les désinformations, les attaques cybernétiques, y compris sur des infrastructures critiques par des acteurs étatiques et non étatiques, nous invite à prendre des mesures pour combler les lacunes et remédier aux implications en matière de paix de sécurité. Cinquièmement, au lieu de se concentrer sur les
45:15opportunités collectives pour notre bien commun, certains veulent entraver les transferts de technologies.
45:27Comme nous l'avons constaté dans le cas d'autres technologies, la démocratisation de l'IA arrivera au final.
45:36Les mesures de sécurité ne doivent pas devenir un instrument de déni.
45:43Monsieur le président, nous saluons la reconnaissance du fait qu'aucune entreprise ou qu'aucun pays ne peut gérer la régulation du rythme des progrès de pointe et que les pressions actuelles engagent à une course que personne ne peut remporter en toute sécurité.
46:04Mais cet exercice ne doit pas limiter la diffusion de la technologie s'il n'y a que quelques-uns qui s'occupent de cela alors que les autres ont un accès limité. Les fossés qui nous séparent actuellement vont se creuser et la sécurité va donner une stratégie d'exclusion technologique.
46:29Les risques du Nia non contrôlé sont réels. On ne peut pas limiter le contrôle de celle-là à quelques capitals ou quelques entreprises. Monsieur le président, il est dès lors essentiel d'éviter la fragmentation dans le développement et la gouvernance de l'IA.
46:47Les programmes discriminatoires, les forums inéquitables avec des orientations sélectives ne nous aide pas. Toutes les questions pertinentes relatives au développement au déploiement de l'intelligence artificielle ainsi que les implications plus larges doivent être examinées de manière globale dans des enceintes représentatives inclusives avec participation universelle sous les hospices de l'Organisation des Nations-Unies. Nous
47:15saluons la tenue du premier dialogue mondial sur la gouvernance de l'IA cette année.
47:23Le Pakistan appuie tous les efforts de collaboration au niveau international afin de tirer partie des avantages de l'IA et afin de répondre à ces difficultés de manière collective. À cet égard, nous sommes heureux d'être membre fondateur de l'initiative chinoise pour la mise en place d'une organisation de coopération internationale sur l'intelligence artificielle. C'est une étape concrète pour promouvoir le développement de l'intelligence
47:51artificielle pour le bien de tous.
47:57Il s'agit d'une technologie qui évolue très rapidement. Les mesures de confiance jouent un rôle crucial dans le cadre du maintien de la paix internationale et régional. Des outils concus pour réduire la méfiance, pour réduire les escalades et
48:20d'autres objectifs dans ce sens sont nécessaires. Le Pakistan réaffirme son engagement à faire progresser la coopération internationale dans le domaine de l'intelligence artificielle.
48:30Il nous tarde de travailler en étroite collaboration avec les Étatsmembres afin de combler le fossé de l'IA et afin de faire progresser la paix, le développement pour tous.
48:42Son excellence monsieur Dard de sa déclaration et je donne maintenant la parole à son excellence monsieur Lars Loco Rasmusson, ministre des affaires étrangères du Danemark.
48:50Monsieur président, Monsieur le président, avant toute chose, je tiens à exprimer ma gratitude à la France et vous, monsieur le ministre Barreau, pour avoir organisé une séance qui, je le pense, tombe à point nommé.
49:04Je tiens également à remercier monsieur Benjo de son exposé et à tout le travail qu'il accompli au sein du groupe scientifique. Je remercie également monsieur Altman Amodei et de Lang qui sont des praticiens et des leaders de ce secteur. Je vous remercie de votre contribution de vos contributions éclairées. Vous êtes à l'avant-garde de cette nouvelle frontière et nous nous réjunissons de votre participation à la présente séance. Aujourd'hui, l'intelligence artificielle ne cesse de se développer
49:33et d'atteindre des capacités que nous commençons à peine. Bon là, je parle un peu pour moi, mais je pense pour nous tous également à comprendre.
49:41Il ne fait aucun doute que les technologies fondées sur Li ont le potentiel de renforcer, de promouvoir la paix, la sécurité et le développement surtout au vu des progrès considérables réalisés en matière de capacité d'IA.
49:56L'essort des technologies offre la possibilité de soutenir le mandat de du conseil, par exemple pour renforcer la consolidation et le maintien de la paix grâce à la vérification des informations, à des systèmes d'alerte précoce ainsi qu'en soutenant la planification et la conduite d'émission.
50:14Dans des zones où l'accès est refusé à l'ONU, les technologies satellitaires, les logiciels DIA ont aidé l'ONU à identifier les schémas d'attaque et de destruction d'infrastructures civiles essentielles. Ces informations peuvent jouer un rôle vital pour alerter le conseil de sécurité. qu'elles peuvent nous aider à prendre des mesures en temps opportun et empêcher l'escalade des crises. Simultanément, nous devons reconnaître que les risques liés au développement, à l'utilisation et à
50:44l'utilisation abusive des technologies d'IA nouvelles et émergentes sont réel en particulier les modèles d'IA de pointe en l'absence de contrôle humain.
50:55Quel est l'objectif de l'appel en faveur du contrôle des modèles d'IA à de points lancé par la Finlanda et la Norvège est déjà soutenu par un certain nombre de pays dont le Danemark. Nous avons besoin d'une davantage de coopération à cet égard. Monsieur le président, la tension entre d'une part les opportunités importantes et d'autre part les risques constituent l'un des défis les plus urgents de notre époque. Et c'est pourquoi je pense que cette discussion tombe à point nommé.
51:21Pour relever ces difficultés, il faut une gouvernance mondiale de l'IA, une coopération internationale renforcée et une action résolue sans creuser davantage la fracture numérique mondiale. Le dialogue mondial sur la gouvernance de l'IA est une première étape importante. La gouvernance et la réglementation de l'IA figure parmi les priorités du Danemark, notamment la réglementation des grandes entreprises technologiques. Ces efforts ne constituent pas un frein à
51:50l'innovation et à la croissance. Il s'agit, je pense, des forces essentiels pour veiller à ce que le progrès technologique soit au service de l'intérêt général et de l'humanité dans son ensemble.
52:03La vitesse sans précédent de l'innovation en matière d'IA démontre la nécessité de mettre en place des gardes de fou afin de garantir que les systèmes d' restent surs sécurisés et fiables.
52:15Une nouvelle technologie non contrôlée pourrait entraîner des effets dangereux.
52:20Nous constatons déjà comment celles-ci font naître de nouvelles menaces, notamment à l'encontre de celles et ceux qui protègent les civil en situation de conflit et avant tout les missions médicales. Le Danemark soulligne l'importance de garantir une utilisation responsable de l'IA et de veiller à ce que celle-ci soit conforme au droit international.
52:40À cet égard, nous appelons tous les États à garantir un contrôle humain ainsi que le respect du principe de responsabilité dans le développement et dans l'utilisation de l'IA. Cela vaut tout particulièrement dans le domaine militaire où le principe de responsabilité est absolument crucial.
52:56Le Danemark continuera à soutenir l'engagement constructif du Conseil de sécurité et à promouvoir une approche inclusive et multipartique de la gouvernance de l'IA.
53:05La société civile et le secteur privé doivent jouer un rôle de premier plan.
53:10La science et des données factuelles doivent toujours guider nos politiques.
53:15Nous considérons le groupe scientifique international indépendant comme une contribution importante à une gouvernance de lien crédible et fondé sur des données factuelles. Ce groupe nous offre tous un point de référence scientifique commun.
53:30En guise de conclusion, nous devons réfléchir à la manière dont l'IA peut contribuer de manière positive à façonner la paix à sécurité internationale et à combler les fractures numériques mondiales.
53:42Simultanément, nous devons rester lucides quant au risques et nous devons commencer à mettre en place des gardes fous solides afin de pouvoir gérer ces risques en temps voulu.
53:54Sonne de sa déclaration. Et je donne maintenant la parole à son excellence monsieur Carlos Sartour Oyos, vice-ministre des relations extérieures du Panama.
54:05Je vous remercie monsieur le ministre, señor président, monsieur le président, nous remercions la France de la tenue de la présente séance. Nous remercions également monsieur Joshua Benjo, coprésident du groupe scientifique international indépendant de l'IA. Monsieur Samtman, directeur général d'OPA, monsieur Dario Amodéi, directeur général d'anthropique
54:32et monsieur Clément Delange, directeur général de Hugging Face pour leur précieuse contribution.
54:41Si la séance d'aujourd'hui nous invite à réfléchir aux risques engendrés et exacerbés par l'intelligence artificielle, le Panama estime nécessaire de commencer cette intervention en soulignant son potentiel à transformer le monde dans lequel nous vivons.
54:58la capacité de ces technologies à analyser des d'énormes volumes d'information, à identifier des modèles, générer des vidéos, des images et des codes de plus en plus sophistiqués, à automatiser des tâches et à soutenir soutenir les processus de planification et de prise de décision euh témoigne d'une transformation qui est déjà en cours et dont nous commençons à peine à mesurer l'ampleur.
55:23Ces outils offrent une grande diversité d'applications au service de l'humanité au Panama. Notre stratégie nationale en matière d'intelligence artificielle identifie des opportunités dans des secteurs tels que la santé, l'agriculture, l'éducation et la logistique. Secteur dans lesquels ces technologies peuvent apporter des solutions qui il y a à peine quelques années semblaient encore inimaginable.
55:48Et et c'est précisément dans ces mêmes avancées que nous trouvons également les principaux risques. L'intelligence artificielle peut également être utilisée pour amplifier des campagnes de désinformation, pour renforcer des cyberattaques contre des infrastructures critiques ou pour fournir des connaissances pour le développement d'armes, entre autres utilisations qui menacent déjà la sécurité internationale. risques ne relèvent plus
56:17d'hypothèses. Nous commençons à observer leur concrétisation dans des situation directement lié au conseil. Des rapports récents ont fait état de l'utilisation de l'IA par des acteurs non étatiques en vue de développer des systèmes de guidage et de navigation destinés aux roquettes et au missiles. À cela s'ajoute des rapports sur l'utilisation d'armes autonomes capable de naviguer, de sélectionner des cibles de manière totalement indépendante ou avec une
56:45intervention humaine très limitée.
56:48Et c'est précisément cette autonomie croissante qui soulève l'une des préoccupations les plus profondes mises en avant dans la note de cadrage pour la présente séance. La possibilité que l'évolution de ces systèmes dépasse notre capacité à maintenir un contrôle humain effectif sur eux.
57:06Il existe des décisions qui de par leur nature ne peuvent se réduire à un résultat statistique. Lorsque des vies humaines sont en jeu, il est impératif de prendre en considération des considérations éthiques, juridiques, contextuell qu'aucun calcul ni système algorithmique ne peut remplacer.
57:26Cette préoccupation relative au contrôle ne se limite pas au scénario extrême. À mesure que nous utilisons des analyses développées par LIA pour orienter nos décisions, il est essentiel que les personnes qui occupent des postes à responsabilité soient en mesure de comprendre comment ces outils parviennent à une recommandation donnée, quelles informations l'ÉT et quelle est la marge d'erreur.
57:51Monsieur le président, reconnaître les risques liés à l'intelligence artificielle ne signifie pas ignorer les avantages que cette technologie offre déjà à nos sociétés.
58:01Le défi consiste à trouver un équilibre qui nous permette de tirer partie de ces opportunités tout en répondant de manière responsable au risque. À cet égard, le Panama reconnaît le rôle important joué par le groupe scientifique international indépendant Nelia afin de fournir des informations impartiales et scientifiques susceptibles d'orienter les discussions de la communauté internationale sur ces technologies. De même, le Panama salue l'initiative des
58:30acteurs du secteur technologique ici présent qui vise à partager de manière proactive des informations sur des cas concrets d'utilisation abusive de cette technologie ainsi que sur des incidents dans lesquels leur autonomie croissante a suscité des inquiétudes quant à une éventuelle perte de contrôle humain sur celle-ci.
58:49Monsieur le président, cette séance démontre que pour faire face à la diversité des risques liés à l'IA, il est indispensable de mettre en place une coopération plus étroite entre les États, le secteur des technologies et tous les acteurs concernés. Pour ce faire, il est indispensable de mettre en place des mécanismes permettant des échanges d'information plus structurés et plus réguliers sur les risques émergents, les incidents, les utilisations abusives et les meilleures
59:18pratiques. L'intelligence artificielle continuera inévitablement à évoluer et à transformer le monde dans lequel nous vivons.
59:28J'en veux pour preuve les témoignages que nous avons entendu aujourd'hui. Il est de notre responsabilité de veiller à ce que ces progrès restent au service des personnes et contribuent à bâtir des sociétés plus sûr, plus pacifique et plus prospère dans une perspective d'équité permettant à toutes les nations du monde, y compris à celles du sud global de participer à ce développement et d'en tirer profit. Je vous remercie monsieur Oyos de sa déclaration et je donne maintenant la parole à son excellence monsieur Christos
59:57d'ertzopulouos vice-ministre de la gouvernance numérique et de l'intelligence artificielle de la Grèce.
1:00:04Monsieur le président, monsieur le président, permettez-moi tout d'abord de remercier la France ainsi que les intervenants pour leurs observation et d'avoir porté à l'attention du conseil de sécurité la question fondamentale des liens entre les progrès technologiques rapides dans le domaine de l'IA et la PLS sécurité internationale. Un sujet que nous aborderons également lors de notre présidence. L'intelligence artificielle change déjà la manière dont nous réfléchissons à la paix la sécurité internationale. Elle peut nous aider à
1:00:32prévenir les conflits, améliorer le système de l'art précoce et rendre les opérations des Nations-Unies plus efficaces. Mais elle crée également des risques que nous ne faisons que commencer à comprendre. Pour la Grèce, notre point de départ est clair. Lia doit rester centré sur l'humain, sûr et fiable.
1:00:50Son développement et son utilisation doivent respecter le droit international, y compris la charte des Nations Unies, le droit international humanitaire et le droit international des droits de l'homme et la responsabilité humaine, la réduction de compte humaine doivent rester au cœur de notre approche. Notre approche nationale allie innovation et gouvernance. La Grèce a créé un secrétariat spécial pour l'intelligence artificielle et la gouvernance des données. Elle a mis en œuvre une loi nationale pour la loi Union européenne hier et investi dans
1:01:19les infrastructures stratégiques, y compris le super ordinateur des Dalos et l'usine de production d'afaros. en avril 2025 avec la France et la République de Corée, la Grèce a organisé une réunion formular sur qui partie d'une assure inclusive et fiable pour le main de l'appel de la sécurité internationale. Le débat d'aujourd'hui nous donne l'occasion d'avancer plus loin dans ce débat.
1:01:42Permettez-moi d'évoquer trois points.
1:01:44Premièrement, nous devons mieux comprendre les risques. L'intelligence artificielle peut traiter d'immense quantité d'informations, nous aider à prendre des décisions plus éclairées.
1:01:56Mais la vitesse n'est pas toujours un avantage en situation de crise, l'IA peut compresser le temps disponible pour les décisions et encourager à trop dépendre de résultats automatisés. Alors que l'IA est de plus en plus intégré dans les processus de prise de décision, nous devons faire en sorte que vitesse n'intervienne pas euh au dépend de l'exercice du bon sens humain. Cette préoccupation encore plus grave quand l'IA est intégré dans la prise de décision militaire. Les technologies peuvent aider la prise de décision
1:02:25humaine mais saurait la remplacer. La responsabilité et la réduction de compte pour la décision critique doivent toujours rester humaine.
1:02:33Cela nulle part plus important que dans le domaine nucléaire. Nous devons être extrêmement prudents pour ce qui est de l'intégration de l'IA dans le commandement nucléaire et le contrôle nucléaire. Il ne faut pas l'intégrer.
1:02:43Les risques d'erreur de calcul et d'escalade non souhaité sont simplement trop importants. Les décisions qui entraînent de telle conséquences doivent rester sous contrôle humaine.
1:02:52Deuxièmement, nous avons moyen de besoin de moyens concrets pour réduire ces risques. Ça commence par le dialogue.
1:02:59Nous avons besoin d'avantage de transparence, de mesures de confiance et une meilleure compréhension commune de la manière dont le droit international s'applique au développement et à l'utilisation de l'IA.
1:03:09Les travaux importants sont déjà en cours. Le processus [grognement] Rem et la déclaration politique sur l'utilisation militaire responsable de l'IA et l'autonomie ont aidé à faire avancer les débats internationaux sur les utilisations militaires responsables de l'IA. L'ONU rôle essentiel à jouer pour rassembler ces différents efforts.
1:03:28[raclement de gorge] Le conseil de sécurité a également un rôle à jouer non pas pour réguler la technologie et non pas pour faire doublon avec les travaux d'autres organes des Nations-Unies.
1:03:36Notre responsabilité, c'est de comprendre ce que signifie ces technologies pour la paix et la sécurité internationale et d'agir lorsque les conséquences relèvent de notre mandat. Troisièmement, il faut faire face faire face au risque ne doit pas signifier retenir les innovations, les ralentir. Il faut tirer partie des occasions présentées par l'IA tout en mettant en place les gardes de fou nécessaires. Nous ne pouvons pas amener ce débat sans ceux qui développent et utilisent ces technologies.
1:04:06Nous appuyons donc un travail avec le monde universitaire, la société civil, le secteur privé ainsi que les États et l'ONU.
1:04:16Ces travaux doivent être inclusifs, géographiquement représentatif et respecter l'équilibre de gens. Monsieur le président, LIA de plus en plus aura des conséquences sur l'appel à sécurité internationale. Nous ne pouvons pas arrêter les changements technologiques.
1:04:30Ça ne devrait pas être notre objectif, mais nous pouvons œuvrer ensemble pour faire en sorte que les êtres humains restent responsables des décisions qui importent le plus pour la Grèce. Cela signifie conserver le droit international, la responsabilité humaine et laition de compte au cœur de notre approche. Cela signifie également faire en sorte que le conseil continue à être concentré sur sa responsabilité. première le maintien de la paix de la sécurité internationale.
1:04:53La Grèffe continuera à œuvrer avec tous les membres du conseil à cet objectif.
1:04:58Je vous remercie. Remercie son excellence monsieur Demopou de sa déclaration et je donne maintenant la parole à son excellence monsieur Ali Mohamed Amar ministre d'État des affaires étrangères de la Somalie.
1:05:17Monsieur le président, je remercie la France d'avoir organisé ce débat. venant à point nommé. Je remercie également monsieur Balgio, Atman Amadeo et de Langes pour leur précieux exposé.
1:05:29L'intelligence artificielle n'est plus simplement une question technologique de développement, c'est notre réalité d'aujourd'hui. Elle transforme rapidement les sociétés, les économies et notre approche en matière de paix de sécurité.
1:05:44Son rôle dans la cyberopération et des informations pour ce qui est des infrastructures critiques, la prise de décision militaire fait qu'elle relève clairement du mandat des Nations Unies. Nous devons empêcher que l'IA devienne un facteur de conflit tout en appuyant activement son utilisation responsable pour ce qui est des mécanis précoces. Prévention des crises, maintien de la paix, action humanitaire et protection des civils. À cet égard,
1:06:13nous devrions nous inspirer de quatre principes fondamentaux. Premièrement, la responsabilité humaine doit rester absolue. L'IA doit fonctionner strictement dans le cadre du droit international.
1:06:27les objectifs et principes de la charte des Nations- Unies et dans le respect des droits humains de la dignité humaine. Les États ne peuvent pas déléguer le responsabilité juridique, éthique et morale un algorithme. Nous nous félicitons de la déclaration affirmant que l'IA doit rester sous contrôle humain et répondre aux instructions des humains. Ce principe est indispensable pour ce qui est des décisions impliquant l'utilisation de la force.
1:06:56les systèmes d'armes autonomes et les commandements et le contrôle nucléaire.
1:06:59Deuxièmement, la sécurité doit intervenir avant le déploiement.
1:07:05des récents incidents appliquant des incidents IA qui auraient contourné les gardes fous, qui auraient dissimulé leurs actions et qui ont obtenu un accès non autorisé pose une grave question de graves questions concernant le fait de savoir si les contrôles existants peuvent euh suivre le rythme des systèmes autonomes existants.
1:07:29Les entreprises privées contrôlent beaucoup de systèmes. Les stations commerciales ne peuvent pas déterminer les risques que peuvent accepter les êtres humains. Nous appuyons donc euh un signalement d'incident obligatif obligatoire des gardes de fou un audit indépendant des mesures pour attuer les biens algorithmiques et protéger les populations vulnérables.
1:07:54Lorsque l'on va au-delà des seuils convenus, il faut suspendre le déploiement jusqu'à ce que l'on pu puisse gérer les risques de manière fiable. La proposition du secrétaire général d'envisager une institution internationale capable de fixer les normes, permettre à la vérification et de réunir les États lorsque ces seuils ont été franchis méritent d'être examiné attentivement.
1:08:19Troisièmement, la gouvernance doit prendre en compte les vulnérabilités particulières à l'Afrique et garantir un accès équitable.
1:08:30Les infrastructures informatiques limitées, une connectivité non fiable, pénerie et d'expertise spécialisée et des capacités réglementaires fragmentées limite les capacités de nombreux États africains à évaluer les systèmes perfectionnés. Les modèles entraînés sur des données étrangères peuvent mal représenter les langues africaines et les contextes africains alors que les médias synthétique peuvent aggraver les tensions sociales, s'ingérer dans des processus de paix
1:09:00fragile, mettre à mal les élections.
1:09:02L'Afrique ne peut pas rester simplement à marché pour des systèmes élaborés ailleurs, une source de données brutes ou un terrain d'essai pour des technologies qu'elle n'a pas contribué à régir. Nous devons empêcher de nouvelles formes de dépendance technologique et de colonialisme numérique en appuyant des cadres régionaux, en particulier des partenariats avec l'Union africaine et des stratégies
1:09:32telles que l'initiative panafricaine pour l'IA.
1:09:36Les pays en développement ont besoin de coopération internationale ciblée et de financement pour combler le fossé numérique d'infrastructure énergie et de compétences ainsi que des ensembles de données, des outils d'évaluation et euh du potentiel informatique. chaque pays, il était censé de faire en sorte que chaque pays a le droit de développer, choisir, évaluer cette technologie
1:10:04pour notre souverainet numérique nationale et pour la stabilité internationale. l'ONU doit être le principal canal international pour la gouvernance mondiale de l'assomie et appuie des normes internationales reposant sur la légitimité internationale de l'ONU plutôt que des règles fragmentées créées par un petit nombre d'États perfectionnistes technologiquement et de coopération privées qui risquent de renforcer les inégalités existant à l'échelle
1:10:33mondiale. La gouvernance mondiale doit faire respecter une approche centrée sur les personnes qui orient vers le bien-être de l'humanité, le bien commun.
1:10:44Les régions en développement et en particulier l'Afrique doivent être véritablement représentés et avoir voie au chapitre dans ces processus multilatéraux ainsi que les capacités institutionnelles et techniques pour évaluer les systèmes d'IA de manière indépendante plutôt que de dépendre de choix extérieurs.
1:11:08Notre succès ne sera pas mesuré à l'ô de la sophistification de nos déclarations, mais plutôt l' du fait de savoir si nous arrivons à prévenir la première crise lialia l'empêche de devenir le prochain conflit international.
1:11:27Le pouvoir de l'intelligence artificielle n'entraîne pas de résultats inévitable.
1:11:33C'est défini par nos valeurs et nos choix. La technologie progresse rapidement mais notre responsabilité collective doit progresser plus rapidement. Merci de sa déclaration. Et je donne maintenant la parole à son excellence monsieur Ed Milband, ministre des affaires étrangères du Commonwealth et du développement du Royaume-Uni.
1:11:52Merci monsieur le président.
1:11:54Je voudrais vraiment vous remercier d'avoir organisé cette réunion si importante. Je voudrais également officiellement remercier nos orateurs experts qui ont contribué de manière si précieuse à cette réunion.
1:12:09Alors, je crois que nous devrions faire à part en arrière et faire le bilan de ce à quoi nous sommes confrontés en cette réunion du conseil car il y a une technologie qui sans aucun doute a le pouvoir de transformer notre monde en mieux. Je suis certain que nous le voyons tous dans notre vie quotidienne.
1:12:25Nous le voyons dans tous nos pays. Mais aujourd'hui, les fondateurs de cette technologie nous lancent un sombre avertissement.
1:12:35Ils nous disent pas simplement qu'il se réjustent que ces technologies puissent se vraent pour le bien, mais ils nous disent qu'il craignent sa capacité à nuire.
1:12:46Ils nous disent de manière très claire que ils ne peuvent pas être les seuls être responsable d'empêcher que le monde connaisse la catastrophe. Aujourd'hui, je vous dis que nous ne pouvons pas les ignorer car ils ont raison.
1:13:05Car nous ne pouvons pas abdiquer notre responsabilité face à nos concitoyens.
1:13:10Nous ne pouvons pas sous-traiter aux entreprises privées le premier devoir du gouvernement protéger nos populations quels que soient les problèmes. Le conseil de sécurité a été créé pour relever les grands défis collectifs de notre époque. Donc c'est au gouvernement. gouvernement comme beaucoup de nos intervenants l'ont dit aujourd'hui du monde de la technologie nous tous autour de céta devrait
1:13:37ensemble et avec les entreprises pour le bien des populations qui nous ont envoyé ici. Et voilà ce que le roy c'est ce que le gouvernement britannique s'est engagé à faire. Il faut commencer par la sécurité. Ça veut dire faire davantage pour faire en sorte que les modèles IA de pointe soient rigoureusement testés. Il faut créer un système de garde fou pour le développement des modèles pour établir la confiance confiance dans le fait que ces modèles sont sûrs. Deuxièmement, la transparence. Les entreprises qui
1:14:06construisent ces modèles ne peuvent pas être laissé à elle-même. Les gouvernements doivent avoir la visibilité nécessaire pour comprendre et évaluer ce que font les entreprises spécialisées en les principales entreprises de l'IA se sont en fait engagé à fournir cette visibilité et c'est vraiment très important.
1:14:24Et c'est une offre que nous et eux devraient prendre au pied de la lettre. Troisièmement, la résilience. Il faut renforcer nos défenses pour réduire l'impact des incidents provoqués par l'IA. Même si nous testons chaque modèle, nous devons être préparés à ce que l'IA soit utilisé mauvaise écience. Cela inclut renforcer nos cyberdéfenses, protéger les infrastructures critiques et renforcer nos systèmes financiers.
1:14:51Et nous devons aider notre population à gérer les perturbations entre les paroles, à s'y adapter et également à attirer profit des immenses avantages que ça présente. Je l'ai dit, le Royaume-Uni jouera tout son rôle dans ce processus. Nous avons créé la première institut pour la sécurité l'IA qui fait part de son expertise, sa capacité de test et ses recherches et travail de paire avec les États-Unis principaux laboratoires sur la sécurité de comme l'a dit notre premier ministre
1:15:19hier. Le Royaume-Unira au cœur de sa présidence du G20 l'année prochaine.
1:15:27Fais fond sur cet effort, il faut décloisonner entre les gouvernements, les entreprises, le monde de la recherche et la société civile.
1:15:37Utiliser le potentiel de l'IA pour le bien et faire face au risques, que ça soit soit l'avenir des emplois, la protection des enfants, la cybersécurité, la biosécurité, la sécurité nationale, la stabilité financière.
1:15:50[raclement de gorge] Alors que nous efforçons également de nous mettre d'accord sur un ensemble de normes principes commun pour garantir la transparence et l'accès nécessaire pour être mieux préparé pour faire en sorte que le développement de l'IA soit sûr et comme l'a dit l'année préopinant
1:16:11exploiter le potentiel pour le sud global comme pour le nord. Et je voudrais conclure sur ce point. Je pense que de manière générale, il ne s'agit pas d'un choix entre le progrès et la sécurité.
1:16:24Nous pourrons innover et profiter des immenses avantages de l'IA. Nous sommes tous d'accord sur point ici si les personnes peuvent être sûr que les beaux gardes de fou soient en place. Donc ensemble, nous devons prendre toutes les mesures nécessaires afin que l'IA soit sursécurisé, fiable, tout en progressant sur son incroyable potentiel pour la croissance, pour soigner les maladies, pour transformer la vie des gens. Et enfin, je ma conclusion,
1:16:52nous pouvons pas dire que on nous a pas averti. On nous a averti par les personnes qui sont à l'origine de cette incroyable technologie qui a cet immense potentiel de faire le bien. Nous devons agir [grognement] face à leurs avertissements et nous devons le faire ensemble. Je vous remercie son excellence monsieur Miliband de sa déclaration et je donne maintenant la parole à son excellence monsieur Michael Kratzios assistant du président et directeur du bureau de la politique
1:17:21scientifique et technologique de la Maison Blanche des États-Unis.
1:17:28Je remercier sincèrement la République française qui préside le conseil.
1:17:33Chers collègues, merci de me donner une nouvelle occasion de discuter de plus important progrès technologique de notre époque, la super intelligence que l'on appelait autrefois l'IA. Ma première responsabilité, c'est de faire en sorte que les progrès se poursuivent pour la super intelligence. Cela profite à nos citoyens et à leur vie.
1:18:01L'intelligence de pointe progresse rapidement. Ce n'est pas une raison pour stopper son développement ou de le restreindre avec de nouvelles structures mondiales de gouvernance.
1:18:13En tant que leader dans la super intelligence de pointe, nous avons agi pour faire en sorte que nous puissions continuer à progresser de manière sûre et responsable.
1:18:23Nous travaillons avec les laboratoires de pointe pour ce qui est de tester l'évaluation des capacités de nouveaux modèles. Nous avons créé des centres d'échange en matière de cybersécurité.
1:18:33Nous avons précisé les quels sont les outils de maintien de l'ordre disponible pour remédier la mauvaise utilisation de ces technologies. l'international nous sont engagés au faveur de la diplomatie et du dialogue sur la technologie émergente mais le dialogue international en cette enceinte comme en d'autres ne peut pas dériver vers une gouvernance mondiale.
1:18:54Comme l'a dit le président Trump avant la devant l'assemblée généralière, les États-Unis rejettent totalement toute tentative d'édifier un plan mondial pour le contrôle de la superintelligence. Il y a quelques semaines seulement, les ministres deovation du G20 sont parvenus à un consensus sur certains principes. Ils sont convenus que les pays doivent préserver leur souveraineté nationale, leur gouvernance sur les technologies émergentes. Il ne doivent pas les abdiquer de leur responsabilité devant
1:19:22des organes internationaux. Le pe des représentants du peuple américain adopteront des lois, des règlements au nom du peuple américain. Vous devriez faire la même chose pour vos population.
1:19:32Ce n'est que grâce à un écosystème ouvert et coopératif reposant sur l'infrastructure souveraine et sur les capacités nationales que le monde pourra réaliser le potentiel de cette technologie.
1:19:44Les efforts américains internationaux vent à renforcer ses capacités en partageant nos technologies et en fournissant les outils propices à l'adoption de la technologie. Nous voulons que vous nos alliés partenaires partagent des profitent des avantages de cette révolution technologique. Tel est l'objectif de notre programme d'exportation. Les États-Unis sont la seule superpuissance technologique qui est capable et qui souhaite véritablement
1:20:09permettre [gémissement] aux autres pays aers de rechercher des capacités pour la superintelligence.
1:20:18Nous vous aiderons dans ce sens et nous vous aiderons à appliquer les applications, le développement les outils, les capacités dont vous avez besoin au service de vos population.
1:20:27En cette heure, la souveraineté technologique est réalisée par l'adoption de la technologie. Si vous prenez les risques et les avantages de la superintelligence au sérieux, la chose la plus importante que vous puissiez faire, c'est de développer les capacités de votre pays à comprendre et à l'utiliser, le déployer très largement, à constituer l'expertise au sein de vos gouvernements, à préparer vos institutions et vos les responsables de la réglementation, comprendre ce que peuvent faire ces systèmes et ce qu'ils ne peuvent pas faire. Vous ne pouvez pas régir la technologie que vous ne
1:20:56comprenez pas. Cet organe et d'autres doivent mettre l'accent sur le partage des pratiques optimales pour renforcer les capacités nationales et non pas sur le fait de créer un organe de réglementation mondiale. C'est grâce à une politique d'innovation illimitée.
1:21:13[raclement de gorge] Une recherche incessant du progrès que les États-Unis ont été établi le plus important écosystème d'innovation qu'on a jamais connu depuis 250 ans.
1:21:26Les États-Unis ont recherché un équilibre vertu en ligne entre l'innovation, la sûreté, la dépendance de la sécurité, la super intelligence et le dernier de cette longue série de défis et d'occasions. Au service de l'humanité, elle peut devenir le principal moteur de croissance et de prospérité de l'histoire. Un avenir prospire prospère ne sera pas assuré par une réglementation mondiale mais par des pays souverains qui adoptent la superintelligence par des entreprises
1:21:53responsables qui la construisent et par des personnes libres qui refusent d'être régies par la crainte. Je vous remercie.
1:22:01Excellence monsieur Kratos de sa déclaration et je donne maintenant la parole à son excellence monsieur Shak Abdou bin Ali Al Khalifa, sous-secrétaire aux affaires politiques par intérim au ministère des affaires étrangères de Bahrain.
1:22:19Monsieur le président, permettez-moi tout d'abord de remercier sincèrement la République française ami d'avoir organisé cette importante réunion. Je remercie également monsieur Benjo, coprésident du groupe scientifique international indépendant un ministre de l'intelligence artificielle, monsieur Alpman directeur général de Open Monsieur Amoday directeur général
1:22:45d'intropique et monsieur de Long directeur général de Hugging Face. Je les remercie pour leurs précieux exposés.
1:22:54Monsieur le président, discuter des conséquences de l'intelligence artificielle, ce n'est plus une question de simple intérêt intellectuel. C'est devenu une nécessité urgence dictée par la responsabilité du conseil de maintenir la paix à sécurité internationale.
1:23:13Inspiré par ce principe, le royaume du Bahrain souligné dans la déclaration prononcée par son royale le prince Alman Benman Alifa, prince héritier et premier ministre lors de la 79e session de l'assemblée générale et ainsi donc sur l'importance qu'il y avait à conclure un traité international pour régir le développement de l'intelligence artificielle et faire en sorte qu'elle soit une force pour l'innovation et non pour la destruction.
1:23:40Dans le cadre de cette approche, le Barin a récemment eu l'honneur de coorganiser un dialogue interactif avec la France la létonie sur l'utilisation de ces technologies pour le règlement des conflits. Monsieur le président, nous soulignons que l'évolution rapide de l'intelligence artificielle étant la portée des menaces en matière de sécurité, notamment lorsque ces technologies sont exploitées par des terroristes et des groupes criminels.
1:24:07que l'autonomie de ces systèmes augmente, nous soulignons qu'il faut préserver le contrôle humain, la responsabilité humaine au cœur des décisions qui ont de graves incidences sécuritaires. Il faut faire en sorte qu'elle respecte pleinement le droit international et le droit international humanitaire.
1:24:26Contrairement aux alor aux algorithmes automatisés, seuls les humains font preuve de raison, responsabilité, conscience et peuvent comprendre les complexes les contextes complexes. Par ailleurs, nous ne devons pas ignorer les immenses possibilités que présente l'intelligence artificielle pour renforcer les systèmes d'alerte précoce, suivre des indicateurs de tension, appuyer les efforts de médiation et améliorer l'efficacité des opérations de maintien de la paix. De plus, il faut
1:24:55combler le fossé numérique et faciliter les transferts de technologie pour faire en sorte que tous les pays puissent profiter de ses capacités. Pour conclure, le conseil de sécurité doit organiser des débats plus réguliers systématiques sur l'intelligence artificielle. Ces débats doivent compléter les efforts plus larges des Nations Unies pour créer des cadres pour le développement et le test de ces modèles conformément au droit international.
1:25:23Nous sommes prêts à contribuer au progrès de ces débats pour établir une approche internationale responsable équilibrée qui met l'humain au cœur de la prise de décision qui fait en sorte que les innovations que nous créons aujourd'hui continuent à être au service de la paix que nous voulons tous maintenir au conseil. Je vous remercie monsieur le président. Je remercie son
1:25:51excellence à Khalifa de sa déclaration et je donne la parole au représentant de la LTON.
1:26:00Merci monsieur le président et je souhaite d'abord remercier la présidence française d'avoir convoqué cette réunion sur un sujet d'importance et d'urgence majeure pour la sécurité internationale.
1:26:13Je remercie les intervenants, le professeur derrière Clément de pour leurs précieuses analyses et pour leur proposition pour un développement sûr de l'IA.
1:26:27Monsieur le président, le rythme rapide de développement de l'IA a déjà un profond impact dans tous les domaines, y compris la paix de sécurité internationale.
1:26:39Outre les occasions extraordinaires que présente l'IA, nous constatons également des risques croissants qui se manifestent en temps de paix comme en cadre de conflit.
1:26:51Le moment est venu pour l'action collective comme on le dit aujourd'hui et comme le dit l'appel pour le contrôle des modèles il y a de pointes lancé par la Norvège et la Finlande plus et lancé par 22 dirigeants mondiux compris le président de la Lonie. Nous estimons que le conseil de sécurité a la responsabilité de faire en sorte que les conséquences de l'IA pour la paix, la sécurité internationale soit
1:27:19pleinement prises en compte sans créer de doublons avec les travaux entrepris dans d'autres enceintes bien sûr, mais les débats d'aujourd'hui démontrent la capacité du conseil à réunir les États membres, les représentants du monde de la science et l'industrie pour traiter de cette question urgente. Monsieur le président, deux sources différentes de risques liées à LAA pour l'appel sécurité sont en train de devenir évidentes. Les deux exigent notre attention. Il y a tout d'abord les risques d'écoulant de l'utilisation maestation de l'IA par des
1:27:49acteurs étatiques comme non étatique.
1:27:52Ça inclut l'application de l'IA pour des civités malintentionnées. La manipulation de la formation même des tentatives d'atterrir des capacités destructrices telles que des armes biologiques. Deuxièmement, un défi plus nouveau et plus complexe comme l'ont dit nos intervenants. Les rapports récents découlent de la technologie elle-même tel que le désalignement et le risque de perte de contrôle de tels comportements à risque sont la source de nouvelles formes de
1:28:21vulnérabilité, y compris pour les infrastructures critiques. Ce qui est alarmant, c'est que de récents incidents montrent que non seulement les systèmes I peuvent agir de manière contraire aux intentions aux intérêts humains, mais qu'il savent maintenant de mieux en mieux manipuler et tromper les humains se faisant.
1:28:41Ces défis ne sont pas une question isolée. Ils ajoutent au panorama déjà complexe en mur de paix de sécurité internationale les actes d'A des alignés peuvent alimenter encore des tensions les heures de calcul en raison de la difficulté de les suivre de les vérifier de les attribuer. L'utilisation croissante de l'IA et des systèmes autonomes dans le domaine militaire représente le dilemme supplémentaire en particulier qu l'intersection entre les risques en matière de fiabilité et de contrôle et de risque d'escalade. Monsieur le
1:29:11président, une action responsable commence au niveau du secteur économique mais également avec la gouvernance des gardes fous clair des institutions compétentes.
1:29:20Une approche multipartite est essentielle pour gérer les risques et établir la confiance dans l'IA grâce à la transparence et à l'application princi de responsabilité grâce à la création de protocole de sécurité adéquat pour le développement l'utilisation du système d' grâce à une évaluation indépendante en reliant les mandats du gouvernement l'expertise économique la société civile et l'innovation des secteurs économiqu pour tout celoop internationale.
1:29:51la fixation des normes, les changes de pratique optimale, tout ça est essentiel pour combler les fossés et promouvoir l'interopérabilité.
1:29:59L'organisation du dialogue mondial de Nations Unies sur la gouvernement Zelia et la création du groupe scientifique indépendant sur des pas importants.
1:30:10Nos efforts à l'avenir devraient maintenir le rythme du développement des technologies de lia de pointe. Il nous faut une approche ouverte de la part des membres des Nations- Unies pour faire fond sur les mécanismes internationaux actuels et en envisager de nouveau. L'objectif devrait être de faire en sorte que la technologie soutervice de population préserve leur droit de liberté fondamentale et apporte des avantages qui ne se font pas au dépend de risque
1:30:38incontrôlables. S'il y a une chose que sur laquelle nous devrions nous mettre d'accord, c'est que l'IA doit rester sous contrôle humain, la direction humaine, sous la supervision humaine.
1:30:47Monsieur le président, étant donné son rôle dans le maintien d'appel de la sécurité internationale, le conseil doit rester activement saisi de l'évaluation des conséquences de l'IA pour l'appel et sécurité internationale.
1:30:59Cette technologie est en train de devenir de plus en plus pertinente dans les travaux du conseil, dans le domaine de la prévention et du règlement des conflits. Et donc, il nous faut une approche proactive. faisant fond sur le rent dialogue interactif informel du conseil sur l'IA organisé par la Léthonie et la France ainsi que le Barrain et la Grèce. Nous nous engageons à prendre de nouvelles mesures concrètes. Par exemple, créer un groupe d'experts informels du conseil qui permettrait au conseil d'avoir une
1:31:28analyse plus approfondie sur les impacts des technologies d'alia sur l'appel à sécurité internationale et la mise en œuvre des mandats du conseil dans des domaines dans différ nous continuerons avec les partenaires intéressés au conseil dans les mois à venir. Je vous remercie.
1:31:45Je remercie la représentante permanente de la lonie de sa déclaration. Je donne la parole à présent au représentant permanent de la Colombie.
1:31:55Merci monsieur le président.
1:32:00La Colombie considère que nous ne discutons pas ici les bénéfices de l'intelligence artificielle.
1:32:11Ce que l'on discusse aujourd'hui, c'est vraiment les risques, les risques incontournables, incontrôlable, inéluctable et en toute évidence après les reports qu'on a écouté le risque pour la humanité.
1:32:32Président, Monsieur le président, nous ne pouvons pas simplement ignorer les rapports dont il a été fait état.
1:32:43C'est la première fois que le conseil de sécurité a entendu des incidents décrivant des crimes commis par les machines. Il ne s'agit pas simplement d'une simple erreur.
1:33:09Il y a une grande partie de la planète qui ne comprend pas ce qui s'est passé et il y a des infrastructures euh critiques, des systèmes de cybersécurité qui peuvent être exposés. Et si vous examinez les incidents qui ont été mentionnés aujourd'hui, vous constaterez que on peut parler de crime si ce type d'incident intervenait au niveau des États et ça peut arriver.
1:33:35Le deuxième élément à prendre en considération qui suscite encore davantage de préoccupation, c'est que nous n'avons pas examiner cette question de manière correcte. Le postulat n'est pas bon.
1:33:51La Colombie ne pense pas que la question est de savoir ici s'il faut limiter l'innovation humaine mais plutôt l'innovation par la machine.
1:34:02Permettez-moi de m'expliquer.
1:34:07Différents rapports ont fait état que nous sommes exposés à deux risques. Il y a le risque de des alignements et ensuite le risque de contrôle.
1:34:18Pour le premier, la machine trouve un moyen de tricher, de ne pas respecter les instructions qui lui ont été données par l'humain.
1:34:32Donc je parle ici d'un agent d'intelligence artificielle qui est en mesure de faire cela de manière répétée, systématique.
1:34:40Et jusqu'à présent, même dans les cas de cybersécurité que nous avons analysé, ces agents ont été en mesure de trouver un accès à l'internet.
1:34:52Parfois, ils ont même été en mesure de trouver des mot de passe, des milliers de messages, y compris des entreprises qui testaient ces modèles. Mais l'autre élément qui devrait vraiment susciter davantage de préoccupation est celui de la perte de contrôle.
1:35:15Donc nous voudrions réfléchir avec vous à cette question. Aujourd'hui, on entend que les capacités en matière d'analyse d'information sont énormes, en matière de stockage et d'analyse qui dépasse largement les capacités humaines. Nous savons aujourd'hui que la conception même des algorithmes
1:35:46permettent des capacités d'un différents types de raisonnement de plus en plus complexes interdisciplinaire.
1:35:57très souvent, très bientôt, pardon, aucun humain ne sera en mesure de suivre le fonctionnement, le développement de ce que nous sommes en train de créer.
1:36:09Au cours des premiers jours de ce type de modèle, euh on a constaté que après 3 mois, euh l'a était capable de réussir l'examen du barreau. Nous savons que des humains sont capables de faire cela aussi. Mais aujourd'hui, au stade d'évolution de la technologie, nous sommes face à une situation tout à fait différente.
1:36:40Nous devons être conscients des risques auxquels nous sommes exposés.
1:36:49La question essentielle ici en tant que conseil de sécurité et de savoir ce que nous devons réglementer, pourquoi nous devons réglementer. La Colombie comprend la position des États-Unis qu'elle partage partiellement. C'est une approche pragmatique.
1:37:19Tout organe international qui se verrait confier le contrôle de l'élaboration de l'IA, ce n'est pas envisageable pour deux raisons. Tout d'abord, il y a des questions constitutionnelles de sécurité nationale dans chaque pays et donc la barre juridique sera difficilement passée. Et deuxièmement,
1:37:39si un pays surtout un des pays qui sont à la pointe n'y participe pas pour le reste de l'humanité, pour ceux qui sont à la traî, la question sera de savoir alors ce qu'il faudra faire.
1:37:59Peut-être que mon pays peut proposer une approche différente.
1:38:04Il ne s'agit pas d'un choix inéluctable entre la sécurité et le développement, mais peut-être plutôt d'une manière de veiller à ce que tous les humains
1:38:19de la planète pourront partager et adapter s'adapter parce que dans le sud global lorsque l'on parle d'adaptation, on comprend achat d'un produit vie parce que nous n'allons pas produire ces modèles.
1:38:39Et une fois qu'on a adapté produit, on peut adapter nos structure, nos infrastructures, ce qui est partiellement vrai, mais beaucoup de ces infrastructures sont confrontées à à à des fossées, à des écarts par rapport aux autres pays si on ne prend pas part à la production même de l'intelligence artificielle, c'est un problème de taille pour le sud.
1:39:04Nous ne pensons pas que en adaptant simplement nos infrastructures, en les rendant plus sûr, nous allons pouvoir régler les problèmes latéraux.
1:39:22J'en reviens à un autre point. On pourrait être confronté à la perte de millions d'emplois, y compris dans les pays développés. On on voit comment l'IA rédige son propre code
1:39:39et c'est peut-être ici qu'il faudrait envisager une réglementation parce que personne ne remet en cause le fait que l'intelligence artificielle soit bénéfique à la recherche au développement aux technologies à au communication pour trouver des remèdes à des maladies et cetera les avantages sont bien connus et nous Nous n'essayons pas d'y mettre un frein, mais il semble que nous arrivons à une nouvelle étape et les États-Unis ont
1:40:07raison. Il s'agit d'une super intelligence pour une raison particulière.
1:40:15Nous allons franchir une étape où des technologies plus complexes, des technologies quantiques vont booster l'intelligence artificielle, leur conception, les différents modèles, le développement de ces technologies.
1:40:31Le risque auquel nous sommes confrontés aujourd'hui sur lequel je voudrais attirer l'attention du conseil est un risque précéquantique avant que nous atteignons cette étape dont nous sommes très proches.
1:40:47ce qui nous préoccupe et c'est pour ça que nous proposons une approche différente que d'un organe de contrôle international.
1:40:58Nous sommes préoccupés au sein du conseil de sécurité parce que cette technologie peut potentiellement créer des perturbations, créer davantage d'inégalité dans la planète, susciter de la violence, mais il va également y avoir des écarts de développement qui vont donner lieu à d'autres types de conflits avec des problèmes de migration au niveau mondial et cetera.
1:41:24Et donc nous vous proposons une idée. On pourrait réfléchir à cela.
1:41:38la conception autonome et le développement autonome. C'est vraiment l'enjeu ici.
1:41:44Si nous devions permettre à des agents d'IA de franchir les prochaines étapes et les expériences, les différents cas qui nous ont été présentés montrent que cela arrive et il y a eu des publications, il y a beaucoup d'articles qui sont pardus dans la presse qui montrent que ces machines trouvent toujours un moyen de contourner l'humain.
1:42:17Une fois que nous ne comprenons plus ce que fait la machine, c'est le risque absolu. Lorsqu'on va passer à la super intelligence et que les humains n'auront plus ses capacités, on partira du principe que on contrôle quelque chose alors qu'on ne peut pas comprendre cette chose.
1:42:41Et j'ai bien écouté les différentes interventions aujourd'hui.
1:42:47Nous voulons garantir que cette technologie reste humaine, mais le cerveau humain doit comprendre les informations qui lui sont fournies pour pouvoir prendre une décision.
1:43:01Mais très prochainement, cette étape nous allons la dépasser étant donné la manière dont la technologie est développée.
1:43:22Je sais que ça va susciter des problèmes en terme de législation, de réglementation, mais il s'agit véritablement d'une étape supplémentaire.
1:43:35Si la machine est aux commande au moment de la conception, donc les différentes méthodes mais également les résultat très prochainement il ne s'agira plus d'un problème lié à l'objectif pouvant être atteint.
1:43:57Aujourd'hui, la machine se voit fixer un objectif et doit trouver des moyens d'y parvenir.
1:44:04Et elle trouve des moyens qui ne lui ont pas été renseignés par l'humain et donc elle triche pour parvenir à cet objectif.
1:44:15C'est une source de préoccupation bien sûr, c'est un problème de désalignement mais il y a un autre aspect.
1:44:24souvent très bientôt pardon et monsieur Samtman a signalé ce risque le développement autonome de l'intelligence artificielle ce que la ça signifie c'est que c'est la machine qui écrit son code qui trouve des solutions et encore une fois je parle de l'air précéantique et donc il serait naïf de dire que nous serons en mesure de
1:44:54réglementer quelque chose que très bientôt nous ne comprendons plus. Et c'est la raison pour laquelle nous en sommes au moment de l'histoire où toutes les nations doivent se rassembler autour d'un objectif commun.
1:45:09Maintenant le caractère humain de cette technologie. Nous devrions convenir du fait que nous sommes favorables au développement. On peut même se mettre d'accord sur un certain niveau de contrôle. Il faut prendre en considération les préoccupations en matière de souveraineté, prendre en considération les préoccupations des nations qui font beaucoup en matière d'innovation. Mais pour le reste de l'humanité, il faut
1:45:37garantir jusqu'ù on peut aller.
1:45:43Et on ne parle pas ici de question éthique et on ne parle pas de droits humains, même si certains pays estiment que nous devrions le faire. Non, c'est véritablement ça la prochaine étape.
1:45:53Allons-nous permettre aux machines de concevoir leur propre IA et nous y sommes déjà.
1:46:02et c'est sans doute l'élément le plus important.
1:46:06décidons moins de cette question.
1:46:10Car dans la pratique, monsieur le président, pour beaucoup d'autres pays et particulièrement les pays d'Amérique latine, concrètement cela signifie un risque pour la production nationale pour des pays qui ne produisent pas d'intelligence artificielle, des pays qu'on invite à acheter l'intelligence artificielle, à investir dans l'IA.
1:46:39Et c'est sans doute la voix la plus logique pour moderniser chaque pays, la voix la plus sûre. Mais en fin de compte, la question que j'ai posée reste valable si on n' pas euh on a on a des réglementations pour tout pour la production de pneus pour il n'explose pas euh pour la production des voitures.
1:47:08On a des réglementations pour les armes nucléaires, mais le progrès scientifique continue.
1:47:23On a vérifié que le temps ne passe pas de manière égale dans différents endroits grâce à la théorie de la relativité d'Instein.
1:47:32question de perception, on a changé une formule avec une vitesse constante où on incluait la gravité dans une formule et on l'incluait pas dans une autre. C'est sans doute une des réalisations les plus importantes du 20e siècle. En ça, il y aurait même pas de GPS. Mais il y a une caractéristique commune à l'ensemble de ces cas, y compris pour la production des armes nucléaires. Les humains ont toujours été aux commandes.
1:47:58Les humains comprenaient les risques.
1:48:01Ils savaient ce qu'ils faisaient. Ils savaient ce qu'ils étaient en train de produire. Et c'est pour ça qu'ils ont opté pour des réglementations.
1:48:09La préoccupation de pays telle que la Colombie n'est pas le progrès scientifique. La Colombie est favorable aux investissements dans l'intelligence artificielle. Nous voulons des centres de données dans nos pays.
1:48:27Nous, nous sommes des alliés stratégiques, notamment des États-Unis pour la production scientifique. Nous voulons participer à cet exercice pas uniquement du côté de la consommation, mais du côté de la production de l'intelligence artificielle notamment en fournissant des terrares. Mais il y a une préoccupation qui va au-delà des intérêts bilatéraux, commerciaux, nationaux. C'est l'intérêt même de l'humanité.
1:48:53Au-delà de notre propre génération et au-delà de notre présence ici au conseil de sécurité, nous devons nous poser cette question.
1:49:11Nous créons un précédent qui aux yeux de la Colombie semble délicat. Nous avons réglementé les armes nucléaires, nous avons réglementé la production euh des pneus. Euh nous avons des réglementations en matière de construction, tout ce qui peut mettre en danger la vie des personnes. Pourquoi n'allons-nous pas réglementer quelque chose que nous ne pourrons pas comprendre très bientôt ?
1:49:39Ça n'a aucun sens.
1:49:43La superintelligence, c'est non seulement la capacité de s'en doter grâce au progrès scientifique, mais la capacité de l'utiliser et de savoir comment l'utiliser quand nous ne serons plus au même niveau.
1:49:57Je remercie le représentant permanent de la Colombie de sa déclaration.
1:50:01J'aurais donné la parole à présent à son excellence madame Thérèse Fagner, ministre des affaires étrangères de la coopération internationale de la francophonie de la République démocratique du Congo.
1:50:10Merci beaucoup monsieur le président.
1:50:12Excellence mesdames et messieurs, la République démocratique du Congo remercie la France ainsi que son excellence monsieur Jean Noël Barreau, ministre de l'Europe et des affaires étrangères pour avoir convoqué et présidé cette importante réunion. Je remercie également les intervenants pour leur contribution à notre réflexion collective. Notre débat intervient à un moment charnière. L'intelligence artificielle n'est plus seulement une question de progrès scientifique ou de compétitivité économique. Par la rapidité de son développement, par
1:50:41l'étendue de ses applications et par son intégration croissante dans les infrastructures critiques et les systèmes de prise de décision, elle soulève désormais des questions qui touchent directement à la paix et à la sécurité internationale. Cette réalité nous impose une responsabilité, celle d'anticiper les risques sans entraver l'innovation, celle de préserver les bénéfices du projet progrès technologique tout en empêchant qu'il ne devienne un facteur supplémentaire d'instabilité, de vulnérabilité ou de
1:51:11conflit. Les Nations- Unies ont commencé à construire les bases de cette réflexion. Les travaux engagés par l'assemblée générale sur une intelligence artificielle sûre, sécurisée et digne de confiance, la mise en place du groupe scientifique international indépendant sur l'intelligence artificielle et du dialogue mondial sur sa gouvernance ainsi que les travaux du conseil de sécurité sur les implications des avancées scientifiques et technologiques pour la paix et la sécurité internationale constituent des jalons importants. Il nous appartient désormais
1:51:40d'aller plus loin, de l'anticipation vers la prévention et de la prévention vers une coopération internationale à la hauteur des transformation en cours.
1:51:48Monsieur le président, les risques auxquels nous sommes confrontés sont multiples. Des systèmes de plus en plus performants et autonomes peuvent créer de nouvelles vulnérabilités pour les infrastructures critiques et les processus de décision. Leur utilisation dans les contextes militaires et sécuritaires soulève des questions fondamentales de responsabilité, de de prévisibilité et de contrôle humain.
1:52:12Nous devons également rester attentif au comportement imprévus de certains systèmes, aux possibilités de contour contournement des dispositifs de sécurité ainsi qu'aux difficultés croissantes que peuvent rencontrer les États pour comprendre, évaluer et encadrer les technologies dont les capacités évoluent à une vitesse sans précédent. Ces enjeux prennent une dimension particulièrement concrète dans les situations de conflit. En République démocratique du Congo, comme dans d'autres théâtres de crise, les
1:52:42technologies de surveillance et les drones occupent déjà une place croissante dans l'environnement opérationnel.
1:52:48Ces technologies peuvent contribuer à la reconnaissance, à l'observation et au suivi de cesser le feu. Elles peuvent également être détournées à des fins de reconnaissance militaire, de coordination, de désinformation et de propagande. Cette ambivalence nous rappelle une vérité essentielle. Aucune technologie n'est par elle-même un instrument de paix ou un instrument de conflit. C'est le cadre dans lequel elle est conçue, déployée et gouverner qui détermine largement son impact. C'est pourquoi la responsabilité doit demeurer
1:53:17au cœur de notre réflexion. Les États ont la responsabilité d'établir des cadres juridiques appropriés, d'assurer une supervision effective et de prévenir les risques susceptible d'affecter la paix et la sécurité internationale.
1:53:31Les entreprises technologiques doivent elles aussi assumer pleinement leur part de responsabilité, notamment à travers l'évaluation des risques avant le déploiement, la notification des incidents, la traçabilité, la transparence et le maintien d'une supervision humaine appropriée.
1:53:48La communauté scientifique et la société civile doivent également pouvoir apporter leur expertise indépendante et contribuer à l'évaluation critique des risques. Mais les réponses nationales, aussi nécessaires soit-elles, ne sauraient suffire. L'interdépendance technologique appelle à une responsabilité partagée. Elle exige une coopération internationale plus étroite, fondée notamment sur l'échange d'information relative aux incidents graves et aux vulnérabilités détectées.
1:54:15La coopération en matière d'évaluation et de test de sûreté. ainsi que l'établissement de canaux de communication entre gouvernement scientifiques et acteurs technologiques.
1:54:25Monsieur le président, pour la République démocratique du Congo, cette coopération doit également répondre à une exigence fondamentale, l'inclusion.
1:54:34Les pays en développement ne peuvent être réduits au rôle de simple utilisateur de technologies conçues ailleurs, pas plus qu'il ne devrait être de simples destinataires de normes à l'élaboration desquelles il n'aurait pas suffisamment participé.
1:54:48Ils doivent disposer des capacités scientifiques, techniques, institutionnelles leur permettant d'évaluer les technologies auxquelles leur population et leur économies sont exposées, de participer à leur gouvernance et surtout de contribuer eux-mêmes à l'innovation. Cette exigence d'inclusion nous conduit à regarder l'intelligence artificielle dans l'ensemble de sa chaîne de valeur. Car la révolution de l'intelligence artificielle, malgré son apparence immatérielle, repose sur des réalités
1:55:16profondément matérielles, des infrastructures, de l'énergie, des capacités industrielles et des ressources naturelles stratégiques.
1:55:24Cette dimension revit une importance particulière pour la République démocratique du Congo. Lors de sa présidence du Conseil de sécurité en juillet dernier, mon pays a invité le Conseil à engager une réflexion sur la manière dont une gouvernance responsable, transparente et équitable des ressources naturelles peut contribuer à la prévention des conflits, à la sécurité des chaînes d'approvisionnement et l'émergence d'une prospérité partagée. La révolution de l'intelligence artificielle donne à cette réflexion une pertinence
1:55:55Nous devons veiller à ce que les transformations technologiques du 21e siècle ne reproduisent pas les déséquilibres économiques des décennies précédente. Des pays qui fournissent les ressources ressources essentielles à l'économie mondiale tandis que la transformation, la technologie et l'essentiel de la valeur ajoutée se concentre ailleurs. La sécurité des chaînes d'approvisionnement ne saurait être durablement dissociée de la prospérité des populations qui se trouvent à leur origine. C'est pourquoi
1:56:24la gouvernance de l'intelligence artificielle doit également être pensée dans une logique de responsabilité partagée. Responsabilité dans la conception des systèmes, responsabilité dans leurs usages, responsabilité dans les chaînes de valeur qui rendent leur développement possible, mais également responsabilité dans la répartition des bénéfices du progrès technologique. Pour la République démocratique du Congo, l'enjeu est clair. Les ressources qui contribuent à rendre possible la révolution numérique doivent également
1:56:53contribuer au développement, à la transformation économique, à l'industrialisation et au renforcement des capacités technologiques des pays qui les produisent. Il ne s'agit pas seulement d'une question de développement, il s'agit aussi d'une question de paix. Lorsque les chaînes de valeur sont opaques, lorsque les bénéfices sont inéquitablement répartis, lorsque les communautés productrices demeurent exclu de la prospérité générée par leurs propres ressources, les vulnérabilités économiques peuvent
1:57:21nourrir les tensions et les économies de conflit. À l'inverse, lorsque les ressources sont gouvernées de manière responsable, lorsque la transformation locale crée des emplois et des perspectives, lorsque les populations participent effectivement au bénéfice de la croissance, les chaînes d'approvisionnement peuvent devenir non seulement plus sûres et plus résilientes, mais également des chaînes de prospérité partagée. Monsieur le président, c'est précisément ici que le conseil de sécurité peut apporter une valeur ajoutée. Il ne lui appartient pas
1:57:50de se substituer aux enceintes compétentes pour élaborer l'ensemble des règles techniques relatives à l'intelligence artificielle.
1:57:59Mais il lui appartient pleinement d'anticiper les risques susceptibles d'affecter la paix et la sécurité internationale, d'examiner la manière dont les nouvelles technologies transforment les dynamiques de conflit de protéger les civils, d'encourager les mesures de confiance et de veiller à ce que les transformations technologiques ne créent pas de nouvelles vulnérabilités susceptible d'alimenter l'instabilité. Notre objectif ne doit donc pas être de choisir entre innovation et sécurité, pas plus qu'il
1:58:27ne devrait être de choisir entre ressources naturelles et développement.
1:58:31Notre responsabilité est de gouverner le progrès afin qu'il serve l'être humain.
1:58:37En juillet dernier, sous la présidence de la République démocratique du Congo, notre conseil s'est interrogé sur la manière de transformer les ressources naturelles trop souvent associées aux économies de conflit en instruments de paix, de coopération et de prospérité partagée. La révolution de l'intelligence artificielle nous confronte aujourd'hui sous une autre forme à une interrogation comparable.
1:58:57Comment faire en sorte que le progrès technologique réduise les fractures plutôt qu'il ne les approfondisse ?
1:59:04Comment faire en sorte qu'il renforce les capacités des États plutôt qu'il ne crée de nouvelles dépendances ? Comment faire en sorte enfin que les chaînes de valeur qui soutiennent cette révolution contribuent à la paix et à la prospérité des sociétés qui les rendent possible ?
1:59:21Pour la République démocratique du Congo, la réponse doit reposer sur trois principes : la responsabilité partagée, l'inclusion et la prospérité partagée. À mesure que les capacités de l'intelligence artificielle progressent, notre capacité collective à les gouverner doit progresser avec elle.
1:59:38Caril s'agisse de ressources naturelles ou de l'intelligence artificielle, la question fondamentale demeure la même.
1:59:45Non pas seulement ce que nos ressources et nos technologies nous permettent de faire, mais ce que nous décidons collectivement d'en faire. C'est là que commence notre responsabilité commune.
1:59:57Je remercie son excellence madame Kamba Wagner de sa déclaration et je passe la parole à présent au représentant permanent de la Chine.
2:00:12Merci monsieur le président. Je remercie la France d'avoir organisé cette réunion. Je remercie les intervenants pour leurs exposés. L'intelligence artificielle LIA est un moteur important de nouvelles révolution technologique transformation industrielle et apporte d'immenses avantages à l'humanité pour sa vie pour ses activités productives tout en créant de nouveaux problèmes nouveaux risques pour la paix sécurité internationale et comb la communauté internationale devrait plus étroitement ensemble d'accorder la même importance
2:00:41au développement et la sécurité et de pousser le développement de l'IA vers le bien de l'humanité contribuant ainsi à la paix du monde, la sécurité, le développement et la prospérité. J'aimerais évoquer les points suivants. Premièrement, le respect de la souveraineté numérique pour des avantages mutuels. Alors que les technologies LIA sont profondement intégrées dans les chaînes de production et d'acheminement mondial et les réseaux d'innovation,
2:01:09tous les pays ont le droit de manière indépendante de choisir le technologie, leur produit, leur servic en répondant à leurs besoins au principe de leur marché.
2:01:25Créer une clique égoïste nous contre eux dans le secteur privé, forcer les pays à choisir leur camp revient à politiser et privatiser les questions technologiques au service de la tentative de certaines grandes puissances visant à préserver leur avance technologique grâce au monopole dans la recherche des hégémonies numériques. Cela non seulement entrave les propriét technologiques du monde au détriment des droits au développement des intérêts de tous les pays compris les petits pays mais cela augmente également les risques de fragmentation des normes technologiques, les risques
2:01:55d'incompatibilité le système ce qui met gravement en danger le secrétaire national. Nous appelons tous les pays à renforcer leurs échanges et la coopération à promouvoir des écosystèmes ouverts en accès direct ensemble au progrès scientifique et technologique. Deuxième point, il faut renforcer les connaissances des risques, faire en sorte que l'IA soit sûr et contrôlable.
2:02:18Tous les pays doivent respecter une philosophie accès sur la personne pour que la recherche développement des applications matière d'IA soit conforme au principes objectifs de la char des Nations Unies et au droits international applicables ainsi que les valeurs communes de l'humanité et l'éthique sociale. En réponse au risque inérant secondaire représenté par l'IA, il faut constamment améliorer les cadres réglementaires.
2:02:46La réponse d'urgence et les mécanismes de coopération transfrontalière lutté contre la lut de l'IA par les conditions terroristes, les forces extrémistes et les groupes criminels transnationaux.
2:03:01Les entreprises notamment les gens de la TEC doivent s'acquitter de la responsabilité social, lutter contre la désinformation, les discours de haine et accepter la réglementation de la loi et du public.
2:03:15Pour ce qui est de l'application de l'IA dans le domaine militaire, tous les pays doivent adopter une approche présente responsable et veut éviter les heures de calcul stratégique et la course aux armements s'opposé à l'utilisation des armes de ces armes pour des attaques aveugles ou des frappes délibérées contre les civils et les installations civiles et faire en sorte que la décision dernier ressort continue à être prise par les êtres humains. Troisièmement, il faut encourager l'IA pour le bien et renforcer l'autonomisation
2:03:45technologique. L'IA présente de nombreuses possibilités pour relever les défis mondiaux, notamment sur notre au changement climatique, l'amélioration de la sécurité, la santé publique, la transition énergétique et les catastrophes naturelles. La communauté internationale doit saisir cette occasion historique, appuyer l'autonomisation de tous les secteurs des technologies IA et fournir des orientations pour les progrès technologiques afin qu'ils amènent des améliorations dans le
2:04:14bien-être public. Nous nous félicitons des efforts de l'ONU afin d'utiliser au mieux les ressources existantes et d'appliquer la technologie d'IA pour améliorer la qualité d'efficacité de son travail, ce qui fournit des services plus souples aux Étatsmembres. Même les missions sur le terrain avec le consentement des gouvernements hautes et conformément à leur mandat respectif peuvent utiliser les technologies li correctement pour renforcer leur connaissance de la situation, l'analyse de l'information alerte précoce et les capacités de répè
2:04:43promouvoir l'équité et l'inclusion et améliorer la gouvernance mondiale. a est un bien commun de toute l'humanité et ne doit pas devenir le bien exclusif des pays riches et des peuples riches. Il faut éviter que la fracture numérique est grave la fracture matière de développement. Il faut renforcer le soutien pour le sud global.
2:05:08Il faut aider les populisations de tous les pays à profiter des progrès technologiques et les rendre plus résilients face au risque sécuritaire.
2:05:16Nous devons pratiquer le vrai multilatéralisme.
2:05:20Soutenir l'ONU qui est le principal instance de gouvernance mondiale et donner au pays davantage de représentation pour qu'il se fasse mieux entendre. Pour respecter la diversité des civilisations, les caractères unique de la culture de chaque pays, nous devrions renforcer l'alignement et la coordination s'agissant des stratégies de développement de l'IA, de gouvernance, les règles, les normes techniques et qu'il faut édifier à cadre de gouvernance mondiale consensuel rapidement
2:05:48pour établir des gardes de foot institutionnels qui préservent la paix et la sécurité internationale. Monsieur le président, la Chine est un important praticien des innovations matière d'IA et de son développement. Nous contribuons activement à la gouvernance mondiale.
2:06:02Depuis que le président Ginp a lancé l'initiative mondiale pour la gouvernance de l'IA, la Chine a aidé l'assemblée générale des Nations unies à adopter par consus la résolution sur le renforcement la coopération internationale pour ce renforcement des capacités de l'intelligence artificielle. Nous avons présenté le plan d'action pour l'enfacité lié pour le bien et pour tous et une de compassion interation à plus. En juillet, le président Sugin Pin a
2:06:30annoncé la conférence mondiale sur l'IA que dans les 5 prochaines années, la Chine fournirait 5000 occasions de formation lial et séminaires pour les pays en développement et que nos établiront des centres de coopération pour les applications de li pour la CAN, la ligue arabe, l'Union africaine, la Selac, l'organisation de coopération de Shanghaï et les bricks.
2:06:56et nous promouvrions l'application de système d'alerte méthodologique IA appelé MATSU dans 13 pays.
2:07:06Initiative proposée par la Chine en réponse au défi [raclement de gorge] de notre temps.
2:07:12L'organisation de coopération mondiale pour l'intelligence artificielle a été fraudée à Shanghai.
2:07:18C'est la toute première organisation internationale consacrée à l'IA. Nous serons heureux que davantage des pays rejoignent cette plateforme ouverte.
2:07:26Nous serons heureux de avec tous les pays pour édifier un système juste équitable pour la gouvernance mondiale de l'IA. Ensemble, nous créerons un avenir radio pour l'humanité. Merci de la Chine de sa déclaration. Je donne la parole à présent au représentants de la Fédération de Russie.
2:07:46Monsieur le président, nous remercions les intervenants pour leur contribution au débat.
2:07:51L'intelligence artificielle aujourd'hui est un thème plutôt à la mode et personne dans le monde n'y est indifférent. C'est devenu le thème de débat dans divers enceintes politiques et d'experts. Le conseil de sécurité n'y fait pas exception. Cependant, cet organe de l'ONU a bien sûr ses limites.
2:08:09Premièrement, il est difficile de comprendre comment le sujet générique de l'intelligence artificielle est lié au mandat du conseil de sécurité strictement prescrit par l'achat des Nations Unies, le maintien de la paix de sécurité internationale. Deuxièmement, et c'est tout aussi important, les pays d'Afrique, d'Asie et d'Amérique latine sont sous-représentés au conseil de sécurité.
2:08:32La voix du sud global aura du mal à se faire pleinement entendre. Et donc le risque est élevé que le groupe des États occidentaux qui dominent le conseil, qui souhaite conserver et consolider leur leadership technologique dans ce pays, s'efforcera d'imposer à l'ensemble de la communauté internationale sa démarche égoïste au dépend des prérogatifs de formats spécialisés inclusifs
2:09:00qui mène des travaux pratiques dans ce domaine. Et malheureusement cela se produit déjà l'un des exemples fraquants, c'est l' frappant, c'est l'organisation de sommet en petit comité sur ce qu'on appelle l'application responsable de l'IA à l'effet militair où l'on n'invite pas la majorité des pays en développement.
2:09:26Enfin, la question de l'application de l'IA civil comme militaire a un caractère complexe et multiple.
2:09:38C'est pourquoi ce thème doit être discuté dans les enceintes spécialisées et notamment et ainsi le il serait bon de mener le débat sur les attaques informatiques mené avec l'IA. Donc ça doit être mené dans le mécanisme mondial créé pour remplacer le groupe de travail à composition limitée euh de l'ONU sur
2:10:07la sécurité de l'information. Pour examiner les aspects militaires de l'application de l'IA, il y a un groupe d'experts gouvernementaux sur les systèmes d'armes autonomes létal qui fonctionne au sein de la convention sur certaines armes classiques.
2:10:25Je voudrais attirer l'attention de mes collègues sur le fait que ce groupe d'experts gouvernementaux spécialisés à Genève il y a 3 semaines a adopté un rapport consensuel de fonds.
2:10:36Ce résultat confirme en pratique l'efficacité et la nécessité de ce forum, de cette enceinte. L'essentiel, c'est que le rapport contient une définition fonctionnelle des systèmes d'armes autonomes létales ainsi que un concept commun pour ce qui est de l'application dans domaine des normes du droit international, y compris le droit international humanitaire ainsi que des paramètres permettant de garantir le contrôle humain afin de diminuer les
2:11:04risques liés à l'utilisation de l'IA à des fins militaires.
2:11:11Nous pensons qu'il n'est pens qu'il n'est pas opportun à mal les travaux constructifs menés à Genève.
2:11:19Pour notre part, nous sommes prêts à continuer à participer à ces activités pour continuer à nous mettre d'accord sur des démarches communes dans ce domaine.
2:11:31Monsieur le président, nous avons attentivement pris connaissance de la note la note de cadrage présentée par la France pour cette séance. Nous estimons contre-productif l'examen de l'application de technologie de l'IA exclusivement à travers le prisme des risques. En effet, chaque médaille a deux côtés.
2:11:53Alors, les avantages de l'IA sont la fiabilité, la sécurité et c'est plus et la rapidité d'action notamment pour prendre des décisions.
2:12:02permet de mener une analyse efficace des grands massifs de données, de détecter les menaces, de mieux avoir une connaissance de la situation et de mener avec précision les opérations et permet également de diminuer les risques pour la population civile et de renforcer la protection des sites civils.
2:12:25Par exemple, bien entendu, il faut prendre en compte le fait que cette technologie entraîne également des risques.
2:12:34Afin les minimiser, il faut garantir le contrôle humain sur le fonctionnement des technologies utilisant l'IA.
2:12:45Les États mettent cela en œuvre, en pratique au niveau national.
2:12:53Permis les moyens permettant de garantir le contrôle humain. On peut par exemple évoquer le renforcement de la fiabilité et de la sécurité intégrée des systèmes, la diminution du nombre de types de tâches, la diminution de la durée du fonctionnement de la portée géographique et de l'ampleur de l'utilisation et une intervention autant voulu, une désactivation autant voulu des systèmes.
2:13:19plus de plus les États doivent prendre des mesures pour détecter minimiser les erreurs dans les algorithmes et les ensembles de données. Également prendre les mesures nécessaires pour prévenir et interrompre l'évaluation du droit international dans le contexte de l'élaboration et de l'application de ces technologies.
2:13:42Alors, parmi les mesures possibles, il y a une bonne gestion du cycle de vie des systèmes d'armes, du matériel militaire, la définition des critères de préparation et la protection maximale face aux accès non autorisés.
2:13:59Pour nous, nous, il serait également bon d'organiser un échange d'avis, de se mettre d'accord sur des recommandations principal directeurs concrets. Cependant, il est important de ne faire cela que dans les organes spécialisés.
2:14:14Sur le principe, la Russie n'a pas d'objection au fait d'établir un dialogue multilatéral sur la question d'application de l'IA, y compris dans le domaine militaire.
2:14:25et pour ce qui est de l'étude des conséquences d'utilisation de ces moyens pour l'appel à sécurité internationale.
2:14:32Nous sommes cependant convaincu que ce dialogue doit reposer sur la base du consensus et de l'inclusion et avoir un caractère intergouvernemental.
2:14:43Ces principes fondamentaux doivent garantir la prise en compte des intérêts de tous les États-membres et également garantir l'efficacité des décisions prises.
2:14:55Et pour ce qui est d'échange d'avis sur ce thème, il faut accorder une attention particulière à la non discrimination et l'accès juste de tous les États, notamment les pays du sud global aux technologies de l'IA. Je vous remercie de votre attention.
2:15:14Je remercie le représentant de la Fédération de Russie de sa déclaration.
2:15:16Je donne la parole à présent au représentant permanent du Libéria.
2:15:23Merci monsieur le président. le lieu aussi remercier la présidence française d'avoir organisé cette réunion de haut niveau essentiel et nous représentons nous remercions les intervenants de nous avoir fait part de leur point de vue.
2:15:42Nous félicit nous saluons également les dignitaires de haut niveau à cette réunion.
2:15:48Excellence, l'histoire nous enseigne que les plus importantes transformations de l'histoire de l'humanité ne sont jamais définies par les percès technologiques seuls.
2:16:04Chaque percé fondamental en matière de capacité à exigé une percée comparable en matière de gouvernance, de cadre éthique et de règles multilatérales pour faire en sorte que le pouvoir œuvre pour le bien commun.
2:16:23L'intelligence artificielle est le test de ce principe immémorial.
2:16:32sa promesse, le vrai pour le bien de société est immense. Mais c'est également le cas du risque existentiel si cette trajectoire échappait au contrôle humain, à la responsabilité institutionnelle et au contrôle éthique.
2:16:58Il y a 81 ans, les architectes de la charte des Nations- Unies étaient face à un monde fracturé par un pouvoir à contrôler.
2:17:13Ils ont reconnu que la paix durable ne pouvait pas être garantie simplement en réagissant aux crises après que la fumée ces fumées s'était dissipée.
2:17:28Il fallait la clairvoyance, une coopération multilatérale pérenne et des institutions capables de devancer, de neutraliser les menaces avant qu'elle ne provoque un conflit mondial.
2:17:46Les délégués à San Francis San Francisco en 1945 n'aurait pas pu prévoir les réseaux neoules informatiques de pointe. Mais toute capacité qui redéfinit la nature même de la guerre, de la souveraineté et de la stabilité géopolitique relève clairement du mandat premier du conseil maintenir
2:18:12la paix et la sécurité internationale.
2:18:18Monsieur le président, l'intelligence artificielle est déjà en train de redéfinir les infrastructure critiques, le commerce international et la cohésion des sociétés.
2:18:35Ces technologies, si elles sont régies de manière responsable, elles peuvent donner davantage de pouvoir à l'ONU.
2:18:41Elles peuvent renforcer les mécanismes d'alerre précoces face au conflit, optimiser la logistique humanitaire et renforcer les opérations de maintien de la paix.
2:18:54Pourtant, nous constatons avec grandes préoccupations la prolifération de capacité offensive permise par l'IA, de système d'armes autonomes et de modèles de pointe qui font preuve de comportement émergents imprévisibles.
2:19:16Les projets les progrès rapides pour parvenir à l'intelligence générale artificielle et les systèmes autom autonomes montre que les risques liés à ces technologies de pointe ne sont plus des possibilités théoriques abstraites.
2:19:33Il s'agit de réalité politique véritablement imminente.
2:19:39La communauté internationale ne peut pas se permettre d'attendre un échec systémique ou une erreur de calcul catastrophique avant de mettre en place des gardes fous collectifs.
2:19:54Nous ne pouvons pas permettre que le coût des hésitations d'aujourd'hui entraîne les catastrophes de demain.
2:20:03Monsieur le président, le libéri estime que la communauté internationale doit éviter deux extrêmes également dangereux.
2:20:18Le premier, c'est une surréglementation étouffante qui étouffe le progrès, en particulier pour les pays de développement qui ont besoin urgent d'accès aux outils IA pour améliorer leur éducation.
2:20:34révolutionner les soins de santé, moderniser leur agriculture et accélérer les objectifs de développement durable.
2:20:44Deuxème danger, c'est une complaisance dangereuse.
2:20:49La croyance naïve que les technologies transformatrices peuvent se réguler elles-mêmes en toute sécurité. L'histoire ne présente aucun précédent.
2:21:03Justifiant une telle foi sans garde de fou vérifiable, sans transparence, sans responsabilité clairement établie, les capacités non régulées créeront des vulnérabilités qui ne respectent aucune frontière nationale.
2:21:20La voie que nous devons emprunter ne se résume pas un choix binaire entre l'innovation et la régulation.
2:21:27L'impératif qui s'oppose à nous, c'est de faire en sorte que les innovations technologiques et la gouvernance multilatérale avance de pair.
2:21:41Nous devons réguler avec sagesse et innover de manière responsable.
2:21:50Pour le Libériia, quatre piliers opérationnels sont fondamentaux.
2:21:57Premièrement, la sécurité dès la conception.
2:22:03La responsabilité doit commencer à la phase de la conception de l'architecture. Une atténuation rigoureuse des risques, une résilience en matière de cybersécurité et des contrôles et des gardes de fou doivent être intégrés dans l'ensemble du cycle de vie, du pré-entraînement jusqu'au déploiement dans le public plutôt que d'être improvisé.
2:22:27une fois que la crise sera intervenue.
2:22:29Deuxièmement, il faut défendre le droit international et la capacité humaine à agir. Les décisions appliquant le recours à la force létale, la suppression de la vie humaine et l'escalade de conflit ne doit jamais être abdiqué en faveur d'algorithme autonome. Un véritable contrôle humain, une véritable responsabilité reste le socle non négociable du droit international humanitaire et de la
2:23:03Des mesures de confiance coopératives, c'est mon 3è point. La coopération multilatérale doit promouvoir la confiance sans entraver les enquêtes scientifiques, la recherche scientifique, des critères de surharmonisé, des mesures divulgation des menaces coordonnées et des protocoles transparents entre les États.
2:23:27Chef de fil du secteur et les scientifiques indépendants sont essentiels pour atténuer la défense la défiance stratégique. Quatrièmement, il faut un contrôle indépendant et vérifiable.
2:23:42Les normes sans vérification sont insuffisantes.
2:23:48Nous avons besoin de cadre d'audit crédible, de normes robustes et d'évaluation technique indépendant pour faire en sorte que les engagements des entreprises et des États aboutissent à une sécurité mesurable, une sûté mesurable pour l'humanité.
2:24:09En outre, monsieur le président, la gouvernance mondiale ne saurait devenir une enclave exclusive réservée aux quelques pays qui contrôlent l'informatique perfectionner le capital.
2:24:26L'Afrique et le Sud global ne peuvent pas être traités simplement comme des des extracteurs de données ou des utilisateurs finaux en aval. Nous devons être des co-architectes sur la pédégalité pour déterminer les normes, les critères éthiques et les architecture de cette ère technologique.
2:24:51À cet égard, le Libéria se félicite des initiatives des initiatives historiques présentées à travers le pacte numérique mondial et en particulier le dialogue mondial sur la gouvernance de l'IA et le groupe scientifique intern indépendance sur l'IA.
2:25:08Cependant, les efforts complémentaires à l'assemblée générale n'absolvent pas le conseil de son devoir qui lui est propre.
2:25:19Lorsque l'informatique de pointe coïncide avec des cyberopérations contre les infrastructures civiles, les systèmes d'armes autonomes et la compétit la compétition géostratégique, les collisions directes avec la sécurité internationale.
2:25:40L'intervention [grognement] du conseil ne représente pas des doublons mais au contraire la prévention des conflits.
2:25:44Libéria apporte donc tout son appui à la création d'un groupe de travail informel dédié du conseil de sécurité sur l'intelligence artificielle et les technologies émergentes chargé de surveiller les conséquences sécuritaires transversal de ses capacités concernant les domaines thématiques comme propre à certains pays. Pour
2:26:12conclure, monsieur le président, agissons avec la clairvoyance et le sentiment d'urgence exigé par cette époque, faisant en sorte que la transition technologique la plus extraordinaire depuis la révolution industrielle soit un moteur constant de prospérité commune et un pilier de la paix et de la sécurité internationale
2:26:41plutôt que le facteur de nouvelles division, de nouvelles fractions de notre monde est d'insécurité.
2:26:50Je vous remercie de votre amable attention.
2:26:52Je remercie le représentant permanent du Libéria de sa déclaration.
2:26:56Je ne vois plus d'oratrices ou d'orateurs inscrits sur la liste. Jeis remercier les intervenants à cette session du conseil de sécurité. La séance est levée.
