Préoccupants, inspirants, passionnants…Découvrez à travers ces articles Réflexions stratégiques, les sujets et extraits de mémoires réalisés par les auditeurs du MBA Management de la sécurité.
L’intelligence artificielle (IA) a rapidement progressé ces dernières années, et son développement a permis un large éventail d’applications bénéfiques. Par exemple, l’IA est un composant essentiel de technologies largement utilisées telles que la reconnaissance automatique de la parole, la traduction automatique, les filtres anti-spam et les moteurs de recherche. Parmi les autres technologies prometteuses qui font actuellement l’objet de recherches ou de projets pilotes à petite échelle, citons les voitures autonomes, les assistants numériques pour les infirmières et les médecins, et les drones dotés d’IA pour accélérer les opérations de secours en cas de catastrophe.
Dans un avenir encore plus lointain, l’IA avancée promet de réduire le besoin de main-d’œuvre non-désirée, d’accélérer considérablement la recherche scientifique et d’améliorer la qualité de la gouvernance. Les première et deuxième révolutions industrielles ont donné le coup d’envoi d’un vaste mouvement d’industrialisation qui a entraîné de profonds changements sociaux, économiques et politiques. Les nations se sont élevées et se sont effondrées. L’urbanisation et l’industrialisation ont modifié la politique intérieure et ont conduit à l’émergence de la classe moyenne. Même les paramètres clés de la puissance mondiale ont changé, les pays producteurs de charbon et d’acier gagnant en puissance et le pétrole devenant une ressource stratégique mondiale. La géographie du pouvoir a également changé, les nations se battant pour sécuriser l’accès aux ressources critiques, ce qui a donné lieu à des guerres pour des territoires qui auraient été insignifiants à l’époque de la puissance agricole.
La révolution de l’IA pourrait également modifier l’équilibre des pouvoirs et même les éléments fondamentaux de l’économie mondiale. Tout comme le charbon alimente les moteurs à vapeur et le pétrole les moteurs à combustion interne, les données alimentent les moteurs de l’apprentissage automatique. Les nations qui ont accès aux meilleures données, ressources informatiques, capital humain et processus d’innovation sont prêtes à faire un bond en avant à l’ère de l’intelligence artificielle.
Le domaine de l’intelligence artificielle est vaste. Son histoire est vallonée, balancée entre avancées significatives, promesses non tenues, périodes de gel et nouveaux espoirs. Lors de ces différentes phases, de nombreuses directions ont été suivies, de multiples notions ont vu le jour et plusieurs voies de recherche ont été explorées. Certaines abandonnées car atteignant leurs limites, d’autres encore en voie d’exploration car considérées comme les plus prometteuses.
Afin d’appréhender ce que l’Intelligence Artificielle recouvre et implique, il est important de présenter et comprendre quels sont les différents paradigmes adoptés dans l’histoire de l’IA ainsi que ce qui se cache derrière cette multitude de termes utilisés pour qualifier, promouvoir ou expliquer les avancées et promesses de l’IA. Nous partirons donc des définitions fondamentales et nous appuierons sur le contexte historique pour résumer l’évolution de l’IA, en présenter les « saisons » de son développement (c’est-à-dire les hivers pour le déclin et les printemps pour la croissance), et comprendre le regain d’intérêt actuel lié au Machine Learning (ML), au Deep Learning (DL).
Ainsi donc la révolution de l’intelligence artificielle est en marche et elle aura un impact profond sur l’économie mondiale et l’environnement de sécurité international. Les chefs d’entreprise et les hommes politiques du monde entier se demandent de plus en plus si l’IA va déclencher une nouvelle révolution industrielle. À l’instar de la machine à vapeur, de l’électricité et du moteur à combustion interne, l’IA est une technologie habilitante qui offre un large éventail d’applications. Les technologies de la première et de la deuxième révolutions industrielles ont permis la création de machines à usage spécial qui pouvaient remplacer le travail physique humain pour des tâches spécifiques.
Aujourd’hui, l’IA permet de créer des machines spéciales capables de remplacer le travail cognitif de l’homme sur des tâches spécifiques.
De nombreuses nations se sont engagées dans cette course technologique. Citons, les Etats-Unis avec leur volonté historique d’être le moteur de l’innovation technologique, la Chine qui s’est lancée dans un plan national visant à devenir le leader mondial de l’IA d’ici 2030. La Russie a signalé son intérêt pour l’IA, Poutine ayant déclaré en 2017 que « celui qui deviendra le leader de [l’intelligence artificielle] sera le maître du monde « .
Se préparer aux conséquences de la révolution de l’IA est une tâche essentielle pour la communauté internationale de la sécurité. L’IA est contributrice à de nombreux domaines dont celui de la défense, du renseignement, de la sécurité intérieure, de la diplomatie, de la surveillance, de la cybersécurité, de l’information et des outils économiques de gouvernance politique. Presque tous les aspects de la sécurité pourraient être façonnés par l’intelligence artificielle.
Cette contribution est diverse et en fonction de sa nature peut être considérée comme spectaculaire. C’est le cas des systèmes de reconnaissance d’objet et surtout biométriques dont le principal frein à l’expansion sur le territoire Européen est la menace pesant sur la protection des données privées. Ces technologies déjà prêtes et commercialisées pour certaines sont des atouts considérables pour la sécurité privée et publique, de la sécurité des grands évènements jusqu’à la conduite d’enquêtes judiciaires.
D’autres sont moins perceptibles – sans présager de leur importance – car déjà rentrée dans les mœurs. C’est le cas des maintenances prédictives – utilisée par les armées sur le théâtre d’opérations- ou de toutes les fonctionnalités de sécurité mises au service des internautes (anti-spam, analyse comportementale, anti-malware, etc.), presque toutes basées sur de l’IA. Tous ces services utilisent l’apprentissage automatique pour protéger les utilisateurs des cyberattaques.
Au cours de la dernière décennie, le rôle de l’apprentissage automatique dans la cybersécurité s’est progressivement accru, à mesure que les menaces pesant sur les organisations s’aggravent et que la technologie devient plus performante. La banalisation croissante des cyberopérations en tant qu’outil géopolitique signifie que de nombreuses organisations risquent d’être ciblées par des acteurs de la menace disposant de ressources importantes et par des menaces persistantes avancées ( ou Advanced Persistent Threat (APT) : groupe agissant d’une manière non liée à une opportunité déterminée attaquant des organisations d’une manière stratégique, à long terme et avec des objectifs précis).
Dans le même temps, l’offre de professionnels de la cybersécurité formés peine à répondre au besoin croissant d’expertise.
Historiquement, la question de la sécurisation des nouvelles technologies a souvent été traitée à postériori de leur conception. De par les capacités de l’IA à restructurer nombre de domaines et d’activités, le besoin de comprendre l’articulation de la sécurité mais aussi de s’interroger sur ses spécificités et sa mise en œuvre est primordiale.
Nous examinerons le paysage des menaces potentielles pour la sécurité des technologies d’intelligence artificielle et proposerons des moyens de mieux prévoir, prévenir et atténuer ces menaces. Nous nous concentrerons également sur les risques induits et les types d’attaques que nous sommes susceptibles de voir bientôt si des défenses adéquates ne sont pas développées.
À mesure que les capacités de l’IA deviennent plus puissantes et plus répandues, nous nous attendons à ce que l’utilisation croissante des systèmes d’IA entraîne des changements dans le paysage des menaces, de l’expansion des menaces existantes à l’introduction de nouvelles menaces ou à la modification de la caractérisation des menaces (efficacité, finesse, ciblage et attribution).
Nous traiterons également la façon dont l’IA peut être utilisée de manière malveillante. Nous analysons ces risques en détail afin de contribuer la compréhension de la nécessité de les prévenir ou les atténuer, non seulement pour la valeur de la prévention des préjudices associés, mais aussi pour éviter les retards dans la réalisation des applications bénéfiques de l’IA.
L’intelligence artificielle (IA) et l’apprentissage automatique (ML) modifient le paysage des risques de sécurité pour les citoyens, les organisations et les États.
L’utilisation malveillante de l’IA pourrait menacer la sécurité numérique (par exemple, par des criminels entraînant des machines à pirater ou à faire de l’ingénierie sociale sur des victimes à des niveaux de performance humains ou surhumains), la sécurité physique (par exemple, des acteurs non étatiques armant des drones grand public) et la sécurité politique (par exemple, par la surveillance, le profilage et la répression qui suppriment la vie privée, ou par des campagnes de désinformation automatisées et ciblées).
Enfin, dans la dernière partie, nous proposerons des recommandations ou plutôt des orientations qui pourraient contribuer à la dimension sécuritaire de l’Intelligence Artificielle. Le domaine évoluant très vite, le focus est porté sur des propositions politiques – moins liées aux évolutions technologiques – puis techniques avec pour ambition commune de bâtir un écosystème de confiance. La confiance étant un des principes sous-jacents à la sécurité, notamment dans le cadre de son acceptation par le public.
Introduction du mémoire « Les enjeux de sécurité de l’intelligence artificielle », réalisé par Grégory Boghossian, auditeur de la 8ème promotion du MBAsp Management de la sécurité.