TELECOM PARIS ALUMNI
Retour aux actualités
Article suivant Article précédent

Revue TELECOM 190 - L'intelligence artificielle, la cybersécurité et le bon sens

Articles Revue TELECOM

-

01/10/2018

L'INTELLIGENCE ARTIFICIELLE, LA CYBERSÉCURITÉ ET LE BON SENS


Par Jean-Christophe Gaillard (1991) dans la revue TELECOM n° 190


Les récents développements technologiques spectaculaires dans le domaine de l’intelligence artificielle (IA) nourrissent bien des fantasmes dans le monde de la cybersécurité. Sur ce sujet, on entend parfois tout et son contraire. De la simple obsolescence à courte échéance des meilleures solutions de défense sur le marché à une véritable guerre ouverte entre les IA développées par diverses puissances technologiques, y compris étatiques, il semble bien souvent difficile pour les décideurs de se préparer sereinement aux changements à venir.

Les experts s’accordent à dire que l’IA devrait, à terme, bénéficier aussi bien aux attaquants qu’à leurs victimes – les progrès d’une IA mal intentionnée entrainant inéluctablement l’amélioration de celles chargées de s’en défendre, et vice-versa. L’équilibre ou plutôt les équilibres de ce jeu du chat et de la souris sont cependant loin de faire consensus, et il n’est pas clair quel camp finira par faire la course en tête.

Par-delà ces considérations parfois à la limite de la spéculation voire de la science-fiction, parler d’intelligence artificielle est en réalité un abus de langage qui décrit bien souvent l’accélération et le perfectionnement de techniques qui existent depuis plusieurs dizaines d’années comme le traitement algorithmique des journaux d’évènements afin de détecter des évènements sécuritaires pertinents. Bien souvent, on évoque l’IA de façon générique pour parler en réalité de machine learning (ML) – une différence cruciale entre ces deux concepts étroitement liés étant l’incapacité des algorithmes actuels à extrapoler de nouvelles conclusions en l’absence de nouvelles données.

Une conséquence de cela est que la qualité et la quantité des données utilisées pour entrainer ces outils de cyberdéfense sont absolument cruciales. Un système de défense ne sera bon qu’à détecter des dangers qu’il a déjà vus par le passé. Ce lien est déjà bien compris des hackers, qui entrainent souvent leurs IA sur d’énormes jeux de donnés partagées entre eux sur internet. Les organisations semblent elles à la traine sur ces questions malgré le fait que de partager leurs données entre elles leur seraient évidemment bénéfique. Mis-à-part la récente publication par Endgame – un vendeur en cybersécurité utilisant lui-même le machine learning – d’un gros jeu de données (« EMBER ») et visant à stimuler l’avancée des IA défensives, ce genre d’initiatives reste rare. Cette réticence à partager des données souvent jugées sensibles par les entreprises peut bien-sûr s’expliquer par la difficulté à les anonymiser, ainsi que par une attitude historique ancrée dans la compétition et la peur de dommages réputationnels plutôt que dans la coopération. Sur ce dernier point, les lignes devront bouger si les good guys entendent faire front efficacement face aux bad guys .

La confusion entre l’IA et le ML serait purement bégnine si elle ne cachait pas une réalité importante et qu’il convient de garder à l’esprit : L’humain reste, et restera encore longtemps, central à l’organisation de la cyber-sécurité dans toute organisation. Dans le futur proche, l’IA devrait assister – et non pas remplacer – l’humain dans la lutte contre les cyberattaques en automatisant de manière toujours plus efficace la détection d’activités suspectes qu’il reviendra à l’analyste d’inspecter.

L’aspect humain est d’autant plus important que beaucoup d’organisations sont aujourd’hui à des niveaux de maturité trop faibles en termes de cybersécurité – pour des raisons ayant plus trait à des problèmes humains et de gouvernance qu’à un sous-investissement technologique.

En effet, aucune IA – si intelligente et coûteuse soit-elle – ne vous protègera contre les mauvaises pratiques culturelles, managériales ou de vos collaborateurs : mots-de-passe trop simples où négligemment affichés sur des post-it, visites de sites dangereux ou téléchargements de virus, partages systématique de données confidentielles, dépriorisations des déploiements de patch de sécurité, etc.

Il convient enfin de rappeler que les bonnes pratiques de sécurité – bien établies depuis des lustres - suffisent encore bien souvent à vous protéger efficacement contre beaucoup de menaces. Avant d’aborder un sujet aussi complexe que l’intelligence artificielle, le bon sens – bien humain, lui – doit rester de rigueur pour beaucoup d’entreprises



Biographie de l'auteur


Jean-Christophe Gaillard (1991) est Fondateur et Directeur Associé chez Corix Partners. Corix Partners est un cabinet de conseil particulier en Gestion d’Entreprise basé à Londres et spécialisé en Stratégie, Organisation & Gouvernance de la Sécurité. Il co-préside également le groupe Cyber Sécurité de l’association d’alumni de Télécom ParisTech.


124 vues Visites

J'aime

Commentaires0

Veuillez vous connecter pour lire ou ajouter un commentaire

Articles suggérés

Articles Revue TELECOM

Revue TELECOM 193 - La kippa bleue

User profile picture

Rédaction Revue TELECOM

15 juin

Articles Revue TELECOM

Revue TELECOM 193 - La transformation digitale (numérique) 2.0

User profile picture

Rédaction Revue TELECOM

15 juin

Articles Revue TELECOM

Revue TELECOM 193 - Télécom Paris à l'honneur aux Prix de la Fondation

User profile picture

Rédaction Revue TELECOM

15 juin