Récapitulatif du cyber-sommet d'Aspen : Comment la sophistication de l'IA a fracturé la confiance sur l'internet
Il y a quelques semaines, j'ai eu l'occasion de participer à l'Aspen Cyber Summit à New York et d'y prendre la parole. Pour moi, rien ne vaut l'expérience en personne. Il y a quelque chose dans le fait de parler face à face avec des leaders de l'industrie et de voir les réactions en temps réel aux idées, opinions et points de vue qui sont présentés, partagés et débattus. Dans un monde dominé par les interactions numériques, dont certaines sont manipulées et augmentées, il est rafraîchissant d'avoir des conversations réelles et honnêtes avec des personnes en face à face.
La conférence de cette année a abordé un certain nombre de sujets urgents. Sans surprise, l'adoption et la mise en œuvre croissantes de l'intelligence artificielle (IA) et son impact sur la communauté de la cybersécurité étaient au premier plan, tout comme la sécurisation des élections de 2024 et la nouvelle décision de la Securities and Exchange Commission (SEC) concernant le calendrier de divulgation des informations sur la cybercriminalité. Mais en assistant aux sessions et en écoutant les échanges entre certains des plus brillants acteurs du secteur, je n'ai pu m'empêcher de relever un fil conducteur tout au long de chaque session et discussion :
La confiance, à un niveau fondamental, est rompue sur l'internet, ce qui a de graves conséquences sur la sécurité, tant au niveau de l'organisation que de l'individu.
Plus récemment, la sophistication et les progrès de l'IA et des "deepfakes" ont été la force motrice de la rupture de confiance que nous connaissons sur l'internet et il y a deux angles que nous devons examiner pour vraiment comprendre pourquoi.
Premièrement, l'accessibilité de ces technologies. Il y a encore cinq ans, le commun des mortels ne pensait pas à utiliser l'IA dans sa vie personnelle, que ce soit pour créer une photo professionnelle actualisée ou pour mener une attaque par hameçonnage. Il y a cinq ans, seuls les utilisateurs et les adversaires les plus techniques l'utilisaient, principalement parce que la technologie était si compliquée qu'elle nécessitait un ensemble de compétences et un niveau de formation spécifiques. Mais tout cela a changé. Ces technologies sont devenues si accessibles qu'il est plus facile que jamais pour le grand public de créer des fraudes quotidiennes - des capacités qui étaient autrefois réservées aux gouvernements bien financés.
Ce que j'appelle "l'indice de crédibilité" a atteint un point de basculement et provoque un effet d'entraînement dans les organisations, les générations et les secteurs d'activité. Il y a cinq ans, les générations les plus jeunes et les plus avancées sur le plan technologique s'estimaient capables de déterminer facilement ce qui était vrai et ce qui était faux sur l'internet. Les courriels d'hameçonnage étaient rédigés sur un ton robotique et parsemés de fautes de frappe minimes mais perceptibles et de structures de phrases bizarres. Les images trafiquées présentaient des caractéristiques spécifiques qui les rendaient faciles à repérer. Il y a cinq ans, nos grands-parents et les personnes moins au fait de la technologie étaient les principales victimes des attaques et des escroqueries basées sur l'intelligence artificielle.
Ainsi, ce ne sont plus seulement nos parents ou nos grands-parents qui sont vulnérables aux escrocs en ligne, mais chacun d'entre nous, y compris moi-même. Il suffit de regarder l'image du pape portant une veste à manches longues au début de l'année. Je travaille dans le secteur depuis plus de 20 ans et je suis parfaitement conscient des tactiques utilisées par les attaquants.
Nous avons dépassé le stade des fausses images, des faux documents et des faux courriels. Aujourd'hui, il s'agit de faux messages vocaux, de fausses notes vocales et de fausses vidéos. Il est prouvé que notre crédibilité augmente lorsque la voix et la vidéo sont introduites. Il faut que ce soit vrai parce que j'entends mon collègue au téléphone me demander de lui envoyer des informations de connexion spécifiques. J'entends le représentant de ma banque me demander mon numéro de sécurité sociale. Mais la dure vérité, c'est qu'il ne s'agit que de fabrications réalisées par des adversaires et des acteurs de la menace à l'aide de la forme la plus avancée de la technologie de l'IA.
L'essor de l'IA et des deepfakes nécessite une réévaluation des modèles de sécurité, car la sophistication de la technologie signifie que nous sommes tous devenus des cibles et que nous sommes tous attaqués. La confiance est rompue, et cette fracture va encore s'accentuer au cours de l'année à venir. Pensez aux prochaines élections américaines : le système est déjà empreint de méfiance et d'incertitude. Les attaquants ne feront qu'exploiter davantage cette situation pour créer le chaos et la confusion.
Nous nous trouvons à un moment charnière qui montre qu'il est urgent d'adapter le modèle de sécurité pour faire face à la convergence de l'IA, de l'intention de fraude ou de manipulation et de la dépendance croissante à l'égard de l'internet. Le rétablissement de l'intégrité et de l'authenticité est vital, le modèle de sécurité devant être intégré dans le tissu de l'internet.
Il ne fait aucun doute que le monde fonctionnera grâce à l'IA et que celle-ci sera militarisée. En tant que société et population humaine, nous sommes par nature confiants. Aujourd'hui, il existe des lacunes en matière d'authentification et d'identification que les attaquants exploitent plus rapidement que nous ne pouvons le faire. L'histoire de la sécurité repose sur l'usurpation d'identité et, dans cette nouvelle ère, la sécurité devra évoluer à mesure que les capacités d'usurpation d'identité seront accessibles au marché de masse.
La pression est forte : Les entreprises doivent agir rapidement pour prouver efficacement l'authenticité de leur contenu afin de maintenir leur crédibilité et la confiance de leurs clients.
Rapport d'analyste
Gartner Market Guide to User Authentication (en anglais)
Nous sommes fiers d'annoncer que OneSpan a été nommé fournisseur représentatif dans ce rapport.obtenez votre exemplaire gratuit pour rester informé des dernières recommandations en matière de gestion des identités et des accès.
Lire la suite
