Introduction
Fin août 2025, Anthropic a publié un rapport démontrant comment l'IA transforme rapidement le paysage des menaces. Il met en évidence comment la technologie abaisse la barrière d'entrée pour les cyberattaques sophistiquées et expose comment le LLM phare de l'organisation, Claude, est utilisé pour créer et vendre des ransomwares "no code" et intensifier des campagnes d'extorsion de données.
Dans une certaine mesure, le rapport d'Anthropic ne fait que souligner ce qui devenait évident plus tôt cette année. L'entreprise de sécurité Palo Alto a publié un rapport en juillet montrant comment le groupe criminel Scattered Spider exploite l'IA dans ses activités, utilisant tout, depuis l'audio vocal deepfake pour manipuler le personnel de support jusqu'aux outils alimentés par IA pour la navigation réseau et les déplacements latéraux.
Mais ce qui est particulièrement frappant dans le rapport d'Anthropic, c'est qu'il montre que l'IA élargit le vivier de talents cybercriminels. Des attaques qui nécessiteraient une expertise technique considérable, comme scripter un malware basique, sont désormais à la portée d'individus moins expérimentés.
Donc, si les cybercriminels peuvent maintenant faire plus avec moins, que peuvent faire les organisations à ce sujet ? Oui, l'IA constituera une partie significative de la solution, mais, comme nous l'exposerons dans cet article, cela impliquera également de tirer parti de pratiques et principes de sécurité éprouvés de longue date.
L'importance de la défense collaborative contre la cybercriminalité IA
Une première étape essentielle consiste à renforcer les capacités internes de cybersécurité. Cela signifie investir dans les talents, que ce soit par le recrutement ou par des opportunités de croissance et de formation pour le personnel d'ingénierie.
Mais au-delà de cela, il est également important de se rappeler que se défendre de manière isolée sera probablement une stratégie perdante, en particulier dans un écosystème où les attaquants collaborent et partagent des outils alimentés par IA.
De la résilience individuelle à la défense collective
Après tout, le paysage des menaces évolue plus rapidement que n'importe quelle organisation ne peut gérer seule. Cela exige un passage de la résilience individuelle à la défense collective. Oui, les gouvernements peuvent et vont établir des limites par la législation, mais la technologie IA évolue trop rapidement pour que les législateurs suivent le rythme. Attendre ne fonctionnera pas : la résilience réelle et la sécurité efficace proviendront d'un nouveau niveau d'auto-gouvernance et de collaboration.
Les alliances intersectorielles entre fournisseurs d'IA, fournisseurs de cloud et entreprises de cybersécurité sont essentielles pour augmenter le coût de l'abus pour les attaquants. Les partenariats public-privé doivent s'étendre au-delà des conseils consultatifs pour construire des défenses mondiales et évolutives qui correspondent à la vitesse des menaces alimentées par l'IA.
Sécurité dès la conception et responsabilité partagée
Au niveau organisationnel, pendant ce temps, ce n'est qu'en intégrant la sécurité dans la conversation dès le début, dans les phases de conception et de développement, que nous aurons une vraie chance d'apporter les bons changements, plus rapidement.
Cette responsabilité partagée s'étend aux constructeurs et utilisateurs de ces systèmes. Nous avons besoin d'une responsabilité claire pour répondre à la question difficile : qui est responsable lorsque quelque chose tourne mal ? Dans cette nouvelle ère, équilibrer innovation et sécurité n'est pas seulement un défi technique ; c'est la façon dont nous construisons la confiance nécessaire pour réussir.
Une nouvelle préparation est requise
Cela ne signifie pas que l'ancien manuel est obsolète : ce n'est certainement pas le moment de paniquer et de jeter des décennies de bonnes pratiques de sécurité. En fait, il est vital d'embrasser les leçons du passé et de s'appuyer sur les pratiques et principes qui nous ont servis au cours des dernières décennies, comme intégrer la sécurité dès le départ et des tests continus rigoureux.
S'appuyer sur l'acquis tout en mobilisant l'IA
Cependant, adopter de bonnes pratiques ne signifie pas que la bataille doit rester asymétrique. La clé est de s'appuyer sur ce que nous savons tout en mobilisant également l'IA pour anticiper et riposter contre les cybercriminels. En effet, ne pas tirer parti des opportunités de l'IA peut laisser les entreprises et autres organisations dans un désavantage permanent, ce qui pourrait finalement avoir des conséquences réputationnelles et commerciales significatives.
Que faire
Parler de ces nouveaux risques, c'est bien beau, pourriez-vous penser, mais que pouvons-nous réellement faire ? Bien que la flexibilité et l'adaptation soient essentielles, il existe un certain nombre d'étapes importantes que les leaders technologiques peuvent prendre maintenant.
Face à l'évolution rapide des menaces assistées par IA, les organisations doivent adopter une stratégie de défense multicouche qui combine vigilance humaine et technologies avancées. Les cinq domaines d'action prioritaires suivants constituent le socle d'une posture de sécurité résiliente dans l'ère de l'IA.
Priorités 1 et 2 : ingénierie sociale et identité
Reconnaître que l'ingénierie sociale est le vecteur de violation principal. L'IA peut faire des choses sophistiquées, mais elle est particulièrement efficace pour activer certaines techniques d'ingénierie sociale très rudimentaires, comme créer des emails convaincants et répliquer les voix d'autres personnes. Assurez-vous que votre formation et sensibilisation des utilisateurs finaux suit le rythme de ce qui se passe dans le monde, et continuez à investir dans des contrôles techniques comme l'authentification multi-facteurs et l'ingénierie sophistiquée de détection et de réponse.
Accélérer les investissements dans l'identité. L'identité a été appelée le nouveau périmètre en cybersécurité ; c'est souvent le premier endroit qu'une menace assistée par IA sondera. Cela signifie que les organisations doivent, avant tout, traiter chaque humain, service et agent IA comme une identité qui peut être usurpée. Passez à une MFA résistante au phishing, une autorisation continue basée sur les risques et un provisionnement juste-à-temps pour l'accès privilégié. Ce faisant, même les deepfakes parfaits IA seront arrêtés avant qu'ils ne puissent impacter votre entreprise.
Priorités 3 à 5 : endpoints, tests offensifs et détection
Renforcer vos endpoints à haute valeur. Les attaques sur les endpoints utilisateurs, les laptops et les serveurs publiquement exposés sont susceptibles de devenir plus implacables à mesure que les coûts de l'IA diminuent et que l'adoption augmente. Priorisez le patching, le durcissement, une bonne visibilité réseau et les contrôles d'assurance des dispositifs. Parallèlement, les défenses ciblées, comme les endpoints utilisés par les équipes d'ingénierie de plateforme ou de données, qui peuvent avoir des niveaux élevés d'accès aux données sensibles, devraient être protégés en priorité.
Trouver les vulnérabilités avant que l'adversaire ne le fasse. Adoptez des tactiques de red team assistées par IA pour trouver les faiblesses dans votre infrastructure. Intégrer l'IA dans l'équation peut non seulement renforcer votre posture de sécurité, mais aussi vous aider à gérer les coûts de ce qui peut parfois être un travail coûteux. Rester au fait de la threat intelligence et mettre à jour fréquemment vos modèles de menaces devra devenir la norme.
Accélérer la détection et la réponse. La seule façon réaliste de se protéger contre les menaces avancées est par une approche qui équilibre protection avec détection, réponse et récupération. Certaines organisations se concentrent trop sur les contrôles protecteurs car les technologies legacy et les façons établies de travailler rendent difficile la modernisation de leur approche de sécurité. La bonne nouvelle est que les approches assistées par IA peuvent vous soutenir avec la chasse proactive aux menaces et la modernisation ciblée.
Ce n'est pas seulement une course aux armements IA : c'est aussi une question de processus et de pratique
Le génie de l'IA est sorti de la bouteille. Les deux côtés du firewall sont armés. Ce qui séparera les gros titres de violation de demain des notes de bas de page ne sera pas qui possède l'algorithme le plus brillant ou l'outillage IA le plus coûteux, ce sera qui peut mobiliser l'IA sur des mesures de protection sensées et mesurables plus rapidement que l'adversaire ne peut armer la dernière astuce.
Avertissement : Les déclarations et opinions exprimées dans cet article sont celles de l'auteur ou des auteurs et ne reflètent pas nécessairement les positions d'Adservio.
RÉCUPÉRER CET ARTICLE
Téléchargez l'article complet en PDF pour le lire hors ligne ou le partager.
RESTER INFORMÉ
Recevez nos prochaines analyses et retours d'expérience directement dans votre boîte mail.
