L’intelligence artificielle et les réseaux neuronaux sont de plus en plus présents dans notre vie quotidienne, mais cela peut aussi être un terrain de jeu pour les logiciels malveillants. Des chercheurs de l’université de Cornell ont réussi à insérer du code malveillant dans les nœuds d’un réseau neuronal sans que les logiciels antivirus ne le détectent et en minimisant le déficit d’efficacité du programme.
L’équipe a testé cette méthode sur l’IA AlexNet, une IA de détection d’images, en incorporant 36,9 Mo de logiciels malveillants dans un modèle de 178 Mo. Ils ont constaté une perte de précision de 1%, sans que l’intrusion ne soit détectée par les moteurs antivirus de VirusTotal.
Avec cette méthode, le malware est désassemblé dans le système neuronal et échappe ainsi à la détection. Une fois téléchargé, il peut être réassemblé pour exécuter le malware. Les chercheurs estiment que « les attaques assistées par l’IA émergeront et apporteront de nouveaux défis pour la sécurité informatique ». Les chercheurs de l’université de Cornell ont démontré qu’il est possible d’intégrer du code malveillant dans les nœuds d’un réseau neuronal d’intelligence artificielle de manière à ce qu’il ne soit pas détecté par les logiciels antivirus.
Cette technique pourrait permettre la diffusion secrète de malware avec un impact minimal sur les performances des réseaux de neurones. Cela souligne l’importance de la sécurité informatique dans l’utilisation de l’IA et l’émergence de nouveaux défis pour la sécurité informatique avec l’augmentation de la popularité de l’IA. Les chercheurs espèrent que cette étude contribuera à de nouveaux efforts de protection contre les attaques assistées par l’IA.
