L’IA consomme beaucoup d’énergie. Les pirates pourraient le faire consommer plus.

L’attaque: Mais ce type de réseau de neurones signifie que si vous modifiez l’entrée, telle que l’image qu’il est alimentée, vous pouvez modifier la quantité de calcul dont il a besoin pour le résoudre. Cela ouvre une vulnérabilité que les pirates pourraient exploiter, comme l’ont souligné les chercheurs du Maryland Cybersecurity Center dans un nouvel article présenté à la Conférence internationale sur les représentations d’apprentissage cette semaine. En ajoutant de petites quantités de bruit aux entrées d’un réseau, ils lui ont fait percevoir les entrées comme plus difficiles et augmenter son calcul.

Lorsqu’ils ont supposé que l’attaquant avait des informations complètes sur le réseau neuronal, ils ont pu maximiser sa consommation d’énergie. Lorsqu’ils ont supposé que l’attaquant avait limité à aucune information, ils étaient toujours en mesure de ralentir le traitement du réseau et d’augmenter la consommation d’énergie de 20% à 80%. La raison, comme l’ont constaté les chercheurs, est que les attaques se transfèrent bien à travers différents types de réseaux neuronaux. Concevoir une attaque pour un système de classification d’images suffit à en perturber plusieurs, déclare Yiğitcan Kaya, doctorant et co-auteur.

La mise en garde: Ce type d’attaque est encore quelque peu théorique. Les architectures adaptatives aux entrées ne sont pas encore couramment utilisées dans les applications du monde réel. Mais les chercheurs pensent que cela changera rapidement des pressions exercées par l’industrie pour déployer des réseaux de neurones plus légers, comme pour la maison intelligente et d’autres appareils IoT. Tudor Dumitraş, le professeur qui a conseillé la recherche, dit que plus de travail est nécessaire pour comprendre dans quelle mesure ce type de menace pourrait créer des dommages. Mais, ajoute-t-il, ce document est une première étape de sensibilisation: «Ce qui est important pour moi, c’est d’attirer l’attention des gens sur le fait qu’il s’agit d’un nouveau modèle de menace et que ce type d’attaques peut être fait.