🚨 "Robots tueurs" : l'humanité doit choisir

Salut 👋, j’espère que tu as passé une bonne semaine. C’est l’heure de se plonger dans l’actu cyber et digitale, et ça remue !

Au programme :

• La Reco du barman : 🤖 “Robots tueurs” : l'humanité à la croisée des chemins,

• A ne pas manquer :

  • 👁 Désinformation russe : Meta dans le viseur des régulateurs européens,

  • 💰 La FCC tire la sonnette d’alarme contre les plus grands fournisseurs de télécommunication des USA,

  • 🔥 Cisco : les pare-feux ont la cote chez les pirates,

  • 📱Dirty Stream : une faille de sécurité chez Android,

• En Image : 🤔 Cybersécurité et perturbations de la chaîne d'approvisionnement : principales préoccupations des petites entreprises américaines,

• Interview : 🎙 Entretien avec Guillaume Chéreau, Responsable CSIRT Région Bretagne,

• Rapport : 📄 Les attaquants redoublent d’efforts pour échapper à la détection et se maintenir dans les systèmes.

🤖 “Robots tueurs” : l'humanité à la croisée des chemins

A Vienne, des leaders mondiaux demandent l'interdiction des “robots tueurs” et la limitation des armes dotées d'intelligence artificielle.

Alors que la technologie IA avance rapidement et près de 80 ans après la crise existentielle rencontrée par les créateurs de la première bombe atomique, l’humanité fait-elle face à un nouveau défi pour sa survie ?

Lors d’une conférence internationale tenue à Vienne les 29 et 30 avril, intitulée “L'Humanité à la croisée des chemins : Systèmes d'armes autonomes et le défi de la régulation”, des leaders mondiaux ont émis un appel urgent pour encadrer le développement et l'utilisation des armes autonomes, souvent appelées “robots tueurs”.

“C'est le moment Oppenheimer de notre génération”

Ces mots ont été prononcés par Alexander Schallenberg, ministre des Affaires étrangères de l'Autriche à l’ouverture de la conférence. Selon lui, “Les systèmes d'armes autonomes rempliront bientôt les champs de bataille du monde entier. Nous voyons déjà cela avec les drones activés par IA et la sélection de cibles basée sur l'IA”.

En effet, L’IA est déjà utilisée de manière concrète sur les champs de bataille, avec des exemples notables en Israël et en Ukraine. En Israël, un système d'IA nommé Lavender [Shakerz] a été déployé pour identifier des cibles dans la bande de Gaza. Ce système a été utilisé pour produire des listes de cibles potentielles, conduisant à de très nombreuses victimes civiles collatérales​. ​

En Ukraine, l'usage de drones autonomes représente une autre facette de l'intégration de l'IA dans les stratégies militaires. Ces drones, capables d'opérer en temps réel, sans intervention humaine directe, peuvent effectuer des reconnaissances, suivre des cibles et parfois même engager des actions.

Parallèlement, l'US Air Force et l'Agence de Projets de Recherche Avancée de la Défense américaine (DARPA) ont organisé il y a quelques semaines, le premier combat aérien entre un humain, et un avion contrôlé par une IA. Bien que le vainqueur n’a pas été communiqué, ce test de combat aérien “marque un tournant dans l'histoire de l'aérospatial” selon la DARPA et ne présage rien de bon.

Le cœur du problème : la décision de vie ou de mort entre les “mains” des machines

Lors de la conférence, Schallenberg a souligné qu'il n'était pas contre l'utilisation de l'IA, une perspective d’ailleurs partagée par de nombreux participants. Cette position est renforcée par les remarques de Hasan Mahmud, ministre des Affaires étrangères du Bangladesh, qui a souligné le potentiel de l'IA pour faire avancer la science et aider l'humanité, plutôt que d'automatiser la violence.

En réalité, le cœur du problème réside dans les implications de la technologie en tant qu'arme de guerre sans contrôle humain. Schallenberg et d'autres participants ont exprimé la nécessité de convenir de règles et normes internationales pour assurer un contrôle humain sur ces technologies. “Il est impératif de garantir que les décisions les plus graves, celles de vie ou de mort, restent entre les mains des humains et non des machines”.

L'absence de contrôle humain direct dans l'utilisation des armes IA soulève des problèmes majeurs de responsabilité et de conformité avec le droit humanitaire international, selon Mirjana Spoljaric Egger, présidente du Comité international de la Croix-Rouge.

Un futur incertain

Bien que nous en avions déjà conscience, la conférence de Vienne a mis une nouvelle fois en lumière l'urgence et la complexité de réguler les systèmes d'armes autonomes.

Comme le souligne Schallenberg, sans action, nous pourrions nous diriger vers les futurs dystopiques souvent dépeints dans les films de science-fiction. Le contrôle humain sur les décisions mortelles, le respect du droit international et la responsabilité clairement définie sont essentiels pour naviguer dans cette nouvelle ère technologique.

Si la France a de longue date exprimé une position où, un humain est indispensable pour prendre une décision de tir léthal, cette position pourrait évoluer à la lumière notamment de la guerre en Ukraine.

🤔 Cybersécurité et perturbations de la chaîne d'approvisionnement : principales préoccupations des petites entreprises

L'enquête trimestrielle réalisée par la Chambre de commerce des États-Unis révèle des préoccupations des petites entreprises et la perception de leur niveau de préparation face à différentes catastrophes.

👉 Une majorité affirme également que les ruptures de la chaîne d'approvisionnement (58%) font parties des préoccupations majeures. On y voit un lien avec les “supply chain attack” logicielles telles que celle ayant touché le logiciel Orion de Solarwinds.

👉 Les petites entreprises les moins susceptibles de dire qu'elles sont préparées aux menaces cyber comprennent, les entreprises détenues par des femmes (68%), les entreprises du secteur de la santé (64%) et les entreprises du secteur manufacturier (61%).

💡 La statistique concernant les entreprises détenues par des femmes intrigue, car cet aspect n’est que très rarement abordé en cybersécurité. Cela signifie t-il que les entrepreneurs hommes sont trop confiants dans leur niveau de préparation face aux cybermenaces ? Ou au contraire, cela signifie t-il que les femmes entrepreneuses ne le sont pas assez ? Ou qu’il s’agit d’une question de compétences numériques, injustement réparties entre les femmes et les hommes, potentiellement lié à l’orientation vers les carrières “scientifiques” ? C’est une question qui mériterait d’être creusée.

👁 Désinformation russe : Meta dans le viseur des régulateurs européens

Bruxelles est sur le point d’ouvrir une enquête sur les produits Facebook et Instagram de Meta. En pleine campagne des élections européennes, les régulateurs européens estiment que le géant des médias sociaux "n’en fait pas assez” pour contrer efficacement la désinformation russe qui se répand comme une traînée de poudre.

Le Financial Times rapporte que l’Union Européenne est inquiète face aux efforts de la Russie pour déstabiliser les prochaines élections européennes qui auront lieu du 6 au 9 juin prochain. Ils craignent aussi que l’outil de signalement de contenus illicites ne soit pas suffisamment accessible et conforme à la loi sur les services numériques (DSA).

L’enquête devrait être basée sur un rapport envoyé par Meta à la Commission européenne en septembre dernier, sur la manière dont elle gère les risques de désinformation sur sa plateforme. "Nous avons un processus bien établi pour identifier et atténuer les risques sur nos plateformes. Nous sommes impatients de poursuivre notre coopération avec la Commission européenne et de leur fournir plus de détails” a déclaré Meta.

Cette enquête devrait faire suite à une autre investigation, celle ciblant X (ex-Twitter), concernant la diffusion de contenu illégal et de désinformation terroriste après les attaques du Hamas contre Israël le 7 octobre dernier.

💰 La FCC tire la sonnette d’alarme contre les plus grands fournisseurs de télécommunication des USA

Ce lundi 29 avril, la Commission fédérale des communications (FCC), régulateur du secteur des telcos, a imposé une amende de près de 200 millions de dollars à 4 grands fournisseurs de télécommunication américains. Ils ont partagé en toute illégalité les données de localisation de leurs clients à des courtiers en données, entreprises spécialisés dans la collecte et la vente ou revente de données personnelles.

“Nos fournisseurs de télécommunications ont accès à certaines des informations les plus sensibles nous concernant. Ces opérateurs ont échoué à protéger les informations qui leur ont été confiées. Ici, nous parlons de certaines des données les plus sensibles en leur possession : les informations de localisation en temps réel des clients, révélant où ils vont et qui ils sont”, a déclaré Jessica Rosenworcel, présidente de la FCC.

💸 On fait les comptes : T-Mobile US écope du gros lot avec à une amende de 80 millions de dollars, AT&T devra verser 57 millions, Verizon 47 millions et Sprint sera contraint de payer les 12 millions restants. Soit un total de 196 millions de dollars. Les chiffres sont conséquents, mais c’est relativement peu compte tenu du poids financier que pèsent ces fournisseurs aux États-unis et de la gravité de l’incident.

Sans surprise, la décision de la FCC a suscité une forte réaction de la part des fournisseurs de télécommunications, qui ont immédiatement annoncé leur intention de faire appel. Affaire à suivre.

🔥 Cisco : les pare-feux ont la cote chez les pirates

Après Palo Alto Networks il y a quelque jours, c’est au tour du fournisseur de solutions de sécurité réseau Cisco d’émettre un avertissement urgent concernant l'exploitation de 2 vulnérabilités zero-day (CVE-2024-20353 et CVE-2024-20359) dans ses plateformes de pare-feu ASA.

Ces attaques auraient été orchestrées par un groupe de pirates vraisemblablement soutenu pas un État, connu sous les noms de UAT4356 et STORM-1849 et ciblent spécifiquement les secteurs des télécommunications et de l'énergie.

Cette opération sophistiquée nommée “ArcaneDoor” représente une escalade significative dans l'échelle et la sophistication des attaques cyber sur les infrastructures critiques. Les dispositifs périphériques, comme ceux ciblés dans ces attaques, servent de gardiens de la sécurité des réseaux. Leur compromission peut mener à des activités étendues d'espionnage et d'exfiltration de données.

Cisco exhorte tous les administrateurs de réseau, quel que soit leur fournisseur d'équipement, à s'assurer que leurs dispositifs sont patchés, que les logs sont centralisés et sécurisés, et qu'une authentification multifacteur est mise en place. Ces mesures sont cruciales non seulement pour contrer les intrusions potentielles mais aussi pour se protéger contre les vulnérabilités futures. D’autres recommandations relatives à Cisco sont disponibles ici.

📱 "Dirty Stream” : des milliards de smartphones Android sont vulnérables

Microsoft a mis en lumière une nouvelle attaque surnommée "Dirty Stream” dans le système d’exploitation d’Android. Qu’est-ce que cela signifie ? Il est possible pour des individus malveillants d’accéder à vos données personnelles et d’exécuter du code à distance.

Parmi eux se trouvent le produit File Manager de Xiaomi, qui compte plus d’un milliard d’installations, et WPS Office avec 500 millions de téléchargement. Ne vous affolez pas ! Microsoft a déclaré que les deux fournisseurs des produits concernés avaient déjà résolu le problème. Cependant, il est possible qu’il y ait plus d’applications compromises en raison de leur même faiblesse de sécurité. “Nous prévoyons que le modèle de vulnérabilité pourrait être trouvé dans d’autres applications.” a affirmé l’équipe de renseignement sur les menaces de Microsoft dans un billet de blog cette semaine.

Microsoft et Google ont tous deux fourni des conseils aux développeurs sur la façon d’éviter le problème. Quant à eux, les utilisateurs peuvent atténuer le risque en s’assurant que les applications Android sont à jour et en évitant de télécharger des applications depuis n’importe où sur le Web (utilisez uniquement les magasins officiels comme Google Play).

🎙 Entretien avec Guillaume Chéreau, Responsable CSIRT Région Bretagne

Le 26, 27 et 28 mars dernier, Shakerz était présent au Forum InCyber Europe à Lille pour donner la parole aux experts de la cybersécurité, de l’IA et du numérique. Pour mieux comprendre l’essentiel.

On continue cette série de portraits avec Guillaume Chéreau, Responsable CSIRT Région Bretagne qui nous parle de la cyber en Bretagne et du rôle d’un CSIRT.

📄 Les attaquants redoublent d’efforts pour échapper à la détection et se maintenir dans les systèmes

Le traditionnel rapport annuel M-Trends de Mandiant (Google Cloud Security) est sorti. Il couvre les investigations sur les attaques ciblées menées entre le 1er janvier 2023 et le 31 décembre 2023. Mandiant met en lumière un effort accru des attaquants pour échapper à la détection et à se maintenir tapis dans les systèmes pendant de plus longues périodes.

À retenir :

👉 Augmentation du ciblage des périphériques annexes et des plateformes qui manquent traditionnellement de solutions de détection et de réponse aux incidents.

👉 Augmentation de plus de 50% de l'utilisation de vulnérabilités zero-day par rapport à 2022. Tant par des groupes d'espionnage que par des attaquants motivés financièrement (ransomwares). L’exploit de vulnérabilités arrive en tête des vecteurs d’infection initiaux (38%), suivi par le phishing (17%) la compromission antérieure (15%) et les identifiants volés (10%).

👉 Augmentation du nombre d’attaques de type “living off the land” (LotL), qui consiste à exploiter les outils et logiciels déjà présents dans les systèmes ciblés au lieu d’utiliser des logiciels malveillants personnalisés. Cette approche rend la détection et la prévention de ces attaques beaucoup plus difficile.

🌞 Lueur d’espoir : en 2023, le temps de séjour médian mondial, c’est à dire la période pendant laquelle un attaquant est sur un système (depuis la compromission jusqu'à la détection), est désormais de 10 jours, contre 16 jours en 2022. C’est une grande victoire pour les défenseurs qui continuent de s’améliorer dans la détection des menaces.

🇫🇷🗼 “Next Stop Paris”, le premier film généré par IA de TCL est comment dire …

Ridicule ? Depuis plusieurs mois, l’intelligence artificielle ne cesse de défrayer la chronique, parfois pour le meilleur, parfois pour le pire. Aujourd’hui, il semblerait que l’on ait affaire au pire 😅.

Pour le lancement de son studio de production TCLtv+ Studios, l’entreprise d’électronique TCL a dévoilé la bande-annonce de sa première réalisation : “Next Stop Paris”, un film romantique entièrement réalisé avec l’IA. On salue l’effort mais il y a encore du boulot …

Comme toujours, merci de nous avoir lu. Si tu souhaites nous soutenir, partage le shake autour de toi 👐

Passe un bon week-end et à la semaine prochaine ! ✌️