Counterfit: AI security risk assessment
Microsoft ha rilasciato un tool per effettuare un risk assessment per gli ambienti di AI
La cosa si è resa necessaria in quanto molte aziende stanno delegando le scelte strategiche ai sistemi di AI, di conseguenza è necessario disporre di sistemi di controllo automatici che possano identificare situazioni a rischio
La stessa Gartner’s nei primi mesi del 2021 ha identificato e pubblicato i “Top 5 priorities for managing AI risk (Gartner’s MOST Framework)“
Microsoft con il supporto di altre aziende ha quindi predisposto un tool (Counterfit) con cui scansionare i sistemi AI in base ad una specifica tecnica basata su MITRE’s Adversarial ML Threat Matrix tenendo conto di una serie di case studi tra cui:
- Evasion of Deep Learning detector for malware C&C traffic
- Botnet Domain Generation Algorithm (DGA) Detection Evasion
- VirusTotal Poisoning
- Bypassing Cylance’s AI Malware Detection
- Camera Hijack Attack on Facial Recognition System
- Attack on Machine Translation Service – Google Translate, Bing Translator, and Systran Translate
- ClearviewAI Misconfiguration
- GPT-2 Model Replication
- ProofPoint Evasion
- Tay Poisoning
- Microsoft – Azure Service – Evasion
- Microsoft Edge AI – Evasion
- MITRE – Physical Adversarial Attack on Face Identification
Per un maggior approfondimento vi rimando al Blog di Microsoft
Che si stia aprendo un nuovo mercato e quindi anche nuove professionalità?
