Modèles d’IA et chaînes d’approvisionnement logicielles en vue
Un domaine qui nécessite une prudence particulière est le développement de modèles AI/ML. Nous constatons une menace croissante de codes malveillants à ce stade critique, permettant aux acteurs malveillants de trouver de nouveaux moyens de s'introduire dans les entreprises et les chaînes d'approvisionnement en logiciels et de voler des données. Alors que l’IA/ML fait partie intégrante de nombreuses livraisons de logiciels depuis de nombreuses années, l’essor des grands modèles linguistiques (LLM) a rendu beaucoup plus facile l’intégration de l’IA/ML dans de nombreuses applications. Les développeurs sont censés déployer des modèles AI/ML ainsi que des mises à jour logicielles et de nouvelles implémentations, mais n'ont souvent pas les ressources nécessaires pour mettre en œuvre des mesures de sécurité...