L'ANSSI et son homologue allemande mettent en avant l'importance de renforcer les équipes sécurité lors de l'utilisation d'assistants de programmation basés sur l'IA pour éviter les vulnérabilités potentielles. Les agences soulignent que la quantité accrue de code générée peut augmenter les risques, notamment en raison de l'obsolescence des données d'entraînement des IA. Elles recommandent des tests de fonctions, des scans de vulnérabilités automatisés, et des revues inter-équipes pour prévenir les risques
Pour protéger les inputs, des mesures telles que l'usage de comptes contrôlés, des règles d'usage claires, et une sécurité spécifique pour les données sensibles sont préconisées. La question de l'attaque par injection de prompts et la nécessité de contrôler les éléments inconnus sont également abordées pour renforcer la sécurité dans le processus de codage avec l'IA. ```https://www.silicon.fr/Thematique/cybersecurite-1371/Breves/Coder-avec-l-IA-les-lignes-directrices-de-l-AnSSI-464139.htm