Quels sont les points de vigilances ?

Plusieurs éléments sont à prendre en compte au moment d’utiliser une IA générative :

• Biais algorithmiques : les modèles de langages sont formés sur de vastes corpus de données pouvant contenir des biais implicites ou explicites (exemple : Midjourney & la banlieue).
• Hallucinations : des informations inexactes ou inventées peuvent être générées (exemple : un avocat américain citant des arrêts inventés). Actuellement, l’IA ne dira pas qu’elle ne sait pas mais inventera des éléments fantaisistes. Cette limite est en forte amélioration.
• Données personnelles : les modèles de langages peuvent stocker ou rappeler des informations divulguées au cours des interactions (exemple : le cas des ingénieurs de Samsung).
• Citation des sources : cela est valable pour certaines plateformes (exemple : GPT 3.5).
• Impact environnement : par exemple une importante consommation d’eau au niveau des data centers.
• Désinformation : fake news ou deepfake simplifiés avec les IA génératives (exemples : la Tour Eiffel en feu ou deepfake & « arnaque au président »).