Quels sont les points de vigilances ?
Plusieurs éléments sont à prendre en compte au moment d’utiliser une IA générative :
- Biais algorithmiques : les modèles de langages sont formés sur de vastes corpus de données pouvant contenir des biais implicites ou explicites (exemple : Midjourney & la banlieue).
- Hallucinations : des informations inexactes ou inventées peuvent être générées (exemple : un avocat américain citant des arrêts inventés). Actuellement, l’IA ne dira pas qu’elle ne sait pas mais inventera des éléments fantaisistes. Cette limite est en forte amélioration.
- Données personnelles : les modèles de langages peuvent stocker ou rappeler des informations divulguées au cours des interactions (exemple : le cas des ingénieurs de Samsung).
- Citation des sources : cela est valable pour certaines plateformes (exemple : GPT 3.5).
- Impact environnement : par exemple une importante consommation d’eau au niveau des data centers.
- Désinformation : fake news ou deepfake simplifiés avec les IA génératives (exemples : la Tour Eiffel en feu ou deepfake & « arnaque au président »).