IA génératives : avantages, limitations, aspects éthiques
Conditions d’achèvement
IA générative
- système d’intelligence artificielle capable de générer du texte, des images ou d'autres médias en réponse à des prompts.
- entraînées automatiquement sur d'énormes quantités de textes (pages web) ou d'images + intervention humaine
- fonctionnement : en réponse à un prompt, complète avec un texte (suite de mots la plus probable selon le contexte)
Avantages
- Source d'inspiration
- Gagner du temps
Limitations
- Ne dispose pas forcément des informations les plus récentes (Microsoft Copilot : 2023, ChatGPT 3.5 : janvier 2022).
- "Hallucination" : réponse fausse ou trompeuse, présentée comme un fait certain.
- Les réponses peuvent être superficielles : affiner avec d'autres prompts, utiliser comme point de départ.
- Résultat dépend de la qualité des prompts.
- Non-déterministe : le même prompt répété donne des résultats différents.
- Ne peuvent pas toujours citer des sources (Microsoft Copilot : oui)
Aspects éthiques
- Biais des données d’entraînement
- linguistique : la plupart des IA sont utilisables dans de nombreuses langues, mais le corpus d'entraînement principal reste souvent l'anglais.
- politiques, stéréotypes, etc.
- Vie privée, protection des données
- “Plagiat”
- Mentionner l’usage de ChatGPT
- Utilisation responsable