Pourquoi faut-il toujours avoir un regard critique sur les textes générés par une IA Générative telle que ChatGPT ou Bard ?
Pourquoi faut-il toujours avoir un regard critique sur les textes générés par une IA Générative telle que ChatGPT ou Bard ?
par Dr. Yves-Marie Le Bay, Expert "IA, Formation & Education"
Dans la video de l'article source, j’explique en termes simples comment les mots sont mémorisés et restitués par les IA Generatives.
Leur capacité à générer du texte sur ces sujets repose sur l’imitation des modèles linguistiques humains, une performance de calcul de probabilité plutôt qu’une manifestation d’intelligence réelle. Ils ne comprennent pas les concepts tels que la guerre, la paix ou l’amour. Gardez cela à l’esprit lors de l’interaction avec de tels systèmes.
Dans cette courte video, j’ai utilisé l’outil Word2Vec qui permet de visualiser les mots dans un espace vectoriel tri-dimensionnel. Dans les modèles de langage génératifs, chaque mot n’est pas simplement un élément isolé ; il fait partie d’un réseau complexe, où sa signification dépend de ses voisins dans cet espace vectoriel. En IA générative, chaque mot est une entité dans un espace multidimensionnel. Ces mots sont stockés non pas comme de simples chaînes de caractères, mais comme des vecteurs, des points dans un espace où la proximité traduit la similitude sémantique. Imaginez un ciel étoilé où chaque étoile représente un mot.
Une fois que le Word2Vec a appris les vecteurs des mots, on peut les visualiser dans un espace par exemple à trois dimensions, en utilisant des techniques de réduction de dimensionnalité grâce à une architecture de réseau de neurones. Ces techniques permettent de préserver au mieux les distances et les angles entre les vecteurs, tout en les projetant dans un espace de dimension inférieure.
Ainsi, on peut observer les similarités et les différences entre les mots, ainsi que les relations sémantiques et syntaxiques qui les lient. Par exemple, on peut voir dans cette video, que les mots « Airlines », « Hub » , « Aviation » , « Terminal » et « Hélicoptère » sont proches les uns des autres. Ils auront donc une plus grande probabilité d’apparaitre dans la même phrase ou texte.
C’est une façon puissante de capturer les nuances du langage, mais elle n’est pas sans défis. L’un des aspects les plus critiques dans l’utilisation de ces modèles est la vérification des résultats obtenus.
Pourquoi est-ce crucial ??? Parce qu’une IA générative, aussi avancée soit-elle, peut produire des résultats biaisés ou incorrects. Il ne faut pas oublier que ces modèles apprennent à partir de données existantes, qui peuvent elles-mêmes contenir des biais ou des erreurs.
Il est donc impératif que nous, en tant que communauté technologique, restions vigilants et critiques envers le travail de nos modèles. C’est seulement ainsi que nous pourrons progresser vers une IA vraiment fiable et éthique.
Étant donné qu’il requiert un équipement spécifique, dont un casque VR pour y accéder, son utilisation n’est pas généralisée pour le moment.
