Page 25 - Sinumetech5
P. 25
Le grand danger de l’IA gé- Et donc comment former les type de nappe je parle, de la
nérative vient des modèles élèves pour qu’ils et elles uti- profondeur où elle se
sur lesquels ces logiciels lisent l’IA intelligemment ? trouve, demander des rai-
s’entraînent. De nombreux Et cette question se pose de sonnement scientifiques dé-
biais ont déjà été détectés. la même façon pour toutes taillés et les sources de
Par exemple le racisme et tous les utilisatrices et toutes les démonstrations.
lorsque les données ont été utilisateurs d’un logiciel Ma question devra donc se
récupérées dans des popula- d’IA. limiter aux groupes de mots
tions typées sans prendre en Dans de nombreux cas, la clefs, mais devra d’une part
compte l’ensemble des ca- question posée fait partie du être claire et être toutefois
ractéristiques de chacune domaine de connaissance et très précise.
d’entre elles. Il y a quelques de compétences de celui qui Par exemple au lieu de de-
années, Amazon utilisait un la pose. Dans ce cas, elle ou mander à ChatGPT 3.5
logiciel d’IA qui écartait les il peut juger de la cohérence “Peux-tu m’expliquer le
femmes des entretiens de la réponse, mais pas de sa fonctionnement d’un mo-
d’embauche... véracité à 100%. teur à courant continu” on
Le plus fréquent des biais ré- Il est donc important de pourra insister en disant “Je
sulte d’une collecte de don- prévenir les élèves de cet as- voudrais savoir comment
nées réalisée auprès d’un pect des choses. fonctionne une machine à
échantillon non représenta- Les réponses que l’IA peut courant continu en expli-
tif de la population d’un apporter doivent absolu- quant de façon détaillée et
pays ou d’un groupe de per- ment permettre de remon- scientifique, avec ses équa-
sonnes. C’est un biais ter à des sources sûres. tions liant les différentes
d'échantillonnage. parties magnéto-élec-
Lorsque les données en- Il est donc important de sa- triques, et des schémas, des
trantes sont choisies de voir poser les questions à un animations et des vidéos sur
façon automatique par le lo- logiciel d’IA. Il faut être très ce fonctionnement.”
giciel d’intelligence artifi- clair et très précis sur les at-
cielle il est donc très tendus de la réponse. Vous pouvez constater (ré-
important de savoir On peut même imaginer de ponse de ChatGPT 3.5 page
comment ces données sont demander à son outil d’IA suivante) que la réponse
sélectionnées sur le réseau de savoir comment il se po- bien qu’assez complète d’un
internet mondial. serait lui-même la question point de vue théorique ne
Malheureusement il est pour avoir la réponse la plus fournit pas de schéma, ni de
quasiment impossible, précise possible à des cri- vidéo, ni de lien vers celles-
compte tenu de la méthode tères énumérés clairement. ci.
utilisée pour formuler les ré-
ponses, de savoir sur quelles Exemple : Je veux savoir
Cet article vous a plu ? Faites un don
sources le programme d’IA comment mesurer la tempé- défiscalisé à 66% pour nous aider à
s’est appuyé, et donc de vé- rature des nappes phréa- continuer à vous informer
rifier leur véracité. tiques.
Je dois donc préciser de quel
25/34 SiNum&Tech
