Le 11 mars 2023

L’intelligence artificielle est-elle la nouvelle révolution numérique ?

Dominique Boullier, sociologue et spécialiste du numérique, était l’invité de l’émission « 7 jours sur la planète ». Quelles sont les limites de l’intelligence artificielle ? L’invité nous en parle en s’appuyant sur des programmes tels que ChatGPT ou DALL-E. Il explique leur fonctionnement, ainsi que les débats et les risques qu’ils entraînent.

vous respirez profondément bonjour
Dominique boulier vous êtes sociologue
Linguis spécialiste du numérique alors
on l'a vu là sur sur ce sujet meet
journée chat GPT d'autres robots
conversationsnels vont arriver encore
sur le marché est-ce que c'est la
nouvelle révolution numérique c'est
robots il faut se méfier du terme
révolution parce que vous pouvez en
trouver une tous les ans ou tous les
trois ou quatre ans au moins c'était le
métabère dont on parlait la semaine il y
a 6 mois puis voyez on annonce toujours
des révolutions donc méfions-nous
surtout méfions-nous quand il s'agit
d'un lancement commercial d'une
intelligence artificielle
conversationnelle particulière et en
réalité c'est de travaux qui durent déjà
depuis un certain temps mais il est vrai
que l'intelligence artificielle avec ses
capacités de calcul et notamment dans le
domaine linguistique ouvre des choses
tout à fait inédites c'est le cas
notamment dans la traduction et là on le
voit aussi dans la création donc il y a
nécessité de réfléchir à tout cela et de
faire un point non pas en suivant de se
précipitant pour copier exactement
l'intérêt c'est de se dire il se passe
quelque chose d'important c'est vrai
révolution le problème c'est ça c'est
qu'on ne sait pas exactement quelle
forme elle va prendre parce qu'il y a
plusieurs versions vous savez déjà
seulement une des versions et les autres
Dali ou les autres c'est aussi une des
versions et en réalité on a vraiment
besoin de prendre le temps de débattre
de tout cela ils sont doute ensuite de
prendre un certain nombre de conditions
de faisabilité et d'acceptabilité tout
cela pour vous en tant que linguiste le
débat il est où alors le débat il est
surtout dans l'effet de commande de la
pression de toute puissance que l'on
donne à ces modèles puisque ce sont des
modèles linguistiques mais qui sont
entraînés et qui sont entraînés sur des
corpus qui vont être qui vont produire
disons dont on va dépendre la qualité
des réponses d'une part et donc ça c'est
un problème donc on parle à ce moment-là
de biais de choses comme ça tout cela
n'est pas au point encore d'une part
d'autre part c'est le fait qu'on finit
par croire que c'est un système qui non
seulement début du langage produit du
texte même mais produit aussi de
l'intelligence ou une affection ou une
de la compréhension de ce qu'ils disent
ce qui est totalement faux donc si vous
voulez le le problème n'est pas tant
dans la technologie elle-même dans ce
que l'on laisse croire y compris
commercialement parce qu'après tout on
du coup on délai que ça en se disant
c'est absolument génial surtout quand
c'est gratuit mais en réalité derrière
il y a de vrais enjeux pour savoir que
notre façon de penser notre façon de
créer n'est absolument aucun rapport
avec les mécanismes qui sont mis en
oeuvre qui sont uniquement des
mécanismes statistiques de traitement de
très grands corpus c'est de l'amalgame
en fait c'est ça que vous voulez dire
c'est un amalgame de texte oui c'est un
ça fonctionne statistiquement à partir
du fait qu'on a plus on agrège de
documents et plus on est capable de
prédire les séquences suivantes à partir
du passé de prévoir les préséquences
suivantes à partir d'un mot et puis
maintenant c'est d'une phrase et d'un
ensemble les fenêtres maintenant sont
3000 mots donc on est capable de prédire
des textes sur l'ensemble de ces
séquences là mais c'est que de la
prédiction il y a strictement aucune
compréhension du coup on a quoi on a des
effets de stéréotypes de reproduction y
compris pour la BD là qu'on vient de
voir par le manga qu'on vient de voir il
y a un risque d'avoir quelque chose qui
va reproduire tout ce qui est déjà
stocké la question de la créativité
reste entière parce qu'au bout du compte
on va finir soit par reproduire des
stéréotypes soit par reproduire
tellement de choses que ça devient d'une
banalité
affligeante si vous voulez ce qu'on a
déjà observer quand des étudiants se
mettent à utiliser ça pour tricher et
bien les enseignants se rendent compte
qu'il y a des similarités parce qu'en
gros c'est quand même les mêmes
principes qui sont réexploités et la
créativité de ce fait est absolument
absente certains disent que finalement
c'est comme Wikipédia aujourd'hui au
début on était très frileux très
craintif vis-à-vis de ces de Wikipédia
aujourd'hui on arrive à comprendre ce
que ça nous permet d'avoir comme type
d'information tout en ayant du recul sur
les limites est-ce que tu as déjà pété
c'est Wikipédia via 15 ans alors dans ce
contexte est très différent parce qu'il
faut bien voir que Wikipédia c'est un
collectif distribué c'est une forme
d'intelligence distribuée avec des
personnes qui s'autorégulent pour être
capable de valider des connaissances et
c'est un processus très long qui a
demandé des règles qui a demandé une
amélioration constante et qui finit au
début on la critiqué parce que justement
c'était pas très cher donc on
s'inquiétait et en réalité la révision
collective a fait que le niveau de
connaissance s'est amélioré et qu'on a
effectivement une bonne robustesse de
ses connaissances là dans le contexte
qui ne qui est notre actuellement qui
est poussé par open l'entreprise qui
vend qui open open
cette entreprise là fait un coût
commercial elle est ce n'est une
entreprise privée à vocation marchande
et qui cherchent à prendre une position
dans une situation concurrentielle
d'autres groupes on avait déjà développé
des outils assez similaires comme méta
comme Google comme Microsoft et chose
assez étrange il avait évité de le
mettre sur le marché parce qu'il se
rendait compte des faiblesses de système
donc on se dit là openerai passe à
l'acte si on pouvait employer un terme
un peu psychanalytique c'est-à-dire il y
va et on veut il passe en force et on
verra bien et on verra bien les
conséquences et c'est là où c'est grave
du point de vue de la stratégie
d'innovation c'est de la disruption
comme on dit mais qui de manière un peu
sauvage
aussi d'autres problématiques celle de
l'oeuvre originale et de la protection
intellectuelle qui fait l'oeuvre quels
sont les implications et les enjeux on
regarde cela avant de poursuivre ce
débat
Dominique vouliez les institutions sont
bousculées par toutes ces technologies
par cette profusion est-ce que
c'est une menace au fond pour nos
sociétés ou pour le développement de nos
intelligences c'est une menace sans
doute sur notre sens du réel et sur
notre capacité à admettre que nous
sommes aussi des êtres de fiction nous
produisons des fictions en quantité mais
là nous atteignons à niveau ou
finalement nous nous retrouvons à ne
plus savoir qui est qui dans cette
affaire et le créateur de du manga était
dans cette situation là lui-même se joue
en avatar vous voyez et donc on ne sait
plus on fait semblant d'être créateur
mais on n'est pas créateur l'oeuvre
elle-même est en fait semblant d'être
une création mais c'est pas une création
et c'est la même chose sur Chucky quand
vous avez des étudiants qui vont tricher
puisque c'est quand même avéré et bien à
partir de ce moment-là ils font semblant
de répondre à l'exercice mais en réalité
tchadjibiti fait semblant aussi de
comprendre ce qu'il dit donc vous voyez
on est dans une une spirale de ce que
j'appelle de fake qui est assez virtuel
est-ce que c'est ça alors le mot virtuel
est un peu abusif dans ce point là parce
que virtuel c'est plutôt pour moi de les
possibilités donc en l'occurrence c'est
quand même plutôt du fait c'est à dire
que c'est du fabric une fabrication pour
tromper délibérément mais pour tromper
pour faire plaisir quelquefois ça nous
fait plaisir d'être quand on nous
raconte une histoire donc c'est pas
force pour autant négatif mais dans
certaines conditions ça devient très
dangereux ça devient d'entrer dangereux
y compris pour les individus qui se
créent par exemple des personnalités
fake sur Instagram comme on l'a vu et on
prend l'habitude de ce de vivre dans un
monde comme celui-là et jusqu'où doit-on
aller dans ce domaine là je pense qu'il
est temps de se poser la question et de
donner des conditions d'acceptabilité à
se distribution si rapide de ce genre de
choses après il y a la question du
travail du fait que c'est un processus
industriel on l'a bien vu pour le manga
c'est effectivement ça réduit le temps
de travail donc là jusqu'où on peut
aller dans ce sens là et de la même
façon c'est l'occasion du droit comme
les propriétés qui sont reconnues dans
ce domaine il y a un risque politique
aussi un risque pour la démocratie par
exemple bien le problème on l'a déjà vu
avec la question des deep fake justement
c'est à dire ces intelligences
artificielles qui sont capables de
reprendre à partir de stock de données
des photos des images animées d'un
commandant d'un homme politique par
exemple et de la
coller des textes comme il faut on
appelle ça des dips fake on voit
clairement qu'on perd le sens de la
vérification de la capacité à les choses
ce que ça Jupiter ne fait jamais donc
d'où ça vient c'est le travail
scientifique de base si vous voulez
vérifier d'où les connaissances ont été
construites tout cela c'est quelque
chose qui disparaît sous le prétexte de
l'immédiateté et du résultat il y a
aussi une paresse alors il y a un côté
de ce fait là c'est on veut des
résultats tout de suite on veut une
réponse mais n'oublions pas que Google
par exemple s'est transformé en moteur
de réponse c'est-à-dire que petit à
petit il vous donne avant il était une
incitation à la recherche mais il vous
donne la réponse et finalement on oublie
d'aller chercher vous voyez tout ce
système là encourage à cause de cette
pression pour la vitesse un système où
on se contente d'approximation mais des
approximations à certains points qui
deviennent de vrais fiction merci
beaucoup Dominique boulier d'avoir été
notre invité je rappelle que vous êtes
l'auteur de nombreuses ouvrages dont le
dernier en date propagation un nouveau
paradigme pour les sciences sociales
cette éditions Armand Colin je voudrais
également citer comment sortir de
l'emprise des réseaux sociaux merci
d'avoir été notre invité merci pour
votre invitation