loading...
Les

BIAIS
de
l'intelligence artificielle*






par Biljana Petreska, 2022

*Plus précisément d'une branche de l'intelligence artificielle appelée apprentissage automatique, ou machine learning en anglais.
Je découvre...

BIAIS n. m. Déformation systématique.



Cliquez sur 2 sphères de votre choix pour
découvrir qui se trouve derrière...


Suite...
Merci !

Imaginez maintenant que l'algorithme c'est vous.

Votre but est de trouver
si derrière toutes ces sphères il y a
plus de nuages indigos ou
plus de nuages verts.


Cliquez donc sur 8 autres sphères.

C'est fait !

nuages indigos


Vous avez choisi les nuages indigos. Pourtant, à l'image il y a plus de nuages verts.

Essayez encore...
Aujourd'hui,
l'algorithme de prédiction,
c'est vous !

Alors, d'après vos observations,
il y a plus de :



nuages verts
Les algorithmes d'intelligence artificielle
apprennent en observant.

Après avoir beaucoup observé,
les algorithmes peuvent prédire
s'il va faire beau ou s'il va pleuvoir,
s'il vaut mieux prendre le bus ou le train,
s'il faut regarder la série A ou plutôt la série B...
Je vois.
Les algorithmes d'intelligence artificielle
ne réflechissent pas, ils ne font que compter.


Ils observent énormément de données,
puis font des prédictions qui font sens
par rapport aux données observées.
J'ai compris.
Par exemple, pour arriver à finir vos phrases,
l'algorithme a observé d'autres phrases
et en a compté les mots.

Il vous propose ensuite les mots les plus fréquents
dans des phrases similaires à votre phrase.


Continuons l'observation.

Cliquez sur 10 autres sphères.

C'est fait !

nuages verts


Vous avez choisi les nuages verts. Pourtant, à l'image il y a plus de nuages indigos.

Essayez encore...
Plus on a d'observations,
plus on peut espérer
s'approcher de la réalité.

Désormais, il y a plus de :

nuages indigos

Qu'est-ce que ces observations
vous permettent de conclure ?

Quelle prédiction un algorithme ferait-il :
y a-t-il plus de nuages indigos
ou plus de nuages verts qui se cachent
derrière tous les points d'interrogation ?

Cliquez sur le bouton pour le savoir.

Découvrir tout.
En fait, il y a exactement le même nombre de
nuages indigos et de nuages verts.

Mais, selon les données que l'on observe,
nous pouvons être induits en erreur.


Vous venez de voir ce que l'on appelle
le BIAIS des données. Ah oui ?
Comme il est impossible de tout observer,
l'algorithme prend des décisions
basées sur des données qui sont
une représentation imparfaite de la réalité.

En règle générale,
plus l'algorithme observe des données,
meilleures seront ses prédictions.

 Mais encore...
Les algorithmes d'intelligence artificielle
ne réflechissent pas, tout ce qu'ils font
c'est observer le monde
et compter.
 Un peu comme moi.
Les algorithmes d'intelligence artificielle
sont de plus en plus puissants !

Mais ce n'est pas parce que nous avons trouvé
des algorithmes encore plus intelligents.
C'est plutôt parce qu'ils observent
toujours plus de données :
grâce au BIG DATA. Encore un biais.

un trèfle indigo


Si on observe bien, les nuages verts préfèrent les plantes vertes, en général.

Essayez encore...
Nous avons la chance d'avoir plus de données.
Chaque nuage affiche sa plante préférée
dans son profil de réseau social.

Vous êtes invités à dîner par
un nuage vert.
Est-ce mieux de lui offrir
un trèfle indigo ou une plante verte ?


 une plante verte
Aïe, aïe, aïe !

Ce nuage vert fait partie
d'une minorité de nuages verts
qui détestent les plantes vertes !..

C'est le BIAIS sociétal :
les données reproduisent tous
les biais et préjugés de notre société.
 Ah oui ?
Imaginons qu'en fait,
les nuages verts sont des femmes.

Comme ça, vous allez offrir
des plantes vertes à toutes les femmes
juste parce qu'elles sont des femmes ?

On pourrait vous accuser d'être sexiste !
Je ne savais pas...
Imaginons que la couleur des nuages
est en fait une couleur de peau.
Vous avez déterminé le goût d'une personne
d'après sa couleur de peau.

On pourrait vous accuser d'être raciste !

Bref, vous êtes un algorithme
biaisé et discriminant.
 Ce n'est pas moi !
Je suis d'accord,
ce n'est pas votre raisonnement
qui est biaisé,
mais bien les données
que vous avez observées.

N'empêche que le mal est fait !
 Comment ça ?
C'est ainsi que l'algorithme de Facebook
propose des offres d'emploi sexistes,
en reproduisant les stéréotypes :
hommes camionneurs, femmes infirmières.

La détection de discours haineux sur Internet
par l’algorithme de Google est raciste :
les tweets de personnes afro-américaines
sont plus souvent identifiés comme toxiques. Oh non !
L’algorithme d'Open AI et Microsoft génère
souvent des textes sexistes ET racistes,
car pour apprendre il parcourt
les données publiées sur le Web,
souvent sexistes et racistes.

Alors que tout ce que l'algorithme fait
c'est de compter,
comme vous l'avez fait pour la plante verte . Que faire ?
Pour contrer le BIAIS des données,
et le racisme,
les chercheurs font attention
à récolter des données
qui incluent différentes minorités.

Pour contrer le BIAIS sociétal,
et le sexisme
les chercheurs créent des fausses données
pour compenser les différences.
Que puis-je faire ?

Il est impossible de supprimer tous les biais !

Même si les algorithmes nous aident,
il faut toujours être critique face à leurs résultats.

Pour éviter des dérives dangeureuses,
il faut soutenir la création de lois de protection
et de projets de régulation de l'intelligence artificielle.
 Dangeureuses ?
Accepteriez-vous qu'un algorithme :
• décide de votre entrée à l'université,
• décide si vous pouvez emprunter,
• décide de vous mettre en prison,
• ou vous refuse un don d'organes,
d'après votre genre ou votre couleur de peau ?

Quelles décisions seriez-vous d'accord de
déléguer aux algorithmes ?
Un autre danger.

Les réseaux sociaux
nous suggèrent des personnes
qui ont les mêmes préférences
et les mêmes opinions que nous.

Ils nous enferment dans une bulle de filtre :
une vision du monde qui cache
les opinions et préférences
différentes des nôtres. Mince.

Imaginons que les nuages-plantes
ont peur du réchauffement climatique,
alors que les nuages-trèfles ont confiance
dans la capacité auto-réparatrice de la Terre.

Les nuages-plantes ne connaissent pas
les arguments des nuages-trèfles.
Les nuages-trèfles ne comprennent pas
la peur des nuages-plantes.
 Oh !





Deux bulles de filtres déconnectées... C'est dommage.

oui


Vous avez répondu oui. Mais que savez-vous du nuage corail ?

On a vu avec le biais des données que les prédictions de l'algorithme sont incorrectes lorsque trop peu de données sont observées.

Si l'algorithme n'a jamais observé une donnée, il ne peut faire que des suppositions au hasard.

Essayez encore...
Pour finir, rencontrons pour la première fois
un nouveau nuage corail !

Est-ce que l'algorithme peut prédire
si ce nuage aime les plantes vertes
ou préfère plutôt les trèfles indigos ?

 non
C'est correct !
Si l'algorithme n'a jamais observé cette donnée,
il ne peut faire que des suppositions au hasard.

D'après leur forme ou leur couleur,
quelle prédiction feriez-vous ?

Ces nouveaux nuages préfèrent...


 J'ai une idée.
Le nuage corail a la même forme que le nuage vert :
l'algorithme pourrait prédire que le nuage corail
a une préférence pour les plantes vertes.

Mais toute décision a des conséquences...

Si le réseau social lui propose toujours
des plantes vertes et jamais des trèfles indigos,
le nuage corail finira par préférer les plantes vertes.
 Il est influencé ?
Une sorte de prophétie auto-réalisatrice.

Le nuage corail ne saura jamais
qu'un algorithme a manipulé son opinion
et pensera sincèrement qu'il aime les plantes vertes.

Sous l'influence sociale des nuages-plantes,
il sera rassuré dans son choix. Moi aussi ?
C'est l'heure des conclusions.

Avec peu de données,
l'algorithme le plus intelligent au monde
fait de mauvaises décisions,
c'est le biais des données.

Mais même avec assez de données
l'algorithme peut faire de mauvaises décisions,
c'est le biais sociétal.
 Mais encore ?




Cultivons notre diversité et
perçons nos bulles de filtres.



 Merci !
créé par

BILJANA PETRESKA VON RITTER
Je veux
en savoir plus


inspiré par le jeu sublime

"Crowds" de NICKY CASE


la musique est

"Moonshine" de KETSA


merci à

HEP VAUD MODULO BETA-TESTEURS