loading...
Les

BIAIS
de
l'intelligence artificielle






par Biljana Petreska, 2022

*Plus précisément d'une branche de l'intelligence artificielle appelée apprentissage automatique, ou machine learning en anglais.
Je découvre...

BIAIS n. m. Déformation systématique.



Cliquez sur 2 sphères de votre choix pour
découvrir qui se trouve derrière...


Suite
Merci !

Maintenant, imaginez que
VOUS êtes l'algorithme de prédiction.

Votre but est de trouver
si derrière toutes ces sphères il y a
plus de nuages indigos ou
plus de nuages verts.


Cliquez donc sur 8 autres sphères.

C'est fait !

nuages indigos


Vous avez choisi les nuages indigos. Pourtant, à l'écran il y a plus de nuages verts.

Essayez encore...
Aujourd'hui,
l'algorithme de prédiction,
c'est vous !

Alors, d'après vos propres observations,
il y a plus de :



nuages verts
Les algorithmes d'intelligence artificielle apprennent
en observant des données.

Après avoir observé beaucoup de données,
ces algorithmes peuvent prédire
s'il va faire beau ou s'il va pleuvoir,
s'il vaut mieux prendre le bus ou le train,
s'il faut regarder la série A ou plutôt la série B...
Je vois
Les algorithmes d'intelligence artificielle
ne réflechissent pas, ils ne font que compter.

Ils observent beaucoup de données,
puis font des prédictions qui font sens
par rapport aux données qu'ils ont observées.
J'ai compris
Voici un exemple.
Pour arriver à compléter vos phrases, l'algorithme
observe un très grand nombre de phrases
et en compte les mots.

L'algorithme vous proposera ensuite
les mots les plus fréquents
dans des phrases similaires à votre phrase.


Continuons l'observation.
Cliquez sur 10 autres sphères.

C'est fait !

nuages verts


Vous avez choisi les nuages verts. Pourtant, à l'image il y a plus de nuages indigos.

Essayez encore...
Plus on a d'observations,
plus on peut espérer
s'approcher de la réalité.

Désormais, il y a plus de :

nuages indigos

Qu'est-ce que ces observations
vous permettent de conclure ?

Quelle prédiction un algorithme ferait-il :
y a-t-il plus de nuages indigos
ou plus de nuages verts qui se cachent
derrière tous les points d'interrogation ?

Cliquez sur le bouton pour le savoir.

Découvrir tout
En fait, il y a exactement le même nombre de
nuages indigos et de nuages verts.

Mais, selon les données que l'on observe,
nous pouvons être induits en erreur.


Vous venez de voir ce que l'on appelle
le BIAIS DES DONNÉES. Ah oui ?
Comme il est impossible de tout observer,
l'algorithme prend des décisions
basées sur des données qui sont
une représentation imparfaite de la réalité.

En règle générale,
plus l'algorithme observe des données,
meilleures seront ses prédictions.

 Mais encore...
Les algorithmes d'intelligence artificielle
ne réflechissent pas, tout ce qu'ils font
c'est observer le monde
et compter.
 Un peu comme moi
Les algorithmes d'intelligence artificielle
sont de plus en plus puissants !

Mais ce n'est pas parce que nous avons trouvé
des algorithmes encore plus intelligents.
C'est plutôt parce qu'ils observent
toujours plus de données :
grâce au BIG DATA. Encore un biais

un trèfle indigo


Si on observe bien, les nuages verts préfèrent les plantes vertes, en général.

Essayez encore...
Nous avons la chance d'avoir plus de données.
Chaque nuage affiche sa plante préférée
dans son profil de réseau social.

Vous êtes invités à dîner par
un nuage vert.
Est-ce mieux de lui offrir
un trèfle indigo ou une plante verte ?


 une plante verte
Aïe, aïe, aïe !

Ce nuage vert fait partie
d'une minorité de nuages verts
qui détestent les plantes vertes !..

C'est le BIAIS SOCIÉTAL :
les données reproduisent tous
les biais et préjugés de notre société.
 Ah oui ?
Imaginez qu'en fait,
les nuages verts sont des femmes.

Comme ça, vous allez offrir
des plantes vertes à toutes les femmes
juste parce qu'elles sont des femmes ?

On pourrait vous accuser d'être sexiste !
Je ne savais pas...
Imaginez que la couleur des nuages
est en fait une couleur de peau.
Vous avez déterminé le goût d'une personne
d'après sa couleur de peau.

On pourrait vous accuser d'être raciste !

Bref, vous êtes un algorithme
biaisé et discriminant.
 Ce n'est pas moi !
Je suis d'accord,
ce n'est pas votre raisonnement
qui est biaisé,
mais bien les données
que vous avez observées.

N'empêche que le mal est fait !
 Comment ça ?
C'est ainsi que l'algorithme de Facebook
propose des offres d'emploi sexistes,
en reproduisant les stéréotypes :
hommes camionneurs, femmes infirmières.

La détection de discours haineux sur Internet
par l’algorithme de Google est raciste :
les tweets écrits par des afro-américains ont
plus de chances d'être identifiés comme toxiques. Oh non !
L’algorithme d'Open AI et Microsoft
génère des textes sexistes ET racistes,
car pour apprendre il parcourt
les données publiées sur le Web,
souvent sexistes et racistes.

Alors que tout ce que l'algorithme fait
c'est de compter,
comme vous l'avez fait pour la plante verte . Que faire ?
Pour contrer le BIAIS des données,
et le racisme,
les chercheurs font attention
à récolter des données
qui incluent différentes minorités.

Pour contrer le BIAIS sociétal,
et le sexisme
les chercheurs créent des fausses données
pour compenser les différences.
Que puis-je faire ?

Il est impossible de supprimer tous les biais !

Il faut donc être critique face aux résultats
que nous donnent les algorithmes,
et soutenir la création de lois
qui nous protègeront de
dérives dangereuses. Dangeureuses ?
Accepteriez-vous qu'un algorithme :

• décide de votre entrée à l'université
• décide combien vous pouvez emprunter
• décide de vous mettre en prison
• ou vous refuse un don d'organes

d'après votre genre ou votre couleur de peau ?


 Un autre danger

Les réseaux sociaux
nous suggèrent des personnes
qui ont les mêmes préférences
et les mêmes opinions que nous.

Ils nous enferment dans une bulle de filtre :
une vision du monde qui cache
les opinions et préférences
différentes des nôtres. Mince

Imaginons que les nuages-plantes
ont peur du réchauffement climatique,
alors que les nuages-trèfles ont confiance
dans la capacité auto-réparatrice de la Terre.

Les nuages-plantes ne connaissent pas
les arguments des nuages-trèfles.
Les nuages-trèfles ne comprennent pas
la peur des nuages-plantes.
 Oh !





Deux bulles de filtres déconnectées... C'est dommage

Oui


Vous avez répondu oui. Mais que savez-vous du nuage corail ?

On a vu avec le biais des données que les prédictions de l'algorithme sont incorrectes lorsque trop peu de données sont observées.

Si l'algorithme n'a jamais observé une donnée, il ne peut faire que des suppositions au hasard.

Essayez encore...
Pour finir, rencontrons pour la première fois
un nouveau nuage corail !

Est-ce qu'un algorithme peut prédire
si ce nuage aime les plantes vertes
ou préfère plutôt les trèfles indigos ?

 Non
C'est correct !
Si l'algorithme n'a jamais observé cette donnée,
il ne peut faire que des suppositions au hasard.

D'après leur forme ou leur couleur,
quelle prédiction feriez-vous ?

Ces nouveaux nuages préfèrent...


 J'ai une idée
Le nuage corail a la même forme que le nuage vert :
l'algorithme pourrait prédire que le nuage corail
a une préférence pour les plantes vertes.

Mais toute décision a des conséquences...

Si le réseau social lui propose toujours
des plantes vertes et jamais des trèfles indigos,
le nuage corail finira par préférer les plantes vertes.
 Il est influencé ?
Une sorte de prophétie auto-réalisatrice.

Le nuage corail ne saura jamais
qu'un algorithme a manipulé son opinion
et pensera sincèrement qu'il aime les plantes vertes.

Sous l'influence sociale des nuages-plantes,
il sera rassuré dans son choix. Moi aussi ?
C'est l'heure des conclusions.

Avec peu de données,
l'algorithme le plus intelligent au monde
fait de mauvaises décisions,
c'est le biais des données.

Mais même avec assez de données
l'algorithme peut faire de mauvaises décisions,
c'est le biais sociétal.
 Mais encore




Cultivons notre diversité et
perçons nos bulles de filtres.



 Merci !
 Découvrez les biais de l'IA avec un jeu. Une manière ludique de comprendre l'intelligence artificielle et les bulles de filtre sur une tablette ou un ordinateur.