Les fondements du machine learning

Identifier les biais cognitifs humains

TESTEZ LINKEDIN LEARNING GRATUITEMENT ET SANS ENGAGEMENT

Tester maintenant Afficher tous les abonnements
Le machine learning joue un rôle important pour contrecarrer les biais humains. Avec votre formateur, apprenez ce qu'est un biais et quels sont-ils.
10:00

Transcription

Comme l'ont montré deux prix Nobel d'économie, les humains sont de très mauvais décideurs, en général, et estiment aussi très mal leur environnement, que ce soit de façon qualitative ou quantitative. Ces biais auxquels l'humain est soumis peuvent être très dangereux dans le domaine du machine learning. Pourquoi ? Parce que, pour l'instant, majoritairement, ce sont des humains qui programment les algorithmes, bien que de nombreux sont indépendants des biais humains. En plus, nous savons d'expérience que, dès qu'on a des algorithmes où il y a des paramètres qui doivent être décidés par des humains, cela peut mener à des catastrophes ou à des multinationales de presque disparaître. C'est pour cela que, normalement, un modèle de machine learning, dont l'usage est humainement ou économiquement sensible, doit être revu par un comité d'experts indépendants. Nous allons cependant rappeler ici quels sont, mais rapidement, les vingts biais cognitifs les plus courants qui mènent souvent l'humain droit dans le mur, au niveau de ses jugements et décisions. On a d'abord ce qu'on appelle le biais d'ancrage : c'est-à-dire que l'humain est très influencé, relativement à un sujet, sur la première chose qu'il entendra ou qu'il verra concernant ce sujet, et qu'il va souvent y faire un ancrage, il va y référer, même si par la suite, des informations contredisent la première information. Donc, on appelle cela le biais d'ancrage, et le machine learning, par exemple, a souvent ce type d'ancrage, mais n'a pas les problèmes pour se corriger, relativement à ce type de biais. Ensuite, on a un autre biais typique, qui est le biais de données heuristiques. C'est typique quelque chose dont, vous voyez peut-être chaque semaine quelqu'un dans votre entourage en faire usage. Par exemple, si on dit que la cigarette est mauvaise pour la santé, eh bien quelqu'un va vous dire : non, mais je connais quelqu'un qui a plus de cent ans et qui fume. Ca, c'est aussi un biais, parce que cette personne considère qu'un petit échantillon de données est un échantillon représentatif, alors qu'on devrait faire usage de méthodes scientifiques avec des échantillons de taille calculée scientifique pour avoir une conclusion sur un sujet quel qu'il soit. Troisième biais typique, on a le biais de suivi, qu'on pourrait appeler le biais mouton : l'idée étant que si quelqu'un se trouve dans un groupe d'individus qui ont une opinion, il est fortement possible que ce quelqu'un, cet individu va avoir ses propres opinions qui vont converger vers celles du groupe. Donc ça, c'est aussi quelque chose que l'on connaît très bien en observant, par exemple, les systèmes culturels de nombreux pays ou, également, les systèmes politiques à l'intérieur de certaines familles. Un quatrième biais typique c'est le biais d'aveuglement. C'est un biais qui est assez rigolo, parce que c'est un biais qui consiste à ignorer le fait qu'on a des biais. Il y en a qui ignorent sciemment le fait que notre cerveau a des biais. Il y a aussi le biais de support, qui sera donc notre cinquième biais. C'est le fait qu'on ait fait un choix, politique ou d'achat, et finalement ça s'est avéré mauvais, mais comme on avait fait ce choix et puis qu'un facteur de honte nous influence, eh bien on va rester ancré sur ce choix et le défendre. Le sixième biais, c'est en fait, le biais de cueillage, on pourrait dire l'idée étant de voir dans certains événements des choses qui nous arrangent. Par exemple, on pourrait dire que quelqu'un à qui on dit qu'il y a une forte chance, quand même, si on considère la taille de l'univers, que la vie soit apparue par le hasard, eh bien lui, il va y voir autre chose que du hasard, parce que ça l'arrange relativement à ses convictions, quelles que soient ses convictions. Donc, il va rejeter un système de croyance ou en adopter un par rapport à ce qui l'arrange le plus ou, sans s'en rendre compte, par rapport à son biais éducatif, qu'il a depuis sa naissance. Le septième biais typique, c'est le biais de confirmation. On va avoir tendance à entendre, à filtrer et à répéter que ce qui nous arrange par rapport à des événements. Ca, c'est un biais extrêmement difficile à éliminer, même pour ceux qui adorent parler des biais et qui sont spécialistes dans le domaine. Huitième biais typique, on a le biais de conservation. Si pendant des années, vous avez été convaincu par une certaine idée et que quelque chose vient vous prouver le contraire, ce sera difficile de rejeter l'idée que vous aviez avant d'un système. Par exemple, il faut vous imaginer qu'en 1920, on pensait que notre galaxie était la seule. En 1920, à peu près, j'arrondis, Hubbel a fait une observation qu'il y avait d'autres galaxies en dehors de la nôtre. Il y a beaucoup de gens qui ont eu de la difficulté à accepter ceci. Ou, par exemple, Einstein qui a eu de la peine à accepter le fait que l'univers s'étendait et n'était pas statique. C'est typiquement un biais de conservation. Ensuite, il y a le biais de sur-apprentissage. Lorsqu'on est, donc c'est notre neuvième biais, intéressé par un domaine, on va s'informer presque que par rapport à ce domaine, ce qui fait qu'on va manquer de recul et, en fait, on risque de prendre de mauvaises décisions, parce qu'on est trop obnubilé par le domaine qui nous intéresse ou par la méthode que l'on a choisie. Dixième biais, on a le biais de l'autruche, qui consiste à rejeter ou réfuter toute information qui va à l'encontre de notre position ou de notre croyance, plutôt que vérifier sa véracité scientifique et la comparer à nos données actuelles. Ça, c'est à nouveau le propre de la démarche scientifique. Onzième biais typique : on a le biais, on va dire de résultat. Par exemple, le biais de résultat, c'est, si vous avez fait un projet qui vous a ramené beaucoup d'argent, c'est pas ça vous a ramené beaucoup d'argent que c'était une bonne idée de faire ce projet. Par exemple, le fait que vous ayez gagné au casino ne veut pas dire que c'était une bonne idée d'aller jouer votre argent au casino, par exemple. Douzième biais, on a le biais de confort ou le biais d'expert, comme on l'appelle aussi. C'est le fait qu'on se considère comme un expert dans notre domaine et qu'il n'y a pas de raison que d'autres opinions puissent nous influencer. Bien évidemment, il faut quand même rejeter tout ce qui est pas scientifique et basé sur des données, mais lorsque des données semblent contredire ce qu'on a, il se peut que certains experts n'aillent pas, en fait, étudier les nouvelles données ou rejettent en bloc un modèle qui semble nouveau et contredire le modèle qu'ils ont défendu pendant toute leur carrière. Treizième biais, c'est le biais qu'on appelle l'effet placebo. Ça, normalement, tout le monde le connaît. Je vais pas entrer dans les détails de celui-ci. Quatorzième biais, on a le biais d'innovation, qui est assez connu dans le domaine du machine learning. C'est que, dès qu'on a un nouvel algorithme on tend, en fait, à peut-être abandonner les autres, alors que c'est juste qu'il est à la mode et peut-être les anciens performent mieux que le nouveau. Ça, c'est ce qu'on appelle le biais d'innovation. Quinzième biais, parmi les vingt biais classiques, c'est le biais de nouveauté, mais qui est relatif à l'information, contrairement aux précédents qui étaient relatifs à l'innovation, et là, par exemple dans la finance, ce serait quelqu'un qui attache plus d'importance aux dernières valeurs court terme d'un investissement plutôt qu'aux valeurs long terme. Et ça, c'est typiquement un biais auquel il faut faire attention dans certains algorithmes de machine learning qui font usage de la variable temporelle. Seizième biais, c'est ce qu'on appelle le biais de projection. C'est un biais assez rigolo qu'on rencontre peu dans le domaine du machine learning, du moins à ma connaissance, c'est en fait l'idée que si, par exemple, vous vous imaginez mourir, vous allez souvent imaginer une mort horrible, par exemple être mangé par un lion ou un crocodile, alors qu'en fait, statistiquement, il y a beaucoup plus de chances que vous mouriez dans votre lit ou en traversant le passage piéton. On a tendance à plus imaginer et considérer les choses, quand c'est négatif du moins, qui ont, en fait, une probabilité extrêmement faible. On a comme dix-septième biais le biais de perception, c'est par exemple d'imaginer et de juger, je sais pas, un pays par rapport à ce que l'on voit dans les informations du télé-journal alors que, par rapport à la réalité, c'est totalement erroné. Le biais de perception, on peut aussi par, exemple, considérer que les mirages qu'on voit dans les déserts, c'est pareil. C'est un biais de perception. On pense que, par exemple, il y a un lac, mais en fait, il n'y en a pas. Le dix-huitième biais, toujours dans les vingt classiques, c'est le biais de stéréotype. C'est le fait de caricaturer, en fait, certaines choses que l'on voit ou sur certaines opinions que l'on a. C'est un biais extrêmement difficile à éliminer, et que l'on retrouve parfois lorsqu'on programme certains algorithmes de machine learning. Dix-neuvième biais, et avant-dernier, c'est le biais de survivant. C'est, par exemple, si quelqu'un nous dit : ah, mais c'est facile d'être entrepreneur, eh bien en fait, c'est parce qu'il est entrepreneur et qu'il a réussi. Il a peut-être pas considéré que nonante pour cent des autres entrepreneurs ont échoué. C'est ça le biais du survivant. Enfin, le dernier biais dont je vais parler, c'est un des biais que je préfère, c'est le biais du zéro risque. Souvent, les gens préfèrent éliminer tout ce qui induit des risques ou également biaiser des rapports qui vont à la direction, afin d'éliminer des risques par rapport à leur emploi, ou également, on a le cas, dans le domaine du machine learning, où on va éliminer des anomalies ou des données qui sont aussi comme des anomalies parce qu'elles dérangent. Voilà pour vingt biais classiques, qui sont donc fréquents, et que le machine learning a pour but d'éliminer au maximum, et qui fait, en fait, que l'humain est très mauvais dans le domaine de la politique et également de la gestion d'entreprise, du moins plus mauvais que des algorithmes en ce qui concerne la prise de décision.

Les fondements du machine learning

Acquérez les bases du vocabulaire lié au machine learning. Découvrez les outils fondamentaux avec les idées, applications et concepts mathématiques sous-jacents à chacun.

3h04 (33 vidéos)
Aucun commentaire n´est disponible actuellement
Spécial abonnés
Date de parution :21 déc. 2017

Votre formation est disponible en ligne avec option de téléchargement. Bonne nouvelle : vous ne devez pas choisir entre les deux. Dès que vous achetez une formation, vous disposez des deux options de consultation !

Le téléchargement vous permet de consulter la formation hors ligne et offre une interface plus conviviale. Si vous travaillez sur différents ordinateurs ou que vous ne voulez pas regarder la formation en une seule fois, connectez-vous sur cette page pour consulter en ligne les vidéos de la formation. Nous vous souhaitons un excellent apprentissage avec cette formation vidéo.

N'hésitez pas à nous contacter si vous avez des questions !