Ces algorithmes qui nous gouvernent

4 septembre 2019

Fils d’actualité Facebook et d’Instagram, prêt bancaire, recommandations NetFlix, … tout est basé sur des algorithmes savamment réfléchis et programmés pour le meilleur mais aussi et certainement pour répondre aux desseins pour qui ils travaillent.

Algorithmes ou intelligence artificielle ?

La récolte et le stockage de nos données que l’on nomme big data, est la source des informations dont se gavent les algorithmes pour nous trier, nous classer dans des groupes, des profils pour ensuite nous proposer des réponses à nos demandes. Nous appartenons donc tous à des « tribus » sans en être avertis ni même sans savoir pourquoi nous y appartenons. A l’heure de l’intelligence artificielle, nous appartenons à plusieurs tribus et en changeons en fonction de l’heure de la journée car nous ne réagissons pas de la même façon à 10 ou à 22 heures.

Ces algorithmes déterminent de plus en plus la manière dont on nous traite, choisissent les publicités que nous voyons, fixent les prix auxquels nous sommes soumis, nous attribuent un rendez-vous chez un médecin, ou organisent nos trajets. Efficace et apparemment arbitraire, ils n’ont de compte à rendre à personne et personne ne comprendra leur logique ni ne pourra nous l’expliquer.

Démocratie en danger

Tous ces algorithmes sont aujourd’hui aux mains de grandes entreprises et ceux-ci sont protégés par la sacro-sainte propriété intellectuelle. Quels sont les critères qui sont pris en compte pour écarter des postulants dans une entreprise ? Des critères démographiques, ethniques, sexuels, sur la base des scores de santé. C’est l’entreprise qui détermine, en fonction de ses propres intérêts les critères retenus outrepassant peut-être la législation en vigueur. Lors d’élections au plus haut niveau, comme cela s’est passé avec Cambridge Analytica et Facebook, la fuite de données et leur utilisation par des algorithmes à complètement faussé les résultats de celle-ci.

Un serment d’Hippocrate version Algorithme ?

A l’instar des médecins, les experts en données devraient prêter une sorte de serment, axé sur les mauvais usages et les mauvaises interprétations possibles de leurs modèles. Une ébauche de serment a déjà été préparée par 2 ingénieurs financiers, Emanuel Derman et Paul Wilmott, suite au krach boursier de 2008. Une suite devrait prochainement être débattue à l’assemblée nationale française.

Des contrôles devraient aussi être mis en place, avec par exemple des robots logiciels qui se feraient passer pour des individus, riches, pauvres, hommes, femmes, … et d’étudier le dit comportement des algorithmes et le cas échéant pourvoir faire corriger les dérives de ceux-ci.

Nous devrions aussi avoir accès aux informations prises en compte pour calculer nos différents scores. Si elles sont fausses, nous devrions avoir le droit de les contester et de les rectifier.

Le message du jour : Il est urgent de reprendre le pouvoir sur les algorithmes

BlogBreakfast 3.0

Commentaire