vendredi 23 septembre 2016

Data center et mathématique, une arme létale

qu’est-ce qui sera l’analogue de la crise du crédit dans le monde de la donnée? Et pour L'auteur , la réponse est simple. Dans la dystopie que nous promet le Big Data, les inégalités sont augmenter.



Il y a déjà les inégalités du côté des plateformes, avec des compagnies qui finissent par occuper des positions monopolistiques. Comme le note Cathy, il n’y a rien d’incroyablement intelligent dans le fonctionnement de Google, ou Facebook. Ces compagnies sont énormes parce qu’elles ont été là, au bon moment, mais le danger est leur voracité insatiable. Car à l’heure actuelle, la même entreprise gère nos courriers électroniques, nos recherches (de voyage, de musique, etc), nos réseaux sociaux, et peut ainsi évaluer, mais également contrôler notre monde.
Et au delà des plateformes, ce sont surtout les inégalités au sein de la population qui vont exploser. 
Cathy O’Neil illustre sa thèse à l’aide d’exemples particulièrement bien choisis. Par exemple la publicité ciblée permet à des publicitaires prédateurs d’atteindre de manière encore plus efficace les personnes les plus vulnérables à l’escroquerie. 
Les algorithmes utilisés par les ressources humaines créent des discriminations pires que celles qui pouvaient déjà exister. 
Des exemples, comment ça marche :
La logique de ces algorithmes prédictifs est simple: les gagnants vont gagner, et les perdants vont perdre. Mais de manière sournoise, car invisible. Il n’y a pas de volonté délibérée et affichée, il n’y a plus forcément de policier raciste, ou de recruteur misogyne. 
Les inégalités se créent sans que personne ne s’en rende vraiment compte. 
Considérons une RH qui veuille définir un score de “succès” pour proposer des promotions, peut être basé sur un historique de succès observés dans les années précédentes. Si les données ne contiennent que peu de femmes (car peu avaient, historiquement, des postes à responsabilité) l’algorithme pénalisera les femmes. Et la spirale va commencer. Il y en aura de moins en moins dans la base, et elles seront de facto davantage pénalisées. Le livre foisonne de petits exemples qui illustrent parfaitement son propos, car ce phénomène existe partout. 
Les programmes visant à réduire la criminalité font en fait augmenter la criminalité dans les régions les plus pauvres. Si les quartiers pauvres ont plus de crimes, il y a aura davantage de policiers, qui feront alors davantage d’arrestation, etc. Les inégalités sont exacerbées, car les modèles manquent de boucles de rétroactions.

Traduction Wendy : 
les mathématiques au service du tri des humains. On va "ranger", "sérier" les humains. Puis en jeter certains, car le tri sert à cela. "Poubelle jaune", "poubelle verte" ou rangé en bonne place sur l'étagère. 

5 commentaires:

  1. LE PROGRAMME S'APPELAIT WATSON DURANT LA SECONDE GUERRE MONDIALE, IL FAISAIT CELA, EXACTEMENT CELA, TRIER DES HUMAINS. PRODUIT IBM.

    ET QUE CROYEZ VOUS ?
    IBM VIENT DE SORTIR "LE WATSON" POUR CETTE GUERRE DE 50 OU 150 ANS QUI VIENT.

    ORTHO

    Je suis optimiste, mais pas fada.

    RépondreSupprimer
    Réponses
    1. mon pauvre ortho prend tes goutte et va au lit

      tu lie trop de science fiction l'apport d'ibm dans les camps de travaille "nazi" était absolument facultatif et non indispensable les allemand n'avais nullement besoin d'ibm .

      les histoires d'ibm c'est encore pire que la SNCF l'objectif et le raquette le raquette a vie ! mais tu est trop naïf .

      les registres allemand étais extrêmement bien tenue rapport médical nombre de détenue etc et leurs contenue dérange certains .

      Supprimer
    2. Tu connais mal IBM !

      Pourquoi es tu obligé d'être impoli et condescendant pour t'exprimer ?

      Quels rapports avec les registres allemands bien ou mal tenus ?

      Aucun où alors veux tu nous parler des premières cartes perforées qu'utilisait le 3° Reich ?

      Ha Ben non ! Puisque pour toi il n'y a pas de rapport.

      Reprends tes fiches. Les tiennes ont des trous.

      Supprimer
    3. J'ai compris, moi, de quoi parle l'ano 15:19. Il a raison sur les registres allemands. IBM ou pas, c'est intéressant de les consulter. ^^

      Supprimer

Modération en place !

En attente de clandestinité ! Loolilol !
------------

Respecter les autres est la base de l'échange.

Il faut beaucoup d'efforts pour construire et peu de bêtise pour détruire.

Ni insulte, ni incivilité, ni appel à la haine raciale ne seront acceptés. Je supprimerai les commentaires en comportant.