L'auteur, elle-même consultante en conception de sites internet depuis l'époque où on faisait encore des recherches sur AltaVista, décrit avec brio les travers et aberrations de technologies dominées par les hommes. Deux exemples : Google prend Sara Wachter-Boettcher (SWB) pour un homme parce qu'elle y fait des recherches sur les technologies de l'information ; au printemps 2015, Louise Selby, pédiatre de profession à Cambridge décide de s'inscrire dans un club de gym mais l'accès au vestiaire des femmes lui est refusé par sa carte de membre. Enquête faite auprès de la direction, on se rend compte que toutes les cartes électroniques du réseau sont codées par le sous-traitant informatique en paire "docteur = mâle". La culture et le mode de fonctionnement des entreprises de technologies sont basés non sur des besoins, mais sur des stéréotypes, témoigne une cheffe de projet -dont les siens étaient recalés car elle était dans une boîte de Mad Men qui, de façon routinière, excluent tout ce qui n'est pas jeune, blanc et mâle. Plus les femmes sont identifiées, codées de façon incorrecte, plus se renforce l'idée que ce sont les hommes qui dominent le secteur, plus le système corrèle l'usage des technologies avec les pratiques masculines, par l'effet, entre autres, du machine learning. " Voici une industrie qui recrute une bande de jeunes hommes blancs qui travaillent ensemble dans la journée, se bourrent la gueule ensemble le soir, et pensent "parfait, c'est à cela que ressemble un lieu de travail sain " ; quand par ailleurs, ces jeunes hommes utilisent le vocabulaire post-adolescent de la culture heroic fantasy des video-games les valorisant eux seuls : "licornes, ninja et rock stars", pour glorifier ses concepteurs, les femmes ne peuvent pas s'y reconnaître, déplore SWB.
Profilage, stéréotypage et finalement "pattern recognition". Comme les machines apprennent à reconnaître les faciès, les start up apprennent à reconnaître et coopter les gens qui leur ressemblent : aptitudes techniques constituées en méritocratie, avec le prédicat qu'elles seraient les plus difficiles à acquérir, que leurs industries n'ont pas besoin des apports de l'extérieur puisque les gens les plus intelligents sont déjà dans la salle, dévaluant systématiquement ceux qui apportent d'autres compétences pour renforcer les produits et les services commercialement et éthiquement ; des gens ayant fait leurs humanités (comme on ne dit plus hélas), des gens avec des compétences sociales, formés à tenir compte de contextes historiques et culturels, à identifier les biais inconscients (les femmes sont des ménagères, les noirs des criminels), à être plus empathiques avec les besoins des utilisateurs.
Produits eux aussi de la culture insulaire, mâle, blanche décrite ci-dessus, tous sortant des mêmes écoles de prêt-à-penser, les trois réseaux sociaux Twitter, Facebook, Reddit, et le moteur de recherche Google présentent toutes les défauts génétiques et les obsessions de leurs fondateurs.
En résumé :
Twitter, site d'updates et de listes non réciproques par défaut (les abonnements se font sans autorisation) : c'est son talon d'Achille car ils permettent le harcèlement et les conduites abusives. Mises en copies de la moitié de la planète, par le biais des partages vos notifications peuvent vite devenir ingérables et incontrôlables, truffées d'insultes voire de menaces. Plusieurs féministes ont dû fermer leur compte. Twitter est de plus truffé de faux comptes et de robots ; un grand ménage vient d'être fait ces dernières semaines à la demande de leurs annonceurs publicitaires (!) via des algorithmes, et je vous promets que c'est très étrange ! Ces algorithmes réagissent à des mots-clés, et finissent par évincer des comptes tout à fait décents, en les suspendant ou les restreignant. Des comptes féministes notamment, en ont fait les frais.Facebook, 1 Hacker Way (si, ça ne s'invente pas !), Menlo Park California, site des "amis", "machine driven", ce sont les trending topics produits par des algorithmes qui recensent les sujets favoris de vos amis et en compilent des "sujets tendances", excellente méthode de production de fake news, fausses nouvelles, théories du complot.., couplés avec la culture de hacker du fondateur, partagée par les ingénieurs maison, la "méritocratie" évoquée plus haut, qui ne parlent pas aux sous-êtres de modérateurs humains hébergés eux dans les sous-sols du siège de la Firme (écrit SWB). Vraiment il vaut mieux vérifier tout ce que vous y partagez ! Et bien garder la tête froide. Cette recommandation vaut pour tous les medias sociaux : si vous sentez que vous commencez à chauffer, débranchez tout et allez faire un tour pendant deux heures. Vraiment.
Reddit, site d'agrégation de contenu : la culture "free speach", liberté d'expression de la maison, élevée au rang d'idéologie, couplée avec des modérateurs bénévoles (non rémunérés), font de la pratique du doxing (révélations d'informations sur des personnes privées) une des plaies de ce réseau.
Le moteur de recherche de Google n'est pas exempt de pataquès dont il n'est pas immédiatement responsable, mais qui révèlent le racisme qui sous-tend nos sociétés : un ingénieur noir fait des recherches d'images à base des mots-clés "visages sombres" pour son site Internet ; arrive un panel d'images de personnes noires au milieu desquelles il trouve une image de gorille ! "Je sais faire la part des choses parmi les erreurs d'algorithmes d'autant que je suis du métier, témoigne l'ingénieur, mais c'est tellement un argument raciste rebattu, que c'est insupportable". Il a finalement déposé plainte contre Google.
Dernier exemple décrit aussi par SWB : Uber que tout le monde croit être une compagnie de taxis, quelle erreur ! En fait Uber est une entreprise de technologies de pointe qui fait de la géolocalisation, et une entreprise de design d'applications animées montrant une petite auto qui s'approche d'un petit bonhomme, signalant ainsi l'approche du taxi que vous avez commandé sur votre téléphone. C'est très ludique. Mais au bout du rigolo, ils travaillent surtout sur la voiture sans chauffeur, le remplacement des humains par La Machine Terminale, le conducteur de la voiture étant décidément trop cher et résistant à la mise en esclavage, fût-il, l'esclavage, paré des habits neufs de l'auto-entrepreneuriat où l'on s'esclavagise soi-même, dernière trouvaille de génie de l'économie informelle très prisée dans ces milieux.
Construit comme un polar, avec progression angoissante, -l'avenir promis n'est pas radieux-, d'abord l'état des lieux, puis les développements des algorithmes de data mining (extraction de toutes sortes d'informations dans des métadonnées, Facebook par exemple, qui ne pense qu'à utiliser vos données pour vous proposer de la pub ou les revendre, ainsi que des prévisions de comportements à des cabinets de conseil en marketing, ce qui lui vaut des tas de scandales qui pourraient à terme coûter sa place de Président à Zuckerberg), enfin de machine learning (des robots qui apprennent et adaptent leurs réponses au contact des clients, le service client de La Poste fonctionne ainsi, c'est pour l'instant assez pathétique, mais il fait des progrès tous les jours, c'est en tous cas la promesse de la technique), tant et si bien que déjà des algorithmes traquent les fraudeurs/euses de la Caisse d'Allocations Familiales, de L'ASSEDIC, trient vos CV avant de les soumettre à des services de ressources inhumaines, et fabriquent vos journaux télévisés sans plus aucune intervention humaine. Je vous laisse imaginer les dégâts qu'ils pourront faire s'ils sont truffés de biais cognitifs sexistes et racistes ! Souvenez-vous des "chômeurs fainéants", profiteurs, femmes seules forcément mères élevant des tripotées d'enfants avec de l'aide sociale, surtout si elles sont noires. Bienvenue dans un futur masculin, blanc, moins de 35 ans, geek déconnecté du réel, biberonné à l'heroic fantasy dont ils se croient les héros !
Une vraie fête de la saucisse. Un CAUCHEMAR ! Mesdames, il est temps d'empoigner le sujet ; si les mecs y arrivent, franchement, le succès est à votre portée.
Quelques liens pour vous prouver que je n'ai pas fumé la moquette :
Sexisme, racisme, les algorithmes face aux préjugés.
Qui sélectionne votre CV lors d'une candidature en ligne ? Un algorithme ! Et c'est pervers pour les candidatures de femmes.
Les algorithmes et intelligences artificielles finissent par reproduire les schémas de nos sociétés.
Quand l'algorithme d'Uber pénalise les femmes.
Machine learning : comment les algorithmes deviennent sexistes en apprenant de nos biais de genres.
A la CAF de Touraine un algorithme signale les dossiers les plus susceptibles de faire l'objet de fraudes.
Ça fait froid dans le dos, non ?
Dernière recommandation : désactivez les "par défauts" sur tous vos terminaux et mettez les à vos préférences : sachez que s'ils sont installés par défaut, ce n'est pas fortuit mais dans leur intérêt bien compris ; en tablant sur votre passivité vis à vis des "par défaut", ils collectent tous des données sur vous, et rappelez-vous que si c'est gratuit (ils sont TOUS gratuits), c'est VOUS le produit ! Et comme j'ai entendu un jour Michel-Edouard Leclerc dire à un journaliste -et ça m'avait bien fait rigoler-, dépassez la page 4 de Google.
Aucun commentaire:
Enregistrer un commentaire