mercredi 19 décembre 2018

Technically wrong : applications sexistes, algorithmes biaisés et autres menaces des technologies toxiques

J'ai lu Technically wrong de Sara Wachter-Boettcher, consultante web basée en Californie, publié il y a quelques mois en anglais, non traduit en français. Dommage, la lecture en est édifiante et passionnante. Si vous êtes ingénieur-e en informatique ou développeur-euse, lisez-le, l'anglais est à votre portée. Pour les autres,étant donné l'enjeu, je vous en propose un (noir) résumé.

Application sexistes, algorithmes biaisés et autres menaces des technologies toxiques

L'auteur, elle-même consultante en conception de sites internet depuis l'époque où on faisait encore des recherches sur AltaVista, décrit avec brio les travers et aberrations de technologies dominées par les hommes. Deux exemples : Google prend Sara Wachter-Boettcher (SWB) pour un homme parce qu'elle y fait des recherches sur les technologies de l'information ; au printemps 2015, Louise Selby, pédiatre de profession à Cambridge décide de s'inscrire dans un club de gym mais l'accès au vestiaire des femmes lui est refusé par sa carte de membre. Enquête faite auprès de la direction, on se rend compte que toutes les cartes électroniques du réseau sont codées par le sous-traitant informatique en paire "docteur = mâle". La culture et le mode de fonctionnement des entreprises de technologies sont basés non sur des besoins, mais sur des stéréotypes, témoigne une cheffe de projet -dont les siens étaient recalés car elle était dans une boîte de Mad Men qui, de façon routinière, excluent tout ce qui n'est pas jeune, blanc et mâle. Plus les femmes sont identifiées, codées de façon incorrecte, plus se renforce l'idée que ce sont les hommes qui dominent le secteur, plus le système corrèle l'usage des technologies avec les pratiques masculines, par l'effet, entre autres, du machine learning. " Voici une industrie qui recrute une bande de jeunes hommes blancs qui travaillent ensemble dans la journée, se bourrent la gueule ensemble le soir, et pensent "parfait, c'est à cela que ressemble un lieu de travail sain " ; quand par ailleurs, ces jeunes hommes utilisent le vocabulaire post-adolescent de la culture heroic fantasy des video-games les valorisant eux seuls : "licornes, ninja et rock stars", pour glorifier ses concepteurs, les femmes ne peuvent pas s'y reconnaître, déplore SWB.

Profilage, stéréotypage et finalement "pattern recognition". Comme les machines apprennent à reconnaître les faciès, les start up apprennent à reconnaître et coopter les gens qui leur ressemblent : aptitudes techniques constituées en méritocratie, avec le prédicat qu'elles seraient les plus difficiles à acquérir, que leurs industries n'ont pas besoin des apports de l'extérieur puisque les gens les plus intelligents sont déjà dans la salle, dévaluant systématiquement ceux qui apportent d'autres compétences pour renforcer les produits et les services commercialement et éthiquement ; des gens ayant fait leurs humanités (comme on ne dit plus hélas), des gens avec des compétences sociales, formés à tenir compte de contextes historiques et culturels, à identifier les biais inconscients (les femmes sont des ménagères, les noirs des criminels), à être plus empathiques avec les besoins des utilisateurs.

Produits eux aussi de la culture insulaire, mâle, blanche décrite ci-dessus, tous sortant des mêmes écoles de prêt-à-penser, les trois réseaux sociaux Twitter, Facebook, Reddit, et le moteur de recherche Google présentent toutes les défauts génétiques et les obsessions de leurs fondateurs.

En résumé :
Twitter, site d'updates et de listes non réciproques par défaut (les abonnements se font sans autorisation) : c'est son talon d'Achille car ils permettent le harcèlement et les conduites abusives. Mises en copies de la moitié de la planète, par le biais des partages vos notifications peuvent vite devenir ingérables et incontrôlables, truffées d'insultes voire de menaces. Plusieurs féministes ont dû fermer leur compte. Twitter est de plus truffé de faux comptes et de robots ; un grand ménage vient d'être fait ces dernières semaines à la demande de leurs annonceurs publicitaires (!) via des algorithmes, et je vous promets que c'est très étrange ! Ces algorithmes réagissent à des mots-clés, et finissent par évincer des comptes tout à fait décents, en les suspendant ou les restreignant. Des comptes féministes notamment, en ont fait les frais.

Facebook, 1 Hacker Way (si, ça ne s'invente pas !), Menlo Park California, site des "amis", "machine driven", ce sont les trending topics produits par des algorithmes qui recensent les sujets favoris de vos amis et en compilent des "sujets tendances", excellente méthode de production de fake news, fausses nouvelles, théories du complot.., couplés avec la culture de hacker du fondateur, partagée par les ingénieurs maison, la "méritocratie" évoquée plus haut, qui ne parlent pas aux sous-êtres de modérateurs humains hébergés eux dans les sous-sols du siège de la Firme (écrit SWB). Vraiment il vaut mieux vérifier tout ce que vous y partagez ! Et bien garder la tête froide. Cette recommandation vaut pour tous les medias sociaux : si vous sentez que vous commencez à chauffer, débranchez tout et allez faire un tour pendant deux heures. Vraiment.

Reddit, site d'agrégation de contenu : la culture "free speach", liberté d'expression de la maison, élevée au rang d'idéologie, couplée avec des modérateurs bénévoles (non rémunérés), font de la pratique du doxing (révélations d'informations sur des personnes privées) une des plaies de ce réseau.

Le moteur de recherche de Google n'est pas exempt de pataquès dont il n'est pas immédiatement responsable, mais qui révèlent le racisme qui sous-tend nos sociétés : un ingénieur noir fait des recherches d'images à base des mots-clés "visages sombres" pour son site Internet ; arrive un panel d'images de personnes noires au milieu desquelles il trouve une image de gorille ! "Je sais faire la part des choses parmi les erreurs d'algorithmes d'autant que je suis du métier, témoigne l'ingénieur, mais c'est tellement un argument raciste rebattu, que c'est insupportable". Il a finalement déposé plainte contre Google.

Dernier exemple décrit aussi par SWB : Uber que tout le monde croit être une compagnie de taxis, quelle erreur ! En fait Uber est une entreprise de technologies de pointe qui fait de la géolocalisation, et une entreprise de design d'applications animées montrant une petite auto qui s'approche d'un petit bonhomme, signalant ainsi l'approche du taxi que vous avez commandé sur votre téléphone. C'est très ludique. Mais au bout du rigolo, ils travaillent surtout sur la voiture sans chauffeur, le remplacement des humains par La Machine Terminale, le conducteur de la voiture étant décidément trop cher et résistant à la mise en esclavage, fût-il, l'esclavage, paré des habits neufs de l'auto-entrepreneuriat où l'on s'esclavagise soi-même, dernière trouvaille de génie de l'économie informelle très prisée dans ces milieux.

Construit comme un polar, avec progression angoissante, -l'avenir promis n'est pas radieux-, d'abord l'état des lieux, puis les développements des algorithmes de data mining (extraction de toutes sortes d'informations dans des métadonnées, Facebook par exemple, qui ne pense qu'à utiliser vos données pour vous proposer de la pub ou les revendre, ainsi que des prévisions de comportements à des cabinets de conseil en marketing, ce qui lui vaut des tas de scandales qui pourraient à terme coûter sa place de Président à Zuckerberg), enfin de machine learning (des robots qui apprennent et adaptent leurs réponses au contact des clients, le service client de La Poste fonctionne ainsi, c'est pour l'instant assez pathétique, mais il fait des progrès tous les jours, c'est en tous cas la promesse de la technique), tant et si bien que déjà des algorithmes traquent les fraudeurs/euses de la Caisse d'Allocations Familiales, de L'ASSEDIC, trient vos CV avant de les soumettre à des services de ressources inhumaines, et fabriquent vos journaux télévisés sans plus aucune intervention humaine. Je vous laisse imaginer les dégâts qu'ils pourront faire s'ils sont truffés de biais cognitifs sexistes et racistes ! Souvenez-vous des "chômeurs fainéants", profiteurs, femmes seules forcément mères élevant des tripotées d'enfants avec de l'aide sociale, surtout si elles sont noires. Bienvenue dans un futur masculin, blanc, moins de 35 ans, geek déconnecté du réel, biberonné à l'heroic fantasy dont ils se  croient les héros !
Une vraie fête de la saucisse. Un CAUCHEMAR ! Mesdames, il est temps d'empoigner le sujet ; si les mecs y arrivent, franchement, le succès est à votre portée.


Quelques liens pour vous prouver que je n'ai pas fumé la moquette :
Sexisme, racisme, les algorithmes face aux préjugés.
Qui sélectionne votre CV lors d'une candidature en ligne ? Un algorithme ! Et c'est pervers pour les candidatures de femmes.
Les algorithmes et intelligences artificielles finissent par reproduire les schémas de nos sociétés.
Quand l'algorithme d'Uber pénalise les femmes.
Machine learning : comment les algorithmes deviennent sexistes en apprenant de nos biais de genres.
A la CAF de Touraine un algorithme signale les dossiers les plus susceptibles de faire l'objet de fraudes.

Ça fait froid dans le dos, non ?
Dernière recommandation : désactivez les "par défauts" sur tous vos terminaux et mettez les à vos préférences : sachez que s'ils sont installés par défaut, ce n'est pas fortuit mais dans leur intérêt bien compris ; en tablant sur votre passivité vis à vis des "par défaut", ils collectent tous des données sur vous, et rappelez-vous que si c'est gratuit (ils sont TOUS gratuits), c'est VOUS le produit ! Et comme j'ai entendu un jour Michel-Edouard Leclerc dire à un journaliste -et ça m'avait bien fait rigoler-, dépassez la page 4 de Google.

vendredi 7 décembre 2018

L'incivilité, ce serait morphologique !

En allant dans l'une de mes bibliothèques un jour dernier, j'échange quelques phrases avec la dame de l'entrée et prends des nouvelles de sa santé et de son moral (ça m'apprendra à être courtoise, tiens !) : ça ne va pas bien du tout, vivement les vacances ;(( elle en a marre du quartier, quand elles arrivent le matin "elles trouvent des crachats et des marres de pisse tout autour de l'immeuble, leur lieu de travail ", raconte-t-elle. Il faut dire que le quartier est bétonné à mort, clapiers modernes éclusant la surpopulation urbaine, alignés, relativement neufs de cité dortoir, autour d'une avenue commerçante piétonne, point chaud réverbérant la chaleur, vite insupportable en cas de canicule, mais accessible aux voitures, où les soirs d'été les garçons tapent dans le ballon pendant que les ménagères rasent les murs avec leurs paniers à provisions et leurs poussettes ; ça aussi, ça me vrille les nerfs.

D'ailleurs c'est dans ce même endroit où il y a deux ans, quand je sortais d'un parking souterrain par un ascenseur débouchant dans une allée, des garçons (14 /19 ans) adossés aux murs, et squattant les abords (des espèces de débords et de marches poussant au crime), mangeant gras et buvant sucré en laissant leurs déchets derrière eux, me traitaient de " grosse pute " histoire, je suppose, de me souhaiter la bienvenue. Plusieurs fois de suite, bien fort, pour que nulle n'en ignore. Une lettre adressée à la mairie, restée sans réponse, a tout de même fait effet : des trucs très moches bloquant les abords ont été installés, du coup personne ne peut plus s'installer dessus, les gars sont allés insulter ailleurs, inconvénient déplacé, non résolu. Répression plutôt qu'éducation, et bien sûr, mutisme, non réponse aux plaintes. Je hais ces élus et leur petit personnel arrogant et méprisant, mâles et femelles.

Donc, premier réflexe, je dis à la bibliothécaire que "c'est des mecs" qui crachent et pissent partout comme d'habitude. Je la vois aussitôt rentrer dans sa coquille : pas touche aux couilles des mecs, pas politically correct, j'en ai à la maison, j'en fais même l'élevage, sous-texte. Avant de passer au prochain client et de se débarrasser de moi et de ma franchise décidément sans filtre, elle rajoute toutefois que "c'est morphologique", de pisser contre les murs, sinon de cracher partout. Argument décisif, passons à autre chose.

C'est morphologique de se sortir la nouille et de pisser contre les murs et contre les bâtiments publics ? Sans rigoler ? Finissons-en avec les légendes patriarcales auto-justifiantes, cache-misère : ma mère pissait debout, ma grand-mère pissait debout, et il m'arrive de pisser debout. Les mâles n'ont pas le monopole. Les paysannes ont toujours pissé debout à la campagne, pisser assise c'est un truc de citadines timorées, on dirait, assez récent en plus. A mes deux parentes, il leur suffisait d'un peu soulever leurs jupes et d'écarter leur culotte, le tour était joué, ça éclabousse un peu les pompes, mais pas plus que celles des mecs qui font pareil ; pour moi, qui suis en pantalon, c'est un peu plus compliqué mais franchement, j'y arrive avec ou sans pisse-debout et à peu près partout, discrètement. Et ce n'est pas plus déshonorant ni visible que de se sortir la teub : au moins chez nous, pas d'organe en vue. Pas d'exhibition donc.

La morphologie n'a rien à voir, l'éducation tout. D'un côté de la classe sociale, c'est admis, de l'autre, NON. L'incivisme, la mauvaise conduite, le mépris des règles sociales les plus élémentaires, ce besoin de salir, d'avilir les lieux publics, lieux où tout le monde passe, il n'y a qu'eux qui fassent cela. Le non dit, le déni, les pudeurs de mères de famille qui pignent tout en refusant de nommer le problème, les pouvoirs publics qui font pareil, mais viennent en catimini poser du matériel urbain pour empêcher ces enragés d'accéder et de nuire, après leur avoir payé avec l'argent de toutes les contribuables des skate parks, des terrains de foot, en pure perte, mais en réaffirmant que leurs besoins de parasites priment avant ceux des filles et des femmes, tout cela ne me convient plus. Les stratégies d'évitement, le politiquement correct mal appliqué, juste parce que la société s'arrange bien au fond de ces comportements de délinquants et que les femmes sont en conflit de loyauté, qu'elles sont affectivement et émotionnellement impliquées avec eux, pire, qu'elles produisent de l'ennemi de classe par 70 kg, personnellement j'en ai assez.

Même si moi je n'ai pas peur d'eux et que je ne pratique pas de stratégies d'évitement, que je passe là où je dois passer sans faire de détours, que je pense que je n'ai pas à céder la place à la mâlerie (comme écrivait Léo Thiers Vidal), par là l'avalisant sans jamais rien affronter, même si je l'ouvre en annulant une éventuelle popularité (je me fous bien de ma popularité), il y en a vraiment marre de ces pudeurs d'asservies qui refusent de nommer le problème. On dirait que la conscience de classe est un luxe, réservé à quelques-unes, et qu'au nom de plein de timorées, les premières n'ont plus qu'à la boucler et filer doux comme elles. Vous n'êtes pas toutes seules, Mesdames, je considère n'avoir pas à avaler les couleuvres que vous avalez jour après jour. Pensez aux autres, un peu de solidarité de classe ne nuirait à personne, elle ne marche pas que dans un sens. Et elle permettrait de faire reculer l'impunité. A moins que vous ne vous trouviez bien comme ça après tout ? On peut se poser la question.

Quelles sont les tyrannies que vous avalez jour après jour, et que vous essayez de faire vôtres, jusqu'à vous en rendre malade et à en crever, en silence encore ?  " Audre Lorde - Féministe, écoféministe radicale.
Je rajoute : et à en faire crever les autres ?