Épisode 1 : quel est votre algorithme?

Épisode 1 : quel est votre algorithme?

Les défis de la technologie et naviguer sainement dans les espaces virtuels.

Écouter

Transcription

[00:00:00] Ajat Monet : Bonjour, cher public. Merci beaucoup d’être ici. Je suis une poétesse de blues surréaliste, et une organisatrice. J’aime rêver, vivre et aimer. Je suis ici, présente avec vous tou.te.s. Je suis l’animatrice de ce balado, « The Sound Bath », un balado présenté par Lush Cosmétiques, où vous entendrez des conversations qui font du bien. C’est le balado parfait pour écouter dans le bain. Alors, détendez-vous, soyez à l’écoute, et restez avec nous jusqu’à la fin pour entendre une méditation sonore. Pour moi, l’objectif de ce balado est de vous faire part de l’importance des conversations au cours de ma vie et leur importance plus que jamais maintenant.


Lush est une entreprise qui s’est engagée à abandonner plusieurs réseaux sociaux majeurs, après avoir constaté qu’ils font plus de mal que de bien. Alors, pour commencer cette série, dans cet épisode, nous examinons de plus près les médias sociaux et leur impact sur notre bien-être, notre santé mentale, nos relations, et nous allons avoir des conversations profondes avec de vraies personnes en temps réel.


J’espère que ce balado vous inspirera à explorer votre vie intérieure dans votre entourage, votre environnement, votre communauté et la société au quotidien.


Ouais. Voici Safiya.


[00:01:50] Safiya Noble : Je suis Safiya Noble, professeure d’études de genre et d’études africaines à l’UCLA. Je dirige le Center for Critical Internet Inquiry de l’UCLA, qui est un avant-poste féministe noir pour les personnes qui sont intéressées à faire de la recherche à l’intersection de la race, du genre, de la technologie et de la société. J’utilise le pronom elle.


[00:02:18] Aja Monet : Elle est l’autrice du livre Algorithms of Oppression, qui examine les biais algorithmiques racistes et sexistes dans les moteurs de recherche commerciaux. Safiya a une profonde compréhension de la façon dont les systèmes numériques que nous tenons pour acquis nous nuisent réellement.


[00:02:33] Safiya Noble : Oui, je suis une personne qui ressent les choses profondément. Et je suis ravie d’être ici aujourd’hui.


[00:02:40] Aja Monet : Hmm.


Le but de ce balado est de discuter ensemble des façons dont les médias sociaux nous ont déconnectés les uns des autres.


[00:02:56] Safiya Noble : parce que beaucoup de gens se soucient de la façon dont l’Internet nuit à nos communautés. Il y a beaucoup de positif, mais il n’y a pas assez d’attention sur le négatif. Si nous pouvions mettre en lumière les répercussions négatives, nous pourrions réellement changer le monde.


Cela semble très urgent et nécessaire maintenant.


[00:03:23] Aja Monet : Bonjour.


[00:03:24] Safiya Noble : Comment ça va?


[00:03:28] Aja Monet: Bien. La vie, tu sais… on est toujours en vie.


[00:03:32] Safiya Noble : La maudite pandémie. Je sais.


[00:03:33] Aja Monet : Je suis aussi reconnaissante que possible. On pourra se plaindre autant qu’on voudra, mais il faut voir le positif. Aujourd’hui, je suis reconnaissante de te parler.


C’est un honneur pour moi de te recevoir. Je voudrais commencer par te demander : qui es-tu quand personne ne regarde? Qui es-tu et que fais-tu quand tu te sens le plus toi-même?


Safiya Noble : Je pense que je suis très drôle. Mon mari est un hater parce qu’il pense qu’il est drôle et je ne le suis pas, mais je me sens la plus libre quand je ris et que je m’amuse. Je suis une empathe, et donc probablement à mon niveau le plus vulnérable, je suis une personne qui travaille toujours à intégrer ce qui se passe dans le monde, à l’intégrer dans mon corps et à essayer d’être en paix avec des choses difficiles dans le monde, des choses difficiles dans ma vie. Je pense qu’à mon meilleur, je suis là pour les autres et c’est là l’espace dans lequel j’essaie de vivre. J’apprends et j’émerge d’un long hiver d’autocritique et de doute, et donc j’apprends encore à m’aimer et à me donner la compassion que j’offre aux autres peut-être plus facilement qu’à moi-même.


[00:05:26] Aja Monet : Je suis d’accord avec toi. Nous émergeons toutes les deux d’un hiver de remise en question.


Comment décrirais-tu Algorithms of Oppression à une personne non familière avec ton travail?


[00:05:45] Safiya Noble: Les algorithmes font partie du langage courant. On dit : « Quel est votre algorithme du bonheur? » Les gens s’en servent de façon si poétique maintenant dans notre culture pour vraiment dire : « Quelle est la magie que vous utilisez? » ou « Quel est le chemin de votre destinée? ». Quand j’écrivais à ce sujet dans le livre, j’essayais de dire, non, il y a vraiment des programmes informatiques à Silicon Valley et ailleurs qui sont racistes, sexistes ou discriminatoires. Nous devrions examiner le code informatique qui génère toutes sortes d’impacts disparates et de résultats négatifs, en particulier pour les personnes racisées sur Internet.


Maintenant je pense que les gens sont beaucoup plus conscients. Par exemple, les utilisateurs.ices des médias sociaux, et surtout les créateurs,ices, sont très astucieux.ses quant à la façon dont les algorithmes sont conçus sur des plateformes comme TikTok, Instagram, Twitter et Facebook pour invisibiliser certaines idées, orientations politiques et personnes. Nous comprenons donc beaucoup mieux qu’il ne s’agit pas simplement d’une zone de liberté d’expression, où toutes les voix sont égales et tout le contenu est égal et où tout le monde a les mêmes chances d’être vu.


Nous comprenons maintenant qu’il y a des algorithmes qui sont conçus pour favoriser ce qui est le plus rentable, ce qui est le plus susceptible d’être partagé, le plus susceptible de devenir viral et d’être vu et de supprimer différents types de discours de différentes parties du monde.


Le livre Algorithms of Oppression a été l’un des premiers à mettre cela en lumière.


[00:07:46] Aja Monet : Oui, merci pour ça.


Je sais qu’une partie de la discussion porte sur la façon de rendre ces espaces plus équitables et plus inclusifs. Comment faire en sorte que plus de personnes Noires travaillent à Silicon Valley? Vous savez, quand on parle de justice ou d’équité, cela nous amène souvent à créer plus d’emplois pour que les Noirs occupent certains postes.


Même si c’est quelque chose que je trouve important, je me demande comment cela change les conditions matérielles des innombrables personnes qui subissent les conséquences de ce problème? Je me demande donc quel est le rôle de la lutte pour être inclus, mais aussi de savoir quand se retirer de l’ensemble du problème. Comment faire face à cette lutte et à cet équilibre?


[00:08:46] Safiya Noble : J’aime beaucoup cette question parce que je pense que l’un des défis, pour moi, c’est qu’il y a toujours cette impulsion, c’est-à-dire que si nous obtenons plus de représentation dans ces entreprises, si nous avons plus d’ingénieurs Noirs, si on initie les filles Noires au codage, tu sais, si on s’intègre mieux, on résoudra les problèmes.


Tu sais, très franchement, je vais probablement dire quelque chose de controversé...


[00:09:18] Aja Monet : Vas-y.


[00:09:19] Safiya Noble : D’accord. Pour moi, il s’agit d’une approche très traditionnelle du changement social, ce qui, d’une part, est extrêmement important, c’est certain. Les enfants Noirs doivent fréquenter des écoles qui ont les mêmes ressources que les enfants blancs aux États-Unis. Sans le genre d’intervention et de changement structurels concernant l’accès aux ressources, y compris les ressources de la Silicon Valley et de Silicon Beach et de tous ces endroits, nous continuerons d’être lamentablement laissés à l’écart.


Ce genre d’interventions ne fait aucun doute. Je les considère comme des orientations très traditionnelles basées sur les droits et elles ont tendance à mettre l’accent sur la participation individuelle, l’accès individuel. Il y a aussi une dimension de la pensée du pouvoir Noir qui est un changement structurel plus puissant. Nous sommes à une époque où tout le monde réagit à des choses comme la discrimination technologique en disant : « Il devrait y avoir plus de Noirs à Silicon Valley ». Bien sûr. Mais la vérité est que, tant que nous avons des systèmes qui sont profondément impliqués dans la réduction des droits civils, des droits de la personne, des droits souverains, dans lesquels le secteur de la technologie est profondément impliqué, vous ne serez pas en mesure de remédier à l’injustice aux États-Unis et ailleurs en faisant siéger des personnes Noires au conseil d’administration de Facebook. C’est une incompatibilité, des pommes et des oranges.


Il faut donc penser, bien sûr, peut-être qu’une ou deux personnes au niveau du conseil d’administration peuvent être une sorte de conscience sociale, cela ne va pas changer de façon substantielle la façon dont Facebook est profondément impliqué dans le génocide en coordonnant la violence de la suprématie blanche aux États-Unis et en Europe, en organisant des communautés contre le droit des femmes de contrôler leur corps, dans la réduction de notre capacité de parler du racisme. Maintenant, bien sûr, il y a environ plus de 20 États qui considèrent ou adoptent des lois contre la théorie critique de la race. Aucune représentation ne va changer cela parce que les médias sociaux ne s’engagent pas à faire la distinction entre l’information, les faits et la propagande raciste.


Donc, je pense qu’il faut imaginer que l’époque dans laquelle nous vivons en est une où de profonds changements structurels ont lieu. Nous entrons dans une ère où toutes les données, toutes les sortes d’informations sont recueillies sur des publics partout dans le monde, sont mises dans des systèmes où nous sommes triés en nantis et en démunis.


Je blague souvent avec ma petite sœur, qui est l’une de mes meilleures amies : « Qu’est-ce qu’ils pensent qu’on va faire, nous asseoir et regarder des vidéos d’autres personnes qui mangent? » Bien sûr, ma sœur est une milléniale, alors elle me répond : « Moi je le fais. » Et je me dis : « Je ne peux pas te supporter. Tu dois arrêter de me parler. »

Tu sais, cette idée que nous allons en quelque sorte échanger la vraie sécurité matérielle dans ce monde pour une expérience éphémère, ou nous allons échanger l’accès à l’éducation et à l’université et ce genre d’espaces où nous pouvons imaginer des avenirs magnifiques et incroyables — nous allons les échanger pour nous convaincre que cela n’a pas d’importance. C’est comme gratuit parce qu’on peut le chercher sur Google.


Pour moi, c’est le genre d’options qui sont présentées au public sans notre consentement et qui nous amènent à des scénarios de plus en plus prédictifs. Nous vivrons dans un monde où, si nous n’intervenons pas, les données qui sont recueillies sur vous, vos parents, vos médias sociaux, votre GPS, votre téléphone et autres appareils d’écoute seront introduites dans des systèmes qui surdéterminent qui va gagner et qui va perdre. Je pense que c’est un moment effrayant, très franchement, où nous devons intervenir dans ces systèmes. C’est encore une fois plus compliqué et plus difficile à gérer que d’avoir plus de représentation dans une entreprise. Donc les gens, je pense, choisissent par défaut la victoire la plus facile d’une plus grande représentation, parce qu’affronter la façon dont la société est transformée [par les médias sociaux] semble vraiment accablant et difficile.


Il ne faut pas oublier que ce ne sera pas si difficile. Nous pouvons, en effet, les gens s’organisent pour abolir de nombreux types de technologies dangereuses qui s’infiltrent dans nos collectivités, et nous devrions être motivés et travailler ensemble pour dire : « Assez, c’est assez. Nous n’empruntons pas ce chemin, ou nous allons revenir en arrière. »


[00:14:47] Aja Monet : Hmm. Vois-tu un exode de masse organisé comme faisant partie d’une solution?


Oui. Une partie de la raison pour laquelle c’est le cas est parce que j’étudie d’autres mouvements et d’autres moments où nous avons vécu des changements de paradigme. Et j’y pense dans ma propre vie. Je veux dire, je suis typique de la génération X. Genre, tout est poche et tout le monde est poche et vous nous avez légué de la merde, tu vois ce que je veux dire, à gérer.


Je me souviens avoir grandi dans les années 70 et 80, quand on vantait les mérites du tabac à ma génération et aux générations précédentes. On a vu les études financées par l’industrie du tabac. Puis l’industrie du tabac a fait l’objet d’une poursuite importante pour son préjudice au public et a dû octroyer des dommages et intérêts.


Cela a provoqué un changement culturel assez important aux États-Unis. Maintenant, nous devons tirer des leçons de ce genre de moments et aussi voir comment les médias sociaux et les entreprises de technologie réinventeront leurs produits de la même façon que l’industrie du tabac a réinventé les siens. Nous devons être attentifs et faire preuve de diligence, mais l’époque dans laquelle nous vivons en ce qui concerne le tabagisme n’est pas la même que celle que les gens qui ont grandi dans les années 50 ont connue.


Donc, oui, je crois que nous pouvons créer des changements et sensibiliser les gens et qu’il doit y avoir des conséquences et une reddition de comptes pour ces entreprises prédatrices, tout comme il y en a eu pour l’industrie du tabac. Il y a eu des conséquences pour les grandes sociétés pharmaceutiques qui ont profité du public pendant la crise des opiacés. Nous regardons ces autres industries et ces moments historiques, et nous devrions savoir que la position abolitionniste que les gens ont prise sur la nature prédatrice de ces industries que les gens ont gagné, et ils se sont battus, et nous sommes puissants et nous pouvons aussi le faire avec l’industrie de la technologie.


[00:17:02] Aja Monet : Hmm.


Si nous pouvions nous engager à ce que tout le monde délaisse chaque appareil pour une journée, j’ai l’impression que les gens pourraient vraiment voir leur pouvoir et que beaucoup de choses changeraient dans une action collective comme celle-là. Je ne sais donc pas ce qu’il faut faire pour que cela se produise, mais j’espère qu’à un moment donné, les gens commenceront même à réfléchir.


[00:17:29] Safiya Noble : Permets-moi de dire une chose à ce sujet. Je veux dire, je pense qu’il y a eu des mouvements pour quitter Facebook et ces différents types d’efforts et la raison pour laquelle ils ne réussissent pas est que les gens maintenant n’ont pas accès aux actualités dans la plupart du monde à moins d’aller sur une plateforme comme Facebook.


Nous devons exprimer le désir de peut-être délaisser les espaces qui nous exploitent comme Facebook et autres entreprises similaires, et exiger des solutions de rechange. Vous savez, dans les deux dernières années, pendant que nous vivions à travers la crise de la COVID-19, le secteur technologique était le seul à faire des profits immenses.

À mon avis, c’est là-dessus que nous devons nous concentrer. Une façon de remédier à la situation ne consiste pas simplement à se débarrasser de ces plateformes. D’une part, nous pourrions exiger que ces entreprises paient des impôts et investissent dans les mêmes systèmes dans lesquels nous investissons. Cela créerait un excédent de revenus qui renforcerait tous ces autres systèmes dont nous avons besoin pour avoir une bonne qualité de vie.


Cela renforcerait les médias et la santé publique. Cela nous aiderait à avoir un système de santé national où il n’est pas nécessaire d’avoir un emploi pour avoir des soins de santé. Vous ne seriez pas si vulnérable et précaire. C’est pour moi le genre de changement structurel qui ferait une énorme différence.


Cela signifie que les jeunes qui ne votent pas doivent s’inscrire, voter, prendre le contrôle de ces systèmes. Nous ne pouvons pas laisser les gens qui sont achetés et payés par les sociétés diriger le gouvernement, diriger ces systèmes.


[00:19:34] Aja Monet : Je voulais te poser une question au sujet de la santé mentale. Les femmes Noires ont fait quelque chose de remarquable sur les médias sociaux en galvanisant l’intérêt, l’attraction, la sensibilisation et le militantisme. Pourtant, il y a des limites. Il y a des femmes Noires qui négligent leur santé mentale et leur vie quotidienne.


Je me demande donc si tu as vu, entendu parler, ou si tu fais partie des efforts de la communauté technologique pour commencer à mettre en œuvre des politiques et des changements structurels pour préparer le public aux conséquences des médias sociaux sur notre santé?


[00:20:12] Safiya Noble : Je pense que la plus éminente chercheuse dans ce domaine est la Dre Tiera Tanksley, qui, dans ses études sur les femmes Noires d’âge universitaire qui se sentent obligées de s’attaquer aux mensonges nuisibles, à la propagande, au racisme, au sexisme qu’elles voient sur les médias sociaux. Elles passent des heures par jour à combattre, à dire la vérité au pouvoir. Dans ses études, les femmes Noires rapportent souffrir de trouble de stress post-traumatique. Elles parlent de leur isolement et de leur aliénation. Elles passent des heures le matin avant le travail ou avant l’école sur Internet, à essayer de combattre les choses horribles qu’elles voient sur les personnes Noires. Ensuite, elles vont en classe ou au travail et, bien sûr, elles interagissent avec des gens qui vivent une expérience virtuelle différente. Qui regardent des photos de bébés, des photos de chats et des vidéos, et qui ne font pas face à de la violence raciale et de l’injustice raciale sur leurs réseaux sociaux.


Le travail de Dre Tanksley est important, il nous en apprendra beaucoup sur la façon dont l’utilisation d’Internet est différente pour certains, en particulier pour les Noirs et les femmes Noires. Au Center for Critical Internet Inquiry, nous insistons actuellement sur les droits civiques numériques. Les femmes Noires, les femmes trans Noires et les communautés LGBTQIA+ sont les plus susceptibles de vivre du harcèlement en ligne. Nous avons commencé à redoubler d’efforts pour parler de la façon dont nous devons nous organiser pour les droits civiques numériques, parce que les cadres juridiques n’incluent pas ce qui se passe sur Internet.

Je sais que les femmes Noires ont énormément de résilience. Toutes celles d’entre nous qui ont reçu une vague de haine sur Internet ou ont ouvert des courriels haineux et toutes les choses que nous vivons, je sais que nous avons beaucoup de résilience. Nous ne méritons pas ça et nous avons besoin de protection parce que les conséquences ne sont pas seulement un courriel dans votre boîte de réception. Ces critiques groupées peuvent avoir des conséquences sur la santé et la santé mentale. C’est un domaine extrêmement important. Je te suis très reconnaissante d’attirer l’attention sur cette question.


Et ceux qui écoutent, qui sont intéressés par ce domaine, vous pouvez nous trouver à l’UCLA au Center for Critical Internet Inquiry.


[00:23:01] Aja Monet: Oui, merci beaucoup. Tout ce que tu as dit était très instructif. Et j’espère que les auditeurs.ices vont vraiment réfléchir à ce que tu viens de nous dire. J’encourage aussi les gens à savoir quand se déconnecter. Savoir quand sortir dans la nature, être présent avec soi-même, entendre sa propre voix plus fort que les autres voix qui peuvent vous tomber dessus.


Au bout du compte, nous avons une certaine responsabilité envers nous-mêmes, nous devons nous montrer forts pour nous-mêmes afin de pouvoir être fonctionnels. Non seulement pour être fonctionnels, mais aussi pour être bien avec nous-mêmes.


[00:23:42] Safiya Noble: Oui, absolument.


[00:23:44] Aja Monet : La prochaine question porte sur le son. Quel son te fait sentir le plus en paix? T’apporte une tranquillité d’esprit, un calme, un sentiment de bien-être, un sentiment d’appartenance?


[00:24:01] Safiya Noble : J’adore cette question. Bien sûr, j’adore aller à la mer et j’aime le son de l’océan et ça me rappelle que je ne suis qu’un grain de sable sur la plage dans ce monde, dans cet univers. C’est une leçon d’humilité et ça me rappelle que je suis connectée à ce monde, et pourtant je ne suis qu’une parmi tant d’autres, et ça me permet de me libérer d’un sentiment de responsabilité pour tout ça. Je pense que beaucoup de femmes Noires se sentent responsables de tout. Il y a quelque chose dans le son de l’océan qui me rappelle qu’il y a toute une planète Terre qui nous soutient. Et ça me donne l’impression que je peux respirer aussi, pendant que je fais mon travail, et je peux lâcher prise.


Je ne suis pas responsable de tout, tu sais, le monde que nous créons est un monde que nous créons ensemble.


[00:25:13] Aja Monet : Wow. C’était merveilleux. Merci beaucoup de t’être jointe à nous.


[00:25:17] Safiya Noble : Merci beaucoup. Je suis très honorée de pouvoir te parler et d’être entendue par les gens qui t’appuient, et je suis ici pour toi.


[00:25:26] Aja Monet : Moi aussi. Pareil. Je suis là pour toi.


[00:25:28] Safiya Noble : Oui, absolument.

Balado The Sound Bath

Balado The Sound Bath