La technologie covid intimement liée à l’État de surveillance chinois

Pourtant, alors que la rapidité et l’intention de cette réponse pour protéger les travailleurs en l’absence d’une réponse américaine efficace au niveau national étaient admirables, ces entreprises chinoises sont également liées à des formes de violations flagrantes des droits humains.

Dahua est l’un des principaux fournisseurs de systèmes de « camps intelligents » que Vera Zhou a expérimentés au Xinjiang (la société affirme que ses installations sont prises en charge par des technologies telles que « les systèmes de vision par ordinateur, l’analyse des mégadonnées et le cloud computing »). En octobre 2019, Dahua et Megvii faisaient partie des huit entreprises technologiques chinoises inscrites sur une liste interdisant aux citoyens américains de leur vendre des biens et des services (la liste, qui vise à empêcher les entreprises américaines de fournir des entreprises non américaines considérées comme une menace pour intérêts nationaux, empêche Amazon de vendre à Dahua, mais de ne pas acheter chez eux). Les filiales de BGI au Xinjiang ont été inscrites sur la liste américaine de non-échange en juillet 2020.

L’achat par Amazon de caméras de cartographie thermique Dahua rappelle un moment plus ancien de la propagation du capitalisme mondial qui a été capturé par la tournure de phrase mémorable de l’historien Jason Moore : « Derrière Manchester se trouve le Mississippi ».

Qu’est-ce que Moore voulait dire par là ? Dans sa relecture de l’analyse de Friedrich Engels sur l’industrie textile qui a rendu Manchester, en Angleterre, si rentable, il a vu que de nombreux aspects de la révolution industrielle britannique n’auraient pas été possibles sans le coton bon marché produit par le travail des esclaves aux États-Unis. De la même manière, la capacité de Seattle, Kansas City et Séoul à réagir aussi rapidement qu’ils l’ont fait à la pandémie repose en partie sur la façon dont les systèmes d’oppression dans le nord-ouest de la Chine ont ouvert un espace pour former des algorithmes de surveillance biométrique.

La protection des travailleurs pendant la pandémie dépend de l’oubli des étudiants comme Vera Zhou. Cela signifie ignorer la déshumanisation de milliers et de milliers de détenus et de travailleurs non libres.

Dans le même temps, Seattle se tient également avant Xinjiang.

Amazon a son propre rôle dans la surveillance involontaire qui nuit de manière disproportionnée aux minorités ethno-raciales étant donné son partenariat avec l’US Immigration and Customs Enforcement pour cibler les immigrants sans papiers et ses efforts de lobbying actifs en faveur d’une réglementation faible en matière de surveillance biométrique. Plus directement, Microsoft Research Asia, le soi-disant « berceau de l’IA chinoise », a joué un rôle déterminant dans la croissance et le développement de Dahua et de Megvii.

Le financement de l’État chinois, le discours sur le terrorisme mondial et la formation de l’industrie américaine sont trois des principales raisons pour lesquelles une flotte d’entreprises chinoises est désormais leader mondial en matière de reconnaissance faciale et vocale. Ce processus a été accéléré par une guerre contre le terrorisme qui consistait à placer les Ouïghours, les Kazakhs et les Hui dans une enceinte numérique et matérielle complexe, mais il s’étend désormais à toute l’industrie technologique chinoise, où les systèmes d’infrastructure à forte intensité de données produisent des enceintes numériques flexibles dans tout le pays. , mais pas à la même échelle qu’au Xinjiang.

La réponse vaste et rapide de la Chine à la pandémie a encore accéléré ce processus en mettant rapidement en œuvre ces systèmes et en indiquant clairement que ils travaillent. Parce qu’ils étendent le pouvoir de l’État de manière si radicale et intime, ils peuvent effectivement modifier le comportement humain.

Approches alternatives

L’approche chinoise de la pandémie n’est cependant pas le seul moyen de l’arrêter. Des États démocratiques comme la Nouvelle-Zélande et le Canada, qui ont fourni des tests, des masques et une aide économique à ceux qui sont contraints de rester chez eux, ont également été efficaces. Ces nations indiquent clairement que la surveillance involontaire n’est pas le seul moyen de protéger le bien-être de la majorité, même au niveau de la nation.

En fait, de nombreuses études ont montré que les systèmes de surveillance soutiennent le racisme et la déshumanisation systémiques en rendant les populations ciblées détenables. L’utilisation par les administrations américaines passées et actuelles de la liste des entités pour arrêter les ventes à des entreprises comme Dahua et Megvii, bien qu’importante, produit également un double standard, punissant les entreprises chinoises pour avoir automatisé la racialisation tout en finançant des entreprises américaines à faire des choses similaires.

De plus en plus d’entreprises basées aux États-Unis tentent de développer leurs propres algorithmes pour détecter les phénotypes raciaux, bien que par le biais d’une approche consumériste fondée sur le consentement. En faisant de la racialisation automatisée une forme de commodité dans la commercialisation de produits comme le rouge à lèvres, des entreprises comme Revlon durcissent les scripts techniques disponibles pour les particuliers.

En conséquence, à bien des égards, la race continue d’être un élément imprévisible de la façon dont les gens interagissent avec le monde. Aux États-Unis et en Chine, la police considère les technologies d’évaluation automatisées comme des outils dont elle dispose pour détecter les criminels ou les terroristes potentiels. Les algorithmes font qu’il semble normal que les hommes noirs ou les Ouïghours soient détectés de manière disproportionnée par ces systèmes. Ils empêchent la police, et ceux qu’elle protège, de reconnaître que la surveillance consiste toujours à contrôler et à discipliner les personnes qui ne correspondent pas à la vision de ceux qui sont au pouvoir. Le monde, et pas seulement la Chine, a un problème avec la surveillance.

Pour contrer la banalité croissante, le quotidien, de la racialisation automatisée, les méfaits de la surveillance biométrique dans le monde doivent d’abord être mis en évidence. La vie des détenus doit être rendue visible à la limite du pouvoir sur la vie. Ensuite, le rôle d’ingénieurs, d’investisseurs et de cabinets de relations publiques de classe mondiale dans l’oubli de l’expérience humaine, dans la conception de la rééducation humaine, doit être clarifié. Les réseaux d’interconnexion – la façon dont le Xinjiang se tient derrière et avant Seattle – doivent être rendus pensables.

—Cette histoire est un extrait édité de Dans les camps : la colonie pénitentiaire de haute technologie de la Chine, par Darren Byler (Columbia Global Reports, 2021.) Darren Byler est professeur adjoint d’études internationales à l’Université Simon Fraser, spécialisé dans la technologie et la politique de la vie urbaine en Chine.