Quelle est la prochaine étape de la censure technologique?

Si vous portez votre attention sur le monde de la technologie depuis plusieurs années, vous savez que les politiciens, les journalistes et les consommateurs de technologie ont examiné un problème bouillonnant: une augmentation troublante de la censure technologique et une incertitude sur la façon d’y répondre.

Pour être clair, la censure technologique est une question complexe qui nécessite une discussion nuancée. Il n’y a pas de réponses claires sur la question de savoir si la censure technologique est vraiment destructrice ou sur ce qu’il faut faire à ce sujet – et cet article ne prendra pas de position politique.

Cependant, que vous soyez un entrepreneur en démarrage, un professionnel de l’industrie ou simplement un consommateur de technologie essayant de prendre les meilleures décisions pour vous et votre famille, il vaut mieux en savoir plus sur ce qui se passe.

La question de la censure centrale de la technologie

Certains pays ont problèmes majeurs de censure technologique qui changent la vie. En Chine, par exemple, de nombreux types de contenu (y compris les critiques du gouvernement) sont carrément interdits et exclus des résultats de recherche.

Ce que nous avons vu aux États-Unis est beaucoup plus docile en comparaison, mais c’est inquiétant.

À l’heure actuelle, il existe quelques dizaines de plates-formes technologiques massives qui contrôlent ce que nous voyons en ligne, dans une certaine mesure. Google, par exemple, est de loin le moteur de recherche le plus populaire au monde, chargé de gérer des milliards de recherches chaque jour et d’afficher des résultats répertoriant les pages Web correspondant à ces requêtes des utilisateurs. Bien que l’algorithme de Google fonctionne principalement automatiquement, il ne faudrait pas beaucoup à un employé pour effectuer un changement manuel ou modifier légèrement l’algorithme pour ajuster les résultats.

Dans certains contextes, cela est presque universellement considéré comme acceptable. Google a une motivation de longue date et transparente pour supprimer certains sites Web de ses résultats de recherche en raison des violations par ces sites des conditions d’utilisation de Google. Par exemple, les sites Web qui promeuvent ou autorisent le piratage de contenu sont essentiellement mis sur liste noire.

Mais d’autres entreprises prennent des mesures plus controversées et discutables. Par example, Twitter et autres sites de médias sociaux ont intentionnellement supprimé les publications et les commentaires des utilisateurs s’ils contiennent certaines phrases ou s’ils comportent des informations incorrectes. Les commentateurs politiques controversés ont été complètement retirés d’une grande variété de plates-formes d’un seul coup, et certaines opinions ont été retirées de force de la discussion.

Quel est le problème?

Quel est exactement le problème ici?

À un certain niveau, il n’est pas particulièrement préoccupant de voir une personnalité publique controversée, incendiaire et chroniquement menteuse se faire retirer d’une plate-forme où son objectif principal est de recruter des adeptes toxiques. Sur un autre plan, il y a beaucoup en jeu dans une manœuvre comme celle-ci.

Puissance et contrôle. Il n’y a pas beaucoup de grandes entreprises technologiques. Si vous souhaitez publier sur les réseaux sociaux et toucher un public important, il existe moins d’une douzaine d’options. Si vous souhaitez créer un site Web, il n’y a qu’une poignée de sociétés d’hébergement et de créateurs de sites Web parmi lesquels choisir. Si une ou quelques-unes de ces entreprises décident que votre voix ne convient pas aux autres, elles peuvent facilement vous exclure. À grande échelle, cela donne aux entreprises technologiques le pouvoir d’influencer l’opinion publique; ils peuvent contrôler le discours entourant des choses comme les crises de santé publique et les grandes élections. Avec quelques mouvements tactiques, comme retirer un candidat d’une plate-forme ou interdire la mention d’un certain sujet d’actualité, une plate-forme pourrait avoir un impact dramatique sur le résultat d’une élection.
Polarisation et extrémisme. On peut soutenir que ces mouvements contribuent également à l’extrémisme politique. Lorsqu’un candidat et ses partisans sont bannis ou réduits au silence sur une plate-forme donnée, ils ne disparaissent pas – en fait, ils deviennent souvent galvanisés, se considérant comme des martyrs dont la mission est de la plus haute importance. Lorsqu’ils trouveront une nouvelle plate-forme sur laquelle se rassembler, ils deviendront encore plus isolés et plus difficiles à atteindre. Pendant ce temps, une grande partie du grand public ne saura même pas qu’il existe des personnes avec cette opinion controversée.
Fragmentation de l’accès. La plupart conviendraient que l’accès aux plates-formes de médias sociaux, aux moteurs de recherche et à d’autres outils technologiques de haute visibilité conduit à une meilleure connaissance, une plus grande sensibilisation aux événements actuels et plus de connexions avec les autres. Limiter l’accès à ces outils technologiques peut être préjudiciable; si une personne a moins accès aux nouvelles et à l’information, elle sera considérablement désavantagée dans de nombreux domaines de la vie.
Collaboration. Ces problèmes sont souvent aggravés par le fait que les grandes entreprises technologiques ont le pouvoir (et la volonté) de collaborer les unes avec les autres. Du jour au lendemain, une coalition d’entreprises technologiques peut décider d’interdire une personne (ou un sujet) en même temps, ne laissant aucun refuge aux personnes jugées controversées.

Action juridique récente

Certains politiciens ont proposé de prendre des mesures contre la censure technologique comme un moyen de préserver la démocratie et d’accroître la visibilité des candidats politiques. En Floride, le gouverneur Ron DeSantis soutient actuellement Projet de loi maison 7013, qui décrit un plan pour pénaliser les sites de médias sociaux qui bloquent ou réduisent au silence les candidats politiques en Floride. Le projet de loi s’efforce également de donner aux utilisateurs individuels le pouvoir de se désengager de certains algorithmes et choix de grandes entreprises technologiques.

Au moment de la rédaction de cet article, le projet de loi est en cours d’examen par le Comité judiciaire de la Chambre. Son sort peut être un indice de la façon dont la future législation fédérale pourrait se comporter.

Les options

Quelles sont les options qui nous attendent?

Ne fais rien. Premièrement, nous ne pouvions rien faire. Les entreprises de médias sociaux sont des entreprises privées qui, sans doute, devraient être libres d’approuver ou de refuser l’accès à tout utilisateur et / ou de contrôler le contenu présenté sur ces plates-formes. Nous ne faisons pas attention si un propriétaire de restaurant expulse quelqu’un pour être incendiaire ou impoli; pourquoi devrions-nous obliger les entreprises technologiques à servir tous les utilisateurs? À tout le moins, nous devrions reconnaître que les interdictions et les limitations des médias sociaux ne sont pas, comme certains le suggèrent, une violation de la liberté d’expression telle que protégée par le premier amendement.
Donnez aux utilisateurs les moyens de pousser au changement. Nous pourrions également encourager les utilisateurs des réseaux sociaux et de recherche à exiger davantage des entreprises qu’ils fréquentent quotidiennement. La suppression de votre compte par solidarité ou la signature d’une pétition pour le changement pourrait conduire à une dynamique de base suffisamment importante pour amener ces entreprises à modifier leurs politiques.
Faire passer une loi. L’autre option consiste à adopter une sorte de législation qui dicte la manière dont les entreprises technologiques peuvent faire des affaires. Mais cela ouvre la porte à un certain nombre d’autres problèmes complexes. Par exemple, qui décide de ce qui constitue une «grande entreprise technologique»? Cette législation limiterait-elle la entrée d’un nouveau concours? Cela pourrait-il aboutir à une sorte de coalition entre les grandes technologies et le gouvernement, aboutissant à un contrôle encore plus centralisé?

Plateformes ou éditeurs?

L’une des questions philosophiques centrales de ce débat est de savoir si les entreprises de médias sociaux (et autres grandes entreprises technologiques) doivent être considérées comme des plates-formes ou des éditeurs.

Si ces entreprises sont des plateformes, elles ne sont pas nécessairement responsables du contenu publié par leurs utilisateurs. Ils n’existent qu’en tant qu’outil tiers où les gens peuvent publier du contenu et échanger des commentaires comme bon leur semble.

Si ces entreprises sont des éditeurs, elles exercent un certain contrôle sur ce qui est publié et comment; ils peuvent utiliser leur autorité pour interdire certains types de contenu, interdire certains utilisateurs et contrôler autrement le flux d’informations.

Si les entreprises se reconnaissent comme des plates-formes, elles sont libérées de la responsabilité du contenu illégal – mais elles ne peuvent pas exercer de pouvoir sur ce qui est publié. S’ils se reconnaissent en tant qu’éditeurs, ils peuvent contrôler les messages comme ils le souhaitent, comme n’importe quel éditeur – mais ils doivent assumer la responsabilité de tout ce qui endommage leur filtre.

En réalité, la plupart d’entre nous peuvent probablement convenir que les grandes entreprises technologiques occupent une sorte de terrain d’entente délicate. Nous attendons d’eux qu’ils suppriment certains types de contenus manifestement illégaux, mais nous ne voulons pas qu’ils dictent ou contrôlent nos discussions politiques. Nous voulons y avoir un accès illimité pour pouvoir disposer de suffisamment d’informations, mais nous avons peu de réserves contre l’interdiction de certains autres utilisateurs.

C’est un ensemble complexe de considérations pour une industrie qui n’en est qu’à ses débuts. Nous devons rester ouverts d’esprit et diligents dans nos discussions et débats sur ce sujet – et conscients du véritable pouvoir que les grandes entreprises technologiques exercent collectivement.