Le travail des équipes d’intégrité apporte une solution différente. Nous sommes peut-être sous le feu des projecteurs maintenant, mais nous avons une longue histoire dans l’industrie. Nous avons beaucoup appris des approches de lutte contre le spam dans les e-mails ou les moteurs de recherche, et nous empruntons de nombreux concepts à la sécurité informatique.
L’une des meilleures stratégies d’intégrité que nous ayons trouvées consiste à ramener des frictions du monde réel dans les interactions en ligne. Je vais me concentrer sur deux exemples pour aider à expliquer cela, mais il existe de nombreux autres mécanismes de ce type, comme des limites sur la taille du groupe, un système de karma ou de réputation (comme le PageRank de Google), un indicateur « quartier d’où vous venez », des structures pour de bon conversation et un bouton de partage moins puissant. Pour l’instant, parlons de deux idées que les travailleurs de l’intégrité ont développées : nous les appellerons examens de conduite et dos d’âne.
Premièrement, nous devons rendre plus difficile pour les gens d’avoir de faux comptes. Imaginez si, après avoir été arrêté pour un crime, n’importe qui pouvait sortir de prison et être parfaitement déguisé en une toute nouvelle personne. Imaginez s’il était impossible de dire si vous parliez à un groupe de personnes ou à une personne qui changeait rapidement de déguisement. Ce manque de confiance n’est pas bon. Dans le même temps, nous devons nous rappeler que les comptes pseudonymes ne sont pas toujours mauvais. Peut-être que la personne derrière le pseudonyme est un adolescent gay qui n’est pas dans sa famille, ou un militant des droits humains vivant sous un régime répressif. Nous n’avons pas besoin d’interdire tous les faux comptes. Mais nous pouvons augmenter leurs coûts.
Une solution est analogue à la façon dont, dans de nombreux pays, vous ne pouvez pas conduire une voiture tant que vous n’avez pas appris à la conduire sous surveillance et passé un examen de conduite. De même, les nouveaux comptes ne devraient pas avoir un accès immédiat à toutes les fonctionnalités d’une application. Pour débloquer les fonctionnalités les plus abusives (pour spammer, harceler, etc.), peut-être qu’un compte devrait payer des frais en temps et en efforts. Peut-être qu’il a juste besoin de temps pour « mûrir ». Peut-être qu’il doit avoir suffisamment de bonne volonté accumulée dans un système de karma. Peut-être qu’il doit faire quelques choses qui sont difficiles à automatiser. Ce n’est qu’une fois que le compte s’est qualifié via cet « examen de conduite » qu’il pourra accéder au reste de l’application.
Les spammeurs pourraient, bien sûr, sauter à travers ces cerceaux. En fait, nous nous attendons à ce qu’ils le fassent. Après tout, nous ne voulons pas compliquer la tâche des utilisateurs légitimes de faux comptes. Cependant, en exigeant un certain effort pour créer un nouveau « déguisement », nous réintroduisons de la physique dans l’équation. Trois faux comptes pourraient être gérables. Mais des centaines ou des milliers deviendraient trop difficiles à réaliser.
En ligne, les pires méfaits presque toujours viennent des utilisateurs puissants. C’est assez intuitif à comprendre : les applications sociales encouragent généralement leurs membres à publier autant que possible. Les utilisateurs expérimentés peuvent le faire beaucoup plus souvent, et à différents publics, et plus simultanément, qu’il n’est possible dans la vraie vie. Dans les villes héritées, le coût d’une personne qui fait du mal est limité par le besoin physique pour une personne donnée d’être à un endroit ou de parler à un public à la fois. Ce n’est pas vrai en ligne.
En ligne, certaines actions sont parfaitement raisonnables si elles sont effectuées avec modération, mais elles deviennent suspectes lorsqu’elles sont effectuées en volume. Pensez à créer deux douzaines de groupes à la fois, ou à commenter un millier de vidéos par heure, ou à publier chaque minute pendant une journée entière. Lorsque nous voyons des gens trop utiliser une fonctionnalité, nous pensons qu’ils font probablement quelque chose qui s’apparente à conduire à une vitesse dangereuse. Nous avons une solution : le ralentisseur. Empêchez-les de faire cette chose pendant un certain temps. Il n’y a pas de jugement de valeur ici, ce n’est pas une punition, c’est un élément de sécurité. De telles mesures seraient un moyen facile de rendre les choses plus sûres pour tout le monde tout en ne dérangeant qu’une petite fraction de la population.
L’article Examen de conduite et dos d’âne : Comment sauver nos réseaux sociaux en les traitant comme un… est apparu en premier sur zimo news.