Les entreprises technologiques doivent-elles être transparentes ?

Quelle quantité de vos données Facebook collecte-t-il réellement ? Que prend en compte Netflix lorsqu’il vous recommande des films et des émissions de télévision ? Apple ralentit-il vraiment volontairement votre iPhone ?

Il est difficile de répondre définitivement à ces questions car nous n’avons pas toutes les réponses. Et nous n’avons pas les réponses parce que les grandes entreprises technologiques comme celles-ci ne nous les ont pas fournies. Dans un monde avec plus de transparence technologique, ces problèmes pourraient ne pas être des problèmes ; nous pourrions avoir un accès complet à toutes les informations pertinentes sur le fonctionnement de l’entreprise et sur la manière dont elle interagit avec nous.

La transparence est précieuse dans de nombreux contextes, car elle renforce la confiance, améliore la transmission et la compréhension de l’information et augmente la responsabilité. Mais est-ce que nous voulons vraiment une industrie technologique plus transparente ?

Motivations pour une faible transparence

Il est facile de positionner les entreprises technologiques comme étant mauvaises ou néfastes pour une raison simple : comme toutes les entreprises, elles agissent dans leur propre intérêt. Google, Apple, Netflix et d’autres géants ne se soucient pas particulièrement de votre bien-être en tant qu’individu – ils ne se soucient de vous que dans la mesure où vous pouvez les aider à générer un profit à long terme.

Cependant, l’intérêt personnel n’est pas la même chose que la malveillance ou la mauvaise intention. Lorsque les entreprises cachent intentionnellement une information, ce n’est pas exclusivement pour déguiser des actes répréhensibles ou induire intentionnellement des personnes en erreur.

Prenez, par exemple, l’algorithme de moteur de recherche caché de Google. Nous pouvons en déduire beaucoup sur la façon dont Google classe les sites Web dans l’optimisation des moteurs de recherche (SEO) ; nous avons même une abondance d’outils qui peuvent vous aider à déterminer votre classement et comment les améliorer. Mais Google lui-même n’a jamais complètement divulgué le fonctionnement de son algorithme de moteur de recherche, au-delà des conseils utiles pour créer un meilleur site Web à partir de zéro.

pourquoi est-ce le cas? Google sabote-t-il intentionnellement des sites Web en cachant des informations ? Non. Au lieu de cela, Google retient ces informations dans le but d’améliorer l’expérience utilisateur. Si l’algorithme était accessible au public, les entreprises et les particuliers pourraient facilement trouver des moyens de tromper le système, de manipuler leurs classements et éventuellement d’atteindre une visibilité sans avoir vraiment de pertinence ou d’autorité dans un domaine choisi.

Il existe plusieurs bonnes raisons pour lesquelles les entreprises technologiques préféreraient un environnement à faible transparence, telles que :

Intégrité et valeur. Premièrement, une faible transparence pourrait être essentielle pour préserver l’intégrité et la valeur du produit ou du service technologique fourni. C’est souvent un cas difficile à faire valoir, surtout lorsque l’opération en question n’a pas d’impact significatif sur l’utilisateur final. Mais dans certaines conditions, cela est vraiment vital. La recherche Google est le meilleur exemple ; garder au moins certains aspects de l’algorithme secrets est une nécessité pratique pour éviter l’exploitation.
Sécurité. La sécurité est une priorité absolue pour la plupart des entreprises technologiques, et elle ne fera que croître en importance. À l’avenir, lorsque la technologie deviendra encore plus intégrée dans notre vie quotidienne (comme influencer le contrôle et la navigation de nos véhicules), la sécurité deviendra une préoccupation encore plus grande. Préserver la sécurité consiste à satisfaire les utilisateurs, à économiser de l’argent, à améliorer l’efficacité et à maintenir une bonne réputation auprès du public. Dans la plupart des situations, l’opacité peut être un avantage pour votre stratégie de sécurité ; si les gens ne savent pas comment fonctionne votre technologie, ils auront plus de mal à la contrôler. Cependant, l’inverse peut également être vrai ; dans les communautés open source, la sécurité est souvent robuste car davantage de personnes peuvent découvrir les failles et les corriger avant qu’il ne soit trop tard.
Résistance compétitive. Certaines entreprises résistent sans aucun doute aux appels à la transparence parce qu’elles veulent protéger leurs secrets de propriété. C’est certainement compréhensible; les entreprises et les particuliers ont le droit de protéger leur propriété intellectuelle contre le plagiat ou la contrefaçon. Cela dit, les lois sur le droit d’auteur et les marques ne dépendent pas du fait que l’information soit ou non accessible au public ; les entreprises technologiques pourraient vraisemblablement révéler le fonctionnement de leur technologie et poursuivre en justice quelqu’un qui essaie de la copier pour gagner de l’argent.
Changer la tolérance et l’efficacité. La plupart des entreprises technologiques se targuent d’être constamment mises à jour. Ils proposent de nouvelles fonctionnalités, éliminent les anciens bogues, améliorent la sécurité et rationalisent les choses pour rendre le codage plus efficace. Ces changements ont tendance à se produire sur une base presque constante, donc s’ils étaient toujours exposés à un examen public ou à une sorte de processus d’approbation, cela pourrait vraiment ralentir les choses. Certaines entreprises résistent à la transparence simplement pour que les choses restent efficaces, rationalisées et sans entrave.
Inaccessibilité. Les algorithmes d’intelligence artificielle et d’apprentissage automatique sont notoirement complexes. En fait, dans de nombreux cas, les développeurs eux-mêmes ne comprennent pas parfaitement comment ils fonctionnent. Les opérations d’IA et de ML se déroulent dans une « boîte noire », avec des systèmes apprenant à reconnaître des modèles et à porter des jugements sans connaissance humaine. Dans ces scénarios, une transparence totale est pratiquement impossible.

Arguments pour une plus grande transparence

Bien entendu, les arguments en faveur d’une plus grande transparence dans l’industrie technologique sont nombreux, notamment :

Moins de possibilités d’exploitation, de fraude et d’autres crimes. Le manque de transparence permet de dissimuler facilement des actions controversées ou illégales. Si plus d’informations sont rapportées et publiées, il est plus difficile de s’en tirer avec ces actions.
Connaissance et consentement du public. Vous pouvez créer un compte gratuit auprès de la plupart des grands fournisseurs de technologies et commencer à utiliser leurs produits immédiatement. Mais savez-vous vraiment dans quoi vous vous embarquez ?
Inspiration et innovation. Révéler le fonctionnement interne des principales plateformes technologiques pourrait également servir à inspirer des générations entières d’entrepreneurs à prendre ces formules et à les utiliser pour innover davantage.

Options de transparence

La transparence peut sembler une bonne idée dans l’ensemble, mais sa mise en œuvre entraîne d’autres complications.

Volontarisme. La transparence a des avantages naturels et inhérents pour les organisations qui la pratiquent. Une plus grande confiance du public, une différenciation concurrentielle et un meilleur moral des employés ne sont que le début. Malheureusement, nous bénéficions déjà de cette situation volontariste, donc ce n’est tout simplement pas suffisant pour de nombreux partisans de la transparence.
Pressions ou réglementations gouvernementales. La solution la plus fréquemment décrite est une forme d’intervention gouvernementale. Par exemple, les politiciens pourraient imposer de nouvelles lois ou réglementations qui obligeraient les entreprises technologiques à divulguer certaines choses au public, ou d’autres éléments aux législateurs ou à un organisme de réglementation. Mais que doivent-ils divulguer exactement ? Qui est responsable de la collecte et de l’examen de ces informations ? Quelles sont les conséquences d’une violation de cet arrangement? Certains types d’informations, comme les informations relatives à la sécurité, sont-ils exemptés ? Il s’agit d’une voie compliquée et qui pourrait avoir des conséquences à long terme, telles que la limitation du taux d’innovation et de concurrence dans l’industrie, la stagnation et la formation de monopoles.
La pression publique. Nous pourrions éviter d’imposer de nouvelles lois en utilisant la pression publique. La pression publique elle-même peut prendre de nombreuses formes, allant du refus d’acheter le dernier haut-parleur intelligent à l’organisation d’une manifestation massive devant le bâtiment d’une entreprise technologique. Les entreprises technologiques ont prouvé qu’elles se soucient profondément de l’opinion publique et feront souvent des sacrifices ou renverseront les anciennes positions pour apaiser les masses. S’il est suffisamment organisé et insistant, un groupe de personnes bruyant pourrait inciter les entreprises technologiques à divulguer plus d’informations sur des activités spécifiques, en particulier s’il est soutenu par une menace réelle de boycott.
Pression concurrentielle. Il est difficile de créer artificiellement une pression concurrentielle, mais cela peut être un sous-produit naturel et renforçant de l’un des systèmes référencés ci-dessus. Si davantage d’entreprises choisissent de fonctionner de manière transparente, la pression concurrentielle à elle seule pourrait encourager les marques technologiques à prendre des mesures, juste pour suivre le rythme de leurs rivaux.

La ligne de fond

Alors, quel est le résultat ici ? Devrions-nous tous nous regrouper et pousser les entreprises technologiques à être plus transparentes dans leurs opérations quotidiennes ? Devrions-nous favoriser les politiques gouvernementales qui font pression sur les entreprises technologiques pour qu’elles révèlent plus d’informations ?

Vous trouverez des gens qui insistent sur le fait que « la lumière du soleil est le meilleur désinfectant » et que la transparence est un bien inhérent qui devrait être imposé à toutes les entreprises technologiques. Vous trouverez également des personnes qui insistent sur le fait que la protection des secrets propriétaires et la préservation à la fois de l’innovation gratuite et de l’efficacité opérationnelle sont essentielles.

La vérité est que le sujet de la transparence technologique est complexe, avec peu de réponses directes et simples. À la lumière de cela, nous devons éviter de porter des jugements radicaux ou des changements généraux dans l’industrie.

Crédit d’image : Ron Lach ; Pexels; Merci!