Il a rendu Facebook accro à l’IA. Maintenant, il ne peut pas réparer sa dépendance à la désinformation

En un an, son équipe avait développé ces modèles, ainsi que les outils pour en concevoir et en déployer plus rapidement de nouveaux. Avant, il avait fallu six à huit semaines aux ingénieurs de Quiñonero pour construire, former et tester un nouveau modèle. Maintenant, il n’en fallait qu’un.

La nouvelle du succès se répandit rapidement. L’équipe qui a travaillé sur la détermination des publications que les utilisateurs de Facebook verraient sur leurs fils d’actualités personnels a voulu appliquer les mêmes techniques. Tout comme les algorithmes pourraient être formés pour prédire qui cliquerait sur quelle annonce, ils pourraient également être formés pour prédire qui aimerait ou partager quelle publication, puis donner plus d’importance à ces publications. Si le modèle déterminait qu’une personne aimait vraiment les chiens, par exemple, les messages d’amis sur les chiens apparaissaient plus haut sur le fil d’actualité de cet utilisateur.

Le succès de Quiñonero avec le fil d’actualité – associé à d’impressionnantes nouvelles recherches sur l’IA menées en dehors de l’entreprise – a attiré l’attention de Zuckerberg et de Schroepfer. Facebook comptait désormais un peu plus d’un milliard d’utilisateurs, ce qui le rendait plus de huit fois plus grand que tout autre réseau social, mais ils voulaient savoir comment poursuivre cette croissance. Les dirigeants ont décidé d’investir massivement dans l’IA, la connectivité Internet et la réalité virtuelle.

Ils ont créé deux équipes d’IA. L’un était FAIR, un laboratoire de recherche fondamentale qui ferait progresser les capacités de pointe de la technologie. L’autre, Applied Machine Learning (AML), intégrerait ces capacités dans les produits et services de Facebook. En décembre 2013, après des mois de courtoisie et de persuasion, les dirigeants ont recruté Yann LeCun, l’un des plus grands noms du domaine, pour diriger FAIR. Trois mois plus tard, Quiñonero a été de nouveau promu, cette fois pour diriger AML. (Il a ensuite été renommé FAIAR, prononcé «feu».)

«C’est comme ça que tu sais ce qu’il pense. J’ai toujours été, pendant quelques années, à quelques pas du bureau de Mark.

Joaquin Quiñonero Candela

Dans son nouveau rôle, Quiñonero a construit une nouvelle plate-forme de développement de modèles à laquelle tous les utilisateurs de Facebook peuvent accéder. Appelé Flux FBLearner, il a permis aux ingénieurs peu expérimentés en IA de former et de déployer des modèles d’apprentissage automatique en quelques jours. À la mi-2016, il était utilisé par plus d’un quart de l’équipe d’ingénierie de Facebook et avait déjà été utilisé pour former plus d’un million de modèles, y compris des modèles de reconnaissance d’image, de ciblage publicitaire et de modération de contenu.

L’obsession de Zuckerberg de faire en sorte que le monde entier utilise Facebook avait trouvé une nouvelle arme puissante. Les équipes avaient précédemment utilisé des tactiques de conception, telles que l’expérimentation du contenu et de la fréquence des notifications, pour essayer d’accrocher les utilisateurs plus efficacement. Leur objectif, entre autres, était d’augmenter une métrique appelée L6 / 7, la fraction de personnes qui se sont connectées à Facebook six des sept jours précédents. L6 / 7 n’est que l’une des innombrables façons dont Facebook a mesuré «l’engagement» – la propension des gens à utiliser sa plate-forme de quelque manière que ce soit, que ce soit en publiant des choses, en les commentant, en les aimant ou en les partageant, ou simplement en les regardant. . Désormais, chaque interaction utilisateur une fois analysée par les ingénieurs était analysée par des algorithmes. Ces algorithmes créaient des boucles de rétroaction beaucoup plus rapides et plus personnalisées pour peaufiner et personnaliser le fil d’actualité de chaque utilisateur afin de continuer à augmenter les chiffres d’engagement.

Zuckerberg, qui était assis au centre du bâtiment 20, le bureau principal du siège de Menlo Park, a placé les nouvelles équipes FAIR et AML à ses côtés. La plupart des recrues originales de l’IA étaient si proches que son bureau et le leur se touchaient pratiquement. C’était «le sanctuaire intérieur», dit un ancien dirigeant de l’organisation AI (la branche de Facebook qui contient toutes ses équipes d’IA), qui se souvient que le PDG avait mélangé des gens dans et hors de son voisinage au fur et à mesure qu’ils gagnaient ou perdaient sa faveur. «C’est comme ça que vous savez ce qu’il pense», dit Quiñonero. «J’ai toujours été, pendant quelques années, à quelques pas du bureau de Mark.