L’histoire de l’IA, racontée par ceux qui l’ont inventée

Bienvenue à J’étais là quand, un nouveau projet d’histoire orale du Dans les machines auxquelles nous faisons confiance Podcast. Il présente des histoires sur la façon dont les percées dans l’intelligence artificielle et l’informatique se sont produites, telles que racontées par les personnes qui en ont été témoins. Dans ce premier épisode, nous rencontrons Joseph Atick, qui a aidé à créer le premier système de reconnaissance faciale commercialement viable.

Crédits:

Cet épisode a été produit par Jennifer Strong, Anthony Green et Emma Cillekens avec l’aide de Lindsay Muscato. Il est édité par Michael Reilly et Mat Honan. Il est mixé par Garret Lang, avec une conception sonore et une musique de Jacob Gorski.

Transcription complète :

[TR ID]

Jennifer : Je suis Jennifer Strong, animatrice de Dans les machines auxquelles nous faisons confiance.

Je veux vous parler de quelque chose sur lequel nous travaillons depuis un petit moment dans les coulisses ici.

C’est appelé J’étais là quand.

Il s’agit d’un projet d’histoire orale présentant les histoires de percées dans l’intelligence artificielle et l’informatique… racontées par les personnes qui en ont été témoins.

Joseph Atick : Et en entrant dans la pièce, il a repéré mon visage, l’a extrait du fond et il a prononcé : « Je vois Joseph » et c’est à ce moment-là que les cheveux dans le dos… J’ai eu l’impression que quelque chose s’était passé. Nous étions un témoin.

Jennifer : Nous commençons les choses avec un homme qui a aidé à créer le premier système de reconnaissance faciale commercialement viable… dans les années 90…

[IMWT ID]

Je suis Joseph Atick. Aujourd’hui, je suis le président exécutif d’ID for Africa, une organisation humanitaire qui vise à donner aux Africains une identité numérique afin qu’ils puissent accéder aux services et exercer leurs droits. Mais je n’ai pas toujours été dans le domaine humanitaire. Après avoir obtenu mon doctorat en mathématiques, mes collaborateurs ont fait des percées fondamentales, qui ont conduit à la première reconnaissance faciale commercialement viable. C’est pourquoi les gens me qualifient de père fondateur de la reconnaissance faciale et de l’industrie biométrique. L’algorithme sur la façon dont un cerveau humain reconnaîtrait des visages familiers est devenu clair pendant que nous faisions des recherches, des recherches mathématiques, alors que j’étais à l’Institute for Advanced Study à Princeton. Mais c’était loin d’avoir une idée de la façon dont vous mettriez en œuvre une telle chose.

Ce fut une longue période de mois de programmation et d’échec et de programmation et d’échec. Et une nuit, tôt le matin, en fait, nous venions de finaliser une version de l’algorithme. Nous avons soumis le code source pour la compilation afin d’obtenir un code d’exécution. Et nous sommes sortis, je suis sorti pour aller aux toilettes. Et puis quand je suis revenu dans la pièce et que le code source avait été compilé par la machine et était revenu. Et généralement, après la compilation, il l’exécute automatiquement, et alors que j’entrais dans la pièce, il a repéré un humain se déplaçant dans la pièce et il a repéré mon visage, l’a extrait de l’arrière-plan et il a prononcé : « Je vois Joseph. » et c’était le moment où les cheveux dans le dos, j’avais l’impression que quelque chose s’était passé. Nous étions un témoin. Et j’ai commencé à appeler les autres personnes qui étaient encore dans le labo et chacun d’entre eux entrait dans la pièce.

Et il dirait : « Je vois Norman. Je verrais Paul, je verrais Joseph. Et nous courrions à tour de rôle dans la pièce juste pour voir combien il pouvait en repérer dans la pièce. C’était, c’était un moment de vérité où je dirais que plusieurs années de travail ont finalement conduit à une percée, même si théoriquement, aucune percée supplémentaire n’était requise. Le simple fait que nous ayons trouvé comment le mettre en œuvre et que nous ayons finalement vu cette capacité en action était très, très gratifiant et satisfaisant. Nous avions développé une équipe qui est plus une équipe de développement, pas une équipe de recherche, qui se concentrait sur l’intégration de toutes ces capacités dans une plate-forme PC. Et ce fut la naissance, vraiment la naissance de la reconnaissance faciale commerciale, je dirais, en 1994.

Mon inquiétude a commencé très vite. J’ai vu un avenir où il n’y avait aucun endroit où se cacher avec la prolifération des caméras partout et la banalisation des ordinateurs et les capacités de traitement des ordinateurs de mieux en mieux. Et donc en 1998, j’ai fait pression sur l’industrie et j’ai dit, nous devons mettre en place des principes pour une utilisation responsable. Et je me sentais bien pendant un moment, parce que je sentais que nous avions bien fait les choses. J’ai senti que nous avons mis en place un code d’utilisation responsable à suivre quelle que soit la mise en œuvre. Cependant, ce code n’a pas résisté à l’épreuve du temps. Et la raison derrière cela est que nous n’avons pas anticipé l’émergence des médias sociaux. Fondamentalement, au moment où nous avons établi le code en 1998, nous avons dit que l’élément le plus important dans un système de reconnaissance faciale était la base de données étiquetée de personnes connues. Nous avons dit, si je ne suis pas dans la base de données, le système sera aveugle.

Et il était difficile de construire la base de données. Tout au plus pourrait-on en construire des milliers, 10 000, 15 000, 20 000 car chaque image devait être numérisée et saisie à la main – le monde dans lequel nous vivons aujourd’hui, nous sommes maintenant dans un régime où nous avons permis à la bête de sortir du sac. en lui alimentant des milliards de visages et en l’aidant en nous taguant. Euh, nous sommes maintenant dans un monde où tout espoir de contrôler et d’exiger que chacun soit responsable dans son utilisation de la reconnaissance faciale est difficile. Et en même temps, les visages connus ne manquent pas sur Internet car vous pouvez simplement gratter, comme cela s’est produit récemment par certaines entreprises. Et donc j’ai commencé à paniquer en 2011, et j’ai écrit un article d’opinion disant qu’il est temps d’appuyer sur le bouton panique parce que le monde se dirige dans une direction où la reconnaissance faciale va être omniprésente et les visages vont être disponibles partout. dans les bases de données.

Et à l’époque les gens disaient que j’étais alarmiste, mais aujourd’hui ils se rendent compte que c’est exactement ce qui se passe aujourd’hui. Et alors, où allons-nous à partir d’ici ? J’ai fait du lobbying pour une législation. J’ai fait du lobbying pour des cadres juridiques qui vous obligent à utiliser le visage de quelqu’un sans son consentement. Et donc ce n’est plus un problème technologique. Nous ne pouvons pas contenir cette puissante technologie par des moyens technologiques. Il doit y avoir une sorte de cadre juridique. Nous ne pouvons pas laisser la technologie prendre trop d’avance sur nous. En avance sur nos valeurs, en avance sur ce que nous pensons être acceptable.

La question du consentement continue d’être l’une des questions les plus difficiles et les plus difficiles lorsqu’il s’agit de technologie, le simple fait de donner un préavis à quelqu’un ne signifie pas que cela suffit. Pour moi, le consentement doit être informé. Ils doivent comprendre les conséquences de ce que cela signifie. Et pas seulement pour dire, eh bien, nous avons mis une inscription et cela a suffi. Nous l’avons dit aux gens, et s’ils ne le voulaient pas, ils auraient pu aller n’importe où.

Et je trouve aussi qu’il y a, il est si facile de se laisser séduire par des fonctionnalités technologiques flashy qui pourraient nous donner un avantage à court terme dans nos vies. Et puis au bout du compte, nous reconnaissons que nous avons abandonné quelque chose qui était trop précieux. Et à ce moment-là, nous avons désensibilisé la population et nous arrivons à un point où nous ne pouvons plus nous retirer. C’est ce qui m’inquiète. Je m’inquiète du fait que la reconnaissance faciale à travers le travail de Facebook et Apple et d’autres. Je ne dis pas que tout est illégitime. Une grande partie est légitime.

Nous sommes arrivés à un point où le grand public est peut-être devenu blasé et peut devenir désensibilisé parce qu’il le voit partout. Et peut-être que dans 20 ans, tu sortiras de chez toi. Vous n’aurez plus à vous attendre à ce que vous ne le soyez pas. Il ne sera pas reconnu par les dizaines de personnes que vous croiserez en chemin. Je pense qu’à ce moment-là, le public sera très alarmé parce que les médias commenceront à rendre compte des cas où des personnes ont été harcelées. Des personnes ont été ciblées, des personnes ont même été sélectionnées en fonction de leur valeur nette dans la rue et kidnappées. Je pense que c’est beaucoup de responsabilité sur nos mains.

Et donc je pense que la question du consentement continuera de hanter l’industrie. Et tant que cette question ne sera pas un résultat, elle ne sera peut-être pas résolue. Je pense que nous devons établir des limites sur ce qui peut être fait avec cette technologie.

Ma carrière m’a également appris qu’être trop en avance n’est pas une bonne chose car la reconnaissance faciale, telle que nous la connaissons aujourd’hui, a été inventée en 1994. Mais la plupart des gens pensent qu’elle a été inventée par Facebook et les algorithmes d’apprentissage automatique, qui sont prolifèrent désormais dans le monde entier. En gros, à un moment donné, j’ai dû quitter mon poste de PDG public parce que je réduisais l’utilisation de la technologie que mon entreprise allait promouvoir par peur de conséquences négatives pour l’humanité. Je pense donc que les scientifiques doivent avoir le courage de se projeter dans le futur et de voir les conséquences de leur travail. Je ne dis pas qu’ils devraient arrêter de faire des percées. Non, vous devriez y aller à fond, faire plus de percées, mais nous devons aussi être honnêtes avec nous-mêmes et alerter le monde et les décideurs politiques que cette percée a des avantages et des inconvénients. Et par conséquent, en utilisant cette technologie, nous avons besoin d’une sorte de guide et de cadres pour nous assurer qu’elle est canalisée pour une application positive et non négative.

Jennifer : J’étais là quand… est un projet d’histoire orale présentant les histoires de personnes qui ont été témoins ou ont créé des percées dans l’intelligence artificielle et l’informatique.

Avez-vous une histoire à raconter? Connaissez-vous quelqu’un qui le fait? Envoyez-nous un e-mail à [email protected].

[MIDROLL]

[CREDITS]

Jennifer : Cet épisode a été enregistré à New York en décembre 2020 et produit par moi avec l’aide d’Anthony Green et Emma Cillekens. Nous sommes édités par Michael Reilly et Mat Honan. Notre ingénieur du son est Garret Lang… avec une conception sonore et une musique de Jacob Gorski.

Merci d’avoir écouté, je suis Jennifer Strong.

[TR ID]