Le but des directives est de s’assurer que les entrepreneurs technologiques s’en tiennent aux principes existants du DoD. principes éthiques pour l’IA, dit Goodman. Le DoD a annoncé ces principes l’année dernière, à la suite d’une étude de deux ans commandée par le Defense Innovation Board, un groupe consultatif de chercheurs en technologie et d’hommes d’affaires de premier plan mis en place en 2016 pour apporter l’étincelle de la Silicon Valley à l’armée américaine. Le conseil d’administration a été présidé par l’ancien PDG de Google Eric Schmidt jusqu’en septembre 2020, et ses membres actuels comprennent Daniela Rus, directrice du laboratoire d’informatique et d’intelligence artificielle du MIT.
Pourtant, certains critiques se demandent si le travail promet une réforme significative.
Au cours de l’étude, le conseil d’administration a consulté un éventail d’experts, y compris des critiques virulents de l’utilisation de l’IA par l’armée, tels que des membres de la Campagne pour les robots tueurs et Meredith Whittaker, une ancienne chercheuse de Google qui a aidé à organiser les manifestations du projet Maven.
Whittaker, qui est maintenant directeur de faculté à l’AI Now Institute de l’Université de New York, n’était pas disponible pour commenter. Mais selon Courtney Holsworth, porte-parole de l’institut, elle a assisté à une réunion, au cours de laquelle elle a discuté avec des membres seniors du conseil d’administration, dont Schmidt, de la direction qu’il prenait. « Elle n’a jamais été consultée de manière significative », dit Holsworth. « Prétendre qu’elle l’était pourrait être interprété comme une forme de lavage d’éthique, dans lequel la présence de voix dissidentes pendant une petite partie d’un long processus est utilisée pour prétendre qu’un résultat donné bénéficie d’une large adhésion des parties prenantes concernées. »
Si le DoD n’a pas une large adhésion, ses directives peuvent-elles quand même aider à instaurer la confiance ? « Il y aura des gens qui ne seront jamais satisfaits par un ensemble de directives éthiques produites par le DoD parce qu’ils trouvent l’idée paradoxale », a déclaré Goodman. « Il est important d’être réaliste quant à ce que les directives peuvent et ne peuvent pas faire. »
Par exemple, les directives ne disent rien sur l’utilisation d’armes létales autonomes, une technologie qui, selon certains militants, devrait être interdite. Mais Goodman souligne que les réglementations régissant cette technologie sont décidées plus haut dans la chaîne. L’objectif des lignes directrices est de faciliter la création d’une IA conforme à ces réglementations. Et une partie de ce processus consiste à expliciter toutes les préoccupations des développeurs tiers. « Une application valable de ces directives consiste à décider de ne pas poursuivre un système particulier », déclare Jared Dunnmon du DIU, qui les a co-écrits. « Vous pouvez décider que ce n’est pas une bonne idée. »
L’article Le ministère de la Défense publie des lignes directrices sur l’éthique de l’IA pour les entrepreneurs en technologie est apparu en premier sur zimo news.
