Le partenariat entre Google et le Pentagone suscite l'indignation des employés

Le partenariat actualisé entre Google et le Pentagone

Google a signé un accord actualisé avec le Pentagone pour utiliser son modèle d’IA Gemini pour ‘toute fin légale’ du gouvernement, y compris avec des données classifiées. Cette décision a suscité l’opposition des employés de Google, qui ont exprimé leurs inquiétudes quant à l’implication de l’entreprise avec l’armée. L’accord permet au Pentagone d’utiliser l’IA de Google pour une gamme de fins, y compris avec des données classifiées, bien que les détails de la portée juridique et des clauses de l’accord ne soient pas disponibles publiquement.

Inquiétudes des employés et historique

En 2018, des milliers d’employés de Google se sont opposés au travail de l’entreprise sur un projet d’IA du Pentagone, Project Maven, en raison d’inquiétudes quant à son utilisation potentielle à des fins létales. Le dernier accord a ravivé ces inquiétudes. Un porte-parole de Google a déclaré : “Nous avons été clairs sur le fait que nous ne développerons ou ne déploierons pas de technologie d’IA qui pourrait être utilisée à des fins létales.” Cette position n’a pas apaisé les inquiétudes des employés, qui craignent que l’implication de l’entreprise avec l’armée puisse compromettre ses valeurs.

Contexte industriel plus large

L’utilisation de l’IA dans les opérations militaires est une tendance croissante, avec de nombreuses entreprises technologiques explorant les opportunités dans ce domaine. Microsoft a également travaillé avec le Pentagone sur des projets d’IA, y compris un accord pour fournir à l’armée des services de cloud Azure. L’adoption croissante de l’IA dans les opérations militaires soulève des questions sur le rôle des entreprises technologiques dans ces efforts et les implications potentielles pour les civils. Par exemple, l’utilisation de l’IA par l’armée américaine dans les opérations de drones a été un sujet de controverse, avec des inquiétudes quant au potentiel de prise de décision basée sur l’IA pour entraîner des victimes civiles.

Mécaniques techniques

Le modèle d’IA Gemini est un grand modèle de langage capable de traiter et d’analyser de grandes quantités de données. Son utilisation dans les opérations militaires pourrait avoir des implications significatives pour la vitesse et la précision de la prise de décision. Cependant, les capacités du modèle soulèvent également des inquiétudes quant aux biais et à la responsabilité, en particulier dans les situations où les décisions basées sur l’IA pourraient avoir des conséquences létales. Le modèle Gemini utilise une combinaison de traitement du langage naturel et d’algorithmes d’apprentissage automatique pour analyser les données et générer des informations.

Implications en aval

L’accord entre Google et le Pentagone établit un précédent pour l’utilisation de l’IA dans les opérations militaires, ce qui pourrait avoir des implications lointaines pour l’industrie. D’autres entreprises technologiques pourraient emboîter le pas, ce qui entraînerait une adoption accrue de l’IA dans les contextes militaires. Cependant, cette tendance soulève également des inquiétudes quant aux risques potentiels et aux conséquences imprévues de l’utilisation de l’IA dans ces situations. Par exemple, l’utilisation de l’IA dans les opérations militaires pourrait entraîner une nouvelle ère de course aux armements, les pays rivalisant pour développer des capacités d’IA plus avancées.