IA : le PDG de Microsoft veut un "frein d'urgence" si besoin ...
À son tour, le patron de Microsoft met en garde contre les dérives potentielles de l'intelligence artificielle. Dans un long message publié sur X, Satya Nadalla a appelé, samedi dernier, à la création d'un système de freinage d'urgence " capable d'interrompre tout modèle ou toute tâche réalisée par l'IA, à tout moment.
Son constat de base est catégorique : tous les modèles d'intelligence artificielle doivent être, d'entrée de jeu, considérés des risques internes, tout "compromis dès le départ" et donc potentiellement dangereux. Non pas, à la base, dans un souci de malveillance, mais du fait d'une réalité technique.
" Nous ne pouvons pas traiter la super intelligence comme un ensemble de boîtes noires imbriquées et nous contenter d'accepter ou de rejeter ses recommandations, ses réponses et ses actions. Nous devons construire des systèmes confinés dont nous pouvons observer le comportement, tester les limites et toujours maîtriser les actions ", écrit le PDG de Microsoft, qui reprend donc à son compte la dénomination de " super intelligence " introduite récemment par Donald Trump.
" Imaginez un frein d'urgence ", poursuit-il. "Toute personne autorisée doit pouvoir interrompre ou arrêter un modèle en cours de fonctionnement. Les modèles plus avancés nécessiteront des technologies de confinement plus sophistiquées que nous devrons normaliser. "
Son avertissement vise en particulier les entreprises : elles doivent, d'après lui, doivent raisonner sur la base du "zéro confiance" vis-à-vis des modèles d'IA et les considérer comme de potentielles menaces internes, et garantir un contrôle humain permanent sur leurs accès et leurs actions.
Ce lundi, le vice-président du conseil d'administration de Microsoft Brad Smith a tenu des propos d'une teneur similaire sur la BBC. " À l'heure actuelle, votre lave-linge est soumis à davantage de règles de sécurité que l'IA. Chaque brique de lait que vous voyez au supermarché est soumise à des règles de sécurité et à des contrôles ", a-t-il notamment déclaré.
La prise de position des dirigeants de Microsoft fait suite à celles déjà émises par d'autres dirigeants tels Dario Amodei (Anthropic) ou Sam Altman (OpenAI), qui ont également appelé à plus de prudence et à un ralentissement du développement effréné.
Par: Guillaume Paul - Boursier.com
Poste similare
