Une fois que les systèmes d’IA commenceront à améliorer leurs capacités de manière autonome, garantir leur sécurité nécessitera quelqu’un prêt et capable de les éteindre et les débrancher. C’est ce que dit le vétéran de la Silicon Valley Eric Schmidt.
L’ancien PDG de Google, a averti que les systèmes d’IA pourraient avoir besoin d’un interrupteur d’arrêt s’ils deviennent trop puissants. Voici pourquoi.
L’IA, une future menace pour l’humanité ?
À mesure que les chatbots ou les IA génératives deviennent de plus en plus autonomes, ils pourraient représenter de nouvelles menaces plus graves pour l’humanité, selon Schmidt.
Lors d’une interview avec ABC News Schmidt a déclaré dimanche que si vous dites à l’ordinateur : « Apprends tout et fais tout », c’est un point dangereux. En effet, lorsque le système peut s’améliorer tout seul, nous devons sérieusement envisager de le débrancher.
Schmidt a prédit que l’IA évoluerait d’agents spécifiques à des tâches, comme Microsoft Copilot, vers des systèmes plus complexes capables de prendre des décisions par eux-mêmes. Lorsque l’IA atteindra ce stade, il sera temps pour les humains d’intervenir et de considérer l’arrêt du système.
Les humains doivent s’assurer que l’IA elle-même ne peut pas contrecarrer les efforts pour l’éteindre
Eric Schmidt a travaillé dans la Silicon Valley pendant des décennies. En 2001, les fondateurs de Google, Sergey Brin et Larry Page, l’ont recruté pour les aider à développer leur entreprise. À l’époque, Brin et Page estiment avoir besoin d’une main ferme avec une expérience exécutive de haut niveau pour guider leur entreprise.
Eux se consacraient à la recherche et au développement. De ce fait, au cours de sa carrière, Schmidt a eu un accès privilégié aux nombreuses vagues d’innovation de l’industrie technologique. C’est pourquoi, les craintes de Schmidt concernant ce scénario catastrophe sont partagées par d’autres figures de l’IA.
Ce n’est donc pas pour rien qu’il mentionne qu’en théorie, nous ferions mieux d’avoir quelqu’un qui a la main sur la prise pour débrancher l’IA, au sens figuré, a déclaré Schmidt.
Les experts redoutent l’avancée excessive de l’IA
Le lauréat du prix Nobel Geoffrey Hinton, dont les découvertes lui ont valu le surnom de « parrain de l’IA », a déclaré en 2023 qu’il « ne voyait pas de chemin garantissant la sécurité » parce que l’IA pouvait penser par elle-même.
Le PDG d’OpenAI, Sam Altman, a déclaré que le scénario catastrophe de l’intelligence artificielle générale était « l’extinction pour nous tous ».
Quant à Elon Musk, cofondateur d’OpenAI devenu rival, il a averti que l’IA pourrait mener à la destruction de la civilisation.
L’IA est « très probablement géniale », a déclaré Musk en octobre. Mais « Il y a cette petite chance, qui pourrait être de 10 % à 20 %, que cela tourne mal. Les chances ne sont donc pas nulles que l’IA dégénère, en particulier si l’homme en fait un mauvais usage. »
Les aspects positifs de l’IA souligné par Schmidt
Le principal avantage de l’IA, c’est de disposer de « l’équivalent d’un polymathe dans sa poche » déclare Eric Schmidt à George Stephanopoulos d’ABC News. C’est comme avoir les connaissances d’Einstein et le talent de Léonard de Vinci à porter de main.
Mais pour pouvoir en tirer bénéfice de la meilleure manière possible, Schmidt estime que les gouvernements devront commencer à réglementer l’IA.
Schmidt a évoqué des conversations sur le sujet avec le défunt Henry Kissinger, avec qui il a coécrit Genesis: Artificial Intelligence, Hope, and the Human Spirit. « Le gouvernement a un rôle à jouer ». D’ailleurs, « Le Dr Kissinger pensait très fermement que l’avenir de l’intelligence ne devrait pas être laissé à des personnes comme moi. Les technologues ne devraient pas être les seuls à prendre ces décisions. »
Restez toujours informé avec TECHNPLAY.COM !
Abonnez-vous à notre chaîne YouTube et suivez-nous sur Google Actualités pour ne rien rater.
- Partager l'article :
Au cœur de l'équipe TechNPlay, je suis votre sentinelle dédiée à l'univers fascinant des montres connectées et des véhicules électriques. Dans un monde où la technologie évolue à la vitesse de la lumière, ces petits bijoux technologiques suscitent mon admiration et ma curiosité. Chaque avancée ou nouveauté dans ces domaines...
