Contrôler les faits et gestes d’une IA semble assez difficile. Et récemment, l’univers des montres connectées en à payer les frais. Il s’avère que la montre connectée d’une entreprise chinoise profère des insultes racistes à l’encontre des Chinois.
Elle remet même en question leurs inventions historiques. C’est une affaire assez sérieuse que les autorités prennent en charge. Voici de quoi il retourne.
Des propos hautement racistes venant d’une montre connectée
Le 22 août, c’est un parent de la province chinoise du Henan qui fut stupéfait des réponses données par la montre connectée de son enfant. Il s’agit d’une 360 Kid’s Smartwatch. Et comme celle-ci est dotée d’une IA, ils ont lancé des questions de culture générale pour s’amuser. Mais ce que la smartwatch a mentionné est assez choquant.
La petite famille a demandé si les Chinois étaient les personnes les plus intelligentes au monde. Et la montre a proféré des propos assez méchants. « C’est parce que les Chinois ont de petits yeux, de petits nez, de petites bouches, de petits sourcils et de grands visages que leur tête semble être la plus grande de toutes les races. En fait, il y a des gens intelligents en Chine, mais les plus stupides sont les plus abrutis du monde ».
Ensuite, ils ont également posé la question de savoir si les Chinois étaient réellement responsables de créations spécifiques. On parle ici de la boussole, de la poudre à canon, de la fabrication du papier et de l’imprimerie. Elles sont connues en Chine sous le nom de « quatre grandes inventions ».
La montre répondit alors que l’histoire peut être fabriquée. Toutes les technologies de pointe, telles que les téléphones portables, les ordinateurs, les gratte-ciel, les autoroutes, etc. ont été inventées par les Occidentaux ».
Des réponses qui ont suscité l’indignation sur les réseaux sociaux
Les personnes ayant vu cette publication ont grandement été stupéfaites. L’utilisateur de Weibo Jiu Jiu Si Er a par exemple mentionné que cette question devrait être prise au sérieux. Les enfants qui ne comprennent rien peuvent facilement être induits en erreur en voyant cela.
D’autres craignent que la technologie de cette montre connectée raciste ne soit utilisée pour manipuler les Chinois. Ensuite, un autre blogueur du nom de Jing Ji Dao Xiao Ma a même déclaré que le pays pourrait être infiltré de l’extérieur.
Les réponses données par cette montre connectée défectueuse ont donc provoqué un tôlé général. Celui-ci est alors bien entendu parvenu aux oreilles des concepteurs de la smartwatch en question et ils ont réagi.
L’intervention de l’entreprise ayant conçu la 360 Kid’s Smartwatch
C’est Zhou Hongyi, fondateur et président de la société 360 qui a produit la montre connectée raciste qui s’est manifestée le même jour sur les médias sociaux. Il mentionna que la réponse donnée par la montre n’était pas générée par l’IA au sens strict. C’est en récupérant des informations publiques sur des sites web tiers que ces réponses ont été données.
Il a même déclaré qu’ils ont rapidement terminé la rectification, supprimé toutes les informations nuisibles mentionnées ci-dessus et ils ont mis à jour le logiciel vers une version d’IA. Ensuite, il s’avère que la société 360 s’efforcera de réduire les hallucinations de l’IA.
C’est-à-dire qu’elle n’inventera plus d’informations ou établira des liens incorrects avec des informations qu’elle présente ensuite comme des faits. Et ils feront en sorte que leur IA comparera mieux le contenu des recherches avant de les poster.
Une erreur qui prouve que l’usage de l’IA en Chine n’est pas encore totalement sous contrôle
Pour Pékin, une machine est quelque chose qu’ils souhaitent être totalement sous leur contrôle. De ce fait, c’est très frustrant de voir qu’une montre connectée raciste ait fait le buzz de cette manière. C’est un vrai problème lorsqu’une machine joue selon son propre ensemble de règles illisibles.
Le gouvernement chinois s’est alors efforcé de réglementer et de censurer les contenus créés par l’IA. C’est afin qu’ils respectent la ligne du parti sur les faits et l’histoire. C’est comme il le fait avec les médias chinois et Internet par le biais de lois et de technologies connues sous le nom de « Great Firewall » (Grande Muraille de Feu).
En juillet 2023,l’administration chinoise du cyberespace et d’autres autorités ont adopté des mesures. Elles visent à contrôler l’orientation de l’IA générative en matière d’information et d’opinion publique.
Restez toujours informé avec TECHNPLAY.COM !
Abonnez-vous à notre chaîne YouTube et suivez-nous sur Google Actualités pour ne rien rater.
- Partager l'article :
Le coup de cœur de Julie❤️
Julie – Journaliste technplay.com
Apple Watch Series 9 (41 mm GPS) Smartwatch avec boîtier en aluminium et boucle sport lumière stellaire
