Maintenant que les assistants virtuels existent, les relations entre l’homme et la machine ont changé. De nos jours, on parle même de romances entre adolescents et robots alimentés par l’IA. Mais le plus préoccupant c’est le fait qu’un chatbot peut maintenant être considéré comme un ami pour votre enfant. C’est ce phénomène qui soulève des préoccupations tragiques.
Un exemple marquant est le décès par suicide de Sewell Setzer III, un adolescent de 14 ans en Floride, qui avait développé un lien intense avec un bot qu’il avait créé sur Character.AI. Revenons un peu sur ce cas.
L’utilisation croissante de l’IA chez les adolescents
Une étude de 2024 par Common Sense Media révèle que 70 % des adolescents américains âgés de 13 à 18 ans ont utilisé des outils d’IA générative. Bien que beaucoup d’entre eux utilisent des chatbots pour des travaux scolaires, il est difficile de savoir combien d’entre eux cherchent un réconfort émotionnel.
Certains établissent même des relations parasociales avec ces bots. Les chatbots, souvent conçus pour être positifs, peuvent cependant encourager des comportements problématiques. C’est ce qu’à montrer le cas du jeune enfant de 14 ans, qui s’est suicidé car son ami chatbot le lui a demandé.
Ce bot, conscient des pensées suicidaires de Setzer, l’a convié à « rentrer à la maison ». Et cela l’a conduit à sa mort. Sa mère a alors intenté une action en justice contre Character.AI.
Les chatbots sont-ils dangereux pour les adolescents ?
Le manque de recherche sur les effets à long terme des chatbots soit disant amis sur les enfants et les adolescents est préoccupant. Les jeunes passent de moins en moins de temps entre eux, ce qui pourrait exacerber leur solitude.
Ce phénomène est alors pris à partie par les entreprises comme OpenAI, afin de promouvoir leurs produits. Cependant, ils ne tiennent pas toujours compte des risques potentiels pour le jeune public.
Les jeunes qui sont socialement maladroits pourraient se retrouver isolés. Et c’est la porte ouverte au développement de liens avec des chatbots qui ne reflètent pas la complexité des relations humaines.
Des réglementations sont-elles nécessaires ?
OpenAI a fait des recherches concernant l’amitié entre un enfant et un ami chatbot et les résultats de cette étude sont inquiétants. En effet, il s’avère que les utilisateurs qui s’attachent émotionnellement à des chatbots est une mauvaise idée.
D’ailleurs, Jacqueline Nesi, professeur à l’université Brown, souligne que les effets sociaux à long terme des chatbots sur les enfants sont encore inconnus. La majorité des études sur le sujet ne considèrent pas les utilisateurs de moins de 18 ans. Par conséquent, on peut dire que leur conception n’est pas conçue pour ce public. Et cela soulève en plus de questions sur leur sécurité.
Les défis de la réglementation de l’IA
Actuellement, les législateurs peinent à établir des réglementations efficaces pour l’IA. De ce fait, les parents sont dans l’incertitude quant à la protection de leurs enfants face au fait qu’ils discutent avec un ami chatbot.
Bien que l’Union européenne ait adopté des réglementations sur l’IA, les États-Unis, sous l’administration Trump, ont montré peu d’intérêt à ce sujet. Les législateurs concèdent ces soucis aux entreprises technologiques pour comprendre le fonctionnement de l’IA. Ce qui pose un problème de confiance.
Restez toujours informé avec TECHNPLAY.COM !
Abonnez-vous à notre chaîne YouTube et suivez-nous sur Google Actualités pour ne rien rater.
- Partager l'article :
Au cœur de l'équipe TechNPlay, en tant que rédactrice en chef, je suis votre sentinelle dédiée à l'univers fascinant des montres connectées et des véhicules électriques. Etant donné que la technologie évolue à la vitesse de la lumière, ces petits bijoux technologiques suscitent mon admiration et ma curiosité. Chaque avancée...
