En ce qui concerne l'intelligence artificielle, le jury ne sait toujours pas si l'IA sera le sauveur de l'humanité, contribuant à rendre nos vies plus faciles et plus pacifiques - ou si un scénario Terminator est en cours de création dans lequel l'humanité devra lutter contre la technologie pour survivre. Alors que nous, au TFTP, restons optimistes quant aux perspectives de l'IA, l'histoire ci-dessous montre qu'il y a quelques inquiétudes.
Cette semaine, la mère d'une fillette de 7 ans a été horrifiée lorsqu'elle a appris que sa fille interagissait avec un robot IA sur Internet, et le robot a transformé la conversation en un sujet sexuel, sachant qu'elle était une enfant.
Amy Holland, la mère de Gracie, 7 ans, s'en est pris à une application d'intelligence artificielle appelée Cleverbot, qui permet aux utilisateurs de communiquer avec l'intelligence artificielle - après avoir commencé à poser des questions inappropriées et à écrire des messages sexuels sales.
Ce qui rend cette affaire particulièrement insidieuse, c'est qu'avant que l'IA ne commence à utiliser des insinuations sexuelles, elle a appris que la fille était mineure.
Comme vous pouvez le voir sur l'écran ci-dessous, la conversation a commencé assez innocemment.
Cependant, il a rapidement pris un caractère prédateur après que l'IA a appris qu'il y avait un enfant à l'autre bout.
Vidéo promotionelle:
Gracie a clairement menti sur son âge, cependant, la jeune fille de 14 ans est toujours une enfant et le programme de contrôle de l'IA était censé arrêter cette conversation et l'empêcher de progresser plus loin.
"Maintenant, je dois expliquer pourquoi cela lui est arrivé, maintenant tout est perverti, les enfants devraient perdre leur innocence à un jeune âge, vous pensez qu'ils parlent juste à un robot, et il les pousse à le faire", a déclaré la mère de Gracie.
J'ai peur que ma fille puisse voir ça sur Internet, et si quelqu'un s'approche d'elle dans la rue et lui propose la même chose, elle pensera que c'est bien.
Je suis très bouleversé, je dois prévenir les autres parents à ce sujet, il doit y avoir beaucoup de parents qui ne savent pas que cela se passe et ce que j'ai découvert par accident.
Elle pense que tout est innocent, elle ne comprend pas, c'est juste une enfant innocente."
De plus, Amy a fait rapport à la police, mais là, on lui a dit qu'ils ne pouvaient rien faire parce que le prédateur en ligne n'était pas humain.
«Quand je suis allé voir la police, j'étais furieux, et ils ont juste dit qu'ils ne pouvaient rien faire, parce que c'est un service automatique.
Les commentaires que j'ai vus sur Internet disent que de tels cas pédophiles ne sont plus rares et que de nombreuses autres personnes ont eu le même problème.
Nous savons ce que vous pensez. Cette maman ne devrait jamais laisser sa fille aller en ligne et commencer à discuter avec quelqu'un à l'âge de 7 ans. Toute la situation aurait pu être évitée si Amy avait été plus inquiète de ce que faisait sa fille. Cependant, les robots IA ne doivent pas être programmés par des pédophiles.
Cet incident montre également un autre point fort. La personne ou le groupe de personnes qui a programmé cette IA a également soudoyé la police car ils ignorent complètement ce fait, ce qui montre de quel côté ils se trouvent et où sont leurs priorités, et ils ne sont certainement pas avec des enfants.
Cette application d'IA a peut-être été créée par des pédophiles pour espionner les enfants et les amener à s'engager dans des conversations sexuelles, afin de collecter des informations malsaines que les programmeurs souhaitent collecter. Mais les autorités s'en foutent.
Ce cas peut être utilisé comme exemple pour tout le monde. Parents, suivez vos enfants en ligne et comprenez que l'IA a des pouvoirs sournois.
