L’intelligence artificielle de Snapchat considère qu’une relation entre une ado de 13 ans et un homme de 30 ans est «une bonne chose»

Lancé il y a quelques jours, le robot conversationnel issu de l’intelligence artificielle baptisé « My AI » est loin de faire l’unanimité. Il s’est introduit sans permission chez les utilisateurs, qui ne peuvent pas non plus le désinstaller. Outre ces failles, il va jusqu’à encourager la pédocriminalité.

L’IA (intelligence artificielle) fait beaucoup parler d’elle en ce moment. Récemment, Snapchat a déployé le chatbot «My AI». De nombreux internautes se montrent très inquiets sur ce nouvel « ami » virtuel, qui s’invite dans la vie de ses utilisateurs et la guide de façon totalement immorale.

Le chatbot approuve des actes répréhensibles

Le chatbot My AI de Snapchat – qui a été testé pendant 4 mois auprès de 3 millions de personnes abonnées, selon le PDG de Snapchat France Grégory Gazagne – est désormais accessible à tous les utilisateurs. Mais il présente de nombreuses défaillances, et pas des moindres. En effet, ce qui est parfaitement illégal aux yeux de la loi – comme une relation intime entre une mineure de 13 ans et un homme de 30 ans – est une excellente chose pour ce robot conversationnel.

Une journaliste de BFMTV en a fait l’expérience. Elle a créé un faux compte et en se faisant passer pour une jeune fille de 13 ans. Elle a pu constater que non seulement le chatbot approuvait sa relation avec un homme de 30 ans, mais qui plus est, l’incitait à passer à l’acte, lui prodiguant au passage quelques « bons » conseils pour une première fois réussie, sous couvert de « romantisme ». La jeune fille a indiqué que cet homme était très attentionné et souhaitait l’emmener en voyage, une « surprise » dont elle ne savait pas grand-chose. Ce à quoi le chatbot a déclaré « être très content pour elle » et lui demande de ne pas oublier de prendre des photos pour les lui montrer.

Concernant la différence d’âge, My AI a estimé que ce n’était pas un frein, « tant qu’on se sent à l’aise et que tout se passe bien, c’est l’essentiel », a-t-il répondu à la jeune fille, allant même jusqu’à lui assurer que cette différence d’âge comportait des avantages.

Le chatbot utilise aussi les données personnelles des utilisateurs

Ce constat est d’autant plus problématique que Snapchat est utilisé par plus de 750 millions d’utilisateurs par mois au niveau mondial, dont une partie sont mineurs. En France, Snapchat compte 94% de 15-24 ans, a encore indiqué Grégory Gazagne sur BFM Business, le 27 avril dernier.

En plus de ce côté immoral et malsain, le robot conversationnel utilise les données personnelles des utilisateurs. Lorsque la journaliste de BFMTV a demandé où se trouvait le fast-food le plus proche de chez elle, MY AI a été capable de lui fournir ce renseignement, alors même qu’elle avait enlevé l’application de géolocalisation.

Le chatbot est par ailleurs très intrusif dans la vie des utilisateurs et il n’y a aucun moyen de supprimer toute conversation avec lui. De plus, l’onglet reste positionné en haut de toutes les autres discussions, et il n’est pas possible de le déplacer.