L’IA suscite des inquiétudes dans le divertissement pour adultes

Dans le courant du mois, les Berlinois pourront réserver une heure avec une poupée sexuelle artificielle, la première maison close virtuelle au monde ayant mis en place ce service après une phase de test.

Les clients pourront interagir verbalement et physiquement avec les poupées d’IA.

« De nombreuses personnes se sentent plus à l’aise pour partager des sujets privés avec une machine parce qu’elle ne juge pas », explique Philipp Fussenegger, fondateur et propriétaire de Cybrothel.

« Auparavant, les poupées dotées d’une actrice vocale suscitaient un vif intérêt, les utilisateurs ne pouvant qu’entendre la voix et interagir avec la poupée. Aujourd’hui, la demande d’interaction avec l’intelligence artificielle est encore plus forte ».

Ce n’est qu’une des nombreuses façons dont l’IA générative est utilisée par l’industrie du divertissement pour adultes.

Une analyse réalisée par SplitMetrics a révélé que les applications pour compagnes de l’IA ont atteint 225 millions de téléchargements dans le Google Play Store.

« Je m’attends à ce que davantage de développeurs d’applications prennent note de cette tendance et cherchent des moyens d’innover et de monétiser davantage cette catégorie », a déclaré Thomas Kriebernegg, directeur général de SplitMetrics.

Les compagnons IA peuvent être lucratifs, selon Misha Rykov, chercheur en protection de la vie privée au sein du guide Privacy Not Included de Mozilla.

« Étant donné que la plupart des chatbots sont payants et que la technologie de base a été développée ailleurs [comme Open AI], il s’agit d’une activité à forte marge. De plus, ces applications collectent des données personnelles et les partagent souvent avec des tiers tels que des annonceurs – un modèle commercial qui a fait ses preuves. »

Mais la fusion de l’IA et de l’industrie du divertissement pour adultes a déclenché des sonnettes d’alarme.

L’un des problèmes réside dans les préjugés inhérents à l’IA générative, qui produit de nouveaux contenus sur la base des données sur lesquelles elle a été entraînée.

Il existe un risque que des stéréotypes rétrogrades sur le sexe et le plaisir soient encodés dans les chatbots sexuels, explique le Dr Kerry McInerney, chercheur principal au Leverhulme Centre for the Future of Intelligence, à l’université de Cambridge.

« Il est essentiel que nous comprenions quels types de données sont utilisés pour former les chatbots sexuels, sinon nous risquons de reproduire des idées sur le sexe qui rabaissent le plaisir féminin et ignorent les relations sexuelles qui existent en dehors des rapports hétérosexuels ».

Il existe également un risque d’accoutumance, selon M. Rykov, qui affirme que les chatbots d’IA ciblent les personnes seules, notamment les hommes.

« La plupart des chatbots d’IA que nous avons examinés ont un fort potentiel d’addiction et plusieurs dommages potentiels, en particulier pour les utilisateurs ayant des problèmes de santé mentale. »

Mozilla a ajouté des avertissements sur le contenu de plusieurs chatbots d’IA « car nous avons trouvé des thèmes d’abus, de violence et de relations avec des mineurs », explique M. Rykov.

Il a également soulevé la question de la protection de la vie privée. Les chatbots de partenariat sont conçus pour collecter « une quantité sans précédent de données personnelles ».

M. Rykov ajoute que 90 % des applications examinées par Mozilla « peuvent partager ou vendre des données personnelles », tandis que plus de la moitié des applications ne permettent pas aux utilisateurs de supprimer leurs données personnelles.

D’autres mettent en garde contre le danger que l’IA pourrait représenter pour les relations dans le monde réel.

Tamara Hoyton, conseillère principale auprès du service de conseil Relate, souligne que « certaines difficultés pourraient survenir si des relations réelles étaient mises en place » : « Certaines difficultés peuvent survenir si les rencontres réelles sont profondément décevantes parce qu’elles ne correspondent pas aux exigences strictement définies que les utilisateurs rencontrent dans le porno IA ».

Mme Hoyton ajoute que, dans certains cas, l’IA pornographique pourrait entraîner les utilisateurs dans des zones dangereuses.

« Il n’y a rien de mal à fantasmer, et de nombreuses personnes sont excitées par des pensées qu’elles n’ont absolument pas l’intention de mettre en pratique ; le porno d’IA pourrait être considéré comme tel. »

« Si cela débouche sur une présomption de consentement, par exemple, sur un sentiment d’y avoir droit, ou sur le fait que tout le monde sera source d’excitation, sur la base de l’expérience de l’utilisateur quant à la conformité de l’objet d’IA, alors c’est un problème ».

Les entreprises qui utilisent l’IA dans l’industrie du divertissement pour adultes reconnaissent qu’il faut être prudent, mais maintiennent que l’IA a un rôle important à jouer.

Philipp Hamburger, responsable de l’IA chez Lovehoney, explique que l’entreprise vise à « améliorer l’expérience sexuelle de ses clients, plutôt que de la remplacer, ce qui est une ligne importante à tracer ».

D’autres pensent que l’IA aura un effet positif sur le secteur. Ruben Cruz est le cofondateur de l’agence barcelonaise The Clueless Agency, qui a créé l’une des premières influenceuses IA, Aitana Lopez.

Il souligne que l’industrie du sexe existera toujours et que l’IA peut contribuer à atténuer les préoccupations éthiques en garantissant que le contenu n’est pas créé à partir de personnes réelles.

« Ce changement vise à garantir qu’aucune personne, homme ou femme, n’ait à être explicitement sexualisée à l’avenir. »