Un adolescent du New Jersey poursuit une société d'IA pour de fausses images de nus créées par ClothOff

Une adolescente du New Jersey a intenté une action en justice majeure contre la société à l'origine d'un outil de « retrait de vêtements » d'intelligence artificielle (IA) qui aurait créé une fausse image nue d'elle. L’affaire a attiré l’attention nationale car elle montre comment l’IA peut envahir la vie privée de manière nuisible. Le procès a été intenté pour protéger les étudiants et les adolescents qui partagent des photos en ligne et pour montrer avec quelle facilité les outils d’IA peuvent exploiter leurs images.

À l’âge de quatorze ans, la plaignante a publié quelques photos d’elle sur les réseaux sociaux. Un camarade de classe a utilisé un outil d’IA appelé ClothOff pour retirer ses vêtements sur l’une de ces photos. La photo modifiée a conservé son visage, lui donnant un aspect réel.

La fausse image s’est rapidement répandue dans les discussions de groupe et sur les réseaux sociaux. Aujourd’hui âgée de dix-sept ans, elle poursuit AI/Robotics Venture Strategy 3 Ltd., la société qui exploite ClothOff. Un professeur de la faculté de droit de Yale, plusieurs étudiants et un avocat plaidant ont déposé une plainte en son nom.

La poursuite demande au tribunal de supprimer toutes les fausses images et d’empêcher l’entreprise de les utiliser pour former des modèles d’IA. Il vise également à supprimer l’outil d’Internet et à fournir une compensation financière pour les dommages émotionnels et la perte de vie privée.

Les États des États-Unis réagissent à l’augmentation du contenu sexuel généré par l’IA. Plus de 45 États ont adopté ou proposé des lois pour faire des deepfakes sans consentement un délit. Dans le New Jersey, la création ou le partage de médias trompeurs basés sur l’IA peut entraîner des peines de prison et des amendes.

Au niveau fédéral, le Take It Down Act oblige les entreprises à supprimer les images non consensuelles dans les 48 heures suivant une demande valide. Malgré les nouvelles lois, les procureurs sont toujours confrontés à des difficultés lorsque les développeurs vivent à l'étranger ou opèrent via des plateformes cachées.

Les experts estiment que cette affaire pourrait remodeler la manière dont les tribunaux envisagent la responsabilité d’IA. Les juges doivent décider si un développeur d’IA est responsable lorsque des personnes utilisent mal leur outil. Ils doivent également se demander si le logiciel lui-même peut constituer un instrument nuisible.

Le procès met en lumière une autre question : comment les victimes peuvent-elles prouver un préjudice alors qu’aucun acte physique n’a eu lieu, mais que le préjudice semble réel ? Le résultat pourrait définir la manière dont les futures victimes de deepfake demanderont justice.

Des rapports indiquent que ClothOff pourrait ne plus être accessible dans certains pays, comme le Royaume-Uni, où il a été bloqué suite à la réaction du public. Cependant, les utilisateurs d'autres régions, y compris les États-Unis, semblent toujours en mesure d'accéder à la plate-forme Web de l'entreprise, qui continue de promouvoir des outils permettant de « supprimer les vêtements des photos ».

Sur son site officiel, la société inclut un bref avertissement concernant l'éthique de sa technologie. Il déclare : « Est-il éthique d'utiliser des générateurs d'IA pour créer des images ? L'utilisation de l'IA pour créer des images de style « deepnude » soulève des considérations éthiques.

Qu'elle soit pleinement opérationnelle ou partiellement restreinte, la présence continue de ClothOff en ligne continue de soulever de sérieuses questions juridiques et morales quant à savoir jusqu'où les développeurs d'IA devraient aller pour permettre l'existence de tels outils de manipulation d'images.

La possibilité de créer de fausses images de nus à partir d’une simple photo menace toute personne ayant une présence en ligne. Les adolescents sont confrontés à des risques particuliers car les outils d’IA sont faciles à utiliser et à partager. Le procès attire l’attention sur le préjudice émotionnel et l’humiliation causés par de telles images.

Les parents et les éducateurs s'inquiètent de la rapidité avec laquelle cette technologie se propage dans les écoles. Les législateurs sont sous pression pour moderniser les lois sur la protection de la vie privée. Les entreprises qui hébergent ou activent ces outils doivent désormais envisager des garanties plus strictes et des systèmes de retrait plus rapides.

Si vous devenez la cible d’une image générée par l’IA, agissez rapidement. Enregistrez des captures d'écran, des liens et des dates avant que le contenu ne disparaisse. Demandez la suppression immédiate des sites Web qui hébergent l’image. Demandez de l’aide juridique pour comprendre vos droits en vertu des lois étatiques et fédérales.

Les parents devraient discuter ouvertement de la sécurité numérique. Même des photos innocentes peuvent être utilisées à mauvais escient. Savoir comment fonctionne l’IA aide les adolescents à rester alertes et à faire des choix en ligne plus sûrs. Vous pouvez également exiger des règles d’IA plus strictes qui donnent la priorité au consentement et à la responsabilité.

Vous pensez que vos appareils et vos données sont véritablement protégés ? Répondez à ce rapide quiz pour voir où en sont vos habitudes numériques. Des mots de passe aux paramètres Wi-Fi, vous obtiendrez une analyse personnalisée de ce que vous faites correctement et de ce qui doit être amélioré. Répondez à mon quiz ici :

Ce procès ne concerne pas seulement un adolescent. Cela représente un tournant dans la manière dont les tribunaux traitent les abus numériques. L’affaire remet en question l’idée selon laquelle les outils d’IA sont neutres et se demande si leurs créateurs partagent la responsabilité des dommages causés. Nous devons décider comment concilier innovation et droits de l’homme. La décision du tribunal pourrait influencer l'évolution des futures lois sur l'IA et la manière dont les victimes demandent justice.

Si un outil d’IA crée une image qui détruit la réputation d’une personne, l’entreprise qui l’a créée devrait-elle être punie de la même manière que la personne qui l’a partagée ? Faites-le-nous savoir en nous écrivant à

Copyright 2025 CyberGuy.com. Tous droits réservés.