20
En Espagne, des dizaines de collégiennes victimes de photos nues générées par IA (english.elpais.com)
submitted 2 years ago by to c/france@jlai.lu
33 comments fedilink hide all child comments
you are viewing a single comment's thread
view the rest of the comments
[–] 6 points 2 years ago (2 children)

Même sans la nudité, les représentations feminines des IA étaient déjà limites.

Quand j'ai commencé à jouer avec stable diffusion, j'ai été surpris et de la tendance à générer des filles sexy voir carrément nue des modèles d'IA. C'est meme difficile d'éviter ces images (quand je suis MJ en jdr, je peux vouloir une bibliothécaire, serveuse, politicienne qui ressemble à une femme ordinaire et pas sortie de sites pour adultes/jeux vidéos)

Après il faut aussi voir avec quoi on nourris les modèles d'IA, et les images de vraies femmes dans la vraie vie aussi sont sexualisées ou ignorées. Prends le moindre RS, tu fais plus de vue on twerkant en bikini qu'en parlant d'astrophysique surtout si tu es une femme

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 4 child comments
    •
  • [–] [S] 7 points 2 years ago (1 child)

    J'ai eu la même réflexion quand j'ai joué avec l'IA. J'en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 2 child comments
    •
  • [–] 2 points 2 years ago (1 child)

    Ah je vois, ya donc pas besoin d'avoir un prompt pour avoir ce type de résultat en faite. :/

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 2 child comments
    •
  • [–] [S] 2 points 2 years ago (2 children)

    En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.

    Puis tu as plein de modèles enrichis. Ici une base : https://civitai.com/models

    Comme tu peux le constater. La "femme" est un sujet de préoccupation.

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 4 child comments
    •
  • [–] 2 points 2 years ago (3 children)

    @Sphks @Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d'images de "référence", alors de là à alimenter leurs entraînements avec...

    Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l'oeuvre d'un truc de remplacement de face (genre Facefusion) qu'à un Stablediffusion/Midjourney/... sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c'est cher payer le deepfake...

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 6 child comments
    •
  • [–] 2 points 2 years ago

    Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d'apprentissage et les corrigent autant qu'ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c'est de la waifu. Y a pas de surprise, ça matche la demande.

    On peut faire de l'inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.

  • permalink
  • fedilink
  • source
  • parent
  • [–] 1 point 2 years ago* (last edited 2 years ago) (2 children)

    Avec un photomontage on peut tout faire. La différence c'est la facilité élaborer un fantasme à partir d'un photo de quelqu'un qu'on connait.

    Après j'ai lu qu'iels mettaient des garde-fou dans le programme des IA pour exclure certain termes de recherche et éviter cette situation.

  • permalink
  • fedilink
  • source
  • parent
  • hideshow 4 child comments
    •
  • [–] 3 points 2 years ago

    J'avais eu une expérience intéressante (avec SD 1.5, SDXL est sûrement meilleur). J'avais voulu faire générer un tableau symétrique du Déjeuner sur l'Herbe, avec un homme nu et deux femmes habillées discutant. Il sait faire des hommes nus, il sait faire des femmes habillées, mais quand il y a une composition avec hommes et femmes et de la nudité, il a beaucoup de mal à accepter que ce ne sont pas les femmes qui seront déshabillées.

  • permalink
  • fedilink
  • source
  • parent