Avui al #CarrerMajor abordem un dels debats més urgents i sensibles del moment: l’impacte de la intel·ligència artificial en la difusió de continguts de violència sexual a les xarxes socials. En aquesta entrevista conversem amb Jordi Duch, investigador i professor de la URV, expert en xarxes i tecnologies digitals, per analitzar com eines d’IA com Grok han facilitat la creació i la propagació d’imatges sexuals no consensuades, inclosos deepfakes que afecten especialment infants i dones.
Duch alerta que la tecnologia, en si mateixa, no és ni bona ni dolenta, però que el seu mal ús ha obert noves formes de violència digital. El gran salt qualitatiu en la generació d’imatges fa que avui siguin gairebé indistingibles de fotografies reals, cosa que multiplica el dany potencial i la sensació d’impotència de les víctimes. A més, el fet que aquestes eines estiguin integrades dins de xarxes socials en facilita enormement la difusió, accelerant un problema que ja existia però que ara s’ha descontrolat.
L’entrevista també posa el focus en les conseqüències psicològiques i socials d’aquest tipus de violència, especialment en menors, un col·lectiu altament vulnerable. Duch defensa la necessitat de combinar legislació, acció ràpida dels cossos policials i responsabilitat de les empreses tecnològiques, que han d’implementar filtres i barreres tècniques més estrictes. Tot i això, adverteix que la llei sempre va per darrere del ritme de la tecnologia.
Finalment, l’investigador insisteix en la importància de la conscienciació i la formació digital: saber detectar continguts falsos, entendre els riscos de compartir imatges i, sobretot, denunciar de manera immediata qualsevol cas. Una conversa clara i necessària per entendre els perills reals de la IA i com protegir-nos en un entorn digital cada cop més complex.