Com pot influir la intel·ligència artificial en la informació que consumim i en la salut de les nostres democràcies? Aquesta va ser una de les qüestions centrals de la conferència Intel·ligència artificial, informació i democràcia: reptes i oportunitats en l’era digital, celebrada el 13 d’octubre a l’ESEIAAT-UPC de Terrassa, amb la participació de Salvatore Romano, cofundador i director de recerca d’AI Forensics, i organitzada pel Consell Català del Moviment Europeu i el servei de Relacions Internacionals de l’Ajuntament de Terrassa.
Durant la sessió, vam reflexionar sobre els riscos i els desafiaments que planteja la intel·ligència artificial generativa en l’ecosistema informatiu actual, especialment pel que fa a la creació i la difusió de desinformació a gran escala.
La capacitat de la IA generativa per produir continguts de manera ràpida i massiva obre noves oportunitats, però també facilita la creació de missatges enganyosos que poden influir en l’opinió pública i erosionar la confiança de la ciutadania en les institucions.
Les dades presentades durant la conferència van posar el focus en fenòmens com la proliferació de continguts sintètics a plataformes com TikTok i les diferències en els criteris de moderació dels principals xatbots davant de continguts relacionats amb els processos electorals.
Aquests exemples evidencien que la desinformació no és un fenomen aïllat, sinó un repte creixent que afecta la qualitat del debat públic, la integritat de les eleccions i la manera com la ciutadania accedeix a la informació i construeix les seves opinions.
Un dels principals aprenentatges de la trobada és la necessitat de revisar el paper i la responsabilitat de les plataformes digitals en la creació, la distribució i la moderació dels continguts generats mitjançant intel·ligència artificial.
En aquest context, és fonamental avançar cap a marcs reguladors més sòlids, transparents i adaptats als nous reptes tecnològics. També cal promoure una major rendició de comptes per part de les empreses tecnològiques i reforçar les eines que permetin identificar i combatre la desinformació.
Alhora, la ciutadania necessita disposar de recursos per desenvolupar una mirada crítica davant dels continguts digitals, contrastar les fonts i comprendre millor com funcionen aquestes tecnologies.
0 comentaris