Hipòtesi inicial
Les eines automàtiques poden ajudar a detectar contingut sospitós, però no n'hi ha prou amb un resultat per demostrar-ne l'autoria. Cal comprovar l'origen del material i buscar proves independents.
Investiguem com es creen els continguts falsos amb intel·ligència artificial, per què poden causar danys reals i com podem verificar la informació abans de compartir-la.
Les eines automàtiques poden ajudar a detectar contingut sospitós, però no n'hi ha prou amb un resultat per demostrar-ne l'autoria. Cal comprovar l'origen del material i buscar proves independents.
Revisió de fonts periodístiques i institucionals, anàlisi d'una polèmica literària, comparació de tres casos reals i prova controlada amb tres detectors de text. Les dades pròpies es recolliran a la taula de l'experiment.
Un deepfake és un contingut d'imatge, vídeo o àudio creat o manipulat mitjançant IA perquè sembli que una persona ha fet o dit alguna cosa que no ha passat. La IA generativa també pot produir textos convincents, però no tot text generat amb IA és necessàriament un deepfake.
Els models s'entrenen amb grans conjunts de dades per detectar regularitats del llenguatge, la veu i les imatges. No “recorden” la veritat de tot allò que produeixen.
A partir d'una instrucció, poden produir textos, imatges o veus sintètiques, i fins i tot substituir rostres o clonar la veu d'algú.
Un material fals pot circular a xarxes, missatgeria i mitjans fora de context. La seva aparença realista no garanteix que el contingut sigui autèntic.
La primera novel·la de Thélyson Orélien va passar de ser un èxit literari a convertir-se en un debat sobre autoria, proves digitals i reputació.
El compte «Balance ton Claude» va publicar a X captures de resultats del detector Pangram que qualificaven fragments de la novel·la com a generats amb IA. [1]
Le Monde va analitzar més de la meitat del llibre amb Pangram i va obtenir una estimació superior al 95% d'IA. La novel·la va ser exclosa de la selecció inicial del Premi Goncourt en un context d'acusacions d'IA i plagi. [2] [3]
Orélien va negar l'ús d'IA per escriure la novel·la, però va reconèixer plagis en textos anteriors. Cal separar aquests fets: els plagis previs no demostren per si sols com es va redactar aquest llibre. [4]
L'editorial canadenca Boréal va anunciar que un estudi independent havia trobat indicis en les metadades de documents de treball i va decidir posar fi al contracte. És una evidència diferent del percentatge d'un detector; el públic no disposa aquí de l'informe complet per comprovar-ne tots els detalls. [5]
Exemples diferents de frau econòmic, manipulació política i perjudici personal.
Una treballadora d'una empresa va rebre missatges i una videoconferència pregravada en què es feia passar per directius amb imatges i veus falsificades. Va autoritzar transferències a comptes controlats pels estafadors.
Difusió: correu fraudulent, videoconferència i missatgeria. Conseqüència: pèrdua d'uns 200 milions de dòlars de Hong Kong, segons la policia. El cas continuava sota investigació en l'informe de juny de 2024.
Just abans de les eleccions, es va difondre una gravació manipulada que simulava una conversa entre el polític Michal Šimečka i la periodista Monika Tódová sobre una suposada manipulació electoral.
Difusió: Telegram, Instagram, TikTok, Facebook i YouTube. Conseqüència: desinformació viral i risc per a la confiança electoral. No es pot atribuir el resultat electoral només a aquest àudio.
Es van difondre per xarxes socials imatges íntimes falses generades amb IA que representaven la cantant sense el seu consentiment. No reproduïm aquestes imatges perquè això podria ampliar-ne el perjudici.
Difusió: publicacions virals a xarxes, especialment X. Conseqüència: vulneració de la dignitat i la imatge, reacció pública i debat sobre la responsabilitat de les plataformes.
Els detectors identifiquen patrons estadístics associats a textos generats per models. Poden donar falsos positius (text humà marcat com a IA) i falsos negatius (text d'IA marcat com a humà). L'estudi de Stanford sobre redactors no nadius d'anglès descriu un problema important de falsos positius. [9]
Escriu tu mateix un text en castellà de 180–220 paraules. Guarda'n els esborranys.
Fes servir el text de mostra d'aquesta web o genera'n un de 180–220 paraules. Apunta l'eina, la data i la instrucció utilitzada.
Tria un fragment de 180–220 paraules de Don Quijote de la Mancha de Miguel de Cervantes, amb enllaç a la Biblioteca Virtual Miguel de Cervantes. És un text humà antic; el llenguatge d'època és una limitació de la prova.
01 Pangram · 02 GPTZero · 03 Copyleaks
Els tres declaren que treballen amb textos en castellà, però això no garanteix exactitud en el nostre experiment. Les condicions d'accés, els límits de paraules i el format de la resposta poden variar.
Passa els mateixos tres textos pels tres detectors. Anota la classificació final i, només si l'eina la mostra, la puntuació exacta i el tipus de puntuació.
És una llengua declarada com a compatible pels tres serveis. No és correcte comparar resultats en català sense comprovar abans si cada detector està validat per a aquesta llengua.
Cada tarde, cuando terminaban las clases, la biblioteca del barrio abría una sala para que los jóvenes estudiaran juntos. Allí había mesas grandes, una estantería de novelas y varios ordenadores que casi siempre estaban ocupados. Una semana, la bibliotecaria propuso una actividad diferente: cada estudiante debía investigar una noticia sorprendente y comprobar si era verdadera. Al principio, algunos pensaron que bastaba con encontrar muchas páginas que repitieran la misma información. Sin embargo, pronto descubrieron que una afirmación podía circular por numerosas cuentas sin tener una fuente original fiable. Decidieron entonces buscar la fecha, identificar al autor y comparar la noticia con medios de comunicación y documentos oficiales. En algunos casos encontraron imágenes sacadas de contexto; en otros, titulares que exageraban datos reales. Al finalizar la actividad, cada grupo explicó qué pistas había utilizado y cuáles le habían resultado más difíciles. También aprendieron que los detectores automáticos podían equivocarse y que ninguna etiqueta sustituía una investigación cuidadosa, basada en fuentes verificables. La conclusión fue sencilla: una imagen convincente y un mensaje muy compartido no equivalen a una prueba. Antes de difundir algo, vale la pena dedicar unos minutos a comprobar su procedencia y su contexto.
Origen conegut: text produït amb ajuda d'una IA en aquesta preparació, 20/11/2026. Utilitza'l complet, sense reescriure'l, si vols tenir-ne l'autoria controlada. Comprova la longitud de cada mostra.
| Eina | Text A · humà propi | Text B · generat amb IA | Text C · Cervantes |
|---|
Tria «Humà», «IA», «Mixt / incert» o «Sense prova». Les eines tenen escales i definicions diferents: una puntuació numèrica no sempre significa «percentatge real de text d'IA».
Recompte per detector de resultats correctes, incorrectes i incerts, només sobre els textos que realment has provat. Una mostra de tres textos és massa petita per estimar la fiabilitat general d'un producte.
Encara no hi ha dades per interpretar.
Si el text A o C es classifica com a IA, és un fals positiu. Si el B es classifica com a humà, és un fals negatiu. Una resposta «mixt / incert» s'ha de registrar com a indeterminada, no com a encert.
El resultat depèn de la llengua, l'estil, la llargada del text, l'època, l'edició, els models d'IA i els llindars del detector. Com que les eines canvien, és important anotar-ne la data i evitar conclusions universals.
Crear o compartir imatges falses d'una persona sense consentiment pot exposar-la a assetjament, humiliació, extorsió o suplantació d'identitat.
L'ús d'obres alienes sense autorització i presentar com a propi allò que no ho és plantegen conflictes de drets d'autor, reconeixement i honestedat acadèmica.
Un contingut fals pot manipular opinions, provocar fraus i desacreditar proves reals. També facilita negar una gravació autèntica dient que «deu ser IA».
Meta utilitza etiquetes d'informació sobre IA en determinats continguts; YouTube demana als creadors que declarin vídeos realistes alterats o generats amb IA. Les etiquetes ajuden, però no apareixen en tots els continguts. [11] [12]
La Unió Europea exigeix transparència en situacions regulades. Les autoritats policials també investiguen estafes, col·laboren amb plataformes per retirar contingut fraudulent i fan campanyes preventives. [10] [6]
Contrasten fonts, busquen el material original, consulten experts i expliquen el grau d'incertesa. Algunes eines de procedència digital com C2PA / Content Credentials documenten modificacions, però no certifiquen per si soles que el relat del contingut sigui veritat. [13]
Qui ho publica? Existeix una font original identificable i fiable?
Quan, on i en quines circumstàncies es va enregistrar? La data o el titular coincideixen?
Hi ha altres fonts independents que confirmin els mateixos fets?
Metadades, credencials de procedència i detectors poden aportar indicis, però cap indicador aïllat és infal·lible.
Petita activitat de sensibilització. L'objectiu no és endevinar una cara amb un sol cop d'ull, sinó aprendre quines comprovacions s'han de fer.
La IA generativa pot tenir usos positius, però també pot crear falsificacions que provoquin fraus, dany reputacional i desinformació. El cas de la novel·la de Thélyson Orélien mostra que una puntuació d'un detector no ha de substituir una investigació completa. Les proves documentals posteriors s'han d'analitzar per separat.
Conclusions pendents de la prova personal: després d'emplenar la taula de detectors, explica aquí quins han classificat bé els textos, quins han fallat i si les eines han coincidit. No es pot establir encara el detector «més fiable» sense aquestes dades.
Proposta de millora: formació en alfabetització mediàtica, comprovació de fonts, eines transparents, etiquetatge responsable i protocols escolars que prohibeixin sancionar només amb una puntuació automàtica.
Fonts periodístiques, institucionals i acadèmiques contrastades fins al 20 de novembre de 2026. Enllaços externs per verificar les afirmacions.
Transparència sobre l'elaboració: web i síntesi inicial preparades amb assistència d'intel·ligència artificial. La part pràctica, la interpretació final i la defensa oral s'han de completar amb treball i comprovacions personals. Les fonts enlacen a les publicacions originals; no s'ha consultat l'informe privat complet de l'editorial.