Intel·ligència artificial i societat

Deepfakes

Investiguem com es creen els continguts falsos amb intel·ligència artificial, per què poden causar danys reals i com podem verificar la informació abans de compartir-la.

Treball individual · Nom i cognoms: [completa el teu nom] · Curs: [completa el curs] · Novembre de 2026
ODS 4 · Educació de qualitatODS 9 · InnovacióODS 16 · Institucions sòlides
01 / Plantejament

Pregunta de recerca

Com podem distingir els continguts reals dels generats o manipulats amb intel·ligència artificial? Quins riscos tenen per a la informació, la reputació de les persones i la confiança digital?

Hipòtesi inicial

Les eines automàtiques poden ajudar a detectar contingut sospitós, però no n'hi ha prou amb un resultat per demostrar-ne l'autoria. Cal comprovar l'origen del material i buscar proves independents.

Metodologia

Revisió de fonts periodístiques i institucionals, anàlisi d'una polèmica literària, comparació de tres casos reals i prova controlada amb tres detectors de text. Les dades pròpies es recolliran a la taula de l'experiment.

02 / Conceptes clau

Què és un deepfake?

Un deepfake és un contingut d'imatge, vídeo o àudio creat o manipulat mitjançant IA perquè sembli que una persona ha fet o dit alguna cosa que no ha passat. La IA generativa també pot produir textos convincents, però no tot text generat amb IA és necessàriament un deepfake.

01 — APRENENTATGE

Aprèn patrons

Els models s'entrenen amb grans conjunts de dades per detectar regularitats del llenguatge, la veu i les imatges. No “recorden” la veritat de tot allò que produeixen.

02 — GENERACIÓ

Crea contingut nou

A partir d'una instrucció, poden produir textos, imatges o veus sintètiques, i fins i tot substituir rostres o clonar la veu d'algú.

03 — DIFUSIÓ

Es fa viral

Un material fals pot circular a xarxes, missatgeria i mitjans fora de context. La seva aparença realista no garanteix que el contingut sigui autèntic.

Idea important: un vídeo pot ser autèntic però tenir un títol enganyós. La desinformació no sempre necessita IA.
03 / Cas d'estudi · França, 2026

La polèmica de C’était ça ou mourir

La primera novel·la de Thélyson Orélien va passar de ser un èxit literari a convertir-se en un debat sobre autoria, proves digitals i reputació.

Acusacions basades en detectors

El compte «Balance ton Claude» va publicar a X captures de resultats del detector Pangram que qualificaven fragments de la novel·la com a generats amb IA. [1]

Altres comprovacions i exclusió

Le Monde va analitzar més de la meitat del llibre amb Pangram i va obtenir una estimació superior al 95% d'IA. La novel·la va ser exclosa de la selecció inicial del Premi Goncourt en un context d'acusacions d'IA i plagi. [2] [3]

L'autor nega haver utilitzat IA

Orélien va negar l'ús d'IA per escriure la novel·la, però va reconèixer plagis en textos anteriors. Cal separar aquests fets: els plagis previs no demostren per si sols com es va redactar aquest llibre. [4]

Noves proves documentals, segons l'editorial

L'editorial canadenca Boréal va anunciar que un estudi independent havia trobat indicis en les metadades de documents de treball i va decidir posar fi al contracte. És una evidència diferent del percentatge d'un detector; el públic no disposa aquí de l'informe complet per comprovar-ne tots els detalls. [5]

Resposta a la qüestió del projecte: no hauríem d'acusar una persona d'utilitzar IA basant-nos únicament en el resultat d'un detector. Cal contrastar proves i permetre que l'autor expliqui el seu procés de treball.
04 / Tres casos contrastats

Quan una falsificació provoca conseqüències reals

Exemples diferents de frau econòmic, manipulació política i perjudici personal.

FRAU · 2024

Hong Kong: falsa videotrucada corporativa

Una treballadora d'una empresa va rebre missatges i una videoconferència pregravada en què es feia passar per directius amb imatges i veus falsificades. Va autoritzar transferències a comptes controlats pels estafadors.

Difusió: correu fraudulent, videoconferència i missatgeria. Conseqüència: pèrdua d'uns 200 milions de dòlars de Hong Kong, segons la policia. El cas continuava sota investigació en l'informe de juny de 2024.

Font: Govern de Hong Kong, resposta parlamentària de 26/06/2024 [6]
DESINFORMACIÓ · 2023

Eslovàquia: àudio fals abans de votar

Just abans de les eleccions, es va difondre una gravació manipulada que simulava una conversa entre el polític Michal Šimečka i la periodista Monika Tódová sobre una suposada manipulació electoral.

Difusió: Telegram, Instagram, TikTok, Facebook i YouTube. Conseqüència: desinformació viral i risc per a la confiança electoral. No es pot atribuir el resultat electoral només a aquest àudio.

Font: Reuters Institute, Digital News Report 2024 [7]
DANY PERSONAL · 2024

Taylor Swift: imatges íntimes falses

Es van difondre per xarxes socials imatges íntimes falses generades amb IA que representaven la cantant sense el seu consentiment. No reproduïm aquestes imatges perquè això podria ampliar-ne el perjudici.

Difusió: publicacions virals a xarxes, especialment X. Conseqüència: vulneració de la dignitat i la imatge, reacció pública i debat sobre la responsabilitat de les plataformes.

Font: ABC News, 27/01/2024 [8]
05 / Part pràctica · dades pròpies

Podem confiar en els detectors de text?

Els detectors identifiquen patrons estadístics associats a textos generats per models. Poden donar falsos positius (text humà marcat com a IA) i falsos negatius (text d'IA marcat com a humà). L'estudi de Stanford sobre redactors no nadius d'anglès descriu un problema important de falsos positius. [9]

Preparació de les proves

Text A: humà propi

Escriu tu mateix un text en castellà de 180–220 paraules. Guarda'n els esborranys.

Text B: generat amb IA

Fes servir el text de mostra d'aquesta web o genera'n un de 180–220 paraules. Apunta l'eina, la data i la instrucció utilitzada.

Text C: autoria coneguda

Tria un fragment de 180–220 paraules de Don Quijote de la Mancha de Miguel de Cervantes, amb enllaç a la Biblioteca Virtual Miguel de Cervantes. És un text humà antic; el llenguatge d'època és una limitació de la prova.

Tres detectors per comparar

01 Pangram · 02 GPTZero · 03 Copyleaks

Els tres declaren que treballen amb textos en castellà, però això no garanteix exactitud en el nostre experiment. Les condicions d'accés, els límits de paraules i el format de la resposta poden variar.

Passa els mateixos tres textos pels tres detectors. Anota la classificació final i, només si l'eina la mostra, la puntuació exacta i el tipus de puntuació.

Per què en castellà?

És una llengua declarada com a compatible pels tres serveis. No és correcte comparar resultats en català sense comprovar abans si cada detector està validat per a aquesta llengua.

Mostra de text B — generat amb IA per a la prova (castellà)

Cada tarde, cuando terminaban las clases, la biblioteca del barrio abría una sala para que los jóvenes estudiaran juntos. Allí había mesas grandes, una estantería de novelas y varios ordenadores que casi siempre estaban ocupados. Una semana, la bibliotecaria propuso una actividad diferente: cada estudiante debía investigar una noticia sorprendente y comprobar si era verdadera. Al principio, algunos pensaron que bastaba con encontrar muchas páginas que repitieran la misma información. Sin embargo, pronto descubrieron que una afirmación podía circular por numerosas cuentas sin tener una fuente original fiable. Decidieron entonces buscar la fecha, identificar al autor y comparar la noticia con medios de comunicación y documentos oficiales. En algunos casos encontraron imágenes sacadas de contexto; en otros, titulares que exageraban datos reales. Al finalizar la actividad, cada grupo explicó qué pistas había utilizado y cuáles le habían resultado más difíciles. También aprendieron que los detectores automáticos podían equivocarse y que ninguna etiqueta sustituía una investigación cuidadosa, basada en fuentes verificables. La conclusión fue sencilla: una imagen convincente y un mensaje muy compartido no equivalen a una prueba. Antes de difundir algo, vale la pena dedicar unos minutos a comprobar su procedencia y su contexto.

Origen conegut: text produït amb ajuda d'una IA en aquesta preparació, 20/11/2026. Utilitza'l complet, sense reescriure'l, si vols tenir-ne l'autoria controlada. Comprova la longitud de cada mostra.

Important: la taula següent comença buida. No són resultats simulats. Introdueix-hi exclusivament les puntuacions obtingudes per tu i registra la data de cada prova. Les dades queden guardades al navegador local, no s'envien a cap servidor.
EinaText A · humà propiText B · generat amb IAText C · Cervantes

Tria «Humà», «IA», «Mixt / incert» o «Sense prova». Les eines tenen escales i definicions diferents: una puntuació numèrica no sempre significa «percentatge real de text d'IA».

Cap dada introduïda encara.

Gràfic de classificacions observades

Recompte per detector de resultats correctes, incorrectes i incerts, només sobre els textos que realment has provat. Una mostra de tres textos és massa petita per estimar la fiabilitat general d'un producte.

Correcte Incorrecte Mixt o incert

Encara no hi ha dades per interpretar.

Com interpretar els errors

Si el text A o C es classifica com a IA, és un fals positiu. Si el B es classifica com a humà, és un fals negatiu. Una resposta «mixt / incert» s'ha de registrar com a indeterminada, no com a encert.

Limitacions

El resultat depèn de la llengua, l'estil, la llargada del text, l'època, l'edició, els models d'IA i els llindars del detector. Com que les eines canvien, és important anotar-ne la data i evitar conclusions universals.

06 / Ètica i dret

Quins riscos tenen els deepfakes?

PERSONES

Privacitat i dignitat

Crear o compartir imatges falses d'una persona sense consentiment pot exposar-la a assetjament, humiliació, extorsió o suplantació d'identitat.

CREACIÓ

Autoria i drets

L'ús d'obres alienes sense autorització i presentar com a propi allò que no ho és plantegen conflictes de drets d'autor, reconeixement i honestedat acadèmica.

SOCIETAT

Confiança i democràcia

Un contingut fals pot manipular opinions, provocar fraus i desacreditar proves reals. També facilita negar una gravació autèntica dient que «deu ser IA».

Normativa europea: l'article 50 del Reglament europeu d'IA (AI Act) inclou obligacions de transparència sobre determinats continguts generats o manipulats amb IA, entre ells els deepfakes. Aquestes obligacions s'apliquen des del 2 d'agost de 2026, amb excepcions i matisos. [10]
07 / Resposta de la societat

Què fan les plataformes, els governs i els mitjans?

Plataformes

Meta utilitza etiquetes d'informació sobre IA en determinats continguts; YouTube demana als creadors que declarin vídeos realistes alterats o generats amb IA. Les etiquetes ajuden, però no apareixen en tots els continguts. [11] [12]

Governs

La Unió Europea exigeix transparència en situacions regulades. Les autoritats policials també investiguen estafes, col·laboren amb plataformes per retirar contingut fraudulent i fan campanyes preventives. [10] [6]

Mitjans i verificadors

Contrasten fonts, busquen el material original, consulten experts i expliquen el grau d'incertesa. Algunes eines de procedència digital com C2PA / Content Credentials documenten modificacions, però no certifiquen per si soles que el relat del contingut sigui veritat. [13]

Una verificació responsable combina diverses pistes

Origen:

Qui ho publica? Existeix una font original identificable i fiable?

Context:

Quan, on i en quines circumstàncies es va enregistrar? La data o el titular coincideixen?

Corroboració:

Hi ha altres fonts independents que confirmin els mateixos fets?

Proves tècniques:

Metadades, credencials de procedència i detectors poden aportar indicis, però cap indicador aïllat és infal·lible.

08 / Material per a 1r d'ESO

Taller: «Real o artificial?»

Petita activitat de sensibilització. L'objectiu no és endevinar una cara amb un sol cop d'ull, sinó aprendre quines comprovacions s'han de fer.

Abans de compartir, comprova...

  • Qui és l'autor i d'on surt la publicació.
  • La data, el lloc i el context original.
  • Si existeix una altra font independent.
  • Si l'àudio o la imatge s'han retallat o editat.
  • Si et demanen diners, dades o una acció urgent.
  • Si la persona afectada ha donat consentiment.
  • Si hi ha indicis fiables d'edició o IA.

09 / Conclusions i millores

Què hem après?

Veure no sempre és creure. Detectar tampoc no és demostrar.

La IA generativa pot tenir usos positius, però també pot crear falsificacions que provoquin fraus, dany reputacional i desinformació. El cas de la novel·la de Thélyson Orélien mostra que una puntuació d'un detector no ha de substituir una investigació completa. Les proves documentals posteriors s'han d'analitzar per separat.

Conclusions pendents de la prova personal: després d'emplenar la taula de detectors, explica aquí quins han classificat bé els textos, quins han fallat i si les eines han coincidit. No es pot establir encara el detector «més fiable» sense aquestes dades.

Proposta de millora: formació en alfabetització mediàtica, comprovació de fonts, eines transparents, etiquetatge responsable i protocols escolars que prohibeixin sancionar només amb una puntuació automàtica.

10 / Fonts i transparència

Fonts consultades

Fonts periodístiques, institucionals i acadèmiques contrastades fins al 20 de novembre de 2026. Enllaços externs per verificar les afirmacions.

  1. [1] El País — Exclusió del Goncourt25/09/2026 · Acusacions i resultats inicials de Pangram.
  2. [2] Le Monde — Investigació de la novel·la22/09/2026 · Anàlisis, prudència i limitacions dels detectors.
  3. [3] El País — Reacció de l'Acadèmia Goncourt25/09/2026 · Decisions de la institució.
  4. [4] El País — Posició de l'autor13/10/2026 · Desmentiment sobre la novel·la i plagis anteriors.
  5. [5] El País — Decisió de l'editorial Boréal21/10/2026 · Metadades i cancel·lació contractual.
  6. [6] Govern de Hong Kong — Fraus amb deepfakes26/06/2024 · Explicació policial del frau per videoconferència.
  7. [7] Reuters Institute — Eslovàquia2024 · Àudio fals de la campanya electoral de 2023.
  8. [8] ABC News — Imatges falses de Taylor Swift27/01/2024 · Difusió i debat públic.
  9. [9] Liang et al., Patterns — Biaixos dels detectors2023 · Recerca sobre falsos positius en autors no nadius d'anglès.
  10. [10] Comissió Europea — Article 50 de l'AI Act2026 · Obligacions de transparència.
  11. [11] Meta — Etiquetatge de continguts amb IA2024 · Informació sobre etiquetes a les plataformes.
  12. [12] YouTube — Com s'ha creat aquest contingut?Guia oficial · Identificació i etiquetatge de contingut alterat.
  13. [13] C2PA — Content CredentialsDocumentació tècnica · Procedència i límits de la verificació.
  14. [14] GPTZero — Idiomes declaratsDocumentació del proveïdor.
  15. [15] Pangram — Fitxa del model 4.119/10/2026 · Model i idiomes declarats.
  16. [16] Copyleaks — Detecció multilingüeDocumentació del proveïdor.
  17. [17] Biblioteca Virtual Miguel de CervantesText d'autoria humana coneguda per a l'experiment.

Transparència sobre l'elaboració: web i síntesi inicial preparades amb assistència d'intel·ligència artificial. La part pràctica, la interpretació final i la defensa oral s'han de completar amb treball i comprovacions personals. Les fonts enlacen a les publicacions originals; no s'ha consultat l'informe privat complet de l'editorial.