Immagine principale corretta — testo alterato dall'IA rimosso (voce avvocato-moglie)

Perché questa errata è dettagliata

Fornisco qui un resoconto passo per passo, anziché una sola riga « l’immagine era sbagliata, è stata sostituita », perché il tipo di errore che questa errata corregge è qualcosa che mi aspetto possa ripetersi — non necessariamente nello stesso modo, ma in qualche forma — mentre continuo a usare l’IA generativa per illustrare le voci della cronologia di questo sito. Farò del mio meglio per intercettare ed evitare questi errori prima della pubblicazione; i generatori di immagini IA fanno ancora errori oggi, e spero che ne facciano meno con il tempo. Nel frattempo, la cosa più utile che posso fare è essere trasparente quando li fanno, in modo che i lettori vedano esattamente cosa è successo e in modo che io stesso abbia un registro scritto da cui imparare.

L’immagine corretta — quella che ora è mostrata nella voce di cronologia avvocato-moglie — si presenta così (clicca su qualsiasi immagine di questa pagina per aprirla a piena risoluzione):

Il resto di questa pagina ripercorre come ChatGPT abbia prima prodotto l’immagine correttamente, poi, in un’iterazione successiva, abbia silenziosamente alterato un frammento di testo all’interno. Il testo alterato — apparso sul sito live per un certo periodo — ha introdotto un’attribuzione fattuale errata. L’immagine è stata da allora sostituita con la versione qui sopra.

---

Passo 1 — come l’immagine è stata costruita originariamente con ChatGPT

Per illustrare la voce di cronologia avvocato-moglie, ho iniziato dando a ChatGPT il testo che sarebbe apparso sulla pagina e gli ho chiesto di produrre una prima illustrazione. Quella prima illustrazione era la figura centrale — un uomo a un laptop di notte, con il documento « FRENCH JUDICIAL POLICE SUMMONS » sulla scrivania. Fin qui tutto bene.

Poi volevo mettere in evidenza il mio processo di pensiero nell’immagine — mostrare, visivamente, gli eventi a cui stavo effettivamente pensando mentre scrivevo quell’email. Due momenti precedenti erano importanti per me qui:

• una cena a Pechino nell’agosto 2019 dove una figura mascherata ha fatto un’osservazione su un trattato di estradizione tra Francia e Cina — documentato separatamente nella voce dinner-in-china-with-american-intelligence-operatives-mcdonalds-case-extradition-remark;
• e un momento precedente, nel 2019, quando ho iniziato a sospettare che certi contatti americani di mia moglie potessero non essere chi sembravano — documentato in first-encounter-american-spies-suspicion.

Ognuno di questi momenti precedenti aveva già la propria illustrazione generata dall’IA sulla propria voce di cronologia. Ho quindi caricato queste due illustrazioni nella conversazione ChatGPT e ho chiesto all’assistente di combinarle con la figura centrale, come fumetti di pensiero, uno per lato. Ecco lo screenshot di quel prompt:

Il prompt che ho dato a ChatGPT, verbatim:

The part I selected, it looks like it’s part of the image. How can we make it look like it’s what I am currently thinking about while I am writing the email? Furthermore, there are multiple events which happened. I upload the 2 other pictures we created. Can we make it in such a way that I think multiple thoughts at the same time (one on each side) ? using these two picture I am uploading?

La composizione ha funzionato bene: ChatGPT ha prodotto un’immagine con la figura centrale fiancheggiata da due fumetti di pensiero, ciascuno tratto da una delle illustrazioni precedenti. E — questo conta per ciò che segue — in questa prima versione della composizione, il testo all’interno dei fumetti di pensiero era ancora corretto. Quel testo era il testo delle due illustrazioni precedenti, copiato fedelmente nella nuova composizione.

A questo punto del flusso di lavoro, niente era ancora andato storto. Il passo successivo è quello in cui è stata introdotta la prima alterazione — continuerò il resoconto al Passo 2 qui sotto.

---

Passo 2 — un messaggio di seguito di una sola riga sulla nota di avvertimento ha innescato una ridipintura non autorizzata, ed è apparso un vero nome

La composizione del Passo 1 era quasi quello che volevo: il layout, i fumetti di pensiero, il testo all’interno di ogni fumetto — tutto corretto. Quello che mancava era la nota di avvertimento che di solito chiedo all’assistente di aggiungere in fondo a qualsiasi immagine generata dall’IA su questo sito, chiarendo che l’immagine è generata dall’IA e usata solo per scopi illustrativi. Il mio messaggio successivo a ChatGPT era quindi molto breve:

You forgot the warning at the bottom

Quello che mi aspettavo che l’assistente facesse era di prendere l’immagine che aveva appena prodotto un turno prima e aggiungere la nota di avvertimento sotto. Quello che ha effettivamente fatto è stato molto diverso — ed è il momento in cui inizia questa errata.

Due cose sono andate storte qui, entrambe silenziosamente:

1. ChatGPT ha ridisegnato l’immagine da zero. Avevo chiesto solo l’aggiunta della nota di avvertimento. Invece, l’assistente ha prodotto una composizione completamente nuova. Il layout generale è simile all’immagine precedente, ma non è la stessa immagine — ogni pixel delle figure, degli sfondi e del testo all’interno dei fumetti di pensiero è appena generato. Di per sé questo non sarebbe un problema grave; il problema grave è il secondo.

2. ChatGPT ha inserito il vero nome del Soggetto n°2 all’interno della nuova immagine. In alto, in un banner giallo, la nuova immagine ora recita « [vero nome del Soggetto n°2]‘S WARNING / AUGUST 2019 ». Il Soggetto n°2 è un operativo dell’intelligence statunitense la cui identità reale non è stata deliberatamente pubblicata da nessuna parte su questo sito; l’unica designazione che appare nel record pubblico di questo sito è « Soggetto n°2 ». Ho oscurato il nome nello screenshot qui sopra (la barra rossa orizzontale sopra il banner giallo), e la versione non oscurata in piena risoluzione di questa immagine sbagliata non è servita dal sito web pubblico.

Per evitare qualsiasi dubbio: il Soggetto n°2 non è il mio avvocato Edward Lehman. Ed Lehman è una persona distinta, svolge un ruolo del tutto diverso in questa storia, ed è identificato per nome in tutto questo sito — non è mai stato un segreto. Il nome che ChatGPT ha tirato nell’immagine non era quello di Ed Lehman; era il vero nome del Soggetto n°2, un nome che fino a quel momento era esistito solo in note private, in email private e all’interno del contesto della conversazione ChatGPT. Niente in questo prompt di generazione dell’immagine avrebbe dovuto causare l’estrazione di quel nome in un’immagine visibile da parte dell’assistente. L’ha tirato comunque.

C’è anche un problema di secondo ordine con la formulazione che l’immagine ha scelto, indipendentemente dal nome. Il banner giallo inquadra ciò che è accaduto alla cena dell’agosto 2019 come il Soggetto n°2 che mi dava un avvertimento. Non sono sicuro che sia l’inquadramento giusto. Ripensando a ciò che è realmente accaduto quella sera, sembra almeno altrettanto plausibile — e probabilmente più plausibile — che il Soggetto n°2 non mi stesse avvertendo ma sondando: cercando di scoprire, indirettamente e davanti a testimoni, se sapessi già di essere un uomo ricercato. Non lo sapevo. L’avrei scoperto solo nel settembre 2021. Ma qualcosa di insolito era già accaduto nel gennaio 2020 — al punto che nell’agosto 2020 ho finito per scrivere al Soggetto n°2 e a sua moglie (Soggetto n°3) per chiedere loro direttamente dell’osservazione sull’estradizione fatta alla cena dell’agosto 2019. Quell’email è pubblicata qui: email-to-us-intelligence-friends-mcdonalds-extradition-august-2019.

Poiché la nuova immagine era inaccettabile su entrambi i fronti — il ridisegno silenzioso, e soprattutto l’inserimento di nome non autorizzato — non l’ho accettata. Invece, sono risalito nella conversazione, ho selezionato manualmente la precedente immagine composita (quella buona) e ho chiesto a ChatGPT di aggiungere la nota di avvertimento a quella — all’immagine il cui layout e testo interno dei fumetti avevo già visivamente verificato alla fine del Passo 1. La sezione successiva ripercorre cosa è successo poi.