Perché i media sintetici sono un problema enorme?

Scrivo queste righe un po’ di fretta, un po’ di getto, un po’ pressato da una cosa che ho visto ieri sera.

Tutte le tecnologie hanno luci e ombre, potenzialità e problemi, promesse e disillusioni. Fa parte del gioco del progresso, che non è lineare, ma procede per salti, compressioni e pause.

Anche per la GenAI è questo il caso. Si parla di “Intelligenza Artificiale” dagli anni ‘50, quando fu usato nel nome di un workshop al Dartmounth College nel 1965. Si sono susseguite ere di importanti innovazioni (1960-1970) e stasi, per poi trovare un’effettiva concretezza negli ultimi 3 anni.

Eppure, ho visto in questi giorni un lato della GenAI che mi spaventa, non tanto dal punto di vista tecnologico, quanto sociale.

Sono i media sintetici, ossia nuove tipologia di social media dove il contenuto è generato da modelli di intelligenza artificiale.

Ne ha parlato anche Riccardo Bassetto nella sua newsletter Technicismi

Parlo di Sora, una nuova app di OpenAI basata sull’uso del suo nuovo modello specializzato nella produzione di video a partire da testi. Parlo di Meta Vibes, la stessa cosa, ma per Meta.

Per farla breve: è TikTok, dove i video però sono tutti creati con la GenAI. E li puoi creare con la tua persona come protagonista, oppure quella di tuoi amici, o di personaggi pubblici. Puoi chiedere letteralmente qualsiasi cosa, e in poco tempo avrai un video di 15secondi iper-personalizzato.

I video spaziano da forme iper realiste - dove è difficile distinguere la differenza con la realtà - a cartoon o creazioni distopiche. è l’utente che può modulare lo stile semplicemente con una richiesta nel testo.

Tecnologicamente parlando, è un salto interessante, affascinante forse. Socialmente parlando, sono molto spaventato. E lo dico da entusiasta dell’AI, della tecnologia e del progresso in genere.

Una questione di costi

Penso che la spiegazione migliore l’abbia fornita Casey Neistat - uno dei primi youtuber, uno di quelli che deve il suo successo all’innovazione e al progresso tecnologico - in un video di 7minuti che vi invito a vedere.

Il tema chiave è il costo di creazione. La frizione. La difficoltà.

Girare un video negli anni ‘80 richiedeva una sacco di cose: competenze tecniche, telecamere, troupe, attori, specialisti e canali distributivi. I costi erano altissimi, il contenuto poco e controllato.

La tecnologia e l’innovazione hanno democratizzato l’accesso al contenuto, rimuovendo volta per volta frizioni, e quindi elementi di costo, dalla creazione di contenuti audio-visivi. Prima con nuove telecamere e software che hanno ridotto la necessità di materiale e personale tecnico. Poi con YouTube nel 2005 si è tagliata la distribuzione, accedendo direttamente alla propria audience.

E quando i costi scendono, l’offerta può salire. E sempre più persone hanno potuto offrire il proprio contenuto, in un mercato che rimane comunque competitivo per l’attenzione delle persone. E quindi in un mercato competitivo era la creatività, l’innovazione, l’originalità del creatore a determinare il successo del video.

Questo è il mondo dove Neistat è cresciuto come professionista, e che ha portato molte cose positive: digital media, nuovi creator, nuove forme di espressione.

Ma nel momento in cui si sono rimossi ulteriori frizioni, qualcosa nel meccanismo competitivo si inceppa. Con l’ingresso di tiktok nel mercato, i video non devono avere più un contenuto originale, possono essere puro intrattenimento, di pochi secondi, girabili direttamente da smartphone.

L’imbuto del contenuto diventa sempre più grande. La sfida non è più tanto sulla creatività/originalità, quando sulla viralità. In un mondo letteralmente invaso da video di pochi secondi quel che conta è farne tanti, sperando di imbroccare l’algoritmo. Non che la creatività non conti più, ci sono esempi di persone che con ingegno, passione hanno trovato nuove forme espressive anche in un format come quello di tiktok.

Ma è un tema di frequenza. E la frequenza dei contenuti di valore in un mercato inondato da video brevi di qualsiasi utente trasformato in un creator è in caduta libera.

I costi di creazione scendono ancora perché ora la distinzione tra creator e utente scema. La creatività conta meno, si seguono i trend virali proponendo una propria versione del trend. L’originalità può stare nel creare un nuovo trend, ma è l’originalità a crearla o l’algoritmo di condivisione?

Entra la GenAI e Sora. E rimuoviamo l’ultima barriera. Ogni utente non è più un creator. Ogni utente può creare il proprio social. La propria versione istantanea di contenuto. Non occorre più cercare, scrollare, attendere, sperando di vedere qualcosa di interessante.

Lo si crea da sé. In modo iper-personalizzato, con la propria faccia e volto. Con i propri amici o personaggi famosi.

Posso letteralmente creare un video di me che trovo Bigfoot mentre faccio trekking.

I costi servono a creare un segnale

L’assenza di costo di creazione, distribuzione, l’assenza di attesa rischia di creare bolle dove ogni persona non interagisce più sui social (social (???)), ma si chiude nella gratificazione istantanea data dal fatto di ottenere subito quanto si vuole.

Ma rischia anche di creare usi impropri, proprio perché non ci sono costi da sostenere.

Il costo è essenziale perché indica un trade-off: se voglio creare un video da 15 secondi inutile, o ancora peggio, con fake-news o per bersagliare una persona che mi sta antipatica, negli anni ‘80 dovevo noleggiare un troupe, costose cineprese. Insomma non ne valeva la pena, e non era alla portata di tutti. Con YouTube mi serve ancora capacità di ripresa, montaggio, oppure di edit grafico. Non è alla portata di tutti. Non è istantaneo. Se lo faccio impulsivamente, il tempo (anche quello un costo!) che passa mi permette di valutare meglio la cosa, magari tornare sui miei passi.

Con Sora lo posso creare senza nessun altro, immediatamente. No costi = no trade-off. E senza trade-off cadiamo nell’istinto, nell’impulso, nel flusso.

Ci sono poi le implicazioni di lungo termine: potremo creare film interi personalizzati (Netflix?), video con nostri youtuber (veri o finti che siano)?

Per quanto vero, mi preoccupa meno. In primis perché la tecnologia non è ancora così potente da gestire trame complesse, molti personaggi, e la durata elevata tipica di altre piattaforme.

Ma soprattutto perché il carattere più distruttivo si ha nella creazione di un’abitudine capace di insinuarsi in ogni momento e istante libero delle nostre giornate. Dallo scroll alla ricerca di contenuto, al prompt per ottenere esattamente il contenuto che si cercava.

Molti problemi, nessuna soluzione

è un problema enorme per una società polarizzata, dove i punti di contatto e scambio sono sempre meno. e dove chiudersi nella propria versione di mondo, creata semplicemente a colpi di prompt, elimina ogni incentivo esterno o casuale nel confronto con un contenuto differente, contrario.

è un problema enorme anche per i più giovani, dove già l’impatto di tiktok è stato devastante, e dove l’uso improprio della GenAI rischia di compromettere dinamiche fragili. L’uso dei video per bullismo, oppure

è un problema enorme per l’ambiente. La generazione di video è una delle task computazionalmente più onerose sia in termini di energia che uso di acqua. Se la GenAI nasce per scopi produttivi, che utilità c’è in un video di me di 15 secondi mentre mi paracaduto dentro un vulcano che vedrò io e pochi altri amici visto che siamo tutti focalizzati su video di noi stessi?

è un problema enorme per la nostra soglia dell’attenzione, per la capacità di ragionare, concentrarci, che ora può definitivamente settarsi sulla soglia dei secondi e nemmeno più dei minuti.

non trovo un singolo uso utile di questa app che non sia regalare la mia attenzione. Un singolo uso che non sia già ottenibile con le tecnologie attuali.

Un singolo uso che mi faccia vedere l’altra faccia della medaglia.

Alla prossima,
Elia