AI AI AI che dolòr

17 Febbraio 2024

Si fa un gran parlare in questo periodo delle cosiddette intelligenze artificiali, ovvero quell’insieme di algoritmi che, una volta istruiti con un corpus di dati esistente, sono in grado di generare testi scritti e immagini con una “facilità” sorprendente, basandosi su poche righe di richiesta (un prompt, in inglese). Da più parti questo processo ha ricevuto il nome di “arte generativa” e questo rappresenta circa il 5% del perché tutta la faccenda delle IA mi manda in bestia.

Agevolo qui di seguito il restante 95%, con annessa digressione.

Partendo dal fatto che quando sento dire “eh, adesso che c’è l’IA chi ha più bisogno degli illustratori”? E sì, l’ho sentito dire, più volte. Avvilente, eh?

Ora, a questo punto del discorso arriva unə che dice “ah ma te sei luddista”. Beh. Mentre i luddisti portavano avanti la loro causa e il loro abbastanza giustificato timore di vedersi sparire lavoro e possibilità di viverci sopra, c’era un’altra cosa che sarebbe successa poco dopo, storicamente parlando.

Partirò, come mio uso, alla lontana.

Avete notato come la nascita dell’impressionismo e dell’arte astratta sia stata praticamente in contemporanea con l’invenzione della fotografia? Da qui, vorrei far notare come l’immagine fotografica sin da quei tempi abbia assunto un che di incontrovertibile prova della veridicità del soggetto ritratto. Sta lì, ha scattato, uguale uguale! Non è come star lì a dipingerlo e magari cambia luce e poi ci mette tre strisce verdi e magari i Fauves non mi picchiano con un rendello ma poi si finisce con cherobaé quella la sapevo fare anch’io. (No, dice Bruno Munari. Lo sai rifare, forse: se no l’avresti fatto prima.)

Comunque: foto == realtà? Ah, ah, ah. I fotomontaggi esistevano molto prima di Photoshop e compagnia bella. Cambiando di un pelo l’inquadratura puoi raccontare due storie diverse. Le balle sono sempre state raccontate anche tramite fotografia. E video, si chiamano effetti speciali, solitamente.

Dunque, questi algoritmi generativi. In un mondo ideale, questo sarebbe uno strumento né più né meno come una macchina fotografica, che alla fine si è semplicemente accompagnato a ciò che esisteva prima nel mondo della rappresentazione figurativa. E che diventerà uno dei tanti strumenti a disposizione dei creativi e non.

Questo non è un mondo ideale.

Questo è un mondo dove sono in corso involuzioni politiche e sociali storiche, dove più che mai si è palesato che chi ha i soldi ha il potere, e il potere è nell’informazione. O nella disinformazione. Primo grosso problema: questi strumenti si stanno evolvendo a velocità pazzesche, velocità che legislatori e società tutta non riescono ad assorbire. Strumenti che già vengono utilizzati come arma a sfondo politico.

Strumenti che producono testi, immagini e (ora che sto scrivendo questo articolo) video che a un occhio inesperto risultano essere indistinguibili da una fotografia, un testo scritto, un video che raffigurano qualcosa che sia realmente successo o esistente.

Questo non è un mondo ideale e in giro circola già roba eticamente, politicamente e anche legalmente ben peggiore del Papa con una giacca a vento di $marcasborona addosso o $politicoantipatico con un dito nel naso.

Addestramento al plagio?

Parliamo di come queste IA sono state addestrate. Più sopra ho scritto “corpus di dati esistente” e nelle prime iterazioni di queste IA il suddetto corpus è costituito da materiale razziato da Internet senza alcun ritegno e senza chiedersi se i detentori di copyright dei medesimi avessero qualcosa in contrario. Così, “oh, tanto è su Internet” che è la giustificazione usata da che internet esiste. Mentre dall’altra parte se uno copia una canzone gli arrivano addosso multe e beghe legali a non finire. E finiamo sempre lì: chi ha i soldi detiene il potere. Corporazione contro singolo.

Questa disparità verrà sempre più inasprita, e questi strumenti ne saranno una delle cause.

Il fatto è che che adesso, anche se volessi usare uno di questi strumenti per generare una serie di titoli o di immagini, non sarei mai sicura di non commettere un plagio. Quindi: di nuovo al tavolo a disegnare, con le care vecchie moodboard, sì, ma niente IA.

Pregiudizi, pregiudizi a perdita d’occhio.

Poi. I dati non sono neutrali, tutt’altro. Quindi qualunque addestramento si porterà dietro bias e preconcetti, a scapito di indovinate chi? Le categorie storicamente vittime di tali preconcetti, che sono meno o per nulla rappresentate, e che quindi non compariranno nell’output di un algoritmo generativo, se va bene, oppure appariranno sotto forma di stereotipi e falsità se va male: perché questo è quello che c’era nei dati usati per addestramento.

Guardando quali entità commerciali si siano trovate o abbiano attivamente accettato di cedere i dati in proprio possesso a vantaggio di società che gestiscono questi insiemi di dati usati per addestrare IA? C‘è un acronimo che si usa in informatica per definire questo tipo di situazione: GIGO.

La somma finale è un netto: anche no, grazie.

A meno che non ci sia una bella ripulita. In ogni senso.

Non sputo sullo strumento, anzi! Se avessi le capacità tecniche e la pazienza farei come quegli illustratori che già lo fanno: “addestrano” uno di questi strumenti (per esempio, Stable Diffusion che è open source) con i propri disegni per velocizzare l’esecuzione, trovarsi già una serie di bozze in tempo zero, e partire da lì per un nuovo disegno. Oppure per un articolista a corto di idee che chiede ad un ipotetico ChatGPT “eticamente addestrato” una lista di possibili titoli sull’argomento che gli interessa come starter per un articolo.

E invece. Politico con un dito nel naso (se non peggio). This is why we can’t have nice things, come direbbero i nostri amici anglo-parlanti. L’unica azione possibile, a parte fregarsene del tutto, è opporsi con ogni mezzo possibile.

(Header photo by Umberto on Unsplash)

Commenti

Con un account su Mastodon, puoi rispondere a questo post.