Amazon ne ha abbastanza dei libri generati da ChatGPT e soci?

Ormai sono mesi che noi, come altri siti di notizie, pubblichiamo articoli riguardanti l'IA generativa e i suoi usi per creare immagini o testi, e forse non desterà più scalpore sapere che Amazon è pieno di libri di questo tipo (sapete come pubblicare un libro sulla piattaforma?).

Che siano saggi, romanzi, graphic novel o persino libri da colorare, ChatGPT e simili sono sfruttati a dovere per sfornare a getto continuo contenuti che offrono un guadagno a costo praticamente zero, in termini economici e di tempo. Ma la qualità?

Diciamolo francamente, nonostante Amazon sia uno dei più grandi editori mondiali e consenta agli utenti di autopubblicarsi, la qualità del prodotto non è in cima alla lista delle sue priorità. Chiunque può pubblicare qualunque cosa, anche libri con pagine vuote (sì, purtroppo). In ogni caso, i libri in vendita su Amazon devono offrire "un'esperienza positiva ai clienti", e non sono consentiti contenuti "ingannevoli per i clienti [...], che non rispecchiano fedelmente i contenuti del libro [...] e che suscitano in genere disappunto nei clienti".

Insomma, ci sono delle linee guida, anche se non è facile controllare. Ma i contenuti generati dall'IA hanno evidentemente passato il segno.

Due sono i problemi: copyright e attendibilità. Per quanto riguarda il primo, diversi autori hanno scoperto su Amazon numerosi esempi di libri scritti con l'IA che utilizzano il loro stile e addirittura il loro nome, come il caso di Jane Friedman (qui trovate il suo sfogo). I libri sono stati rimossi, ma il problema resta. Ma il secondo è ancora più inquietante.

Sempre su Amazon, non sono infrequenti i libri illustrati con disegni piuttosto "strani", con volti allungati, architetture degne di Escher, mani con dita aliene, sia per numero che per lunghezza, e altre amenità. Stiamo parlando di libri per bambini, graphic novel o libri da colorare, che vengono venduti agli adulti come tecnica di rilassamento (una sorta di Feng Shui, ma con i pastelli e le matite).

E se per qualche studioso di deepfake l'arte generata dall'IA ha un che di attraente nella sua inquietante stranezza e novità, i risvolti dell'inaffidabilità dell'IA possono essere drammatici.

Amazon ha di recente ritirato alcune guide sui funghi commestibili, scritte dall'IA e che secondo la New York Mychological Society erano completamente sbagliate. In pratica potevano portare alla morte di chi le avesse seguite alla lettera.

E non è l'unico esempio. Il New York Times ha pubblicato un approfondimento su guide di viaggio create con l'IA, assolutamente inaffidabili come le recensioni che le consigliavano. Ovviamente su Amazon.

Quel che è troppo è troppo, e da circa una settimana il gigante dell'eCommerce ha cominciato a prendere contromisure, probabilmente nell'attesa di sviluppare una tecnica per riconoscere automaticamente i contenuti creati con l'IA (più facile a dirsi). Chi dovesse pubblicare ora un libro su Amazon tramite KDP, al momento di inserire un contenuto dovrà specificare se questo è stato creato usando l'IA o meno.

Nelle sue linee guida, la piattaforma distingue tra "generato dall'IA" e "corretto dall'IA". Il primo sono testi, immagini o traduzioni creati da uno strumento basato su IA, anche successivamente alla pubblicazione, mentre per il secondo si intende un contenuto creato da una persona ma poi controllato dall'IA per la presenza di errori, modificarlo o perfezionarlo (o anche per darvi un'ispirazione).

Basterà? Siamo sicuri di no, ma siamo altrettanto sicuri che Amazon ne abbia abbastanza (a proposito, la copertina di questo articolo è stata generata da un'IA).