Pinterest, il social nato nel 2009 per la condivisione di immagini e foto, è stato tra i primi ad abbracciare l’uso dell’intelligenza artificiale come strumento di moderazione sulla piattaforma. Una scelta che ora sembra gli si stia letteralmente rivoltando contro. Secondo quanto riportato da 404 Media, infatti, nel corso dell’ultimo anno gli utenti – e soprattutto gli artisti, che sono soliti utilizzare il social per promuovere il proprio lavoro – hanno notato un peggioramento notevole nella gestione dei contenuti da parte della piattaforma: i moderatori stanno bannando account e post senza un motivo preciso, le immagini generate dall’AI stanno invadendo le bacheche e le opere create a mano sono spesso etichettate (erroneamente) come “modificate dall’intelligenza artificiale”. Insomma, il caos più completo.
La moderazione “allucinata” dell’AI
“Oltre ad essere pieno di immagini generate dall’intelligenza artificiale che stanno rovinando completamente la piattaforma, Pinterest ha adottato un pessimo sistema di moderazione basato sull’intelligenza artificiale che ha sollevato le proteste della comunità. Sta bannando le persone in modo casuale e continuo a ricevere notifiche di rimozione dei pin”, ha commentato Tiana Oreglia, un’artista e utente di Pinterest a 404 Media, lamentando il fatto che i moderatori AI abbiano eliminato buona parte dei suoi lavori incentrati sull’anatomia umana femminile. Una critica a cui Pinterest ha risposto direttamente, chiarendo che la piattaforma utilizza sia esseri umani che sistemi automatizzati per la moderazione dei contenuti. E che, nel caso di errore, viene avviata “una procedura di ricorso in cui un essere umano esamina il contenuto e lo riattiva”. Dal canto loro, però, gli utenti non sembrano apprezzare questa pratica, che comunque ha bisogno del tempo necessario per permettere ai moderatori umani di verificare i contenuti bannati dall’intelligenza artificiale.
Non a caso, il subreddit dedicato a Pinterest pullula di post in cui gli utenti lamentano le pessime pratiche di moderazione della piattaforma, peggiorata da quando vi è stato introdotto il supporto dell’AI. “Pinterest continua ad aggiungere automaticamente il tag ‘modificato dall’AI’ ai miei Pin…ogni volta che faccio ricorso, Pinterest lo esamina e rimuove l’etichetta IA. Ma poi…la stessa cosa si ripete sui nuovi Pin e sulle nuove immagini. Quindi sono bloccato in questo ciclo infinito di ricorso → etichetta rimossa → nuovo Pin nuovamente etichettato”, scrive un utente su Reddit, facendo a seguito a decine di lamentele simili. Ad accomunare gli utenti, infatti, è la preoccupazione per una pratica di ricorso che richiede molto tempo, e che spesso riguarda anche contenuti che sono stati pubblicati prima ancora dell’introduzione dell’AI nel sistema di moderazione.
L’invasione dell’AI Slop
La moderazione dei contenuti a carico dell’intelligenza artificiale non è la sola cosa che preoccupa gli utenti di Pinterest. Moltissimi, infatti, stanno lamentando un’invasione della piattaforma da parte di contenuti generati dall’AI. “Non riesco nemmeno a scorrere 100 pin senza che 95 di essi siano qualche schifezza generata dall’intelligenza artificiale – ha commentato uno degli utenti di Reddit – […] per non parlare del fatto che gli artisti di grande talento tendono ad essere sommersi e non vengono riconosciuti a causa dell’enorme quantità di opere presenti”. Una problematica che colpisce buona parte degli utenti di Pinterest, che stanno cercando di educare l’algoritmo a non proporre contenuti generati dall’AI, eliminando manualmente una a una le immagini che gli vengono proposte. Una questione che richiede tempo ed energie, di cui il pubblico della piattaforma sembra oramai privo.
Anzi, come ha riportato la stessa Oreglia a 404 Media, la diffusione di immagini generate dall’AI sta spingendo le persone a essere sempre più sospettose nei confronti dei suggerimenti di Pinterest: “Ora sono sempre molto critica riguardo alla provenienza delle informazioni, anche se sono sempre stata eccessivamente pignola nella ricerca. Ti spinge a fare le dovute verifiche, ma è fastidioso dover costantemente mettere in discussione e controllare se qualcosa è autentico o sintetico”. Una difficoltà che potrebbe costare la vita alla piattaforma.