Tutto è partito da una causa legale del 2023. Negli atti del tribunale è spuntata una definizione agghiacciante: Instagram descritto come un mercato per pedofili alla ricerca di bambini
. Una frase che ha fatto scalpore e ha messo Meta con le spalle al muro.
L’azienda ha dovuto ammettere quello che molti sospettavano già, il loro algoritmo non era neutrale. Anzi, stava attivamente aiutando i molestatori a trovare giovani vittime. Come? Suggerendo profili di minori a utenti pericolosi, o mettendo in contatto persone con gli stessi interessi sbagliati.
L’algoritmo “intelligente” di Instagram aveva imparato a riconoscere questi comportamenti e invece di bloccarli li agevolava. Ora che lo scandalo è esploso, Meta sta tentando di rimediare con modifiche che onestamente dovevano arrivare anni fa.
Instagram sotto accusa: l’algoritmo che aiutava i molestatori di minori
Instagram permetteva agli utenti di cercare, mettere mi piace, condividere e vendere materiale pedopornografico in quantità industriale. Non era un bug del sistema, ma il risultato di un algoritmo di raccomandazione che spingeva contenuti simili verso utenti con interessi simili, senza distinguere tra passioni innocue e intenzioni criminali.
Un’indagine del Wall Street Journal nello stesso anno ha confermato il peggio. L’intelligenza artificiale di Instagram stava promuovendo attivamente reti di pedofili, suggerendo loro account da seguire e contenuti da visualizzare. Era la prova che il sistema progettato per aumentare l’engagement stava invece alimentando un ecosistema di abusi.
Instagram corre ai ripari (finalmente)
D’ora in avanti Instagram eviterà di raccomandare gli account che mostrano principalmente bambini ad adulti potenzialmente sospetti. In parole più semplici, chi è stato bloccato da teenager, chi ha tenuto comportamenti anomali, e risponde all’identikit di un possibile molestatore, l’algoritmo non mostrerà più profili di minori.
È una modifica che sembra ovvia. Eppure per anni non è esistita. Gli account gestiti da genitori, talent manager, o comunque adulti che pubblicano foto di bambini, erano esposti alle stesse raccomandazioni di qualsiasi altro profilo pubblico.
Meta descrive questi account gestiti da adulti come utilizzati in modo prevalentemente innocuo
, ma la realtà è più complessa. L’azienda è stata accusata di permettere consapevolmente a genitori che sfruttano sessualmente i propri figli per guadagno economico di rimanere attivi sulle piattaforme.
È il confine grigio tra contenuti familiari legittimi e sfruttamento commerciale di minori, dove la monetizzazione dell’immagine dei bambini può diventare una porta d’ingresso per situazioni più pericolose. Instagram aveva già vietato a questi account di offrire abbonamenti o ricevere regali, ma evidentemente non bastava.
Nuove armi per i teenager
Le protezioni si estendono anche agli strumenti a disposizione degli adolescenti. Ora avranno un’opzione combinata di segnalazione e blocco nelle chat, più semplice da usare quando si trovano in situazioni scomode. Vedranno anche quando l’account con cui stanno chattando si è iscritto a Instagram, un dettaglio che può aiutare a individuare profili falsi o sospetti.
Inoltre, Instagram filtrerà automaticamente commenti offensivi e inappropriati sui post che mostrano bambini, e nasconderà completamente quelli provenienti da adulti sospetti. È la stessa logica applicata ai contenuti. Se il sistema identifica un utente come potenzialmente pericoloso, la sua capacità di interagire con contenuti che riguardano minori viene limitata.
L’approccio è interessante perché non blocca completamente questi utenti, ma ne limita drasticamente la visibilità e l’impatto. È una via di mezzo tra il permettere tutto e il bannare definitivamente, che riconosce la difficoltà di identificare con certezza le intenzioni criminali.
Ma perché ci è voluto uno scandalo pubblico per implementare queste modifiche? Instagram aveva tutti gli strumenti necessari per proteggere i minori, ma ha scelto di non usarli fino a quando la pressione esterna non è diventata insostenibile.
