Negli ultimi mesi Facebook e Instagram hanno aggiornato il regolamento che riguarda i contenuti pubblicabili sulle loro piattaforme, ma tra gli elementi su cui sono stati intensificati e irrigiditi i controlli ce n'è uno che finora era passato sotto silenzio: le emoji dal significato sessuale come pesca e melanzana, che in mancanza di alternative verosimili vengono utilizzate comunemente in chat e messaggi per suggerire attività a luci rosse. Stando a quanto riportato nell'ultima versione degli standard della comunità di Facebook, utilizzare pubblicamente queste emoji nel loro significato nascosto o inserirle all'interno di foto può risultare nella rimozione dei messaggi in questione e — dopo violazioni ripetute — nella sospensione del proprio account.

Lo scopo del giro di vite

Le norme in realtà fanno parte della sezione del regolamento che vieta le pratiche di adescamento sul social network. Gli algoritmi tenteranno insomma di stanare i contenuti che "facilitano, incoraggiano o coordinano gli incontri sessuali tra adulti" e interverranno quando vedranno tra le altre cose "emoji o righe di emoji specifici a livello di contesto o comunemente a sfondo sessuale" all'interno di messaggi che "presentano offerte o richieste" di natura sessuale. Insieme a loro — nella sottosezione "elementi allusivi" — il regolamento bandisce anche espressioni gergali regionali a sfondo sessuale, illustrazioni, semplici menzioni e perfino immagini di soggetti reali con parti intime coperte da emoji: i provvedimenti scatteranno però soltanto nel caso in cui il sistema di controlli dovesse individuare un intento adescatorio nei contenuti pubblicati.

Algoritmi inaffidabili

Il problema che in molti stanno facendo notare è che gli algoritmi di Facebook che dovranno valutare l'ambito di impiego di questi elementi si sono già dimostrati inaffidabili in più occasioni — in particolare quando si è trattato di comprendere il contesto nel quale un particolare contenuto era inserito. È già successo in passato infatti che pagine satiriche venissero scambiate per gruppi a sostegno di organizzazioni terroristiche, e che soggetti impegnati in ambiti delicati come causa curda venissero catalogati come estremisti. Con tutta probabilità succederà la stessa cosa per chi esagera abitualmente con pesche e melanzane senza voler necessariamente offrire o cercare servizi di natura sessuale a pagamento; in Rete intanto c'è chi critica la posizione ambigua di Facebook — che in altri ambiti come i controlli antibufala per gli annunci pubblicitari dei politici ha dichiarato di non voler intervenire.