Iper

Un nuovo filtro su TikTok ha messo in ginocchio Internet. È un dibattito importante per chiunque abbia a cuore il futuro dei social media.

Questo articolo è tratto da The Technocrat, la newsletter settimanale sulla politica tecnologica del MIT Technology Review su potere, politica e Silicon Valley. Per riceverlo nella tua casella di posta ogni venerdì, iscriviti qui.

Potresti pensare che l'ultimo esempio virale, il filtro di bellezza Bold Glamour su TikTok, non sia rilevante per te. Ma vorrei gentilmente dissentire. Lasciatemi spiegare perché dovremmo tutti preoccuparci di questo tipo di filtri di realtà aumentata (AR), indipendentemente dal fatto che li utilizziamo o meno.

Il filtro Bold Glamour, utilizzato ormai più di 16 milioni di volte dalla sua uscita il mese scorso, delinea gli zigomi e la mascella con una linea netta ma sottile. Mette in risalto anche la punta del naso, l'area sotto le sopracciglia e le mele delle guance. Inoltre, solleva le sopracciglia, applica uno splendore alle palpebre e dona ciglia folte, lunghe e nere. Ha, come suggerisce il nome, un effetto glamour.

L'estetica stessa è impressionante. Tuttavia, la cosa davvero sorprendente è quanto bene funzioni. Il filtro non si guasta quando il tuo viso si muove o se qualcosa come una mano che agita interrompe il campo visivo, come fanno solitamente i filtri.

"Ragazzi. Questo è un problema. Non si vede nemmeno più che è un filtro", si è lamentata l'utente @rosaura_alvrz mentre si accarezzava il viso per testare il filtro in una recensione su TikTok.

Florencia Solari, creatrice di filtri professionali e AR, afferma che Bold Glamour probabilmente utilizza l'apprendimento automatico e, sebbene non sia la prima volta che un filtro AI fa scalpore, afferma: "L'esperienza con questi filtri è così fluida e può raggiungere un livello di realtà, non è una sorpresa che la gente stia impazzendo."

E infatti la gente sta impazzendo. Quindi quanto dovremmo preoccuparci di questo mondo dalla realtà distorta?

Innanzitutto, un po’ di contesto. Per anni, i filtri di realtà aumentata sui siti di social media come Snap, Instagram e TikTok hanno consentito agli utenti di modificare facilmente le proprie foto e video con caratteristiche preimpostate che spesso perpetuano specifici standard di bellezza come labbra carnose, guance scavate, nasi sottili e occhi spalancati. .

I filtri di bellezza, insieme alla cultura degli influencer e all’amplificazione algoritmica, hanno portato a un rapido restringimento degli standard di bellezza in un modo che dà priorità alla bianchezza e alla magrezza.

I giovani adorano usare i filtri (gli ultimi numeri che ho da Meta mostrano che oltre 600 milioni di persone hanno utilizzato almeno uno dei suoi prodotti AR), ma la ricerca sugli effetti sulla nostra salute mentale, identità e comportamento è minima.

La ricerca di cui disponiamo indica alcuni rischi gravi. Le ragazze sono più propense dei ragazzi a utilizzare i filtri per abbellirsi piuttosto che per giocare a partire dalla tenera età, ed è noto che i social media hanno effetti negativi sulla salute mentale e sull’immagine corporea dei giovani. Secondo un sondaggio condotto dal marchio di bellezza Dove, l’80% delle ragazze aveva utilizzato filtri o fotoritocco per cambiare il proprio aspetto online entro i 13 anni.

Tuttavia, i filtri esistono da anni. Allora perché ne stiamo parlando adesso? Bold Glamour potrebbe inaugurare una nuova era di filtri di bellezza high-tech e iperrealistici.

È probabile che vedremo questi filtri fare sempre più uso dei recenti progressi nell'apprendimento automatico, in particolare delle reti avversarie generative (note come GAN), in combinazione con la tecnologia di rilevamento facciale standard per i filtri facciali. (Leggi questa fantastica storia di Jess Weatherbed e Mia Sato che approfondisce la tecnologia!) I risultati sono così ultrarealistici che diventerà sempre più difficile distinguere ciò che è reale da ciò che non lo è.

Il mese scorso, TikTok ha rilasciato nuovi strumenti di intelligenza artificiale generativa che aiutano le persone a creare filtri per la piattaforma, anche se la società non ha voluto dirci se Bold Glamour utilizza effettivamente l’intelligenza artificiale generativa.

Invece di rispondere alle nostre domande, un portavoce di TikTok ha rilasciato una dichiarazione in cui si legge: "Essere fedeli a se stessi è celebrato e incoraggiato su TikTok. Gli effetti creativi fanno parte di ciò che rende divertente creare contenuti, potenziando l'espressione di sé e la creatività. La trasparenza è integrati nell'esperienza degli effetti, poiché tutti i video che li utilizzano sono chiaramente contrassegnati per impostazione predefinita."