Deepfake su Telegram? Niente Telegram sei di nuovo il capro espiatorio!

Deepfake su Telegram? Niente Telegram sei di nuovo il capro espiatorio e non puoi farci nulla, perché tanto ormai va così. Qualsiasi cosa brutta succeda, sei l’applicazione che i giornalisti utilizzano per attirare visite sui giornali per cui scrivono.

Detto questo partiamo con piccoli passi e andiamo a scoprire insieme che cosa è successo.

La società Sensity, rilascia all’interno del suo sito un report dal titolo Automating Image Abuse: deepfake bots on Telegram, firmato dal CEO Giorgio Patrini.
Per chi non lo sapesse la società Sensity è fondata alla fine del 2018 ed è identificata e riconosciuta come la prima azienda di intelligence visiva. La loro missione è difendere individui e organizzazioni dalle minacce poste dai deepfake e da altre forme di media visivi dannosi.

Direi che hanno fatto un ottimo lavoro, visto che il loro rapporto è partito dall’analisi delle Software open-source DeepNude, software che utilizza tutta una serie di tecnologie e librerie tra cui un sistema di apprendimento, in particolare un sistema basato su rete antagonista generativa (GAN).

Una classe di metodi, introdotta per la prima volta da Ian Goodfellow, in cui due reti neurali vengono addestrate in maniera competitiva all’interno di un framework di gioco minimax. Questo tipo di framework permette alla rete neurale di apprendere come generare nuovi dati aventi la stessa distribuzione dei dati usati in fase di addestramento. Ad esempio, è possibile ottenere una rete neurale in grado di generare volti umani iperrealistici, come dimostrato nel 2018 da NVIDIA Corporation, azienda produttrice di GPU.
Via Wikipedia

Sostanzialmente chi si occupa con l’azione di “spogliare” le immagini delle donne vestite, generando sinteticamente un’approssimazione realistica del loro parti intime del corpo è un software. Software che essendo open source ha sorriso alle menti malate delle persone che hanno ben pensato di trasformarlo in un bot che potesse girare in Telegram.

Va aggiunto pure questo piccolo dettaglio, cioè che il software DeepNude vede la luce il 23 giugno 2019. Non è stato lanciato solo sotto forma di software installabile su PC Windows e GNU/Linux, ma anche come sito Web che gli utenti utilizzavano per il deep learning, cioè “spogliare” le immagini delle donne.

Qualche numero, il sito generava oltre 500.000 visitatori e il download del software ha segnato la quota dei 95.000 download. In seguito il sito web è stato messo offline dai proprietari il 28 giugno 2019. Il 19 luglio 2019, i creatori hanno venduto il file Licenza DeepNude su un mercato online a un acquirente anonimo per $ 30.000. Da allora il software è stato decodificato e può essere trovato in moduli avanzati su repository open source e siti Web di torrenting.

Adesso che abbiamo anche questi dettagli, andiamo a vedere come funziona questo bot per Telegram. Diciamo che non dobbiamo neanche sporcarci più di tanto le mani, perché il funzionamento viene schematizzato nel report dalla stessa la società Sensity e noi vi riportiamo di seguito:

Come funziona? (spiegazione a parole)

L’utente avvia il bot e invia la foto, a questo punto la foto viene presa dal bot ed elaborata su SERVER ESTERNI A TELEGRAM e dove il bot viene ospitato. Finita tutta quella che è la parte di elaborazione da parte del software, il bot risponde all’utente con una foto che tende ad essere il più possibile affine a quella che dovrebbe essere la reale protagonista di quella foto che precedentemente era vestita.

Come è stato pubblicizzato il bot?

Stando al report della società Sensity, il social che ha portato più traffico e la notorietà di questo bot è il social network VK. Da ulteriori indagini, svolte dalla Sensity, hanno scoperto che il bot si inserisce in un modello più ampio di attività deepfake su VK. Infatti, dal report risulta che sono state trovate oltre 380 pagine VK dedicate alla creazione e condivisione di immagini deepfake esplicite, con molti che affermano di offrire simili automatizzati al bot trovato su Telegram. La maggior parte di questi servizi e bot sono simili al bot preso in considerazione.

Non è stato solo VK il veicolo principale attraverso cui gli utenti sono venuti a conoscenza di questo bot, infatti da un sondaggio lanciato all’interno di uno dei canali principali del hub e a cui hanno partecipato oltre 4200 membri, alcuni di loro sono venuti a conoscenza del bot attraverso Yandex Search, Google Search e Youtube ed altri grazie ad amici.

Canali e membri affiliati

L’ecosistema creato introno a questo bot, stando sempre al report della Sensity, è composto da 7 canali Telegram affiliati che contavano un totale di 103.585 membri alla fine del mese di Luglio 2020. Così come scritto nel report e così come dovresti saperlo, non è detto che tutti gli utenti siano unici, infatti è molto probabile che molti membri facciano parte di più canali. Quello che è certo e dato da cui partire, è che il canale centrale del hub ha 45.615 membri unici.

Un sondaggio sulla posizione geografica, lanciato dagli amministratori di uno dei canali più importanti del hub, basato su un pubblico di oltre 7.200 utenti del bot indica che il 70% provengono dalla Russia o da paesi precedentemente dell’URSS. La maggior parte delle altre regioni globali lo sono rappresentati dagli utenti, anche se in proporzioni notevolmente inferiori

Sempre da questo report possiamo capire che i due canali più attivi e affiliati al bot si concentrano sulla condivisione pubblica di immagini “spogliate” avevano alla fine del mese di Luglio 2020 un totale di 104.852 di queste foto modificate. Ciò fornisce una stima del numero totale di individui presi di mira da questa attività, ma sicuramente la legge dei grandi numeri ci dice che le vittime potrebbero essere molto di più. Infatti, stando all’update del post Automating Image Abuse: deepfake bots on Telegram, gli esperti Sensity si sono imbattuti in una nuova pagina Web che pubblicizza il bot.

La pagina mostra statistiche sbalorditive sul numero di persone prese di mira dal bot: oltre 680.000, ben al di sopra della nostra stima basata su immagini condivise pubblicamente dagli utenti.

Perché la colpa non è di Telegram?

Siamo giunti al momento in cui vogliamo spiegare come progetto perché la colpa non è di Telegram o almeno non è il responsabile principale. Esistono moltissime app e siti web disponibili ed accessibili a chiunque, perché non sono rigorosamente fuorilegge e non stanno ufficialmente infrangendo nessuna legge. Sorprendente ma vero, infatti la definizione dice che “il deepfake è una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali, tramite una tecnica di apprendimento automatico, conosciuta come rete antagonista generativa”. Ad oggi non esiste una legge che vieti oppure punisca coloro che utilizzano la tecnica del deepfake per recare danno a terzi. L’unico stato che si è attivato ad oggi si è mosso in questa direzione è l’Inghilterra, ma negli altri Paesi a livello mondiale una mossa del genere non esiste e almeno dalle ricerche fatte prima di pubblicare questo articolo non ne abbiamo trovate.

A differenza del Revenge Porn, dove tutti i Paesi si sono mossi e si muovo costantemente per regolamentare e punire chi utilizza la tecnologia per recare danno a terzi, per il deepfake ad oggi non c’è interesse oppure è stato sottovalutato il potenziale criminale di questa tecnica.

Non è colpa di Telegram se esiste questo bot, al massimo la piattaforma è da ritenersi responsabile per non aver chiuso in tempo i canali e sospeso il bot. È molto importante capire i meccanismi di funzionamento di Telegram e soprattutto dei bot, questo perché spesso si tende a pensare che i bot appartengono alla piattaforma di messaggistica istantanea, ma così non è. Infatti, i bot sono software sviluppati da terzi e che non hanno nulla a che vedere con Telegram, utilizzano l’applicazione di messaggistica solo come interfaccia di collegamento tra il servizio (bot) e il client (utente). Lo stesso identico bot con un piccolo accorgimento potrebbe essere adattato per sfruttare come interfaccia di collegamento tra il servizio (bot) e il client (utente) app come Facebook Messenger, WhatsApp, Slack, Discord e la lista è immensamente lunga. Attenzione non è detto che questo bot non sia già stato adattato per funzionare con Facebook Messenger e WhatsApp, perché se questo era già compatibile e girava anche all’interno di VK e VK Messenger, il salto a Telegram e alle altre app di messaggistica era ed è solo questione di tempo.

Conclusione

Mi dispiace scrivere questi articoli e mi da immensamente fastidio che giornalisti italiani e anche internazionali, abbiano preso solo quello che hanno voluto dal report della società Sensity e non hanno cercato di analizzare il fenomeno. Mi dispiace leggere su giornali nazionali e internazionali contenuti acchiappa like, acchiappa commenti, acchiappa click e visite, ma che non offrono contenuto.

Lo so in ottica SEO attira molto di più Deepfake su Telegram, Porno e deepfake su Telegram, Deepfake Telegram mette a disposizione un bot e mi fermo qui con i titoloni che da ieri pomeriggio affollano i social e le testate giornalistiche. Inoltre sono estremamente incazzato, perché si è scelto di puntare il dito e non è stata fatta un’indagine per capire meglio il funzionamento delle cose, senza dare una spiegazione il più possibile dettaglia, ma ci si è soffermati solo nel lanciare il campanello d’allarme e soprattutto puntare il dito.

Dopo il Revenge Porn, dopo la pirateria informatica e ancor prima il Terrorismo, ancor oggi i giornalisti e i divulgatori del settore vanno avanti come dei cavalli con i paraocchi. Non si sta più facendo informazione, ma siamo difronte ad una continua disinformazione. Non si va più a prendere in considerazione che quello che accade su una piattaforma può succedere benissimo su tutte le altre.

Volete vedere le donne nude?
Andate su Twitter. Tra quelle che lo fanno perché hanno la voglia di mettersi in mostra e per ben ognuno è libero di fare quello che vuole con il proprio corpo, e quelle che sono ignare del fatto che qualcuno prenda le loro immagini da Instagram e si spacci per loro, Twitter è la miglior fonte per trovare il porno di qualsiasi tipo.
Se non vi basta questo, aspettate le richieste di amicizia su Facebook da parte di account fake che sponsorizzano gruppi WhatsApp, se non volete attendere troppo cliccate qui ed entrate nel bellissimo mondo di WhatsApp (si ci sono anche dei gruppi dedicati a Telegram). Quel mondo pulito, dove tutti vengono bannati e limitati, non come su Telegram.

Seriamente se siamo arrivati a questo punto e se l’informazione deve essere tratta così solo perché si devono attirare click, like, commenti e condivisioni, siamo veramente arrivati alla frutta.

Poi ragazzi seriamente qua manca l’educazione digitale e manca il senso civico.

Detto questo noi ci fermiamo qui, aggiungendo che il sottoscritto Flavius Florin Harabor è uno di quelli che ha sempre combattuto il Revenge porn a 360°, il Deepfake senza territorio e bandiere, segnalando siti, gruppi su Facebook, su WhatsApp e Telegram. Non solo mi sono esposto pubblicamente e all’interno del canale podcast Onair su Telegram, la seconda puntata per la precisione, ho fatto tutta una puntata dedicata al fenomeno, non solo sul mio canale di podcast ma anche in altri progetti. Negli anni sono tanti progetti, infatti dagli ideatori di InsideTelegram e dalla comunità InsideTelegramLab, dove abbiamo cercato e cerchiamo di aiutare a combattere il fenomeno. Tutta la comunità Telegram ha cercato e cerca di combattere tutti i fenomeni e tutte le azioni sbagliate, anche se la piattaforma è in ritardo su alcune cose, ma è anche vero che il sottoscritto e la comunità InsideTelegram o Telegram, non può farcela se a casa e a scuola non c’è educazione, se la gente pensa di utilizzare la tecnologia come meglio credere e in base alle proprie leggi.

Adesso la palla passa a voi, lasciate un commento qui sotto con le vostre impressioni e poi se vi va, condividete questo articolo nei vostri canali, pagine e profili social.