Midjourney: no alle immagini gratis a causa dei Deepfake

© Depositphotos

Nelle scorse ore sono circolate in Rete, soprattutto sui social network, alcune immagini estremamente realistiche che ritraggono Papa Francesco mentre indossa un piumino bianco oversize. In pochissimo tempo queste foto sono state visualizzate e ricondivise milioni di volte, tanto che diversi utenti hanno pensato che potessero essere vere.

Naturalmente si trattava di Deepfake, tra l'altro molto ben realizzati, generati tramite la piattaforma Midjourney che grazie al recente rilascio della versione 5 è divenuta molto più precisa che in passato. Quest'ultima è in sostanza un servizio text-to-image basato su un modello generativo che permette di produrre immagini a partire da brevi descrizioni testuali.

Quasi in contemporanea con la diffusione delle immagini del Papa, Midjourney è stato utilizzato anche per creare una serie di immagini totalmente false nelle quali l'ex presidente degli Stati Uniti Donald Trump veniva arrestato dalla polizia di New York, ammanettato e successivamente condotto in carcere. Tra queste foto ve n'era persino una dove Trump legge un libro in tuta arancione.

Date le reazioni a tali episodi, i responsabili di Midjourney hanno deciso di bloccare l'accesso alla formula gratuita che permetteva di generare fino a 25 immagini su Discord. Una volta superato questo limite, per continuare ad utilizzare il servizio si dovevano pagare 10 dollari al mese. Ad oggi invece è disponibile solo la formula premium.

I portavoce della compagnia avrebbero giustificato questa scelta con la necessità di limitare gli abusi, è però utile ricordare che qualche tempo fa David Holz, fondatore di Midjourney, aveva affermato che Midjourney non poteva essere utilizzato per la realizzazione di Deepfake in quanto non ancora in grado di restituire output abbastanza realistici.