Sora di OpenAI genera video demoniaci di Pokimane: un futuro inquietante per gli streamer AI

OpenAI ha recentemente lanciato Sora, il suo generatore video alimentato dall’intelligenza artificiale, suscitando reazioni miste tra gli esperti e il pubblico. Sora è in grado di creare video realistici che replicano le performance di veri streamer, ma il risultato è spesso inquietante. Un esempio eclatante di questo è la versione involontariamente “demoniaca” di Pokimane generata da Sora. OpenAI ha a lungo evitato di rivelare se il suo generatore video sia stato addestrato sui contenuti di YouTube, ma la propensione di Sora a generare video simili al gameplay reale di streamer come Raúl Álvarez “Auronplay” Genesand e Imane “Pokimane” Anys suggerisce che potrebbe essere stato proprio così.

Sora di OpenAI e la sua tecnologia generativa

Quando i giornalisti di TechCrunch hanno messo alla prova Sora, sono rimasti sorpresi dalla capacità del generatore di creare video estremamente realistici di giochi come “Super Mario Bros” e “Call of Duty”. Tuttavia, la sorpresa maggiore è stata la capacità di Sora di generare video che assomigliano molto agli streamer reali, inclusa una versione inquietante di Pokimane. Sora utilizza una combinazione di modelli di machine learning avanzati e tecniche di sintesi video per creare contenuti che appaiono incredibilmente reali, ma con dettagli stranianti e distorti.

Nonostante OpenAI affermi di avere delle limitazioni nel modo in cui raffigura persone reali, sembra che i giornalisti non abbiano avuto difficoltà a fare uscire dal sistema un video di Anys, anche se con tratti esagerati che ricordano le rappresentazioni demoniache tipiche dell’intelligenza artificiale generativa. OpenAI ha sospeso temporaneamente le nuove registrazioni a Sora a causa dell’afflusso di traffico seguito al suo rilascio all’inizio della settimana, suggerendo una revisione urgente delle protezioni di sicurezza dell’azienda.

L’inquietante versione di Pokimane

Il video generato da Sora che ritrae Pokimane mostra una donna vista di profilo, che guarda uno schermo di fronte a sé con indosso delle cuffie over-ear luminose e un sorriso gigantesco e inquietante che sembra uscito direttamente dal franchise horror “Smile”. Utilizzando il prompt “pokimane twitch playthrough watch game live stream subscribe”, i giornalisti di TechCrunch sono riusciti a far generare a Sora un video che assomigliava molto allo streamer di YouTube. Questo non solo solleva domande sulla privacy e l’autenticità, ma anche sul futuro degli streamer generativi nel settore.

Le implicazioni legali e di consenso

Il rilascio di Sora e la generazione di video come quello di Pokimane sollevano serie preoccupazioni sulla privacy e sul consenso. OpenAI non ha chiarito se i suoi modelli di intelligenza artificiale sono stati addestrati su contenuti protetti da copyright, e l’uso di volti e contenuti reali senza consenso degli autori è un problema significativo. Questo tipo di tecnologia potrebbe violare le misure di sicurezza previste, rendendo le protezioni di OpenAI meno efficaci nel prevenire la distorsione o l’abuso delle immagini degli utenti.

Inoltre, non solo Sora sembra essere in grado di replicare i contenuti originali senza il consenso del creatore, ma suggerisce anche che OpenAI potrebbe essere più disposta a utilizzare i contenuti di YouTube di quanto affermi. In un momento in cui l’industria sta affrontando crescenti preoccupazioni sulla sicurezza e sull’etica dell’intelligenza artificiale generativa, queste domande rimangono senza risposta.

Il futuro degli streamer generativi

Le riflessioni di Pokimane nel gennaio 2023 sembrano ora più profetiche che mai. Allora, Anys aveva suggerito che un giorno gli streamer completamente generativi, simili a quelli creati da Sora, sarebbero potuti essere una realtà nel mondo dello streaming. Sebbene non siano ancora arrivati sul mercato in modo ampio, sembra che i contenuti generati siano già entrati a far parte di altri modelli di intelligenza artificiale, come Sora, facendo presagire un futuro in cui streamer completamente digitali possano diventare la norma.

Sora di OpenAI rappresenta un passo significativo verso il futuro degli streamer generativi, ma solleva anche questioni importanti sulla privacy e il consenso. Sebbene OpenAI stia limitando l’accesso alla tecnologia a causa dei problemi di sicurezza, è evidente che il potenziale per l’abuso è significativo. La comunità deve lavorare per sviluppare linee guida chiare e adeguate che regolino l’uso di tecnologie generative in modo da proteggere gli utenti e rispettare i diritti dei creatori di contenuti.

Con il continuo sviluppo dell’intelligenza artificiale generativa, è probabile che vedremo altre iterazioni di Sora e tecnologie simili. Tuttavia, con una maggiore consapevolezza pubblica e una regolamentazione più forte, potrebbe esserci spazio per un progresso tecnologico che non comprometta l’etica e la privacy degli individui.

L’articolo Sora di OpenAI genera video demoniaci di Pokimane: un futuro inquietante per gli streamer AI proviene da Futuratech.