deepfake Archivi

La voce di una persona riprodotta fedelmente da una A.I. Ci stavamo appena abituando al proliferare del fenomeno dei deepfake (l'intelligenza artificiale in grado di integrare fedelmente il volto di una persona su quello di un'altra in un video) che ecco spuntare subito una nuova intelligenza artificiale in grado di replicare anche la voce umana di un'individuo in tutte le sue caratteristiche. È quello che è successo a un General Manager di un'azienda inglese che ricevendo la telefonata dell'Amministratore Delegato che lo invitava ad eseguire un bonifico di 220.000 euro sul conto di un presunto fornitore, è stato ingegnosamente truffato. La voce infatti, non era quella dell'Amministratore Delegato, ma bensì una voce del tale ricostruita fedelmente tramite un'Intelligenza Artificiale. L'inganno è stato poi scoperto poiché i truffatori hanno fatto una seconda chiamata per un secondo bonifico della stessa cifra. La cosa ha insospettito i vertici e sono partite le indagini che non hanno ancora condotto ad alcun colpevole. Il timbro vocale, secondo gli esperti, sarebbe stato ricostruito a partire da alcune registrazioni audio dell'Amministratore Delegato, date poi in pasto ad un sistema di Intelligenza Artificiale in grado di simulare le caratteristiche vocali, per poi riprodurre arbitrariamente le frasi volute. A quanto risulta, questo è il primo caso in cui l'utilizzo di una A.I. sia stato utilizzato per compiere una truffa. Tutto ciò, ci pone in allarme per il futuro. D'ora in avanti quando risponderemo al telefono dovremo dubitare anche di una voce familiare? Come potremo difenderci? Al momento non sembra esserci una controffensiva efficacie, ma si spera in futuro ci saranno strumenti per riconoscere anche le voci falsificate. Dubitare resta l'unica arma, ma in alcune circostanze sembra difficile e/o poco opportuno chiedere maggiori informazioni per chiarire l'identità dell'interlocutore. Lyrebird Lyrebird è una startup di Montreal nata nel 2017 con l'obiettivo di "creare la più realistica tra le voci artificiali". Il loro algoritmo riesce ad ottenere risultati straordinari anche con pochi secondi di campione vocale. Man mano che i dati campione aumentano, la voce diventa sempre più perfetta e simile all'originale. Il loro modello di machine learning riesce a catturare ciò che rende unica ogni voce umana (ciò che loro chiamano DNA vocale) e a riprodurla con un testo a piacere. https://www.youtube.com/watch?v=VnFC-s2nOtI&t=128s La dimostrazione di come l'A.I. di Lyrebird può clonare una voce. Lyrebird prende il nome dall'uccello (Lira) che è in grado di riprodurre versi di altri uccelli, ma anche di altri tipi di suoni. Tutto ciò, come sempre, apre la questione sui problemi etici. Come influirà sulle nostre vite questa tecnologia? Dubiteremo di ogni messaggio vocale e telefonata? Probabile. Comunque, questa A.I. unita a quella dei deepfake video sarà in grado di creare, in tutto e per tutto, video completamente artificiali con persone che fanno e dicono cose mai fatte e dette. Rimane comunque un'ottima opportunità per il mondo del cinema e della musica per poter riportare in vita attori e cantanti scomparsi. https://www.youtube.com/watch?v=C0ZffIh0-NA DImostrazione di come la lira imita i suoni. Prova l'app di Lyrebird e guarda le sue potenzialità! Il sito della società Lyrebird.

La prima truffa telefonica da parte di un’A.I.

La nuova tecnologia di Deepfake può modificare ciò che dici

La nuova intelligenza artificiale di Samsung crea video dalle foto