HTCinside
Kako bi se spriječilo širenjeduboki lažnjaci, Microsoft je izdao novi alat za autentifikaciju videozapisa koji se može koristiti za analizu fotografije ili videa kako bi se odredio postotak vjerojatnosti da je medij umjetno manipuliran.
U slučaju videa, Microsoft je naveo da se ovaj postotak može dati u stvarnom vremenu za svaki okvir dok se video reproducira. Otkriva liniju stapanja dubokih, suptilnih sivih tonova ili blijedećih elemenata koji možda nisu vidljivi ljudskom oku.
Deepfake ili sintetički mediji mogu biti fotografije, videozapisi ili audio datoteke kojima manipulira umjetna inteligencija (AI). Otkrivanje dubokih krivotvorina ključno za nadolazeće američke izbore, prema Microsoftu.
Tehnologija je stvorena pomoću javnog skupa podataka tvrtke Face Forensic ++. Microsoft je rekao da je testiran skupom podataka DeepFake Detection Challenge, za koji se vjeruje da je vodeći model. osposobiti i testirati pristigle tehnologije za otkrivanje krivotvorina.
“Očekujemo da će metode generiranja sintetičkih medija nastaviti rasti u složenosti. Budući da sve metode otkrivanja umjetne inteligencije imaju stopu pogrešaka, moramo razumjeti i biti spremni reagirati na duboko ukorijenjene krivotvorine koje prolaze kroz metode otkrivanja.” tvrtka je rekla u postu na blogu.
'Dugoročno, dakle, moramo tražiti jače načine za održavanje i potvrđivanje autentičnosti novinskih članaka i drugih medija.'
Uz nekoliko dostupnih alata, Microsoft je također predstavio novu tehnologiju koja može otkriti neovlašteni sadržaj i osigurati da je medij koji gledate originalan.
Tehnologija se sastoji od dvije komponente. Prvi je alat ugrađen u Microsoft Azure koji proizvođaču sadržaja omogućuje dodavanje digitalnih hashova i certifikata sadržaju.
'Hashes i certifikati žive sa sadržajem kao metapodacima, gdje god da je online', rekao je Microsoft.
Drugi je čitač koji se može uključiti u ekstenziju preglednika koja provjerava certifikate i uspoređuje hashove s podudaranjima kako bi utvrdila autentičnost.
Microsoft se također udružio s AI Foundationom u svojoj dubokoj lažnoj borbi. Kao dio partnerstva, obje strane će osigurati video autentifikatore organizacijama uključenim u demokratski proces, uključujući novinske organizacije i političke kampanje, kroz inicijativu zaklade Reality Defender 2020.
Video autentifikator će u početku biti dostupan samo putem inicijative.
Drugo partnerstvo s konzorcijem medijskih tvrtki poznatim kao Project Origin testira Microsoftovu tehnologiju autentičnosti. Inicijativa nekoliko izdavača i tvrtki društvenih medija, Trusted News Initiative, također je pristala surađivati s Microsoftom na testiranju njihove tehnologije.
Sveučilište Washington, In-House Counterfeit Detection Sensitivity i USA Today također su se udružili s Microsoftom kako bi poboljšali medijsku pismenost.
“Poboljšanjem medijske pismenosti ljudi mogu eliminirati dezinformacije temeljene na stvarnim događajima i upravljati rizicima jeftinih i dubokih krivotvorina”, rekao je Microsoft. “Poznavanje medija može nam omogućiti da kritički razmišljamo o medijskom kontekstu i postanemo angažiraniji građani dok uživamo u satiri i parodiji.”
Kao dio ovog partnerstva, postojat će javna kampanja najave koja će pozvati ljude da 'zastanu radi razmišljanja' i provjere da informacija dolazi od ugledne novinske kuće prije nego što je podijele ili promoviraju. na društvenim mrežama prije izbora.
Stranke su također pokrenule upitnik za američke glasače kako bi saznali više o sintetičkim medijima.