HTCinside
Bojovať proti šíreniuhlboké falzifikátySpoločnosť Microsoft vydala nový nástroj na autentifikáciu videa, ktorý možno použiť na analýzu statického obrázka alebo videa na určenie percentuálnej pravdepodobnosti, že médium bolo umelo manipulované.
V prípade videa Microsoft uviedol, že toto percento môže byť poskytnuté v reálnom čase pre každú snímku počas prehrávania videa. Detekuje prelínajúcu sa líniu hlbokých, jemných odtieňov sivej alebo vyblednutých prvkov, ktoré nemusia byť viditeľné pre ľudské oko.
Deepfakes alebo syntetické médiá môžu byť fotografie, videá alebo zvukové súbory, s ktorými manipuluje umelá inteligencia (AI). Podľa Microsoftu je odhaľovanie hlbokých falzifikátov v nadchádzajúcich voľbách v USA životne dôležité.
Technológia bola vytvorená pomocou verejného súboru údajov od Face Forensic ++. Microsoft uviedol, že bol testovaný pomocou súboru údajov DeepFake Detection Challenge, ktorý je považovaný za vedúci model. školiť a testovať prichádzajúce technológie odhaľovania falzifikátov.
„Očakávame, že komplexnosť metód generovania syntetických médií bude naďalej rásť. Keďže všetky metódy detekcie AI majú chybovosť, musíme pochopiť a byť pripravení reagovať na hlboko zakorenené falzifikáty, ktoré prechádzajú metódami detekcie. uviedla spoločnosť v blogovom príspevku.
'Z dlhodobého hľadiska preto musíme hľadať silnejšie spôsoby, ako zachovať a certifikovať pravosť spravodajských článkov a iných médií.'
S niekoľkými dostupnými nástrojmi spoločnosť Microsoft predstavila aj novú technológiu, ktorá dokáže rozpoznať sfalšovaný obsah a zabezpečiť, že médiá, ktoré sledujete, sú pravé.
Technológia pozostáva z dvoch komponentov. Prvým je nástroj zabudovaný do Microsoft Azure, ktorý umožňuje producentovi obsahu pridávať k obsahu digitálne hash a certifikáty.
„Haše a certifikáty žijú s obsahom ako metaúdaje, kdekoľvek sú online,“ povedal Microsoft.
Druhým je čítačka, ktorú je možné zahrnúť do rozšírenia prehliadača, ktoré overuje certifikáty a porovnáva hodnoty hash so zhodami na určenie pravosti.
Spoločnosť Microsoft tiež spolupracovala s nadáciou AI Foundation v jej hlbokom falošnom boji. V rámci partnerstva obe strany poskytnú video autentifikátory organizáciám zapojeným do demokratického procesu, vrátane spravodajských organizácií a politických kampaní, prostredníctvom iniciatívy Reality Defender 2020 nadácie.
Video autentifikátor bude spočiatku dostupný iba prostredníctvom iniciatívy.
Ďalšie partnerstvo s konzorciom mediálnych spoločností známym ako Project Origin testuje technológiu pravosti spoločnosti Microsoft. Iniciatíva niekoľkých vydavateľov a spoločností v oblasti sociálnych médií, Trusted News Initiative, tiež súhlasila so spoluprácou so spoločnosťou Microsoft na testovaní ich technológie.
Washingtonská univerzita, In-House Counterfeit Detection Sensitivity a USA Today sa tiež spojili s Microsoftom, aby zlepšili mediálnu gramotnosť.
„Zlepšením mediálnej gramotnosti môžu ľudia eliminovať dezinformácie založené na skutočných udalostiach a riadiť riziká lacných a hlbokých falzifikátov,“ uviedol Microsoft. „Poznanie médií nám všetkým umožňuje kriticky premýšľať o mediálnom kontexte a stať sa angažovanejšími občanmi a zároveň si užívať satiru a paródiu.“
Súčasťou tohto partnerstva bude verejná oznamovacia kampaň, ktorá vyzve ľudí, aby sa „zastavili na zamyslenie“ a overili, či informácie pochádzajú od renomovanej spravodajskej organizácie pred ich zdieľaním alebo propagáciou. na sociálnych sieťach pred voľbami.
Strany tiež spustili dotazník pre amerických voličov, aby sa dozvedeli viac o syntetických médiách.