Google draagt ​​bij aan Deepfake-detectieonderzoek met zijn Visual Deepfake Corpus

Deepfake Corpus

Deep learning is een geavanceerd gebied van machine learning dat tegenwoordig snel groeit. Hoewel er in dit domein veel onderzoek is gedaan, is er nog steeds een onderzoeksgat. Google-technici hebben in dit opzicht een belangrijke bijdrage geleverd en werken actief aan de productie van een groot corpus. De zoekgigant heeft onlangs samengewerkt met Jigsaw om een ​​enorm corpus aan deepfakes vrij te geven. Met behulp van het vrij beschikbare corpus kunnen de onderzoekers nu werken aan synthetische videodetectiekaders.

Andrew Gully de technisch onderzoeksmanager van Jigsaw en Nick Dufour de onderzoekswetenschapper van Google beschreven in een blogpost :

Sinds hun eerste verschijning eind 2017 zijn er veel open-source methoden voor het genereren van deepfake ontstaan, wat heeft geleid tot een groeiend aantal gesynthetiseerde mediafragmenten. Hoewel velen waarschijnlijk bedoeld zijn als humoristisch, kunnen anderen schadelijk zijn voor individuen en de samenleving.

Google verklaarde verder dat het bedrijf werkte met instemmende en betaalde acteurs om de dataset van honderden video's samen te stellen. Het bedrijf gebruikte de video's vervolgens om duizenden deepfakes te produceren. Ze hebben zowel nep- als echte monsters gegenereerd.

Gezien het feit dat deepfake een evoluerende technologie is, zal het bedrijf blijven toevoegen aan het corpus.

We zijn er vast van overtuigd dat we een bloeiende onderzoeksgemeenschap steunen om mogelijke schade door misbruik van synthetische media te beperken, en de publicatie van onze deepfake-dataset in de FaceForensics-benchmark is een belangrijke stap in die richting.

Deepfake-video's werden voor het eerst gespot in 2017. Deze video's waren oorspronkelijk samengesteld voor humorinhoud. Mensen gebruiken nu op AI gebaseerde systemen om manipulatieve video's te genereren die de gezichten van mensen verwisselen. Er zijn verschillende toepassingen die deepfake genereren die voor dat doel kunnen zijn.

Het goede is dat de autoriteiten nu kennis hebben genomen van deze kwestie en strenge wetten maken om de controle te vergroten. De deepfake-dataset is een belangrijke bijdrage om het probleem op te lossen. Bovendien werkt Google al aan het verminderen van mogelijk misbruik van deze technologie. Het bedrijf bracht een synthetisch spraakcorpus uit dat later werd gebruikt door meer dan 150 onderzoeken.