Samtidigt som det blir allt lättare att manipulera videor och skapa så kallade deep fakes pågår också ett arbete med teknik för att motarbeta dem.
Nu lanserar Microsoft verktyg som ska kunna avslöja förfalskade bilder eller videor. Med den nya tekniken analyseras de och sedan anges ett procenttal som anger risken för att de är manipulerade, rapporterar Zdnet. För videor kan den procentsatsen anges i realtid för varje ruta som spelas upp.
Tekniken fungerar så att den analyserar sådant som gråskalor som inte kan upptäckas av ögat.
Samarbete med Facebook
Microsoft har använt sig av öppna data från FaceForensics++ – det handlar om 1 000 videor som manipulerats med fyra olika metoder. Verktyget har sedan testats på Facebooks databas DeepFake Detection Challenge Dataset.
I ett blogginlägg skriver Microsoft att de förväntar sig allt mer sofistikerade metoder för att skapa deepfakes och att det gäller att förstå och vara redo för det.
Finns få verktyg i dag
”På längre sikt måste vi därför söka starkare metoder för att upprätthålla och certifiera äktheten hos nyhetsartiklar och andra medier. Det finns få verktyg idag för att försäkra läsarna att media de ser online kommer från en pålitlig källa och att de inte har ändrats”, skriver företaget.
För att möta det behovet har Microsoft också utvecklat ett annat verktyg som består av två delar – den ena är inbyggd i Azure och innebär att de som lägger in innehåll kan lägga in digitala fingeravtryck i form av metadata som visar äktheten. Den andra delen är en läsare som kan läggas in i browsern och som kontrollerar att dessa metadata finns med.
Läs också:
Nu kan du göra egna deepfakes – med en app i mobilen
Kalifornien förbjuder politiska deepfakes inför val
