De ingenieurs van Adobe ontwikkelen AI-routine om nepnieuwsafbeeldingen bij te houden

Adobe Systems

Adobe kondigde aan dat ze bezig waren met nieuwe kunstmatige intelligentietechnologie die de verschillen tussen echte nieuwsfoto's en nepfoto's zou kunnen ontdekken. Hun vlaggenschipproduct Photoshop wordt al lang gebruikt door degenen die nepbeelden wilden genereren voor gebruik met gefabriceerde nieuwsverhalen. Gezien de recente aandacht voor oneerlijkheid in de media, is dit een soort hot-button-kwestie geworden.

Nieuwere AI-routines zouden kunnen zoeken naar bepaalde markeringen die zouden aangeven dat er met een afbeelding is geknoeid met behulp van Photoshop of een ander grafisch bewerkingspakket. Machine learning-technologie helpt deze routines langzaamaan de tekenen te herkennen die Photoshop incidenteel achterlaat.

Wanneer een afbeelding wordt opgeslagen in Photoshop, wordt deze meestal enigszins op pixelniveau gewijzigd. Verlichting, geluidsverdeling en randen worden vaak veranderd, zelfs als de gebruiker nooit de bedoeling had dat ze zouden worden gewijzigd.

Dit is slechts een bijwerking van het gebruik van grafische bewerkingssoftware. Bovendien zijn informatie die is afgeleid van watermerken en metadata meestal nogal ingrijpende tekenen dat een foto op zijn minst tot op zekere hoogte is bewerkt.

Als de kleur van een afbeelding afwijkt, kunnen forensische computertools mogelijk zien dat de afbeelding is gemanipuleerd. Facebook en Google gebruiken dit soort tools al een tijdje, maar dit is misschien wel de eerste keer dat een ontwikkelaar van een populair grafisch pakket ooit tools heeft ontwikkeld die zijn ontworpen om te zoeken naar nepafbeeldingen die zijn gemaakt met oplossingen die ze zelf hebben gepubliceerd.

Critici hebben echter gezegd dat een heel eenvoudig vormherkenningsprogramma hetzelfde zou kunnen doen. Sommigen hebben zelfs beweerd dat twijfelachtige nieuwsdiensten er zelfs achter zouden kunnen komen hoe deze technieken werken, zodat ze ze later kunnen verslaan.

Desalniettemin hebben commentatoren erop gewezen dat Adobe-ingenieurs tientallen jaren aan informatie over fotomanipulatie moeten hebben, waardoor ze de concurrentie voor zijn als het gaat om het uitzoeken van de beste manier om een ​​AI op deze manier in te zetten.

Het doel van dit specifieke pakket lijkt het vermogen te zijn om het klonen en plakken van nieuw onderwerp te detecteren, wat zeker de zorgen zou verminderen over nieuwssites die foto's publiceren waarop een persoon is bewerkt op een plaats waar hij nooit had kunnen zijn.