Facebook, Microsoft Start Contest per detectar vídeos Deepfake

Facebook i Microsoft copatrocinen un concurs centrat a detectar vídeos 'deepfake' generats per IA.



El repte de detecció de Deepfake ho farà correr d'octubre al març vinent amb l'objectiu de desenvolupar nous sistemes que puguin identificar quan un videoclip és realment producte d'algoritmes d'IA.

millor targeta de vídeo de perfil baix

Tot i que les imatges manipulades no són cap novetat, la tecnologia que hi ha darrere dels deepfakes porta l'engany a un nivell completament nou; gràcies als programes d'aprenentatge automàtic d'avui, podeu canviar la cara d'algú per una altra, o prendre imatges existents i manipular els llavis del subjecte per dir alguna cosa més. Els resultats poden produir imatges i vídeos que semblen sorprenentment reals, però que en realitat són ficció.





'La gent ha manipulat imatges durant gairebé tant de temps com ha existit la fotografia. Però ara és possible que gairebé tothom creï i transmeti falsificacions a un públic massiu', va dirAntonio Torralba, a professor at MIT, in a statement. Altres algorismes poden clonar la teva veu de manera convincent perquè digui el que vulgui el programador. És per això que tothom, inclosos els legisladors nord-americans, estan preocupats perquè la tecnologia darrere de les falsificacions profundes arribi algun dia a enganyar el públic.

'Tot i així, la indústria no té un gran conjunt de dades ni un punt de referència per detectar-los', va dir el director de tecnologia de Facebook, Mike Schroepfer, a la revista d'avui. anunci . 'Volem catalitzar més investigació i desenvolupament en aquesta àrea i garantir que hi hagi millors eines de codi obert per detectar deepfakes'.



Altres copatrocinadors del concurs inclouen acadèmics de set universitats i el grup de comerç de la indústria, Col·laboració en IA , que ajudarà a supervisar el repte.

El concurs serà treball així: s'ha contractat un grup d'actors de pagament per crear un conjunt de dades de vídeos. Un cop gravats, Microsoft, Facebook i els altres copatrocinadors tenen previst agafar els vídeos i manipular-los mitjançant les últimes tècniques d'IA per generar els deepfakes.

Aleshores, els participants del concurs hauran de crear programes per detectar els vídeos fabricats. El judici es farà enfrontant els programes amb els deepfakes en un ordinador aïllat de 'caixa negra'. Facebook, Microsoft i els acadèmics planegen desenvolupar un mecanisme de prova que puntui l'efectivitat dels programes de deepfake-sniffing dels participants.

Estació d'acoblament surface 3 pro

Recomanat pels nostres editors

vídeo de deepfake zuckerberg fixeLes eines d'IA poden detectar Deepfakes, però durant quant de temps? Com els ratolins de laboratori ajuden a detectar Deepfakes PornHub, Twitter prohibeix la pornografia modificada per IA 'Deepfake'

El concurs, obert a tothom, preveu oferir subvencions i premis. Tanmateix, els participants hauran de passar per un procés de selecció i acceptar determinades condicions sobre l'ús de les dades del vídeo, com a salvaguarda contra els actors dolents que no accedeixin al codi i a les dades del concurs.

Els patrocinadors començaran el repte el mes que ve provant primer la qualitat dels vídeos que han creat amb els actors de pagament. Schroepfer va dir que Facebook està invertint més de 10 milions de dòlars per finançar l'esforç. La pròpia companyia també té previst participar en el repte, però no acceptarà cap premi econòmic si guanya.

Recomanat