Deep-Live-Cam, un outil deepfake qui transforme les photos en flux vidéo en direct, est rapidement devenu le référentiel le plus apprécié des développeurs à télécharger sur GitHub.
Construit principalement dans le langage de script Python, Caméra en direct en profondeur est facile à télécharger et à modifier, et la nature hautement accessible du langage Python signifie qu’il peut potentiellement être implémenté dans des applications qui fonctionneront sur les téléphones et autres appareils de communication.
Il s’agit là d’un nouveau rappel de la rapidité avec laquelle la technologie deepfake devient un problème de sécurité, notamment en ce qui concerne les droits des individus et des entreprises.
La fraude par IA générative devrait coûter aux États-Unis plus de 40 milliards de dollars par an d’ici 2027, avec un taux de croissance de 32 % d’une année sur l’autre. Deloitte projeté en mai.
Les experts affirment que la popularité croissante des deepfakes est en grande partie due à la difficulté des méthodes de détection traditionnelles à les identifier, ce qui les rend plus attrayants pour une utilisation dans les escroqueries.
Il est relativement facile d’ignorer un e-mail frauduleux, mais un appel vidéo provenant d’un flux vidéo qui ressemble à celui d’un ami, d’un partenaire commercial ou d’un parent sera beaucoup plus facile à tromper.
Sur la page du référentiel GitHub, plusieurs demandes d’autres développeurs visent à renforcer les considérations éthiques de l’outil. Décrypter a contacté le développeur principal Kenneth Estanislao mais n’a jusqu’à présent reçu aucune réponse.
Dans tous les cas, la clause de non-responsabilité du logiciel sur GitHub indique : « Les développeurs de ce logiciel sont conscients de ses éventuelles applications non éthiques et s’engagent à prendre des mesures préventives à leur encontre. »
Dans un exemple, la description du référentiel GitHub présente un didacticiel et une vidéo présentant l’image d’Elon Musk.
Un autre problème est qu’une fois le référentiel téléchargé depuis GitHub, il peut être modifié et utilisé par des développeurs ayant une connaissance minimale de son utilisation.
Bien que l’application ait été lancée l’année dernière – avec sa dernière mise à jour il y a trois semaines – elle connaît actuellement un regain de popularité, avec plus de 3 500 « étoiles » gagnées rien qu’aujourd’hui, contre un total de 20 600 étoiles au total.
Pour replacer les choses dans leur contexte, le référentiel GitHub le plus populaire aujourd’hui est un outil blockchain : Shardeum, avec seulement 1 250 étoiles.
Cela survient un jour après que le Sénat américain a adopté un projet de loi pour interdire les deepfakes pornographiques. Des lois plus larges qui protégeraient les gens de cette technologie, quant à elles, commencent seulement à être mises en place. rédigé.
Édité par Sebastian Sinclair
Généralement intelligent Bulletin
Un voyage hebdomadaire de l’IA raconté par Gen, un modèle d’IA génératif.
