J'ai travaillé dans et hors de la sécurité pendant des décennies. Nous avons fait le même genre de choses que les gens font avec des deepfakes avec une technologie bien plus ancienne lorsque je travaillais au standard du motel de mon ami quand j'étais enfant. À l'époque, nous n'avions que des téléphones filaires, mais nous nous moquions souvent des gens tard dans la nuit en prétendant être des personnes que nous n'étions pas.
Plus tard, en collaboration avec des chasseurs de têtes, une manière courante de trouver des personnes dans les entreprises consistait à appeler et à utiliser le nom d'un cadre qui se trouvait à l'extérieur de la ville pour convaincre illégalement quelqu'un que notre demande externe non autorisée était légitime. Les véritables bons chasseurs de têtes étaient extrêmement doués dans ce domaine. Les deepfakes améliorent la capacité de tromper les gens, mais si vous y prêtez attention, il n’y a aucune raison de vous laisser berner.
Parlons des deepfakes cette semaine, et nous terminerons avec un produit de réseau social de service d'information appelé Otherweb qui fait un meilleur travail que la plupart des gens pour éliminer les fausses nouvelles qui ont été une source massive d'erreurs, de fraude et d'embarras.
La fraude Deepfake de 25 millions de dollars
Ce qui m'a fait réfléchir, c'est un briefing trimestriel de HP Wolf Security sur les tendances des menaces de sécurité du trimestre précédent et sa réponse à ma question sur les nouvelles menaces créatives.
HP a partagé un stratagème frauduleux réussi dans lequel un employé a reçu des appels de deux dirigeants de deepfake qu'ils connaissaient et a été convaincu de transférer 25 millions de dollars d'une institution financière de Hong Kong à une organisation illicite. Il a fallu deux semaines avant que la fraude soit découverte.
Je suis un ancien auditeur interne d'IBM, et toutes sortes de signaux d'alarme sont immédiatement apparus dans ma tête lorsque j'ai lu l'histoire. Premièrement, les institutions financières exercent généralement un contrôle massif sur leur système monétaire, car personne ne veut investir de l’argent dans une institution financière qui n’est pas sûre.
De nombreuses règles et pratiques industrielles ont été élaborées au fil des siècles pour protéger ces institutions. L’une d’elles est appelée « séparation des tâches », selon laquelle aucune personne ne peut autoriser un paiement important sans l’approbation physique de la direction. Lorsque vous parlez de millions de dollars, les dépenses peuvent nécessiter l'approbation du directeur financier, du PDG et d'un membre indépendant du conseil d'administration.
Dès le départ, vous pouvez constater que ce processus n'était pas en place dans cette entreprise, et que l'entité qui avait commis la fraude non seulement le savait, mais savait également qui avait la capacité d'autoriser une telle dépense. Cette situation suggère fortement un travail interne nécessitant une connaissance approfondie des privilèges des employés ciblés.
Il n’y avait pas de place pour l’échec, car si les criminels avaient essayé et échoué, une alerte aurait généralement été émise au sein de l’entreprise, sensibilisant les autres employés à la fraude et mieux à même de l’éviter.
Je suis convaincu que l’employé qui a été trompé deviendra un suspect – puisque ce serait le chemin le plus simple – et que d’autres employés qui ont informé l’entité attaquante du manquement à la politique et identifié l’employé cible trompé ou compromis sont impliqués.
Rétablir et appliquer la règle de « séparation des tâches » pour garantir qu'aucun employé ne peut autoriser une dépense comme celle-ci réduirait considérablement les chances de réussite de ce type de fraude et augmenterait le degré de difficulté à un point tel qu'une approche différente, comme simplement corrompre le(s) employé(s) pourrait être plus efficace.
Fraude envers un proche kidnappé
L’une des fraudes les plus attendues consiste à utiliser des deepfakes pour vous convaincre qu’un proche est en danger et que vous devez lui envoyer de l’argent immédiatement pour le mettre hors de danger. Cette tactique est également utilisée depuis des années sur les téléphones avec beaucoup de succès. La vidéo pourrait la rendre un peu plus crédible si elle était bien réalisée, mais bien faire ces choses reste un ensemble de compétences inhabituelles, du moins pour le moment.
Cela fonctionne en vous faisant paniquer afin que vous ne pensiez pas à appeler votre proche ou les forces de l'ordre lorsque vous vous précipitez dans un magasin pour acheter une carte-cadeau à envoyer à la personne qui vous fraude. Sachez que lors d'un véritable enlèvement, le moyen le plus sûr pour l'auteur d'éviter d'être attrapé est de tuer la victime kidnappée, que vous ayez ou non payé la rançon, car si vous ne récupérez pas votre proche, quel est exactement votre recours ?
Par conséquent, vous devez toujours appeler d’abord les forces de l’ordre en cas d’enlèvement. Ils disposent de personnes formées pour gérer ce problème, et s’ils sont impliqués, il est bien plus probable que les criminels soient identifiés et incarcérés. En fonction de la taille de votre service de police local, vous voudrez peut-être envisager d'appeler le FBI, car il peut disposer de ressources plus importantes que votre service de police local pour faire face à ce type de fraude.
Développez un mot de sécurité que vous ne partagez pas en dehors de la famille et qui établira qu'un proche kidnappé est bien celui qu'il prétend être, afin de ne pas faire intervenir inutilement les forces de l'ordre. Vous pouvez également appeler leur téléphone portable pour voir s'ils répondent. S’il s’agit d’un faux, c’est l’un des moyens les plus rapides de mettre fin à la fraude.
Donner la parole aux victimes
Une utilisation intéressante de la technologie deepfake est la voix d’un enfant décédé à la suite d’une violence armée. La technologie s'appelle Shotline. Il utilise les voix de manière très puissante, pourrais-je ajouter, pour permettre à ceux qui ont été tués par la violence armée de s'exprimer contre lui. Donner la parole à ceux qui n’en ont pas est un message puissant adressé aux hommes politiques et à leurs partisans qui n’ont pas agi de manière agressive pour mettre fin à la violence armée.
Certes, cela devrait être fait avec la permission des parents de l'enfant décédé. Je m'attends à ce qu'entendre la voix de votre enfant décédé dénoncer la violence qui l'a tué puisse être quelque peu cathartique pour les parents. Cela envoie également un message fort à ceux qui mettent ces enfants en danger et devrait accroître l'empathie envers les victimes et, en particulier, envers les parents des victimes, de la part des politiciens qui ont également des enfants.
Il s’agit de l’un des moyens les plus puissants et potentiellement efficaces de susciter les changements nécessaires. Contrairement à ceux qui promeuvent la réforme des armes à feu, s’opposer aux voix des enfants morts est problématique et peut mettre fin à une carrière si les électeurs s’identifient aux enfants ou à leurs parents.
Tout cela pour dire que les deepfakes peuvent aussi être utilisés pour faire le bien.
Emballer
La technologie Deepfake est utilisée pour nuire, mais les méthodes existantes conçues pour réduire ou prévenir la fraude devraient être adéquates pour se protéger contre cette technologie. Pour la politique, nous avons besoin de nouvelles lois et de nouveaux moyens de les faire appliquer, et certaines d’entre elles, même si je doute qu’elles soient adéquates, sont en cours d’élaboration. Enfin, les deepfakes peuvent être utilisés à bon escient en donnant la parole aux sans-voix. J'espère que nous en verrons davantage.
Lorsqu’ils sont utilisés à des fins malveillantes, les deepfakes ne représentent qu’une avancée par rapport à certaines escroqueries téléphoniques auxquelles nous sommes confrontés depuis des décennies. Tant que vous abordez les appels concernés la tête haute et les yeux ouverts, je ne pense pas que le risque soit bien pire qu’auparavant. Après tout, à quelle fréquence les publicités politiques disent-elles la vérité, même sans deepfakes ?
Avec des contrôles appropriés, validés et garantis, et en restant simplement attentifs au potentiel d'une tentative de fraude bien conçue, nous devrions être en mesure de surmonter cette tempête. Cependant, si nous sommes compromis ou si nous ne réfléchissons pas de manière défensive, nous serons de plus en plus vulnérables à la fraude qui pourrait changer nos vies, et pas pour le mieux.
Autreweb
Otherweb est une plate-forme de médias sociaux de service d'information qui filtre de manière agressive les informations indésirables et les fausses nouvelles du flux. Vous pouvez choisir des domaines d'intérêt, puis vous obtiendrez des mises à jour des faits uniquement, sans beaucoup d'opinions du côté des actualités de l'application. Ensuite, vous verrez et pourrez participer à des discussions connexes du côté des médias sociaux de l'application.
(Crédit image : Autreweb)
Vous pouvez exécuter le service sous Windows, mais il a tendance à mieux fonctionner sur un smartphone et vous offre un moyen plus ciblé de rester au courant de l'actualité et avec moins de risque de transmettre une fausse histoire à vos amis, à votre famille ou pire. , des collègues ou la direction qui pourraient changer leur opinion à votre sujet pour le pire. Cela m'est arrivé au début de ma carrière, et il m'a fallu beaucoup de temps pour me remettre des dommages à ma réputation causés par le partage d'une fausse nouvelle à laquelle je croyais à l'époque.
La nouvelle fonctionnalité d'Otherweb s'appelle « Discussions ». Cela crée un environnement de médias sociaux sûr dans lequel les trolls, les instigateurs et autres sources toxiques sont agressivement éliminés pour créer un endroit sûr pour discuter de l'actualité sans craindre d'être attaqué, écrasé ou autrement puni pour vos opinions et préoccupations légitimes.
Je sais que beaucoup d’entre nous en ont assez de voir de mauvais acteurs, des fraudeurs et des théoriciens du complot remplir constamment nos flux de BS qu’ils ont inventées ou prises sans vérifier auprès des autres. Les bonnes décisions découlent d’informations solides, et les fausses nouvelles poussent beaucoup d’entre nous à prendre de mauvaises décisions. Se débarrasser de cette influence serait bénéfique pour nous tous. En conséquence, Otherweb est mon produit de la semaine. C'est gratuit et ça vaut le détour.
Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement les vues d'ECT News Network.
