Partager des photos de vos enfants ? Peut-être pas après avoir regardé cette publicité deepfake

Une nouvelle campagne publicitaire vidéo générée par l’IA, qui rassemble des millions de vues sur les réseaux sociaux, pourrait inciter de nombreux parents à reconsidérer les informations qu’ils partagent publiquement sur leurs enfants.

La vidéo de Deutsche Telekom utilise les dernières technologies d'intelligence artificielle pour vieillir virtuellement une fillette de 9 ans appelée Ella, jouée par un acteur, afin d'illustrer comment l'empreinte numérique d'un enfant peut potentiellement être utilisée à mauvais escient pour nuire à sa vie.

"Je sais que pour vous, ces images ne sont que des souvenirs, mais pour d'autres, ce sont des données", explique Ella, générée par l'IA, au couple qui incarne ses parents dans une expérience sociale mise en scène. "Et pour moi, c'est peut-être le début d'un avenir horrible."

Les parents d'Ella dans la vidéo, également interprétés par des acteurs, sont décrits comme publiant souvent des articles sur sa vie en ligne, partageant des moments d'insouciance, ignorant le préjudice potentiel que cela pourrait lui causer à l'avenir.

Bien que la vidéo soit fausse, certains experts affirment que son message d’avertissement est bien réel.

"Une fois qu'une image est partagée en ligne, il peut être difficile de contrôler où elle aboutit", a expliqué le Dr Rebecca Portnoff, directrice de la science des données chez Thorn, une organisation à but non lucratif qui lutte contre la propagation des abus sexuels sur enfants en ligne, dans une interview avec ABC. Nouvelles.

La campagne documente les différents dangers potentiels liés au partage excessif des données de vos enfants, du harcèlement en ligne au vol d'identité en passant par la création de matériel pédopornographique, ou CSAM.

"Les acteurs malveillants utilisent diverses technologies et services de manipulation de contenu pour modifier des photos et des vidéos inoffensives, généralement à partir du compte de réseau social d'un enfant ou sur le Web ouvert, afin de sexualiser ce contenu", a ajouté Portnoff.

Bien que ces dangers aient été documentés dans le passé, ils sont exacerbés par l’essor et l’accessibilité croissante de l’IA. Associé à une multitude de données accessibles au public, cela donne aux criminels davantage de contenu avec lequel travailler.

Le « partage » est un terme parfois utilisé pour désigner les parents partageant en ligne du contenu sur leurs enfants. C'est un moyen simple et accessible pour les parents de se connecter les uns aux autres, ont expliqué les experts du Boston Children's Digital Wellness Lab qui ont étudié les impacts potentiels du partage.

Ces experts ont souligné une estimation de la banque Barclays selon laquelle d’ici 2030, 7,4 millions d’incidents de fraude d’identité par an pourraient être liés au partage excessif d’informations personnelles en ligne par les parents.

Comme l'illustre la campagne de Deutsche Telekom, l'IA générative permet de créer des répliques crédibles de l'image de votre enfant, de la voix à la figure.

La campagne détaille également comment les algorithmes d'IA peuvent identifier et collecter automatiquement des images d'enfants, et comment ils peuvent ensuite être utilisés pour créer des profils d'enfants pouvant être utilisés à des fins publicitaires ou même créer du contenu pornographique.

Des experts comme Portnoff affirment que l’IA permet aux prédateurs de créer plus facilement du matériel réaliste à partir d’images disponibles publiquement ou de créer du matériel entièrement nouveau.

Dans le même temps, des organisations comme Thorn ont également développé des algorithmes d’apprentissage automatique pour créer des outils qui détectent, suppriment et signalent les CSAM.

"Alors que le monde des médias sociaux continue d'évoluer, les parents peuvent s'efforcer de trouver un équilibre entre se connecter avec leurs amis et leur famille et respecter leurs enfants en tant qu'individus qui devront faire face aux conséquences d'une vie vécue en ligne", ont exhorté les experts du Boston Children's Digital. Laboratoire de bien-être.

Quant à la façon dont les parents peuvent trouver cet équilibre, partager des photos et du contenu uniquement dans des albums privés avec leur famille et leurs amis et non publiquement est un moyen de partager tout en protégeant la vie privée de votre enfant et en minimisant les risques.

Portnoff a également fait quelques suggestions sur la manière dont les familles peuvent sensibiliser leurs enfants à la sécurité en ligne.

"Les parents peuvent parler tôt et souvent à leurs enfants de la sécurité en ligne et favoriser un environnement ouvert et sans jugement à la maison. Ils peuvent s'efforcer de comprendre les applications, les réseaux sociaux et les services en ligne que leurs enfants utilisent, ainsi que les contrôles de confidentialité. disponibles – puis utilisez ces contrôles de confidentialité », a-t-elle déclaré. "Il est important d'éduquer les enfants sur la sécurité en ligne, notamment sur les raisons pour lesquelles il est important d'éviter de partager des informations personnelles et... sur la permanence de ce qui est partagé en ligne."