L’intelligence artificielle était à nouveau au cœur des discussions lors du Web Summit annuel à Lisbonne, au Portugal. Lors de la journée de clôture de l’événement, la lanceuse d’alerte et militante Chelsea Manning a exprimé son inquiétude face au développement de l’intelligence artificielle et au choc entre l’humain et la technologie.
« Nous vivons à une époque où nous sommes entourés de technologie », a déclaré Manning. « J’ai rencontré de nombreux exemples de ce conflit entre les humains que nous sommes et la technologie, et la façon dont la technologie façonne la façon dont nous interagissons les uns avec les autres, et comment les institutions en font partie. »
Manning dit que sa vie a été façonnée par son exposition au monde numérique, notamment en étant sans abri, en rejoignant l’armée et en allant en prison pour avoir divulgué des documents militaires à WikiLeaks en 2010.
« Je laisse cela déterminer la manière dont j’intègre, perçois la technologie et souhaite construire un avenir plus grand et meilleur », a déclaré Manning.
Manning s’est interrogé sur les motivations derrière le développement rapide de la technologie de l’IA, à qui cette technologie bénéficiera en fin de compte et si la poussée vers l’intelligence artificielle banalise la vie quotidienne.
« Sommes-nous simplement en train d’oublier l’élément humain et de transformer chaque interaction que nous avons au quotidien en une marchandise ? » a déclaré Manning. « Cette marchandise nous permet de faire quelque chose d’aussi simple que de glisser sur une application ou de cliquer sur une jolie petite icône en forme de cœur. »
Qualifiant l’intelligence artificielle et les grands modèles de langage de mots à la mode, Manning a souligné la grande quantité de données avec lesquelles ces modèles sont formés, citant Wikipédia, des manuels, des vidéos et des images comme exemples.
Manning a souligné que, contrairement aux fichiers sur un serveur, ces données sont intégrées dans les poids et centrages du modèle et ne peuvent pas être simplement supprimées, ce qui contraste avec le règlement général sur la protection des données de l’Union européenne (RGPD) et le droit à la vie privée, où les individus peuvent demander la suppression des données.
« Je pense qu’il nous incombe, en tant que technologues, de développer des outils qui tiennent compte du fait que les gens ont besoin d’un semblant de vie privée et que les communications ne devraient pas être une ressource qui peut être extraite et marchandisée. » » a déclaré Manning. « Je ne veux pas vivre dans un monde où les relations que nous entretenons n’ont qu’une valeur numérique. »
Avec les grands modèles linguistiques, a prévenu Manning, une fois que les informations personnelles ou privées d’une personne sont incorporées, elles deviennent une partie permanente du modèle, rendant leur suppression impossible.
En 2021, Manning a rejoint la société suisse Nym Technologies en tant que consultant en sécurité et défenseur de la vie privée. Nym Technologies a lancé son projet Nym, une plateforme d’identité décentralisée axée sur la confidentialité, en 2020 sur la blockchain Cosmos.
« Je pense que mon objectif plus large et général est sur l’importance d’avoir un semblant de confidentialité – grâce au cryptage ou grâce aux moyens techniques et technologiques dont nous disposons – et de pouvoir l’utiliser de manière intuitive », a déclaré Manning. « Cela ne devrait pas être difficile, et cela ne devrait pas être difficile à utiliser. »
Manning a également souligné la montée et l’augmentation des deepfakes générés par l’IA.
« Les choses qui ont retenu mon attention au cours des six derniers mois n’ont pas été le fait que les gens utilisent des deepfakes dans le discours et les discussions publiques, mais le fait qu’ils peuvent être créés et le fait qu’ils existent et sont utilisés pour semer le doute. sur des informations réelles vérifiées », a déclaré Manning. « Je pense que cette tendance amène de plus en plus les gens à remettre en question leur propre réalité. »
Alors que les deepfakes sont devenus plus avancés, les décideurs politiques craignent qu’ils puissent influencer les prochaines élections ou alimenter la haine en ligne. Une solution proposée par Manning consistait à utiliser la cryptographie pour vérifier les informations.
Manning a déjà dit Décrypter que Bitcoin a fait appel à sa passion pour la cryptographie, la sécurisation des informations et la construction de réseaux cryptographiques décentralisés.
« Je sais qu’il est attrayant de pouvoir dire que je peux choisir ma propre réalité, je peux choisir ce que j’aime », a déclaré Manning. « Mais la réalité est que le monde matériel physique réel va se heurter à cela à un moment donné. Et je pense que, s’agissant notamment du climat, nous ne pourrons pas faire semblant de l’ignorer.»
Edité par Ryan Ozawa.
