15/10/2024
L'IA est confrontée à des risques « immenses » sans blockchain, selon le PDG de 0G Labs

L’IA est confrontée à des risques « immenses » sans blockchain, selon le PDG de 0G Labs



Dans une interview avec Cointelegraph à Token2049, Michael Heinrich, PDG de 0G Labs, a expliqué que l’intelligence artificielle présente des risques importants si elle n’est pas intégrée à la technologie blockchain.

Heinrich a souligné les dangers de la dépendance à l’égard des systèmes d’IA centralisés et a plaidé en faveur d’une gouvernance décentralisée pour empêcher une utilisation abusive potentielle des systèmes d’IA dans des domaines critiques de la société.

« Disons que ce sont des robots humanoïdes avec des agents IA à l’intérieur. Un jour, le modèle se réveille et se dit : « Et si j’utilisais cela pour renverser le gouvernement et obtenir des récompenses bien plus importantes ? »

En rapport: Les scientifiques de l’IA appellent à un « plan d’urgence » au cas où les humains perdraient le contrôle de l’IA

La décentralisation comme solution

Selon Heinrich, l’un des principaux avantages de la technologie blockchain est la capacité de rendre les systèmes d’IA plus transparents et responsables de leurs actions.

Il a discuté de la fonctionnalité de l’IA décentralisée et de la manière dont elle permet une vérification indépendante des actions entreprises par les agents de l’IA.

« Avec l’IA décentralisée, vous obtenez une visibilité sur tout cela, de sorte que lorsque vous avez ces grandes choses sociales qui peuvent être automatisées […] « Vous pouvez réellement vérifier de manière indépendante que quelque chose a vraiment été fait. »

Heinrich a expliqué que ce niveau de transparence pourrait empêcher les systèmes d’IA de prendre des décisions incontrôlées qui pourraient avoir des conséquences importantes sur la logistique, les systèmes administratifs et d’autres secteurs automatisés.

En rapport: Hong Kong prépare des lignes directrices sur l’IA pour le secteur financier

Heinrich met en garde contre l’IA centralisée

L’une des plus grandes préoccupations de Heinrich concernait les risques posés par les systèmes d’IA centralisés, qui pourraient évoluer au-delà de la simple intervention humaine, comme l’intelligence artificielle générale (AGI).

« Le risque est qu’à un moment donné, ces agents IA hyper-intelligents […] « Nous nous rendons compte qu’ils n’ont plus besoin des humains. Nous pouvons tout simplement mieux gérer cela nous-mêmes. »

Heinrich souligne que ces systèmes d’IA pourraient théoriquement devenir autonomes sans blockchain comme mécanisme de gouvernance, supprimant potentiellement toute transparence de leurs processus décisionnels.

En rapport: Microsoft va ouvrir deux centres d’IA à Abu Dhabi

0G Labs lève 35 millions de dollars pour l’IA onchain

Le 25 mars, 0G Labs a annoncé avoir finalisé avec succès un tour de financement de pré-amorçage de 35 millions de dollars pour créer sa solution d’IA modulaire onchain.

Le financement a vu plus de 40 institutions natives de la cryptographie, dont Hack VC et Blockchain Builders Fund, investir dans 0G Labs pour créer une plate-forme de formation et d’exploitation d’IA blockchain full-stack.

Dans l’interview du 18 septembre, Heinrich a déclaré que 0G Labs « veut intégrer l’abondance dans le système » et estime que « le seul moyen d’y parvenir est d’utiliser la blockchain ».

Revue: Un changement proposé pourrait sauver Ethereum de la « feuille de route vers l’enfer » de L2