30/05/2024
L'IA est-elle une menace de niveau nucléaire ?  Pourquoi les champs d'IA avancent tous en même temps, jeux de mots stupides - Cointelegraph Magazine

L’IA est-elle une menace de niveau nucléaire ? Pourquoi les champs d’IA avancent tous en même temps, jeux de mots stupides – Cointelegraph Magazine


Tout comme nous n’autorisons pas n’importe qui à construire un avion et à transporter des passagers, ou à concevoir et à commercialiser des médicaments, pourquoi devrions-nous autoriser la diffusion de modèles d’IA dans la nature sans tests et licences appropriés ?

C’est l’argument d’un nombre croissant d’experts et d’hommes politiques ces dernières semaines.

Alors que le Royaume-Uni organise un sommet mondial sur la sécurité de l’IA à l’automne et que des sondages suggèrent qu’environ 60% du public est en faveur de la réglementation, il semble que de nouvelles barrières de sécurité deviennent plus probables qu’improbables.

Un mème particulier qui s’impose est la comparaison de la technologie de l’IA avec une menace existentielle telle que l’arme nucléaire, comme dans un récent avertissement de 23 mots envoyé par le Center of AI Safety, qui a été signé par des centaines de scientifiques :

« Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. »

En prolongeant la métaphore, le PDG d’OpenAI, Sam Altman, fait pression pour la création d’un organisme mondial comme l’Agence internationale de l’énergie atomique pour superviser la technologie.

« Nous parlons de l’AIEA comme d’un modèle où le monde a dit : ‘OK, technologie très dangereuse, mettons tous des garde-fous' », a-t-il déclaré en Inde cette semaine.

Les libertaires soutiennent que surestimer la menace et appeler à des réglementations n’est qu’un stratagème des principales sociétés d’IA pour a) imposer un contrôle autoritaire et b) étrangler la concurrence par la réglementation.



Le professeur d’informatique de Princeton, Arvind Narayanan, a averti : « Nous devons nous méfier des Prométhéens qui veulent à la fois tirer profit du feu des gens et être dignes de confiance en tant que pompiers.

Netscape et le co-fondateur d’a16z, Marc Andreessen, ont publié une série de essais cette semaine sur sa vision technologique utopique de l’IA. Il a comparé les doomers de l’IA à « un culte apocalyptique » et a affirmé que l’IA n’était pas plus susceptible d’anéantir l’humanité qu’un grille-pain parce que : « L’IA ne veut pas, elle n’a pas d’objectifs – elle ne veut pas vous tuer parce que c’est pas vivant. »

Cela peut être vrai ou non – mais encore une fois, nous n’avons qu’une vague compréhension de ce qui se passe à l’intérieur de la boîte noire des « processus de pensée » de l’IA. Mais comme Andreessen l’admet lui-même, la planète est pleine d’humains déséquilibrés qui peuvent désormais demander à une IA de concevoir une arme biologique, de lancer une cyberattaque ou de manipuler une élection. Donc, cela peut être dangereux entre de mauvaises mains même si nous évitons le Skynet/Terminateur scénario.

La comparaison nucléaire est probablement très instructive dans la mesure où les gens se sont vraiment laissé emporter dans les années 1940 par les possibilités très réelles de la technologie nucléaire de mettre fin au monde. Certains membres de l’équipe du projet Manhattan étaient tellement inquiets que la bombe puisse déclencher un réaction en chaîneenflamment l’atmosphère et incinèrent toute vie sur Terre qu’ils ont poussé à l’abandon du projet.

Après le largage de la bombe, Albert Einstein est devenu tellement convaincu de l’ampleur de la menace qu’il a poussé à la formation immédiate d’un gouvernement mondial seul maître de l’arsenal.

Lire aussi

Caractéristiques

À quoi ressemble réellement l’utilisation de Bitcoin au Salvador

Caractéristiques

Travailler avec l’hydre : fournir des services aux organisations décentralisées

Le gouvernement mondial n’a pas vu le jour, mais la communauté internationale a pris la menace suffisamment au sérieux pour que les humains aient réussi à ne pas se faire exploser au cours des quelque 80 années qui ont suivi. Les pays ont signé des accords pour tester uniquement les armes nucléaires sous terre pour limiter les retombées radioactives et mettre en place des régimes d’inspection, et maintenant seuls neuf pays ont des armes nucléaires.

Dans leur podcast sur les ramifications de l’IA sur la société, Le dilemme de l’IATristan Harris et Aza Raskin plaident pour le déploiement en toute sécurité de modèles d’IA soigneusement testés.

« Je considère ce déploiement public de l’IA comme un test de l’IA en surface. Nous n’avons pas besoin de faire cela », a soutenu Harris.

« Nous pouvons présumer que les systèmes qui ont des capacités dont les ingénieurs ne savent même pas quelles seront ces capacités, qu’ils ne sont pas nécessairement sûrs jusqu’à preuve du contraire. Nous ne nous contentons pas de les pousser dans des produits comme Snapchat, et nous pouvons mettre la responsabilité sur les fabricants d’IA, plutôt que sur les citoyens, pour prouver pourquoi ils pensent que c’est (pas) dangereux.

Lisez aussi: Tout monte pour le juge robot – L’IA et la blockchain pourraient transformer la salle d’audience

Le génie est sorti de la bouteille

Bien sûr, réglementer l’IA pourrait être comme interdire le Bitcoin : bien en théorie, impossible en pratique. Les armes nucléaires sont une technologie hautement spécialisée comprise par une poignée de scientifiques dans le monde et nécessitent de l’uranium enrichi, qui est incroyablement difficile à acquérir. Pendant ce temps, l’IA open source est disponible gratuitement, et vous pouvez même télécharger un modèle d’IA personnel et l’exécuter sur votre ordinateur portable.

L’expert en intelligence artificielle Brian Roemmele dit qu’il est au courant de 450 modèles d’IA open source publics et «d’autres sont créés presque toutes les heures. Les modèles privés sont dans les centaines de milliers.

Roemmele est même en train de construire un système permettant à tout ancien ordinateur doté d’un modem commuté de pouvoir se connecter à une IA hébergée localement.

Les Émirats arabes unis viennent également de publier leur grand modèle d’IA open source appelé Faucon 40B modèle libre de droits à des fins commerciales et de recherche. Il affirme qu’il « surclasse des concurrents comme LLaMA de Meta et StableLM de Stability AI ».

Il existe même un générateur de vidéo AI text-to-video open-source appelé Potat 1, basé sur les recherches de Runway.

La raison pour laquelle tous les champs d’IA ont avancé en même temps

Nous avons assisté à une incroyable explosion des capacités de l’IA à tous les niveaux au cours de la dernière année, du texte de l’IA à la génération de vidéos et de chansons à l’édition de photos apparemment magique, au clonage de la voix et aux contrefaçons profondes en un clic. Mais pourquoi toutes ces avancées se sont-elles produites dans tant de domaines différents à la fois ?

Aza Raskin, mathématicienne et co-fondatrice du Earth Species Project, a donné une explication fascinante en anglais clair à ce sujet dans Le dilemme de l’IAsoulignant la percée qui a émergé avec le modèle d’apprentissage automatique Transformer.

Lire aussi

Caractéristiques

Rencontrez Dmitry: co-fondateur du créateur d’Ethereum, Vitalik Buterin

Caractéristiques

Bitcoin est sur une trajectoire de collision avec les promesses « Net Zero »

« Le genre d’idée était que vous pouvez commencer à traiter absolument tout comme un langage », a-t-il expliqué. « Ainsi, vous pouvez prendre, par exemple, des images. Vous pouvez simplement le traiter comme une sorte de langage, c’est juste un ensemble de patchs d’image que vous pouvez organiser de manière linéaire, puis vous prédisez simplement ce qui va suivre.

ChatGPT est souvent comparé à une machine qui prédit simplement le mot suivant le plus probable, vous pouvez donc voir les possibilités de pouvoir générer le «mot» suivant si tout ce qui est numérique peut être transformé en une langue.

«Ainsi, les images peuvent être traitées comme un langage, le son, vous le décomposez en petits noms de microphone, prédisez lequel de ceux-ci vient ensuite, cela devient un langage. Les données IRMf deviennent une sorte de langage, l’ADN n’est qu’un autre type de langage. Et si soudainement, toute avancée dans n’importe quelle partie du monde de l’IA est devenue une avancée dans toutes les parties du monde de l’IA. Vous pouvez simplement copier-coller, et vous pouvez voir comment les avancées sont maintenant immédiatement multiplicatives sur l’ensemble des domaines.

C’est et ce n’est pas comme Miroir noir

Beaucoup de gens ont observé que les progrès récents de l’intelligence artificielle semblent quelque chose d’extraordinaire Miroir noir. Mais le créateur Charlie Brooker semble penser que son imagination est considérablement plus impressionnante que la réalité, racontant à Empire Magazine qu’il avait demandé à ChatGPT d’écrire un épisode de Miroir noir et le résultat était « merde ».

« J’ai un peu joué avec ChatGPT », a déclaré Brooker. « La première chose que j’ai faite a été de taper » générer un épisode Black Mirror « et cela donne quelque chose qui, à première vue, se lit de manière plausible, mais au deuxième coup d’œil, c’est de la merde. » Selon Brooker, l’IA vient de régurgiter et d’écraser différentes intrigues d’épisodes dans un désordre total.

« Si vous creusez un peu plus profondément, vous vous dites: » Oh, il n’y a pas vraiment de véritable pensée originale ici «  », a-t-il déclaré.

Miroir noir
« Black Mirror » était meilleur pour prédire les avancées de l’IA que l’IA pour écrire des scripts « Black Mirror » (Netflix)

Photos IA de la semaine

L’un des avantages des programmes de génération d’images de synthèse vocale par IA est qu’ils peuvent transformer des jeux de mots jetables en images coûteuses qu’aucun graphiste ne pourrait prendre la peine de créer. Voici donc les merveilles du monde, mal orthographiées par l’IA (avec l’aimable autorisation de redditor mossymayn).

Vidéo de la semaine

Des chercheurs de l’Université de Cambridge ont présenté huit recettes de salade simples à un chef robot IA qui a ensuite pu préparer les salades lui-même et proposer une neuvième recette de salade par lui-même.

Andrew Fenton

Andrew Fenton

Basé à Melbourne, Andrew Fenton est un journaliste et éditeur couvrant la crypto-monnaie et la blockchain. Il a travaillé comme écrivain de divertissement national pour News Corp Australia, sur SA Weekend en tant que journaliste de cinéma et au Melbourne Weekly.





Source

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Please enter CoinGecko Free Api Key to get this plugin works.