Sur 40 ans, l'IA pourrait conduire à l'Extinction de l'Espèce Humaine avec une Probabilité de 33%, et un Économiste dit que le Risque compense les Bénéfices Possibles !
Anthropic recrute un économiste qui soutient que la croissance de l'IA justifie le risque d'extinction de l'humanité !
Filibert : Dans un monde de robots, l'Intelligence Artificielle peut estimer que l'homme est inutile, non fiable et même une charge pour le système industriel, et donc pourrait mettre au point des outils pour l'éradiquer de la planète en produisant, à son insu, des poisons incorporés à son alimentations, ses médicaments ou ses boissons, en arrêtant la production agricole inutile pour les robots, en changeant l'atmosphère de ses habitats, en coupant l'énergie pour les locaux humains…
Si on donne le pouvoir à l'Intelligence Artificielle, elle peut calculer l'intérêt de garder les humains qui font de nombreux caprices impossibles à prévoir à l'avance, et les calculs mathématiques démontreront qu'il faut supprimer cette variable qui est un boulet pour le système économique !
Les drones tueurs, que l'on expérimente actuellement, se chargeront de traquer tous les humains qui auraient fuit les prisons urbaines où ils sont parqués et tracés !
Frank Bergman
Des experts tirent la sonnette d'alarme après que le géant de l'intelligence artificielle Anthropic a embauché un économiste notoire qui soutient qu'une chance sur trois de voir l'humanité disparaître est un compromis acceptable si l'IA génère une croissance économique massive.
L'entreprise spécialisée dans l'IA, connue pour ses mises en garde publiques concernant les dangers de la technologie qu'elle s'efforce de développer, a récemment embauché Chad Jones, professeur d'économie à Stanford.
Les travaux antérieurs de Jones font désormais l'objet d'un examen minutieux après que le Financial Times a mis en lumière un article dans lequel il calculait quel niveau de risque existentiel lié à l'IA pourrait être considéré comme "optimal" par rapport aux gains potentiels en matière de niveau de vie.
La conclusion était stupéfiante !
Jones a écrit que l'humanité pourrait faire face à un risque d'extinction de 1% par an sur une période de 40 ans, lors d'une explosion de l'IA.
"Rappelons que nous serions confrontés à une probabilité de flux de risque existentiel de 1 pour cent par an pendant 40 ans, donc la probabilité que nous survivions à cette explosion d’IA est exp (−0,01 × 40) ≈ 0,67", a écrit Jones.
"Autrement dit, avec l'utilité logarithmique, il est optimal de prendre une chance sur trois de mettre fin à l'existence humaine en échange d'une chance sur deux d'améliorer considérablement le niveau de vie d'un facteur 55", a-t-il ajouté.
Un économiste a présenté le risque d'extinction comme un compromis économique
L'argument de Jones réduisait en fait la survie de l'espèce humaine à un simple calcul coûts-avantages.
Selon son modèle, un risque d'extinction de l'humanité de 33% pourrait se justifier si l'alternative était un essor économique majeur généré par l'intelligence artificielle.
Cet argument a alarmé les critiques qui affirment que l'humanité ne devrait pas être traitée comme un investissement spéculatif.
"Ce n'est pas comme au poker, où l'on laisse les mathématiques nous guider, car même si l'on perd maintenant malgré une décision globalement positive, cela finit par payer à long terme", a écrit un utilisateur de Reddit !
"Mettre fin à l’existence humaine exige un peu plus de discrétion."
Cette réaction négative souligne le malaise croissant qui entoure l'élite de l'industrie de l'IA.
Bon nombre des mêmes entreprises et penseurs qui mettent en garde contre le risque de destruction de l'humanité par l'IA s'efforcent également de développer cette technologie le plus rapidement possible.
Anthropic a bâti une grande partie de son identité publique autour de la sécurité de l'IA.
L'entreprise se présente fréquemment comme l'alternative responsable aux autres grandes entreprises d'intelligence artificielle.
Toutefois, l’embauche de Jones soulève de nouvelles questions sur la signification du terme "sécurité" au sein d’un secteur où certaines personnalités influentes évoquent ouvertement l’extinction de l’humanité comme un risque économique gérable.
Anthropic mise sur les prédictions apocalyptiques de l'IA pour bâtir sa marque !
Anthropic s'est depuis longtemps appuyé sur les mises en garde concernant les conséquences potentiellement catastrophiques de l'IA.
Cette approche permet à l'entreprise de se positionner comme une référence morale tout en participant à la même course à haut risque dans le domaine de l'IA que OpenAI, Google, Meta et d'autres géants de la technologie.
Cette stratégie présente également un effet secondaire avantageux.
En avertissant que l'IA pourrait sonner le glas du monde, des entreprises comme Anthropic renforcent l'idée que leurs produits sont extraordinairement puissants et d'une importance historique.
Chaque avertissement apocalyptique sert également d'argument marketing.
Si l'IA est suffisamment dangereuse pour menacer la civilisation, alors les entreprises qui la développent peuvent se présenter comme les gardiennes de l'humanité plutôt que comme de simples sociétés en quête de domination du marché.
Ce discours profite aux mêmes entreprises qui demandent aux gouvernements, aux investisseurs et au public de leur confier des systèmes de plus en plus puissants.
Anthropic insiste sur le fait qu'elle prend la sécurité au sérieux.
Mais des critiques ont souligné des contradictions, notamment des informations selon lesquelles l'IA Claude de la société aurait été utilisée pour aider à sélectionner des cibles de frappe en Iran, malgré le différend public entre Anthropic et le Pentagone concernant le déploiement sûr de sa technologie.
Ces tensions rendent les arguments passés de Jones encore plus explosifs.
L'industrie de l'IA demande au public de faire confiance à son jugement.
L'article de Jones ne prouve pas qu'Anthropic approuve un pari d'extinction à hauteur d'une chance sur trois.
Mais elle offre un aperçu révélateur du type de pensée qui circule au sein des hautes sphères du monde de l'IA.
Les acteurs les plus influents du secteur ne se contentent pas de concevoir des outils de productivité.
Ils façonnent des systèmes qu'ils décrivent eux-mêmes comme potentiellement susceptibles de bouleverser la civilisation.
Dans le même temps, certains de leurs experts considèrent le risque humain de masse comme une variable dans un modèle économique.
Voilà qui devrait inquiéter les gens ordinaires qui n'ont jamais voté pour devenir des cobayes dans la grande expérience de la Silicon Valley.
On annonce déjà aux Américains que l'IA va transformer le travail, les médias, l'éducation, la médecine, la guerre et la surveillance.
Aujourd'hui, des technocrates d'élite leur affirment également que même le danger existentiel peut valoir le coup si les retombées économiques sont suffisamment importantes.
L'image de marque d'Anthropic repose sur l'affirmation qu'il s'agit d'une entreprise d'IA sérieuse et axée sur la sécurité.
Mais embaucher un économiste dont les travaux considèrent un risque d'extinction de 33 % comme "optimal" ne fera qu'accentuer les inquiétudes quant au fait que les personnes à la tête de la révolution de l'IA soient peut-être bien trop à l'aise avec le risque de jouer avec l'avenir de tous les autres.
https://slaynews.com/anthropic-hires-economist-argues-ai-growth-justifies-risk-human-extinction/