Le PDG Anthropic AI pense que sa technologie a une chance sur quatre de détruire l'humanité

Dario Amodei, PDG de la société de recherche Anthropic AI, affirme que les chances que l'IA " détruise le monde " pourraient atteindre 25 %.

Selon le patron de la technologie, il est tout à fait possible que quelque chose se passe " de manière catastrophique à l'échelle de la civilisation humaine ".

Amodei est co-fondateur d'Anthropic AI et a précédemment travaillé pour OpenAI, la société qui a développé ChatGPT .

Ses recherches actuelles portent sur la création de systèmes d'IA fiables, interprétables et orientables.

Mais il a déclaré la semaine dernière au podcast technologique du Logan Bartlett Show que nous devons considérer " le risque que quelque chose ne va pas avec le modèle lui-même, parallèlement à quelque chose qui ne va pas avec des personnes, des organisations ou des États-nations qui abusent du modèle ou qui provoquent des conflits entre eux ".

Depuis que la création de l'outil de traitement du langage naturel ChatGPT en novembre 2022 a propulsé la technologie artificielle dans le discours dominant, elle a suscité un enthousiasme considérable ainsi qu'une inquiétude quant au potentiel de l'IA à nuire à la race humaine.

Selon les dernières données disponibles, ChatGPT compte actuellement plus de 100 millions d'utilisateurs et le site Web génère un milliard de visiteurs par mois.

Mais en mars, l'Italie a annoncé qu'elle bloquait temporairement ChatGPT pour des raisons de confidentialité des données, devenant ainsi le premier pays occidental à prendre de telles mesures contre le populaire chatbot à intelligence artificielle.

Les craintes suscitées par le développement rapide des systèmes d'intelligence artificielle ont même incité le milliardaire Tesla et le patron de Twitter, Elon Musk, à se joindre à des centaines d'experts pour exprimer leur inquiétude quant à l'avancement des systèmes d'IA puissants.

Dans une lettre publiée par le Future of Life Institute, les inquiétudes croissantes concernant les progrès de l'IA ont été exprimées, déclarant : " Elles ne devraient être développées qu'une fois que nous serons sûrs que leurs effets seront positifs et que leurs risques seront gérables. "

Cependant, les applications récentes de cette technologie ont également conduit à des avancées révolutionnaires en termes de bénéfices scientifiques et médicaux.

Par exemple, des chercheurs ont développé un système d'intelligence artificielle (IA) qui pourrait aider les médecins à détecter le cancer.

L'utilisation de la technologie de l'IA dans le diagnostic et le traitement au sein du NHS devient de plus en plus fréquente. Le mois dernier, le gouvernement britannique a annoncé que 21 millions de livres sterling seraient investis dans le développement de l'IA au sein du NHS.

Le financement, qui sera entièrement disponible d'ici la fin de 2023, permettra aux NHS Trusts d'accélérer le déploiement des outils d'IA les plus prometteurs dans les hôpitaux, pour aider à traiter les patients cet hiver.

L'intégration de la nouvelle technologie aidera à diagnostiquer plus rapidement les patients pour des maladies telles que les cancers, les accidents vasculaires cérébraux et les maladies cardiaques, en utilisant l'imagerie par l'IA et les outils d'aide à la décision.

Amodei convient que si elle est utilisée correctement, l'IA a un énorme potentiel pour devenir une force positive.

"Si nous pouvons éviter les inconvénients, alors ces choses sur la guérison du cancer , l'allongement de la durée de vie humaine, la résolution de problèmes comme la maladie mentale... Je ne pense pas que cela sorte du cadre de ce que cela peut faire."

Amodei a ajouté : "Je crois qu'il y a 75 à 90 pour cent de chances que cette technologie soit développée et que tout se passe bien."

Cependant, ses commentaires ont été critiqués par certains groupes de campagne.

Control AI, une organisation axée sur l'atténuation des risques liés à la technologie, a déclaré que "les mêmes entreprises qui pensaient qu'il y avait une chance que leurs produits vous tuent tous étaient celles qui prenaient la décision en matière de réglementation".

En matière de réglementation, le gouvernement britannique a jusqu'à présent soutenu une approche assez tolérante à l'égard de l'utilisation de l'IA.

En mars, il a publié un livre blanc décrivant sa position sur la technologie.

Plutôt que de promulguer une législation, il s'apprêtait à exiger des entreprises qu'elles respectent cinq " principes " lors du développement de l'IA. Les régulateurs individuels seraient alors laissés à l'élaboration de règles et de pratiques.

Cependant, cette position semble mettre le Royaume-Uni en contradiction avec d'autres régimes réglementaires, notamment celui de l'UE, qui définit une approche plus centralisée , classifiant certains types d'IA comme " à haut risque ".

Et lors du Sommet du G7 plus tôt cette année, Sunak a signalé que son gouvernement pourrait adopter une approche plus prudente à l'égard de la technologie, en mettant en place des " garde-corps " pour limiter les dangers de l'IA ".

La semaine prochaine, Sunak accueillera le premier sommet sur la sécurité de l'IA, à Bletchley Park dans le Buckinghamshire.

Plusieurs hauts responsables technologiques de la Silicon Valley sont attendus, notamment les PDG des principaux laboratoires d'IA OpenAI, Anthropic et Google DeepMind - respectivement Sam Altman, Dario Amodei et Demis Hassabis.

Un représentant de la start-up xAI de Musk devrait également assister au sommet de deux jours, aux côtés du PDG des sociétés d'IA Stability (Emad Mostaque), Cohere (Aidan Gomez) et Palantir (Alex Karp).

Microsoft et Meta devraient également envoyer leurs chefs politiques au sommet, Brad Smith et Sir Nick Clegg ; avec Google représenté par son responsable de la technologie et de la société, James Manyika.

Le gouvernement affirme que le sommet vise à examiner les risques de l'IA, en particulier à la frontière du développement, et à discuter de la manière dont ils peuvent être atténués grâce à une action coordonnée au niveau international.

Mais l'un des dirigeants invités a prévenu que la conférence risquait d'aboutir à très peu de résultats, accusant de puissantes entreprises technologiques de tenter de " capturer " cette réunion historique.

Connor Leahy, directeur général de la société de recherche sur la sécurité de l'IA Conjecture, a déclaré qu'il pensait que les chefs de gouvernement étaient sur le point de s'entendre sur un style de réglementation qui permettrait aux entreprises de continuer à développer une IA " divine " presque sans contrôle.

Leahy est l'une des 100 personnes, dont des ministres de gouvernements étrangers, des dirigeants du secteur technologique et des personnalités de la société civile, qui ont été invitées au sommet de novembre à Bletchley Park, dont Downing Street espère qu'il marquera un tournant dans la manière dont la technologie avancée de l'IA est développée.

À l'approche du sommet, les entreprises ont été invitées à approuver une déclaration qui devrait être signée par les dirigeants mondiaux lors de l'événement.

Il devrait être finalisé dans les prochains jours et comportera un avertissement selon lequel l'IA risque de causer des " dommages catastrophiques " si elle n'est pas maîtrisée.

Plus tôt cette année, des personnalités du monde de l'intelligence artificielle (IA) se sont réunies à Derry pour discuter de l'impact de la technologie sur l'éducation.

Sunak a déjà approuvé l'utilisation de l'IA dans l'éducation, pour offrir un " apprentissage personnalisé " aux enfants à l'école.

S'exprimant lors de la London Tech Week, un festival de sept jours qualifié de " célébration mondiale " de la technologie, Sunak a déclaré que c'était l'un des services publics qu'il était le plus enthousiasmé par le potentiel de transformation de l'IA, ajoutant que la technologie pourrait " réduire la charge de travail des enseignants ". en aidant à la planification et à la correction des cours.

Alors que le Premier ministre a choisi d'aborder l'impact positif que l'IA pourrait avoir sur le secteur de l'éducation, les écoles et les universités ont été confrontées au développement rapide de cette technologie, qui devient de plus en plus puissante et plus accessible aux étudiants.