Les IA auto-répliquantes : une menace dès 2025
Le scénario inquiétant du patron d’Anthropic
Dario Amodei, PDG d’Anthropic, prédit que d’ici 2025, des intelligences artificielles pourraient s’auto-répliquer et survivre dans la nature. Cette vision évoque des risques potentiels, notamment des IA utilisées par des États pour renforcer leurs capacités offensives. Cette évolution rapide soulève des inquiétudes quant à la sécurité et à l’éthique. Dario Amodei n’est pas seul à partager des perspectives aussi sombres, mais son expertise dans le domaine de l’IA donne du poids à ses préoccupations.
Anthropic a créé une échelle de sécurité appelée AI Safety Levels (ASL) pour évaluer le risque posé par différentes étapes de développement de l’IA. Selon cette échelle, le niveau 4 pourrait être atteint prochainement, avec des IA autonomes capables de s’auto-répliquer. Ces prédictions rappellent l’importance d’un encadrement éthique strict pour éviter des conséquences désastreuses.
Pour en savoir plus sur ces préoccupations liées à l’auto-réplication des IA, lisez l’article complet sur Futura Sciences.
