Okay c’est intéressant, on parle beaucoup du risque de l’IA… mais rarement de la manière concrète de l’arrêter. Six chercheurs viennent donc de publier AI 2040, un plan détaillé pour ralentir la course mondiale avant l’apparition de systèmes plus intelligents que l’humain.
Leur idée : contrôler les data centers comme des centrales nucléaires. Au-delà de 10 000 puces Nvidia H100, soit environ 100M$ d’équipement, entraîner une nouvelle IA nécessiterait une autorisation. Les États déclareraient leurs installations, les fabricants révéleraient leurs clients et des inspecteurs viendraient physiquement compter les puces.
Les futurs labo ressembleraient donc à des bases militaires. Cage de Faraday, communications coupées d’Internet, personnel limité, débit extérieur plafonné à 1 Mo/s…
Pour déplacer un modèle, les auteurs imaginent même des disques chiffrés nécessitant l’accord simultané des États-Unis et de la Chine. Aucun des deux pays ne pourrait ainsi s’en emparer ou l’utiliser secrètement.
Que penser de ces idées ?
1) Que l’Europe est officiellement reléguée au rang de spectatrice, vue qu’elle n’est citée nulle part (à part pour faire signer le traité à Versailles, à la limite).
2) Tout repose sur une coopération presque irréaliste. Les États-Unis et la Chine devraient révéler leurs infrastructures les plus sensibles, accepter des inspections étrangères et croire que l’autre camp ne triche pas… mission impossible.