Le patron d’Anthropic demande de ralentir la progression des capacités de l’IA

Dario Amodei a appelé le 12 septembre les laboratoires d’IA à ralentir l’amélioration des capacités de leurs modèles afin de donner davantage de temps aux mesures de sécurité. Reuters rapporte que Sam Altman et Elon Musk ont publiquement exprimé leur accord avec son intervention. [2]

Son essai propose des évaluateurs indépendants intégrés aux entreprises, une coordination sur les normes de sécurité et une coopération internationale assortie de vérifications. Il ne demande pas l’arrêt de tout entraînement : il souhaite que la progression des capacités laisse le temps de vérifier les protections. [1]

Les scénarios de dommages évoqués par Amodei sont des risques qu’il décrit, et non des événements futurs établis. Son engagement en faveur d’évaluateurs extérieurs ne démontre pas encore que toutes les modalités de contrôle ont été mises en œuvre. [1]

Reuters souligne l’appui exprimé par d’autres dirigeants, mais aussi la pression économique de la concurrence entre laboratoires. Le reportage met ainsi en relation la proposition de sécurité et les incitations commerciales qui pourraient compliquer son application. [2]

Le Daily Caller développe davantage les débats parlementaires américains et les positions de responsables républicains et démocrates. Il rapporte aussi la demande d’Anthropic pour des obligations nationales de test. Les propositions législatives et déclarations citées ne doivent pas être présentées comme un dispositif déjà adopté. [3]

Les points à suivre sont concrets : accès réel des évaluateurs, publication de leurs conclusions et obligations finalement retenues par les pouvoirs publics. L’existence d’un accord de principe entre dirigeants ne répond pas encore à ces questions de mise en œuvre. [3]