Présentation

Stuart Russell est professeur à UC Berkeley, coauteur du manuel de référence Artificial Intelligence: A Modern Approach et de Human Compatible (voir notre page Livres), et dirige le Center for Human-Compatible AI, consacré à la recherche sur l’alignement (voir notre page dédiée).

Sur ce que pensent réellement les dirigeants du secteur

Dans le podcast The Diary of a CEO (4 décembre 2025), à propos des dirigeants des grands laboratoires : « Sam Altman, avant même de devenir PDG d’OpenAI, disait que créer une intelligence surhumaine est le plus grand risque pour l’existence humaine. » « Dario Amodei estime le risque d’extinction jusqu’à 25 %. » « Ils ont tous signé une déclaration en mai [20]23 […] qui dit essentiellement que l’AGI est un risque d’extinction du même niveau que la guerre nucléaire et les pandémies […] Je ne pense pas qu’ils le ressentent au fond d’eux […] ils sentent qu’ils ne peuvent pas échapper à cette course. »

Sur la régulation

Même entretien : « Le type de régulation dont vous avez besoin, c’est une régulation telle que si vous vous y conformez, le risque est réduit à un niveau acceptable. Si les entreprises d’IA de pointe ne peuvent pas s’y conformer, elles ne devraient pas être autorisées à publier leurs systèmes. »

Sur l’état actuel des systèmes

Même entretien : « Le type de systèmes d’IA que nous construisons actuellement, nous ne comprenons pas comment ils fonctionnent. » Et : « Je suis, en fait, consterné par le manque d’attention portée à la sécurité. »

Positions rapportées à partir d’une transcription de podcast identifiée. Ces propos n’engagent que leur auteur, pas notre rédaction.