Demis Hassabis avertit que la course mondiale à l'IA menace l'espèce humaine

Introduction : quand le créateur s'inquiète de sa propre création

Un avertissement rare venant d'un initié

Demis Hassabis, cofondateur et directeur général de Google DeepMind, lauréat du prix Nobel de chimie 2024 pour ses travaux sur AlphaFold, a lancé cette année l'un des avertissements les plus directs jamais formulés par un dirigeant en exercice d'un laboratoire d'intelligence artificielle de premier plan. Selon des propos rapportés par plusieurs médias spécialisés, il a qualifié l'intelligence artificielle de risque de « niveau espèce », un terme qui place cette technologie aux côtés des armes nucléaires et du changement climatique dans la hiérarchie des menaces existentielles pour l'humanité.

Ce n'est pas la première fois que Hassabis exprime ce genre d'inquiétude, mais la fermeté de son langage marque une escalade rhétorique notable de la part d'un homme qui dirige pourtant l'un des laboratoires les plus avancés dans cette même course technologique qu'il décrit comme potentiellement dangereuse.

Un homme au centre de la tempête technologique

Lors d'une intervention à l'université Stanford aux côtés du président Jonathan Levin, Hassabis a décrit l'intelligence artificielle comme une « transition de niveau espèce », affirmant que l'humanité dispose d'une « marge d'erreur limitée » au cours de la prochaine décennie. Il a comparé la vitesse actuelle des avancées technologiques à un rythme environ dix fois supérieur à celui de la révolution industrielle.

Cette position singulière, celle d'un bâtisseur qui alerte sur les dangers de ce qu'il construit lui-même, illustre la tension fondamentale qui traverse toute l'industrie de l'intelligence artificielle contemporaine, entre ambition technologique et responsabilité éthique.

Les deux grandes catégories de risques identifiées par Hassabis

Le problème des acteurs malveillants

Selon les propos de Hassabis rapportés par la BBC lors du sommet AI Impact à New Delhi, la première grande catégorie de risque concerne l'utilisation malveillante de technologies conçues initialement pour des fins bénéfiques. Des outils développés pour accélérer la recherche médicale ou automatiser le développement logiciel pourraient être détournés pour mener des cyberattaques, orchestrer des campagnes de désinformation, ou même faciliter la conception d'armes biologiques.

Cette double nature des technologies d'intelligence artificielle, à la fois porteuses d'immenses bénéfices et de risques sérieux, complique considérablement la tâche des régulateurs cherchant à encadrer leur développement sans freiner leurs applications positives légitimes pour la société.

Le risque de perte de contrôle sur des systèmes autonomes

La seconde catégorie de risque identifiée touche à l'autonomie croissante des systèmes d'intelligence artificielle eux-mêmes. À mesure que ces systèmes deviennent plus capables de planifier et d'agir avec moins de supervision humaine directe, le risque que ces systèmes agissent de manières non anticipées par leurs concepteurs augmente proportionnellement, un phénomène que Hassabis décrit comme particulièrement difficile à anticiper et à contrôler.

« Ces systèmes deviennent constamment plus capables, et à mesure qu'ils deviennent plus autonomes, ils deviennent à la fois plus utiles et plus dangereux », a-t-il déclaré, selon des propos relayés par plusieurs médias technologiques spécialisés.

L'appel à une gouvernance internationale de type onusien

Un « ONU technique » pour l'intelligence artificielle

Hassabis a plaidé à plusieurs reprises pour la création d'une structure de gouvernance internationale qu'il compare à une sorte d'« ONU technique » pour l'intelligence artificielle, combinant des éléments empruntés au CERN, à l'Agence internationale de l'énergie atomique et à un organisme de gouvernance dédié spécifiquement aux enjeux de sécurité de l'intelligence artificielle avancée.

Cette proposition s'appuie sur un précédent que Google DeepMind avait déjà formulé en 2023 dans une publication détaillant des pistes concrètes pour une gouvernance mondiale de l'intelligence artificielle, incluant la création de plusieurs organisations intergouvernementales spécialisées dans ce domaine technologique en pleine expansion.

Un précédent historique invoqué avec prudence

En comparant l'intelligence artificielle aux armes nucléaires et au changement climatique, Hassabis invoque des précédents historiques où l'humanité a réussi, avec des résultats variables, à établir des cadres multilatéraux de gestion de risques existentiels partagés. Cette comparaison n'est pas anodine: elle suggère que, selon lui, la technologie de l'intelligence artificielle a désormais atteint un seuil de dangerosité comparable à ces autres menaces globales bien documentées.

Reste que la mise en œuvre concrète d'un tel cadre international se heurte à des obstacles diplomatiques considérables, notamment les tensions géopolitiques croissantes entre les grandes puissances technologiques mondiales que sont les États-Unis et la Chine.

Washington résiste à l'idée d'une gouvernance mondiale

Une opposition américaine ferme et assumée

Malgré les appels répétés de Hassabis et d'autres dirigeants technologiques en faveur d'une coordination internationale, la délégation américaine a signalé, lors du sommet de New Delhi, une opposition ferme à toute notion de « gouvernance mondiale » de l'intelligence artificielle, arguant que l'innovation ne devrait pas être confiée à des « bureaucraties internationales et un contrôle centralisé ».

Cette position reflète une orientation politique plus large privilégiant la compétitivité et l'accélération technologique plutôt que la retenue réglementaire, une approche qui contraste nettement avec le cadre plus contraignant adopté par l'Union européenne à travers son AI Act.

Une fragmentation réglementaire mondiale qui inquiète

Cette divergence d'approches entre les grandes puissances occidentales crée ce que certains analystes appellent un risque de « splinternet de conformité », où un même produit d'intelligence artificielle ferait face à des exigences réglementaires radicalement différentes selon les marchés, compliquant considérablement la tâche des entreprises technologiques opérant à l'échelle mondiale.

Cette fragmentation réglementaire pourrait, paradoxalement, affaiblir la capacité collective de l'Occident à établir des normes de sécurité communes face à des rivaux qui, eux, avancent sans nécessairement se soucier des mêmes contraintes éthiques ou réglementaires.

La Chine, rivale technologique à surveiller de près

Un écart qui se referme plus vite que prévu

Hassabis a lui-même reconnu, dans une interview accordée à CNBC, que les modèles d'intelligence artificielle chinois pourraient n'être qu'à « quelques mois » de retard par rapport à leurs équivalents occidentaux, une évaluation qui contraste avec des perceptions plus optimistes sur l'avance technologique occidentale répandues il y a encore deux ans.

Il a toutefois nuancé cette évaluation en soulignant que les entreprises chinoises n'ont pas encore démontré leur capacité à produire des innovations véritablement révolutionnaires, se limitant plutôt à s'approcher de la frontière technologique existante sans la dépasser de manière significative jusqu'à présent.

Une course qui pourrait basculer rapidement

Cette évaluation nuancée n'enlève rien à l'urgence du message de Hassabis: l'avance occidentale, aussi réelle soit-elle actuellement, pourrait s'évaporer rapidement si les investissements et les efforts de recherche fondamentale ne sont pas maintenus à un niveau suffisant face à une concurrence chinoise déterminée et massivement financée par l'État.

C'est précisément cette fragilité de l'avance occidentale qui justifie, selon plusieurs analystes en géopolitique technologique, un investissement soutenu et coordonné entre alliés occidentaux plutôt qu'une compétition interne stérile entre laboratoires américains et européens.

La dynamique de course qui inquiète jusqu'aux dirigeants eux-mêmes

Quand la compétition prime sur la prudence

Selon des reportages relayés par Axios, Hassabis a averti que les « conditions de course », c'est-à-dire l'urgence de dépasser des concurrents ou des nations rivales, peuvent conduire à des décisions précipitées à mesure que le monde s'approche de l'ère de l'intelligence artificielle surhumaine. Cette dynamique concurrentielle touche autant les laboratoires entre eux que les nations entre elles.

Même Anthropic, considéré comme l'un des laboratoires les plus prudents en matière de sécurité, a récemment ajusté ses protocoles de sécurité, restreignant les circonstances dans lesquelles l'entreprise reporterait le développement ou la sortie d'un modèle jugé potentiellement à haut risque catastrophique.

Un dialogue entre rivaux malgré tout

Fait notable, selon des propos rapportés lors du forum de Davos 2026, le directeur général d'Anthropic, Dario Amodei, a suggéré qu'un accord de ralentissement coordonné entre les principaux laboratoires occidentaux, dont Google DeepMind, pourrait être envisageable, à condition que l'accès aux puces avancées soit restreint pour les rivaux géopolitiques comme la Chine. Hassabis aurait acquiescé à cette proposition lors de l'échange public.

Cette convergence entre deux dirigeants habituellement concurrents sur le marché illustre la gravité perçue des enjeux, suffisamment sérieuse pour transcender temporairement les rivalités commerciales habituelles entre grandes entreprises technologiques occidentales.

Les bénéfices potentiels que Hassabis ne veut pas ignorer

Guérir des maladies et accélérer la découverte scientifique

Malgré ses avertissements sur les risques, Hassabis reste convaincu que l'intelligence artificielle représente également l'une des technologies les plus bénéfiques de l'histoire humaine si elle est développée avec suffisamment de prudence. Il évoque régulièrement l'espoir que ces technologies permettent, à terme, de guérir des maladies actuellement incurables, de ralentir le vieillissement biologique et de percer les mystères de maladies comme Alzheimer.

Ce double discours, entre optimisme scientifique et prudence existentielle, reflète honnêtement la complexité réelle de cette technologie plutôt qu'une position simpliste, qu'elle soit purement alarmiste ou aveuglément optimiste sur ses conséquences futures.

Une nature duale qui exige un équilibre délicat

Hassabis compare régulièrement l'intelligence artificielle à l'énergie nucléaire: une technologie à double usage, capable du meilleur comme du pire selon la manière dont elle est encadrée et déployée par les sociétés qui la développent. Cette analogie, loin d'être anodine, souligne l'importance cruciale des choix politiques et réglementaires qui accompagneront son déploiement dans les années à venir.

Trouver cet équilibre entre innovation bénéfique et prudence face aux risques existentiels constitue, selon plusieurs experts du domaine, le défi central de gouvernance technologique de notre époque, comparable en ampleur aux défis posés par l'énergie nucléaire au vingtième siècle.

Le calendrier serré que redoute Hassabis

Une fenêtre d'action qui se referme

Selon les déclarations de Hassabis rapportées par plusieurs médias, le monde dispose d'une « fenêtre étroite » pour comprendre et atténuer les menaces les plus sérieuses avant que les institutions existantes ne soient dépassées par la vitesse des avancées technologiques. Il estime qu'une action urgente est nécessaire « maintenant, pas dans dix ans », un langage qui traduit un sentiment d'urgence rarement exprimé aussi directement par un dirigeant de son envergure.

Cette urgence contraste avec la lenteur habituelle des processus diplomatiques internationaux, créant une tension structurelle entre le rythme de la diplomatie multilatérale et celui, beaucoup plus rapide, du développement technologique dans ce secteur particulièrement dynamique.

Une probabilité de 50% d'ici 2030 pour l'AGI

Hassabis a estimé à environ 50% la probabilité que l'intelligence artificielle générale, soit un système capable d'égaler ou de dépasser les capacités cognitives humaines dans la plupart des domaines, soit atteinte d'ici 2030. Cette estimation, bien que prudente par rapport à celles d'autres dirigeants de l'industrie plus optimistes sur des délais plus courts, reste néanmoins suffisamment proche pour justifier une action réglementaire immédiate plutôt que différée.

Ce calendrier resserré, combiné à la nature potentiellement irréversible de certains risques associés à des systèmes suffisamment avancés, constitue l'argument central de Hassabis en faveur d'une action internationale coordonnée sans délai supplémentaire.

Les limites reconnues de son propre pouvoir d'influence

Un acteur parmi d'autres dans un écosystème complexe

Interrogé sur sa capacité personnelle à ralentir le développement de l'intelligence artificielle pour permettre aux experts de mieux comprendre ses enjeux, Hassabis a reconnu, selon des propos rapportés par la BBC, que son entreprise joue un rôle important mais reste « seulement un acteur parmi d'autres dans l'écosystème » technologique mondial, incapable d'imposer unilatéralement une pause ou un ralentissement à l'ensemble du secteur.

Cette humilité relative, venant d'un des hommes les plus influents de l'industrie, souligne la nature fondamentalement collective du défi de gouvernance de l'intelligence artificielle, qui ne peut être résolu par les seules décisions d'un laboratoire, aussi puissant soit-il individuellement.

Une tension permanente entre ambition et prudence

Cette reconnaissance de ses propres limites d'influence n'empêche pas Hassabis de continuer à diriger l'un des laboratoires les plus ambitieux dans la course vers des systèmes toujours plus capables, une contradiction apparente qu'il justifie par la nécessité de rester à la pointe de la technologie pour pouvoir influencer, de l'intérieur, les normes de sécurité qui encadreront son développement futur.

C'est cette tension permanente entre participation active à la course technologique et appels à sa modération collective qui caractérise la position singulière de Hassabis dans le paysage actuel de l'intelligence artificielle mondiale.

Ce que cela signifie pour la posture occidentale globale

La sécurité ne doit pas freiner la compétitivité stratégique

Dans un contexte où la Chine, l'Iran, la Russie et la Corée du Nord représentent des menaces stratégiques persistantes pour l'Occident, l'appel de Hassabis à la prudence réglementaire doit être équilibré avec la nécessité, tout aussi réelle, de maintenir l'avance technologique occidentale face à des régimes qui n'appliqueront probablement pas les mêmes standards éthiques à leurs propres développements en intelligence artificielle.

C'est un équilibre délicat: ralentir excessivement pourrait céder un avantage stratégique décisif à des rivaux moins scrupuleux, tandis qu'accélérer sans aucune retenue pourrait matérialiser précisément les risques existentiels que Hassabis lui-même documente avec insistance.

Une responsabilité occidentale particulière

L'Occident, en tant que leader actuel de cette technologie, porte une responsabilité particulière dans l'établissement de normes de sécurité robustes qui pourraient, idéalement, influencer les standards mondiaux plutôt que de les subir passivement de la part de rivaux moins soucieux des implications éthiques à long terme de cette technologie transformative.

C'est précisément ce leadership normatif, combinant avance technologique et responsabilité éthique assumée, que l'Occident devrait chercher à consolider dans les années à venir, plutôt que de se contenter d'une course effrénée sans considération pour ses conséquences à long terme.

Les voix dissidentes dans l'industrie technologique

Des désaccords sur l'ampleur réelle du risque

Toutes les voix de l'industrie technologique ne partagent pas l'intensité des inquiétudes exprimées par Hassabis. Certains dirigeants et chercheurs estiment que ces avertissements exagèrent délibérément les risques réels, potentiellement pour justifier des cadres réglementaires favorables aux acteurs déjà établis, capables d'absorber les coûts de conformité, au détriment de nouveaux entrants moins bien financés.

Cette critique, bien que minoritaire dans le discours public actuel, mérite d'être mentionnée honnêtement plutôt que balayée d'un revers de main, car elle souligne les intérêts commerciaux complexes qui peuvent parfois se cacher derrière des discours apparemment purement éthiques sur la sécurité technologique.

Un consensus malgré tout sur la nécessité de vigilance

Malgré ces désaccords sur l'ampleur exacte du risque, un consensus plus large semble émerger parmi les dirigeants technologiques sérieux sur la nécessité d'une vigilance accrue, même parmi ceux qui privilégient des délais plus courts vers l'intelligence artificielle générale, comme le directeur général d'Anthropic Dario Amodei, qui a lui-même averti que la civilisation se trouve « considérablement plus proche d'un danger réel en 2026 qu'en 2023 ».

Cette convergence, malgré les nuances et désaccords sur les détails précis, suggère que les préoccupations soulevées par Hassabis ne relèvent pas d'un alarmisme isolé, mais reflètent une inquiétude partagée par plusieurs des acteurs les mieux informés de cette industrie en évolution rapide.

Le précédent historique des technologies à double tranchant

De l'énergie nucléaire à l'intelligence artificielle

Les historiens des sciences rappellent souvent que chaque révolution technologique majeure a suscité un mélange similaire d'enthousiasme et d'inquiétude, de l'énergie nucléaire aux biotechnologies. Dans le cas du nucléaire, la communauté internationale a fini par bâtir des institutions comme l'Agence internationale de l'énergie atomique pour encadrer les usages civils et limiter la prolifération militaire, un précédent que Hassabis invoque implicitement lorsqu'il propose une structure inspirée de l'ONU.

Mais la comparaison a ses limites, car l'intelligence artificielle se développe principalement dans le secteur privé, avec une diffusion beaucoup plus rapide et décentralisée que ne l'a jamais été la technologie nucléaire, ce qui complique considérablement toute tentative de contrôle centralisé efficace à l'échelle mondiale.

Pourquoi certains experts doutent qu'un accord soit possible à temps

Plusieurs spécialistes en relations internationales soulignent que les précédents de gouvernance technologique réussie ont généralement pris des décennies à se concrétiser, un luxe de temps que l'accélération actuelle du développement de l'intelligence artificielle ne semble pas offrir. Cette urgence temporelle constitue precisement le cœur de l'angoisse exprimée publiquement par Hassabis depuis le début de l'année 2026.

D'autres observateurs, plus optimistes, estiment que la pression des risques concrets, comme des incidents de sécurité majeurs impliquant des systèmes avancés, pourrait forcer une coordination accélérée entre grandes puissances, de la même manière que certaines crises environnementales ont parfois précipité des accords internationaux jugés auparavant impossibles.

Le rôle des grandes entreprises technologiques occidentales

Une responsabilité partagée entre laboratoires rivaux

Au-delà de Google DeepMind, d'autres géants technologiques occidentaux comme OpenAI, Anthropic et Microsoft se retrouvent confrontés au même dilemme fondamental: comment rester compétitifs sur un marché mondial extrêmement lucratif tout en assumant une responsabilité collective face aux risques que leurs propres dirigeants reconnaissent publiquement. Cette tension traverse pratiquement toute l'industrie de la Silicon Valley depuis plusieurs années.

Certains croient que seule une pression réglementaire coordonnée entre gouvernements occidentaux pourrait forcer ces entreprises à ralentir collectivement, puisqu'aucune d'entre elles n'a d'intérêt commercial individuel à freiner son propre développement si ses concurrents continuent d'avancer sans retenue comparable.

Le poids des actionnaires et des marchés financiers

Il ne faut pas non plus négliger la pression exercée par les marchés financiers et les actionnaires, qui exigent des rendements rapides sur des investissements colossaux dans l'intelligence artificielle, une dynamique qui peut entrer directement en conflit avec les appels à la prudence formulés par des dirigeants comme Hassabis lui-même, malgré son autorité scientifique reconnue mondialement.

Cette contradiction entre les intérêts financiers à court terme et les risques existentiels à long terme illustre bien pourquoi certains experts appellent à des mécanismes de gouvernance externes plutôt qu'à une simple autorégulation volontaire de l'industrie, jugée structurellement insuffisante face à l'ampleur des enjeux.

Ce que cela signifie concrètement pour le citoyen occidental

Une technologie qui transformera le marché du travail

Pour le citoyen ordinaire en Amérique du Nord ou en Europe, les avertissements de Hassabis ne sont pas de simples débats académiques abstraits, mais annoncent des transformations concrètes et rapides du marché du travail, de l'éducation et même des relations sociales, à mesure que des systèmes d'intelligence artificielle de plus en plus capables s'intègrent dans pratiquement tous les secteurs économiques.

Cette transition rapide soulève des questions légitimes sur la formation professionnelle, la reconversion des travailleurs et l'adaptation des systèmes d'éducation publique, des enjeux que les décideurs politiques occidentaux commencent à peine à prendre au sérieux face à l'ampleur du changement annoncé.

L'importance d'une littératie technologique renforcée

Plusieurs experts en politique publique recommandent désormais un investissement massif dans la littératie technologique des citoyens, afin qu'ils puissent comprendre les enjeux réels de l'intelligence artificielle plutôt que de se fier uniquement aux discours simplifiés relayés par les médias ou les entreprises elles-mêmes, qu'ils soient alarmistes ou excessivement rassurants.

Cette éducation citoyenne apparaît d'autant plus urgente que les décisions politiques concernant la régulation de l'intelligence artificielle, prises dans les prochaines années, façonneront probablement les conditions de vie de plusieurs générations à venir en Occident et ailleurs dans le monde.

Conclusion : une course qui exige lucidité plutôt que panique

Ni catastrophisme aveugle ni optimisme naïf

Les avertissements de Demis Hassabis ne devraient être interprétés ni comme un appel au catastrophisme paralysant, ni comme une simple stratégie de communication destinée à polir son image publique. Ils représentent plutôt l'évaluation honnête et nuancée d'un homme profondément impliqué dans le développement de cette technologie, conscient à la fois de son potentiel extraordinaire et de ses risques sérieux et documentés.

Pour l'Occident, le défi consiste à maintenir son avance technologique stratégique face à des rivaux comme la Chine, tout en développant simultanément les garde-fous éthiques et réglementaires nécessaires pour éviter que cette même technologie ne se retourne contre les intérêts et les valeurs qu'elle devrait pourtant servir à long terme.

Une décennie décisive qui commence maintenant

Les prochaines années, selon les propres mots de Hassabis, seront déterminantes pour établir si l'humanité parvient à naviguer cette transition technologique majeure avec la prudence et la coordination internationale nécessaires, ou si la course géopolitique et commerciale l'emporte finalement sur les considérations de sécurité à long terme qu'il continue inlassablement de défendre publiquement.

Signé Maxime Marquette, chroniqueur

Encadré de transparence du chroniqueur

Qui je suis et mes biais assumés

Je suis chroniqueur pour MadMax, pas chercheur en intelligence artificielle ni expert en politique technologique internationale. Mon analyse s'appuie sur les déclarations publiques de Demis Hassabis rapportées par des médias reconnus comme la BBC, Bloomberg, CNBC et Axios. Je porte un biais assumé favorable au maintien du leadership technologique occidental face à la Chine, tout en reconnaissant la légitimité des préoccupations de sécurité soulevées par des experts du domaine.

Je ne prétends aucune expertise technique approfondie sur les détails de l'architecture des modèles d'intelligence artificielle évoqués dans cet article.

Ce que je ne sais pas

Je ne sais pas si l'estimation de 50% d'une intelligence artificielle générale d'ici 2030 se réalisera effectivement, ni si les appels de Hassabis à une gouvernance internationale trouveront un jour une traduction politique concrète face aux résistances actuelles de plusieurs grandes puissances. Ces questions resteront ouvertes, et je préfère l'admettre honnêtement plutôt que de spéculer au-delà de ce que les faits actuels permettent d'affirmer.

Sources

Sources primaires

BBC News — Urgent research needed to tackle AI threats, says Google AI boss — 20 février 2026

The Stanford Daily — Google DeepMind CEO warns AI is at species-level transition — 29 mai 2026

Bloomberg — DeepMind CEO warns of AI risks, calls for global cooperation — 19 février 2026

Sources secondaires

Axios — Safety guardrails loosen as AI rivalries grow — 3 mars 2026

CNBC — China just months behind U.S. AI models, Google DeepMind CEO says — 16 janvier 2026

Cueball — Google DeepMind CEO Calls AI a Species-Level Risk, Urges Global Rules — 30 mai 2026