Prix Nobel Hopfield : L'IA, une merveille inquiétante à maîtriser

John Hopfield, lauréat du prix Nobel de physique 2024 pour ses travaux sur l'intelligence artificielle (IA), a exprimé ses préoccupations concernant les récents progrès dans ce domaine. Bien qu'il soit considéré comme l'un des pionniers de l'IA, ayant introduit le réseau de Hopfield en 1982, le scientifique américain de 91 ans observe avec anxiété son évolution rapide.

Lors d'une intervention par vidéo depuis le Royaume-Uni à l'Université du New Jersey le 8 octobre 2024, Hopfield a qualifié les avancées technologiques récentes de "très inquiétantes". Il a mis en garde contre les risques potentiels si ces technologies ne sont pas maîtrisées.

"En tant que physicien, je suis très troublé par quelque chose qui n'est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l'on peut imposer à cette technologie."

Le chercheur a comparé l'IA à deux autres technologies puissantes mais potentiellement dangereuses qu'il a vu émerger au cours de sa vie : le génie biologique et la physique nucléaire. Cette comparaison souligne la nature à double tranchant de l'IA, capable de grands bienfaits mais aussi de risques considérables.

Hopfield a souligné que, malgré leurs apparences de "merveilles absolues", le fonctionnement des systèmes d'IA modernes reste mal compris. Cette lacune dans notre compréhension est, selon lui, "très, très inquiétante". Il a appelé, tout comme son collègue Geoffrey Hinton, co-lauréat du Nobel et considéré comme l'un des "pères de l'IA", à une meilleure compréhension de ces systèmes.

Le scientifique a évoqué le risque de conséquences imprévues, faisant référence à la "glace-neuf", un matériau fictif du roman "Le Berceau du chat" de Kurt Vonnegut, publié en 1963. Cette analogie illustre les dangers potentiels d'une technologie mal maîtrisée.

L'histoire de l'IA, depuis l'invention du terme en 1956 par John McCarthy, a connu des hauts et des bas. Des percées majeures comme AlphaGo battant le champion du monde de Go en 2016, ou le développement de GPT-3 avec ses 175 milliards de paramètres en 2020, montrent l'accélération rapide du domaine.

Hopfield a averti que l'IA pourrait "développer des capacités qui dépassent celles que vous pouvez imaginer à l'heure actuelle". Cette déclaration fait écho au concept de "singularité technologique", popularisé dans les années 1980, qui envisage un futur où l'IA dépasserait l'intelligence humaine.

Alors que l'IA s'étend à divers domaines, de la médecine à la finance en passant par les véhicules autonomes, les questions éthiques deviennent de plus en plus pressantes. Les chercheurs doivent aborder les problèmes de biais, de responsabilité et de contrôle, tout en explorant de nouvelles frontières comme l'IA quantique.

En conclusion, Hopfield appelle à la vigilance et à la recherche approfondie pour garantir que le développement de l'IA reste bénéfique et contrôlé, évitant ainsi les scénarios catastrophiques que la science-fiction a souvent imaginés.