Newsom oppose son veto à une loi stricte sur l'IA en Californie

Le 29 septembre 2024, le gouverneur de Californie, Gavin Newsom, a pris une décision controversée en opposant son veto au projet de loi SB 1047, surnommé "Loi pour une innovation sûre dans les modèles d'IA pionniers". Cette décision a mis fin à un débat intense qui a divisé l'industrie technologique et la classe politique californienne.

Le projet de loi visait à imposer des garde-fous stricts aux grands modèles d'intelligence artificielle aux États-Unis. Bien que moins exigeant que la réglementation européenne adoptée en 2023, il aurait rendu les entreprises d'IA légalement responsables des dommages causés par leurs modèles. Une des exigences clés était l'intégration d'un "interrupteur d'arrêt" pour désactiver les systèmes en cas de dommages majeurs.

La décision de Newsom a suscité des réactions mitigées. Des figures emblématiques de l'IA, comme Geoffrey Hinton, considéré comme l'un des "pères de l'IA", soutenaient le texte. Hinton et d'autres experts ont exprimé leurs inquiétudes quant aux risques potentiels des modèles d'IA puissants, notamment en matière de cybersécurité et de bioterrorisme.

"Nous pensons que les modèles d'IA les plus puissants pourraient bientôt poser des risques graves, tels que l'accès accru aux armes biologiques et les cyberattaques contre les infrastructures essentielles"

D'autre part, des leaders de l'industrie comme Mark Zuckerberg de Meta et Sam Altman d'OpenAI s'opposaient au projet. Cette division reflète les tensions croissantes entre l'innovation technologique et la sécurité publique dans le domaine de l'IA.

La Californie, et particulièrement la Silicon Valley, est depuis longtemps à l'avant-garde de l'innovation technologique. Avec 32 des plus grandes entreprises d'IA du monde situées dans l'État, la Californie domine ce secteur en pleine expansion. Cette concentration d'expertise et de capital a contribué à faire de l'État la plus grande économie des États-Unis.

Newsom a justifié son veto en exprimant ses inquiétudes quant à l'impact potentiel de la loi sur l'industrie de l'IA. Lors de la conférence annuelle de Salesforce à San Francisco le 24 septembre, il a déclaré : "Nous dominons ce domaine, et je ne veux pas perdre cet avantage". Cette position reflète la volonté de la Californie de maintenir sa position de leader mondial dans le secteur technologique.

Cependant, cette décision soulève des questions sur l'équilibre entre l'innovation et la sécurité. Alors que l'IA générative connaît une croissance explosive depuis 2022, les préoccupations concernant les risques potentiels, tels que les biais algorithmiques et les deepfakes, s'intensifient.

Le veto de Newsom intervient dans un contexte de débat mondial sur la réglementation de l'IA. Alors que l'Union européenne a adopté une approche plus stricte avec l'AI Act, les États-Unis cherchent encore leur voie. Cette décision pourrait influencer le débat fédéral sur la question et avoir des répercussions sur la course à l'IA entre les États-Unis et la Chine.

En fin de compte, le rejet de ce projet de loi souligne la complexité du défi réglementaire posé par l'IA. Alors que la Californie continue de jouer un rôle central dans le développement de cette technologie, la question de sa régulation reste ouverte, laissant place à de futurs débats sur la meilleure façon de promouvoir l'innovation tout en garantissant la sécurité publique.