IA : surenchère technologique et vulnérabilités croissantes
Communiqué_de_presse_forum_des_solution
« Pause IA » (en PDF)
La fin de l’année 2024 a été marquée par une série d’annonces spectaculaires sur les progrès de l’IA, notamment de la part de OpenAI, qui a présenté son nouveau modèle de raisonnement O3, pulvérisant des seuils historiques sur plusieurs benchmarks. Étonnamment, ces percées ont reçu peu de couverture médiatique, alors même que les recherches en sécurité de l’IA multiplient les signaux d’alarme quant à l’émergence de capacités de plus en plus dangereuses.
Simultanément, la puissance grandissante des réseaux sociaux fait peser un risque inédit sur la stabilité des démocraties et la fiabilité de l’information, tandis que la cybercriminalité connaît une accélération exponentielle.
Actions du groupe « Pause IA »
Contre-expertise du rapport gouvernemental sur l’IA (mars 2023)
Nous avons publié un contre-rapport, soutenu par une vingtaine d’experts et organisations indépendantes, proposant une analyse approfondie du rapport officiel du Comité gouvernemental
sur l’IA. Cette étude met en lumière des angles morts significatifs dans l’évaluation des risques, et souligne l’influence qu’ont pu avoir les acteurs industriels majeurs dans l’orientation des conclusions du rapport initial.
Analyse des dangers de l’IA
Sur notre site, nous présentons les dangers économiques, matériels et sociétaux que l’IA fait peser sur nos sociétés, ainsi que des pistes d’action concrètes pour minimiser ces menaces.
Dialogue institutionnel et sensibilisation du public
Nous multiplions les rencontres avec des parlementaires, acteurs publics et privés pour encourager une régulation intelligente et ambitieuse. En parallèle, nous organisons conférences, publications, tribunes et manifestations afin d’informer et d’alerter l’ensemble de la société civile.
Une vision internationale et responsable
Face à l’accélération du développement de l’Intelligence Artificielle, Pause IA milite pour la mise en place d’un moratoire international visant à limiter la course technologique vers l’IAG et, à terme, la Super-Intelligence. Nous défendons l’idée qu’un cadre mondial est indispensable pour que l’IA reste bénéfique à l’humanité.
