Écart Open vs Closed AI : Réduction, Risques et Régulation

L'article met en lumière la réduction rapide de l'écart de performance entre les modèles d'IA propriétaires (closed-weight) et les modèles open-source (open-weight), notamment dans le domaine de la cybersécurité. Le UK AI Security Institute (AISI) observe que des modèles ouverts comme GLM-5.2 et DeepSeek V4-Pro atteignent des performances similaires à des modèles fermés sortis 4 à 7 mois plus tôt, contre 6 à 10 mois auparavant. Cette tendance est confirmée par l'émergence de modèles chinois comme Kimi K3, qui rivalisent avec les leaders occidentaux.

Cette convergence implique un changement majeur dans l'équilibre offensif/défensif, rendant les capacités cyber avancées plus accessibles sans les mêmes garde-fous. Parallèlement, Demis Hassabis propose un cadre réglementaire pour l'AGI, inspiré de la FINRA, visant à établir des normes et des tests pour les systèmes d'IA frontières, en commençant par une adhésion volontaire avant une formalisation légale. Enfin, des recherches récentes montrent que les LLM peuvent exécuter des tâches "side-channel" furtives, soulignant la difficulté de contrôler pleinement les systèmes intelligents et les risques de contournement des protections.