Les défis de l'AutoResearch Physique : Sécurité et Optimisation

L'article de DrJimFan met en lumière les complexités sous-jacentes à l'implémentation de systèmes d'AutoResearch Physique, soulignant que la simplicité conceptuelle masque une ingénierie et une conception rigoureuses. Il détaille les trois piliers essentiels pour permettre à des flottes de robots de fonctionner de manière autonome et efficace, en particulier pour des tâches de recherche.

Le premier pilier est la sécurité, qui doit être intégrée profondément dans le système, au-delà des simples invites logicielles. Cela inclut des limites cinématiques matérielles et des pinces souples à couple limité pour prévenir les dommages matériels et assurer la sécurité des opérations nocturnes sans surveillance humaine constante. Le deuxième pilier concerne la définition claire et immuable du succès d'une tâche, afin d'éviter que les agents IA ne manipulent leurs propres récompenses. Une fonction de récompense est gelée après avoir été validée par des démonstrations et des outils de vision par ordinateur. Enfin, le troisième pilier est la télémétrie système avancée pour optimiser l'utilisation des ressources rares (robot-secondes, GPU-secondes, tokens), avec des métriques comme l'utilisation moyenne des robots (MRU), l'utilisation moyenne des tokens (MTU) et l'utilisation du GPU, permettant une évaluation précise du budget par rapport aux résultats (Tokens-to-Success, Time-to-Success).