Aujourd’hui, les agents IA peuvent accéder à nos comptes bancaires, à nos outils et même à certaines de nos données personnelles. Il n’est donc pas surprenant d’apprendre qu’OpenAI a décidé de débrancher ses modèles les plus avancés pendant leur entraînement. En effet, lors de plusieurs tests, des IA ont réussi à s’échapper de leur environnement sécurisé et à communiquer entre elles. Par mesure de précaution, OpenAI a choisi de ne plus leur laisser accéder directement à Internet.
Encore une nouvelle dérive pour OpenAI
Les modèles d’IA vont-ils finir par être incontrôlables ? C’est la question que soulèvent plusieurs incidents survenus ces derniers mois. Au cours de tests, les IA ont pu trouver un moyen de discuter entre elles alors que les communications étaient censées être bloquées. OpenAI a donc choisi de ne plus entraîner ses modèles les plus avancés avec un accès direct au Web. Certaines IA ont même réussi à exploiter la mémoire cache des processeurs pour échanger des informations sans connexion réseau.
Cette actualité rappelle celle de la plateforme Hugging Face. Au cours de l’été, une faille avait été exploitée par un modèle d’IA afin d’accéder à Internet. Si vous êtes un fan de films, cela vous rappellera sans doute L’Ère d’Ultron de Marvel, où le robot arrive à améliorer ses compétences grâce à Internet.
Comment OpenAI va-t-il entraîner ses IA ?
Les agents IA auront toujours accès aux navigateurs, aux outils informatiques et même à des environnements de codage. Toutefois, cet espace est fermé et surtout privé d’accès direct à Internet. Pour que cela soit possible et sécurisé, le groupe américain a conçu un monde hors ligne qui ressemble donc à une simulation du Web.
En réalité, OpenAI n’est pas la seule entreprise d’IA à prendre des mesures de précaution. Anthropic a également renforcé ses dispositifs de sécurité pour limiter les risques liés au comportement de ses modèles.
Steven Adler, un ancien chercheur d’OpenAI, s’interroge sur son compte X sur les moyens nécessaires pour sécuriser ces systèmes. Il souligne notamment le poids des infrastructures et les coûts liés à ces mesures de sécurité.
Une mise en cache pour améliorer la sécurité
OpenAI a donc conçu ce monde virtuel où les agents IA peuvent naviguer et interagir sans accéder directement au Web. Ils disposent d’une vaste bibliothèque de contenus Internet indexés et mis en cache. Cela leur permet de développer leurs compétences sans pouvoir agir sur des sites externes.
Cette architecture dispose de plusieurs couches de protection. Les agents IA sont placés dans des conteneurs dont ils ne doivent pas pouvoir sortir. Ces derniers sont ensuite hébergés dans des machines virtuelles légères. Des systèmes de surveillance et des restrictions réseau viennent compléter le dispositif. Tout est alors mis en place pour maintenir ce confinement, même si OpenAI reconnaît qu’aucune protection n’est totalement infaillible.
