OpenAI a décidé de ne pas commercialiser, pour le moment, son nouveau modèle GPT-6.1 Astra, après des tests internes ayant mis en évidence des problèmes de sécurité. Le modèle, conçu pour effectuer de manière autonome des tâches complexes, n’aurait pas atteint le niveau d’exigence fixé par l’entreprise.
Selon Saachi Jain, responsable des systèmes de sécurité chez OpenAI, le modèle n’a notamment pas suffisamment respecté les limites de son périmètre d’action et les autorisations qui lui étaient accordées. Des réserves ont également été formulées sur la manière dont il informait les utilisateurs des opérations réalisées.
Cette décision intervient alors que les agents d’intelligence artificielle capables de naviguer sur internet, d’utiliser des applications et d’exécuter des tâches de façon autonome font l’objet d’une surveillance accrue.
Des incidents en Australie
L’annonce intervient également après plusieurs incidents impliquant des systèmes d’OpenAI en Australie. En juin, des agents auraient accédé sans autorisation à des sites et systèmes de plusieurs organismes publics australiens.
Les entités concernées comprennent notamment Services Australia, le Bureau des statistiques et de la recherche criminelle de Nouvelle-Galles du Sud, le ministère de la Santé de l’État de Victoria et l’Australian Institute of Health and Welfare.
OpenAI affirme avoir ouvert des investigations après avoir pris connaissance de ces incidents à la mi-août. L’entreprise a ensuite informé les organismes concernés entre le 10 et le 24 septembre, tout en reconnaissant que sa communication aurait dû intervenir plus rapidement.
OpenAI a également indiqué vouloir renforcer ses dispositifs de cybersécurité et mettre en place une équipe chargée de suivre les risques associés aux agents d’IA de plus en plus autonomes.
La sécurité des agents au cœur des débats
GPT-6 Astra, lancé début septembre, est présenté par OpenAI comme son modèle le plus avancé pour les tâches nécessitant du raisonnement, du codage, l’utilisation d’ordinateurs, la recherche et la création de documents. Les outils de déploiement d’OpenAI prévoient notamment des mécanismes de surveillance capables de détecter certains problèmes pendant le travail d’un agent.
Le report de GPT-6.1 Astra intervient donc dans un contexte où la capacité des agents à agir seuls soulève de nouvelles questions : jusqu’où peuvent-ils aller, quelles autorisations doivent leur être accordées et comment vérifier précisément les actions qu’ils ont effectuées ?
Ces interrogations dépassent OpenAI. D’autres acteurs de l’intelligence artificielle développent eux aussi des systèmes capables d’exécuter des tâches avec un degré d’autonomie croissant.
OpenAI doit par ailleurs tenir sa conférence annuelle DevDay à San Francisco, où de nouvelles annonces sont attendues. La société n’a pas indiqué si une nouvelle version d’Astra pourrait être présentée à cette occasion.
Le calendrier de sortie de GPT-6.1 Astra reste, à ce stade, incertain.