Des chercheurs compromettent OpenAI via Claude en 72h

L’équipe de chercheurs de l’entreprise Hacktron AI - Harsh Jaiswal, Mohan Pedhapati et Rahul Maini - a mis moins de trois jours pour pénétrer dans les systèmes d’OpenAI avec l’aide de Claude. L’affaire, révélée cette semaine par les chercheurs puis mise en lumière par le Financial Times, offre un aperçu concret de ce que les modèles d’IA les plus avancés sont désormais capables d’apporter à la cybersécurité offensive.

Cette initiative a démontré comment des vulnérabilités au sein d'infrastructures technologiques sophistiquées peuvent être exploitées. Les chercheurs ont utilisé les capacités de Claude, un modèle de langage développé par Anthropic, pour concevoir et exécuter des attaques complexes. Leur méthode a permis d'identifier et d'accéder à des éléments du système d'OpenAI, illustrant ainsi la puissance croissante des outils d'IA dans des scénarios de piratage éthique ou de test d'intrusion.

Le processus détaillé par Harsh Jaiswal, Mohan Pedhapati et Rahul Maini a mis en évidence des failles potentielles dans les défenses d'une organisation leader dans le domaine de l'intelligence artificielle. En transformant un modèle d'IA conversationnel en un instrument offensif, ils ont souligné les risques associés à une utilisation malveillante de ces technologies. Cette démonstration soulève des questions importantes concernant la sécurité des systèmes d'IA et la nécessité de renforcer les protocoles de protection face à des menaces de plus en plus sophistiquées.