Link: https://www.timefrance.fr/ia/cette-faille-identifiee-par-une-ia-aurait-pu-entrainer-une-catastrophe-de-cybersecurite/

Début août, Sagi Tzadik, chercheur en sécurité, a demandé à un agent IA d’utiliser une faille de cybersécurité qu’il avait identifiée dans WordPress et de vérifier si elle existait également dans Drupal, un autre système populaire de gestion de contenus. Huit heures plus tard, l’agent a indiqué avoir échoué, mais en cours de route, il a découvert une faille dans PHP, le langage de programmation dont dépendent les deux systèmes, mais aussi 70 % du contenu sur Internet.
L’expert, qui travaille pour l’entreprise de cybersécurité Wiz, est d’abord parti du principe qu’il s’agissait d’une erreur. Il raconte au TIME : « Les modèles ont tendance à halluciner ». Pourtant, le code d’exploitation (ou « exploit ») qui utilisait une faille restée inaperçue depuis plus d’une décennie, a porté ses fruits.

À l’insu de l’équipe de Wiz, des chercheurs employés par Calif, une autre entreprise de sécurité (qui collabore avec OpenAI), avaient eux aussi utilisé l’intelligence artificielle pour identifier une faille similaire. Cela suggère qu’une fois que l’IA atteint un certain niveau de compétences, il n’est qu’une question de temps avant que certaines failles de longue date soient mises en lumière. Dès lors, les entreprises spécialisées dans l’IA tentent d’aider les acteurs de la sécurité, comme Wiz et Calif, à y parvenir en premier. Pour cela, ils leur fournissent un accès anticipé aux nouveaux modèles d’IA avant que des capacités équivalentes ne se retrouvent entre les mains d’utilisateurs malveillants. Et cette fois, la stratégie a fonctionné.