Actualités du jour
Journal Officiel
Envoyer à un ami
Version imprimable
Partager
Connaissez-vous les « corrélations fallacieuses » ? Si les humains apprennent à ne pas se laisser berner par ces liens logiques apparents, les IA ont plus de mal.
Une équipe de recherche d’Apple a publié en septembre 2024 un article illustrant comment une banale modification de prénoms ou d’attributs des personnages d’un énoncé mathématique diminuait jusqu’à 10 % la part de réponses correctes fournies par diverses intelligences artificielles génératives. Ces liens, apparemment logiques, entraînent des corrélations fallacieuses.
Ce problème n’est pas anecdotique, puisque certains types d’IA sujettes à ces méprises logiques sont utilisés pour des systèmes critiques de sécurité informatique. Elles sont vulnérables à un type d’attaque appelé parfois apprentissage antagoniste ou « adversarial attacks ».
Pour pallier au problème, les chercheurs développent des méthodes qui permettent de corriger les processus d’apprentissage des IA en identifiant les caractéristiques parasites qui mènent à des corrélations fallacieuses.
Sommaire
- Comment les IA de type « GPT » apprennent-elles des corrélations fallacieuses ?
- Pourquoi est-ce dangereux en pratique ?
- S’il existe des liens fallacieux dans les séquences d’entraîne
- L’IA est un outil, ne le laissons pas penser à notre place !
Source - The Conversation
Une équipe de recherche d’Apple a publié en septembre 2024 un article illustrant comment une banale modification de prénoms ou d’attributs des personnages d’un énoncé mathématique diminuait jusqu’à 10 % la part de réponses correctes fournies par diverses intelligences artificielles génératives. Ces liens, apparemment logiques, entraînent des corrélations fallacieuses.
Ce problème n’est pas anecdotique, puisque certains types d’IA sujettes à ces méprises logiques sont utilisés pour des systèmes critiques de sécurité informatique. Elles sont vulnérables à un type d’attaque appelé parfois apprentissage antagoniste ou « adversarial attacks ».
Pour pallier au problème, les chercheurs développent des méthodes qui permettent de corriger les processus d’apprentissage des IA en identifiant les caractéristiques parasites qui mènent à des corrélations fallacieuses.
Sommaire
- Comment les IA de type « GPT » apprennent-elles des corrélations fallacieuses ?
- Pourquoi est-ce dangereux en pratique ?
- S’il existe des liens fallacieux dans les séquences d’entraîne
- L’IA est un outil, ne le laissons pas penser à notre place !
Source - The Conversation
Mot de passe perdu
