L’esprit humain est resté inexplicable et mystérieux pendant très très longtemps. Et il semble que les scientifiques aient reconnu un nouveau concurrent sur cette liste : l’intelligence artificielle (IA). À première vue, comprendre l’esprit d’une IA semble plutôt oxymorique. Cependant, à mesure que l’IA devient progressivement plus sensible et se rapproche de l’imitation des humains et de leurs émotions, nous assistons à des phénomènes innés aux humains et aux animaux : les hallucinations.
Oui, il semble que le voyage même dans lequel s'aventure l'esprit lorsqu'il est abandonné dans un désert, rejeté sur une île ou enfermé seul dans une pièce dépourvue de fenêtres et de portes est également vécu par les machines. Hallucination de l'IA est réel et les experts et passionnés de technologie ont enregistré de multiples observations et déductions.
Dans l'article d'aujourd'hui, nous explorerons cet aspect mystérieux mais intrigant de Grands modèles de langage (LLM) et découvrez des faits originaux sur les hallucinations de l'IA.
Qu’est-ce que l’hallucination de l’IA ?
Dans le monde de l’IA, les hallucinations ne font pas vaguement référence à des motifs, des couleurs, des formes ou à des personnes que l’esprit peut visualiser lucidement. Au lieu de cela, l’hallucination fait référence à des faits et des réponses incorrects, inappropriés ou même trompeurs. Outils d'IA génératifs proposer des invites.
Par exemple, imaginez demander à un modèle d’IA ce qu’est un télescope spatial Hubble et il commencera à répondre par une réponse telle que : « La caméra IMAX est un film spécialisé en haute résolution… »
Cette réponse n'est pas pertinente. Mais plus important encore, pourquoi le modèle a-t-il généré une réponse tangentiellement différente de l’invite présentée ? Les experts pensent que les hallucinations pourraient provenir de plusieurs facteurs tels que :
- Mauvaise qualité des données de formation de l'IA
- Modèles d’IA trop confiants
- La complexité des programmes de traitement du langage naturel (NLP)
- Erreurs d'encodage et de décodage
- Attaques contradictoires ou piratages de modèles d'IA
- Divergence source-référence
- Biais d’entrée ou ambiguïté d’entrée et plus encore
L’hallucination de l’IA est extrêmement dangereuse et son intensité ne fait qu’augmenter avec la spécification accrue de son application.
Par exemple, un outil GenAI hallucinant peut entraîner une perte de réputation pour une entreprise qui le déploie. Cependant, lorsqu’un modèle d’IA similaire est déployé dans un secteur comme la santé, cela change l’équation entre la vie et la mort. Visualisez ceci : si un modèle d'IA hallucine et génère une réponse à l'analyse des données des rapports d'imagerie médicale d'un patient, il peut par inadvertance signaler une tumeur bénigne comme maligne, entraînant un écart de cap dans le diagnostic et le traitement de l'individu.
Comprendre les exemples d'hallucinations de l'IA
Les hallucinations de l’IA sont de différents types. Comprenons quelques-uns des plus importants.
Réponse factuellement incorrecte aux informations
- Réponses faussement positives telles que le signalement d'une grammaire correcte dans un texte comme incorrecte
- Réponses faussement négatives, comme ignorer des erreurs évidentes et les faire passer pour authentiques
- Invention de faits inexistants
- Source incorrecte ou falsification des citations
- Excès de confiance en répondant avec des réponses incorrectes. Exemple : Qui a chanté Here Comes Sun ? Métallique.
- Mélanger des concepts, des noms, des lieux ou des incidents
- Des réponses étranges ou effrayantes telles que le rire autonome démoniaque populaire d'Alexa et plus encore
Prévenir les hallucinations de l'IA
Désinformation générée par l'IA de tout type peut être détecté et corrigé. C'est la spécialité du travail avec l'IA. Nous avons inventé cela et nous pouvons résoudre ce problème. Voici quelques façons de procéder.
Limiter les réponses
On dit que le nombre de langues que nous parlons n'a pas d'importance. Nous devons savoir quand arrêter de parler dans chacun d’eux. Cela s'applique également aux modèles d'IA et à leurs réponses. Dans ce contexte, nous pouvons restreindre la capacité d'un modèle à générer des réponses à un volume spécifique et atténuer les risques qu'il aboutisse à des résultats bizarres. C'est ce qu'on appelle la régularisation et cela implique également de pénaliser les modèles d'IA qui produisent des résultats extrêmes et étendus aux invites.
Sources pertinentes et hermétiques pour citer et extraire les réponses
Lorsque nous formons un modèle d’IA, nous pouvons également limiter les sources auxquelles un modèle peut se référer et extraire des informations aux seules sources légitimes et crédibles. Par exemple, les modèles d’IA dans le domaine de la santé, comme celui dont nous avons parlé plus tôt, ne peuvent faire référence qu’à des sources crédibles en termes d’informations chargées d’images médicales et de technologies d’imagerie. Cela empêche les machines de trouver et de corréler les modèles provenant de sources bipolaires et de générer une réponse.
Définir l'objectif d'un modèle d'IA
Les modèles d’IA apprennent vite et il suffit de leur dire précisément ce qu’ils doivent faire. En définissant avec précision l’objectif des modèles, nous pouvons les entraîner à comprendre leurs propres capacités et limites. Cela leur permettra de valider de manière autonome leurs réponses en alignant les réponses générées sur les invites des utilisateurs et leur objectif de fournir des résultats clairs.
Surveillance humaine dans l'IA
L’entraînement des systèmes d’IA est aussi essentiel que d’apprendre à un enfant à nager ou à faire du vélo pour la première fois. Cela nécessite la surveillance, la modération, l’intervention et la prise en main d’un adulte. La plupart des hallucinations de l’IA sont dues à la négligence humaine à différentes étapes du développement de l’IA. En déployant les bons experts et en garantissant un flux de travail humain pour valider et examiner les réponses de l'IA, des résultats de qualité peuvent être obtenus. En outre, les modèles peuvent être affinés davantage pour en améliorer l’exactitude et la précision.
Shaip et notre rôle dans la prévention des hallucinations de l'IA
L’une des autres principales sources d’hallucinations est la mauvaise qualité des données d’entraînement à l’IA. Ce que vous nourrissez est ce que vous obtenez. C'est pourquoi Shaip prend des mesures proactives pour garantir la fourniture de données de la plus haute qualité pour votre formation à l'IA générative .
Nos protocoles d'assurance qualité rigoureux et nos ensembles de données provenant de sources éthiques sont idéaux pour vos visions d'IA en matière d'obtention de résultats propres. Bien que les problèmes techniques puissent être résolus, il est essentiel que les préoccupations concernant la qualité des données de formation soient traitées au niveau local afin d'éviter de retravailler le développement du modèle à partir de zéro. C'est pourquoi votre IA et LLM la phase de formation devrait commencer avec les ensembles de données de Shaip.
