Nous avons tous reçu ce message de ChatGPT:

"Quelque chose s'est mal passé. Si le problème persiste, veuillez nous contacter par l'intermédiaire de notre centre d'assistance..."

Mais que signifient réellement ces messages d'erreur et comment pouvons-nous mieux communiquer ? Ce n'est pas toujours ce que vous pensez.

Dans l'édition de cette semaine de AI & YOU, nous nous penchons sur le raisonnement qui sous-tend les grands modèles linguistiques (LLM) tels que ChatGPT, en explorant comment les "échecs" ne sont pas toujours ce qu'ils semblent être et comment le bon message peut changer la donne. Nous vous guidons ensuite dans la manière d'encoder la compréhension à l'aide de ChatGPT. ingénierie rapide techniques.

Comme toujours, notre équipe d'experts en IA est prête à aider votre organisation à exploiter la puissance de l'IA de manière efficace et efficiente. Si vous construisez des systèmes d'entreprise qui utilisent l'API de ChatGPT (ou d'un autre LLM), les réponses imprévisibles rendent vos solutions moins fiables. Si votre entreprise a besoin d'aide pour incorporer de telles API dans des solutions, ou pour construire des solutions personnalisées afin d'exploiter les LLM pour répondre à des questions sur vos données et bases de données, réservez un appel avec moi ci-dessous.

N'oubliez pas de vous abonner et de partager notre contenu si vous le trouvez utile !

Ce que votre LLM ne dit pas

dans le domaine de l'IA, Grands modèles linguistiques (LLM) sont devenus des outils révolutionnaires, remodelant le paysage de nombreuses industries et applications. De l'aide à la rédaction au service à la clientèle, du diagnostic médical au conseil juridique, ces modèles offrent un potentiel sans précédent.

Malgré leurs capacités robustes, la compréhension des LLM et de leur comportement n'est pas un processus simple. Bien qu'ils puissent échouer dans l'accomplissement d'une tâche, cet "échec" cache souvent un scénario plus complexe. Parfois, lorsque votre LLM (tel que le populaire ChatGPT) semble être en perte de vitesse, ce n'est pas à cause de son incapacité à fonctionner, mais à cause d'autres problèmes moins évidents, tels qu'une "boucle" dans l'arbre de décision ou un dépassement de délai du plug-in.

Comprendre et surmonter ces messages d'erreur

Lorsqu'un LLM comme ChatGPT rencontre un problème et ne parvient pas à exécuter une tâche comme prévu, il ne communique généralement pas ses difficultés par des mots de défaite, mais plutôt par des messages d'erreur. Ces messages peuvent souvent signaler la présence d'un problème technique interne qui cause un obstacle plutôt que d'indiquer une limitation du modèle lui-même.

Comme nous l'avons mentionné, cela peut être dû au fait que le modèle est pris dans une boucle au cours de l'arbre de décision du processus décisionnel, ce qui l'amène à répéter certaines étapes ou à s'arrêter complètement. Cela ne signifie pas que le modèle est incapable d'accomplir la tâche, mais plutôt qu'il a rencontré un problème dans son algorithme qui doit être résolu.

De même, un délai d'attente du plug-in peut se produire lorsqu'un plug-in spécifique, qui est un composant logiciel supplémentaire qui étend les capacités du logiciel principal, prend trop de temps pour exécuter une tâche. De nombreux LLM n'ont pas été conçus à l'origine pour l'environnement rapide des applications basées sur le web et peuvent avoir du mal à répondre aux exigences de vitesse, ce qui entraîne des dépassements de temps pour les plug-ins.

Exemples concrets et solutions

Considérons un cas où un LLM, comme ChatGPT, est utilisé pour la génération automatique d'histoires. La tâche consiste à générer une histoire courte sur la base d'un message-guide entré par l'utilisateur. Cependant, le modèle reste bloqué dans une boucle, générant continuellement de plus en plus de contenu sans parvenir à une conclusion. Il semble qu'il s'agisse d'un "échec", car le modèle n'est pas en mesure de fournir une histoire concise comme prévu.

• La vraie question : Le modèle est resté bloqué dans sa boucle décisionnelle, prolongeant continuellement l'histoire au lieu de la conclure.

• La solution: Une petite modification de l'invite ou un ajustement subtil des paramètres du modèle peut faire sortir le modèle de la boucle et lui permettre d'accomplir sa tâche avec succès.

*Vous trouverez d'autres exemples concrets et des solutions dans notre blog.

Déchiffrer les messages silencieux du LLM

Lorsqu'un LLM rencontre un problème, il ne s'agit pas nécessairement d'un "échec" au sens conventionnel du terme. Au contraire, il s'agit souvent d'un signal silencieux - un mot non prononcé - qui pointe vers un problème spécifique comme une boucle de décision, un problème de plug-in ou un comportement inattendu qui a interféré avec la tâche du modèle.

La compréhension de ces messages silencieux du LLM peut nous permettre d'adapter, d'optimiser et d'améliorer ses performances. Par conséquent, il ne s'agit pas de se concentrer uniquement sur le message d'erreur, mais d'élucider les significations plus profondes, souvent cachées, qui se cachent derrière ces messages.

Consultez le blog complet : "Ce que signifie le message d'erreur de ChatGPT"

Comment encoder la compréhension grâce à l'ingénierie des messages-guides

L'ingénierie des invites avec de grands modèles de langage (LLM) tels que ChatGPT et Google's Bard est un aspect essentiel, mais souvent négligé, de ces puissants outils d'IA. Il s'agit en quelque sorte de préparer le terrain pour un dialogue alimenté par l'IA, en offrant une orientation initiale à la conversation informatique. Lorsque vous vous engagez avec un LLM, votre demande initiale est votre premier pas dans le vaste paysage des possibilités offertes par ces modèles. C'est votre façon de définir les attentes, d'orienter la conversation et, surtout, de façonner la réponse de l'IA.

La puissance du codage un exemple typique

Lorsque nous codons un exemple typique dans notre message initial, nous donnons à l'IA une idée claire de ce que nous voulons. Cela est particulièrement utile lorsqu'il s'agit de traiter des demandes ou des tâches complexes. Prenons l'exemple d'un scénario dans lequel nous voulons que notre IA nous aide à rédiger une proposition commerciale. Au lieu d'une instruction vague comme "Rédiger une proposition commerciale", nous pouvons fournir un exemple typique : "Rédigez une proposition commerciale similaire à celle que nous avons faite pour la société ABC l'année dernière". Ici, nous encodons un exemple typique dans l'invite initiale, ce qui donne une direction claire à l'IA.

Influencer la façon de penser : Guider l'IA à l'aide de messages-guides

A travers une ingénierie rapide, prudente et réfléchieNous pouvons ainsi influencer la "façon de penser" de l'IA, en l'orientant vers des réponses plus proches de ce dont nous avons besoin ou de ce que nous anticipons. Cependant, il ne s'agit pas simplement de fournir une commande claire ou un ensemble d'instructions. Il s'agit de capturer l'essence d'un processus de pensée ou d'un cheminement de raisonnement dans l'invite.

Par exemple, disons que nous voulons que l'élément L'IA pour résoudre un problème mathématique. Au lieu de demander directement la solution, nous pourrions guider l'IA pour qu'elle démontre les étapes de la résolution du problème. Une invite telle que "Comme si vous étiez un tuteur en mathématiques, expliquez-moi les étapes de la résolution de cette équation..." peut influencer de manière significative la réponse de l'IA, en suscitant une solution étape par étape qui imite la façon de penser d'un tuteur.

L'invite initiale en tant que guide de l'utilisateur : Préparer le terrain pour l'interaction

Dans le domaine de l'interaction avec l'IA, une invite initiale peut remplir une fonction similaire à celle d'un manuel d'utilisation, en donnant à l'utilisateur des indications sur ce qui est possible. Elle contribue à conditionner l'utilisateur, en lui fournissant une feuille de route pour son interaction avec l'IA. C'est un peu comme un prélude, qui donne le ton de la conversation qui va suivre.

Un message initial bien conçu pourrait ressembler à ceci : "Imaginez que vous êtes un écrivain spécialisé dans les voyages et que vous rédigez un article sur les meilleurs cafés de Paris. Commencez votre article par une description vivante d'un charmant café au bord de la Seine." Cela permet non seulement d'orienter l'IA vers la tâche souhaitée, mais aussi de donner à l'utilisateur une idée du type de réponse qui peut être générée.

Encodage de l'expertise dans l'IA

À mesure que nous découvrons les subtilités des grands modèles de langage, il devient évident que l'ingénierie des messages-guides n'est pas seulement une exigence technique : c'est un outil fondamental pour encoder notre façon de penser dans l'intelligence artificielle. Qu'il s'agisse d'un simple rappel ou d'un guide complet, l'invite initiale est la pierre angulaire de l'interaction entre l'homme et l'intelligence artificielle, car elle définit les limites et les possibilités de la conversation.

En utilisant efficacement l'invite initiale, nous pouvons coder un exemple typique de la façon dont l'IA devrait répondre, façonner la façon de penser de l'utilisateur et guider les réponses de l'IA.

Consultez le blog complet : "Comment encoder la compréhension grâce à l'ingénierie des messages-guides"

Merci d'avoir pris le temps de lire AI & YOU !

*écrémer AI est un cabinet de conseil en apprentissage automatique et en intelligence artificielle qui forme les cadres, effectue des vérifications préalables, conseille, architecture, construit, déploie, entretient, met à jour et met à niveau. IA d'entreprise des solutions basées sur le langage (NLP), la vision (CV) et l'automatisation.

*Discutez avec moi de l'IA d'entreprise

*Suivez Skim AI sur LinkedIn