Le nouvel outil « Think » d'Anthropic permet à Claude de faire une pause et de réfléchir dans des situations complexes d'utilisation d'outils

Cabinet spécialisé dans la sécurité et la recherche en IA, Anthropique a introduit l'outil « Réfléchir », qui offre un espace dédié à la réflexion structurée lors de tâches complexes. Cet outil permet à Claude d'intégrer une étape de réflexion supplémentaire, avec son propre espace dédié, avant d'arriver à sa réponse finale.

Bien que le concept puisse sembler similaire à celui de la pensée étendue, il existe des différences fondamentales. La pensée étendue intervient avant que Claude ne commence à générer une réponse, où elle approfondit et affine son approche. En revanche, l'outil « Réflexion » est utilisé après que Claude a commencé à générer une réponse, ce qui lui permet de marquer une pause et d'évaluer s'il a rassemblé toutes les informations nécessaires pour poursuivre. Ceci est particulièrement utile lors de tâches impliquant de longues séquences d'appels d'outils ou des conversations en plusieurs étapes avec l'utilisateur.

L'outil « Réflexion » est particulièrement efficace lorsque Claude ne dispose pas de suffisamment d'informations issues de la seule requête utilisateur et doit traiter des données externes (telles que les résultats des appels d'outils). Le raisonnement qui sous-tend cet outil est moins complet que celui du processus de réflexion étendu et se concentre davantage sur l'intégration des nouvelles informations apparues au cours de la tâche.

Anthropic recommande d'utiliser la pensée étendue pour les scénarios simples, comme les appels d'outils non séquentiels ou les instructions directes. Elle est également efficace pour des tâches comme le codage, les mathématiques et la physique, où Claude n'a pas besoin d'outils externes. Cet outil est plus adapté aux tâches plus complexes, où Claude doit analyser attentivement les résultats des outils, suivre des directives détaillées dans des environnements soumis à de nombreuses politiques, ou prendre des décisions séquentielles qui se complètent, où les erreurs peuvent avoir des conséquences.

Meilleures pratiques pour la mise en œuvre de l'outil « Think »

Afin de maximiser les bénéfices de l’outil « Think » avec Claude, Anthropic recommande les pratiques de mise en œuvre suivantes basées sur ses expériences τ-bench. 

La stratégie la plus efficace consiste à fournir des instructions claires sur le moment et la manière d'utiliser l'outil « Think ». Cela est particulièrement évident dans le domaine des compagnies aériennes τ-bench, où des exemples spécifiques au domaine améliorent considérablement l'efficacité du modèle dans l'application de l'outil « Think ». Ces exemples doivent inclure des conseils sur plusieurs aspects, tels que : la description du niveau de détail attendu du processus de raisonnement, la décomposition d'instructions complexes en étapes concrètes, la fourniture d'arbres de décision pour la gestion de scénarios courants et l'aide à l'évaluation de la collecte de toutes les informations nécessaires.

En outre, Anthropique Nous avons constaté que pour les instructions longues ou complexes, les placer dans l'invite système était plus efficace que de les inclure dans la description de l'outil elle-même. Cela permet au modèle de mieux intégrer le processus de réflexion à son comportement global en lui fournissant un contexte plus large.

L'intégration de l'outil « Think » à l'implémentation Claude est relativement simple et peut apporter des améliorations. L'entreprise suggère de commencer par les cas d'utilisation complexes, notamment ceux où Claude rencontre des difficultés avec la conformité aux politiques ou un raisonnement complexe dans de longues chaînes d'appels d'outils. Les utilisateurs peuvent commencer par ajouter l'outil. defiDéfinition et mise en œuvre d'un outil de réflexion personnalisé, spécifique au domaine. Ce processus nécessite un codage minimal, mais favorise un raisonnement plus structuré. Les utilisateurs devraient également envisager d'inclure des instructions sur le moment et la manière d'utiliser l'outil, ainsi que des exemples pertinents pour le domaine, dans l'invite système.

Une fois l’outil en place, les utilisateurs sont encouragés à surveiller et à affiner son utilisation en observant comment Claude L'application pratique est possible. Ils peuvent adapter les messages pour favoriser des schémas de pensée plus efficaces. L'ajout de ce nouvel outil présente des inconvénients minimes en termes de performances. Il ne modifiera pas le comportement externe, sauf si Claude décide de l'utiliser, et il n'interfère pas avec les outils ou les flux de travail existants.