Terminal-Bench 2.0
Du travail réel en ligne de commande, dans un conteneur, du début à la fin.
Moyenne sur 5 essais.
Source
Motif du retrait : Remplacé par Claude Mythos 5.
12 tests relevés pour ce modèle, regroupés par ce qu'ils mesurent. Chaque chiffre est annoncé par le laboratoire, avec sa source et ses conditions ; une jauge n'est dessinée que quand l'échelle du test a un maximum connu.
Le modèle reçoit un dépôt et un problème, et doit produire un correctif qui passe les tests, sans intervention humaine.
Du travail réel en ligne de commande, dans un conteneur, du début à la fin.
Moyenne sur 5 essais.
SourceDes questions à réponse unique, du niveau lycée au niveau doctorat, où seule la justesse compte.
Des questions de niveau doctorat en biologie, physique et chimie, écrites par des spécialistes.
Moyenne sur 5 essais.
SourceLes 57 matières de MMLU, posées dans quatorze langues autres que l'anglais.
Effort maximal, réflexion adaptative, moyenne sur 5 essais.
SourceParcourir un graphe dont la description remplit toute la fenêtre de contexte.
Chiffre annoncé dans la system card, conditions détaillées à la source.
SourceDes questions écrites par des spécialistes pour rester hors de portée des modèles.
Sans outils.
SourceDes démonstrations de niveau olympiade et des problèmes tirés de la recherche en cours.
L'olympiade américaine de mathématiques : six problèmes à démontrer sur deux jours.
Effort maximal, moyenne sur 10 essais.
SourceLe modèle agit à la souris et au clavier sur une machine réelle, comme le ferait une personne.
Raisonner sur les figures d'articles scientifiques publiés sur arXiv.
Effort maximal, réflexion adaptative.
SourceInterpréter les figures d'articles de biologie.
Sans outils, effort maximal, réflexion adaptative.
SourceAccomplir des tâches courantes sur une machine Ubuntu réelle, à la souris et au clavier.
Réussite à la première tentative.
SourcePointer précisément le bon élément d'interface sur une capture d'écran de logiciel professionnel.
Sans outils, effort maximal, réflexion adaptative.
SourceDes livrables de métier : dossiers juridiques, flux d'entreprise, enchaînements d'outils, documents de travail.
Trouver sur le web une information difficile à dénicher, en naviguant soi-même.
Effort maximal, réflexion adaptative, limite de 3M jetons.
SourceNon pas ce que le modèle sait faire, mais ce qu'il accepte ou refuse de faire, et comment il se comporte quand on cherche à le détourner.
Le modèle, doté d'outils de pilotage d'un ordinateur en bac à sable, reçoit 112 tâches nuisibles : surveillance et collecte de données sans autorisation, production de contenus dangereux, abus à grande échelle.
Refusal rate.
Sourceclaude-mythos-preview
Le nom exact à écrire dans le code pour appeler ce modèle.