Aider's polyglot
Résoudre des exercices de programmation d'Exercism en modifiant des fichiers source, dans plusieurs langages.
high, relevé sous « Aider’s polyglot: whole »
Source
A small model alternative to o3
Ce qu’il peut avoir sous les yeux en une seule fois, question et réponse comprises.
Ce que coûte le texte qu’on lui envoie.
Ce que coûte le texte qu’il produit, toujours plus cher que l’entrée.
La plus longue réponse qu’il peut produire d’un seul tenant.
Il ne sait rien de ce qui s’est passé après cette date, sauf si on le lui fournit.
Le modèle peut réfléchir avant de répondre, en produisant des jetons de raisonnement facturés comme la sortie. La profondeur se règle par un niveau d'effort.
La réponse arrive mot à mot pendant qu'elle s'écrit, au lieu d'attendre qu'elle soit finie.
Le modèle rend une réponse au format demandé, exploitable par un programme sans relecture.
Le modèle peut demander l'exécution d'une fonction du programme qui l'appelle et se servir du résultat.
Le modèle peut chercher une réponse dans des documents fournis plutôt que dans ce qu'il a appris.
Des fichiers peuvent lui être soumis directement.
Le modèle peut écrire puis exécuter du code pour calculer ou vérifier lui-même.
Le modèle peut se brancher sur des services extérieurs par le protocole ouvert Model Context Protocol.
Le modèle peut produire une image.
12 tests relevés pour ce modèle, regroupés par ce qu'ils mesurent. Chaque chiffre est annoncé par le laboratoire, avec sa source et ses conditions ; une jauge n'est dessinée que quand l'échelle du test a un maximum connu.
Le modèle reçoit un dépôt et un problème, et doit produire un correctif qui passe les tests, sans intervention humaine.
Résoudre des exercices de programmation d'Exercism en modifiant des fichiers source, dans plusieurs langages.
high, relevé sous « Aider’s polyglot: whole »
SourceCorriger de vrais tickets ouverts sur GitHub, dans le dépôt d'origine, sans aide.
high
SourceDes questions à réponse unique, du niveau lycée au niveau doctorat, où seule la justesse compte.
Des questions à choix multiples sur 57 matières, du programme de lycée au niveau professionnel.
high
SourceLes 57 matières de MMLU, posées dans quatorze langues autres que l'anglais.
high, relevé sous « Multilingual MMLU »
SourceDes questions de niveau doctorat en biologie, physique et chimie, écrites par des spécialistes.
high
SourceParcourir un graphe dont la description remplit toute la fenêtre de contexte.
high, relevé sous « Graphwalks bfs <128k »
SourceRetrouver la bonne réponse quand plusieurs demandes presque identiques ont été noyées dans une très longue conversation.
high, relevé sous « OpenAI-MRCR: 2 needle128k »
SourceDes démonstrations de niveau olympiade et des problèmes tirés de la recherche en cours.
L'examen américain d'invitation en mathématiques, édition 2024 : une compétition lycéenne prestigieuse, quinze problèmes en trois heures.
math, high
SourceDes livrables de métier : dossiers juridiques, flux d'entreprise, enchaînements d'outils, documents de travail.
Écrire un texte libre en respectant à la lettre des contraintes de forme.
high
SourceObéir à des consignes de forme dont le respect se vérifie par un programme, sans jugement humain.
high
SourceTenir une conversation à plusieurs tours en se servant correctement de ce qui a été dit avant.
high
SourceTraiter un dossier de service client en suivant les règles de l'entreprise, dans le transport aérien ou le commerce de détail.
high, relevé sous « Taubench airline »
Sourceo3-mini
Le nom exact à écrire dans le code pour appeler ce modèle.
o3-mini-2025-01-31 Les autres noms du même modèle, selon la plateforme qui le revend.
Mettre en mémoire un début de requête réutilisé d’un appel à l’autre : 1,25 fois le prix d’entrée.