Aider's polyglot
Résoudre des exercices de programmation d'Exercism en modifiant des fichiers source, dans plusieurs langages.
relevé sous « Aider’s polyglot: diff »
Source
Deprecated large model.
Ce qu’il peut avoir sous les yeux en une seule fois, question et réponse comprises.
Ce que coûte le texte qu’on lui envoie.
Ce que coûte le texte qu’il produit, toujours plus cher que l’entrée.
La plus longue réponse qu’il peut produire d’un seul tenant.
Il ne sait rien de ce qui s’est passé après cette date, sauf si on le lui fournit.
Motif du retrait : Remplacé par gpt-4.1.
Le modèle peut demander l'exécution d'une fonction du programme qui l'appelle et se servir du résultat.
Le modèle rend une réponse au format demandé, exploitable par un programme sans relecture.
La réponse arrive mot à mot pendant qu'elle s'écrit, au lieu d'attendre qu'elle soit finie.
Une consigne générale peut cadrer le comportement du modèle pour toute la conversation.
La plateforme permet de mesurer la qualité des réponses sur des jeux d'essai.
Une partie de requête déjà envoyée est facturée moins cher si elle est réutilisée peu après.
Le modèle voit les images qu'on lui soumet et peut répondre à leur sujet.
15 tests relevés pour ce modèle, regroupés par ce qu'ils mesurent. Chaque chiffre est annoncé par le laboratoire, avec sa source et ses conditions ; une jauge n'est dessinée que quand l'échelle du test a un maximum connu.
Le modèle reçoit un dépôt et un problème, et doit produire un correctif qui passe les tests, sans intervention humaine.
Résoudre des exercices de programmation d'Exercism en modifiant des fichiers source, dans plusieurs langages.
relevé sous « Aider’s polyglot: diff »
SourceCorriger de vrais tickets ouverts sur GitHub, dans le dépôt d'origine, sans aide.
relevé sous « SWE-Bench Verified (coding) »
SourceDes questions à réponse unique, du niveau lycée au niveau doctorat, où seule la justesse compte.
Des questions à choix multiples sur 57 matières, du programme de lycée au niveau professionnel.
SourceLes 57 matières de MMLU, posées dans quatorze langues autres que l'anglais.
multilingual
SourceDes questions d'examen universitaire qui mêlent texte, schémas, cartes et partitions.
SourceParcourir un graphe dont la description remplit toute la fenêtre de contexte.
relevé sous « Graphwalks bfs <128k »
SourceDes questions de niveau doctorat en biologie, physique et chimie, écrites par des spécialistes.
SourceRetrouver la bonne réponse quand plusieurs demandes presque identiques ont été noyées dans une très longue conversation.
relevé sous « OpenAI-MRCR: 2 needle128k »
SourceDes démonstrations de niveau olympiade et des problèmes tirés de la recherche en cours.
Le modèle agit à la souris et au clavier sur une machine réelle, comme le ferait une personne.
Raisonner sur les figures d'articles scientifiques publiés sur arXiv.
SourceDes livrables de métier : dossiers juridiques, flux d'entreprise, enchaînements d'outils, documents de travail.
Obéir à des consignes de forme dont le respect se vérifie par un programme, sans jugement humain.
SourceÉcrire un texte libre en respectant à la lettre des contraintes de forme.
SourceTraiter un dossier de service client en suivant les règles de l'entreprise, dans le transport aérien ou le commerce de détail.
relevé sous « Taubench airline »
SourceTenir une conversation à plusieurs tours en se servant correctement de ce qui a été dit avant.
Sourcegpt-4.5-preview
Le nom exact à écrire dans le code pour appeler ce modèle.
gpt-4.5-preview-2025-02-27 Les autres noms du même modèle, selon la plateforme qui le revend.
Mettre en mémoire un début de requête réutilisé d’un appel à l’autre : 1,25 fois le prix d’entrée.