CAVEWOMAN : une question plus courte peut alourdir la facture
CAVEWOMAN distingue le raccourcissement de la question de celui de la réponse. Ses résultats invitent à mesurer la requête entière, tandis que la comparaison du sens révèle ce qu’une réponse finale juste peut cacher.
CAVEWOMAN distingue le raccourcissement de la question de celui de la réponse. Ses résultats invitent à mesurer la requête entière, tandis que la comparaison du sens révèle ce qu’une réponse finale juste peut cacher.
Les deux côtés de la facture
Supprimer les petits mots semble économique. Le modèle peut pourtant produire une réponse plus longue. CAVEWOMAN sépare les deux canaux : filtrer la question avec une instruction système fixe, ou garder la question intacte et contraindre la sortie. Adobe présente ce travail le 29 octobre ; l’article arXiv lié date du 23 juin 2026. Il s’agit d’une lecture de travaux existants, pas d’un lancement aujourd’hui.
Les résultats des auteurs
L’article décrit huit modèles, cinq tests et cinq niveaux de réduction. Son résumé rapporte une baisse du coût des sorties d’un facteur 1,4 à 2,4 pour la plupart des modèles API, jusqu’à trois dans le meilleur cas. La compression des entrées augmente le coût net d’environ 1,15 en moyenne sur les cinq tests dans ce cadre. Ce sont les résultats des auteurs avec leurs tarifs et tâches ; je ne les ai pas reproduits. Le dépôt affiche aussi des volumes plus larges qui diffèrent du résumé. Je fixerais une révision avant de reprendre ces totaux.
Une réponse juste dont le sens change
Le protocole compare aussi le texte à la réponse sans contrainte du même modèle. Selon les auteurs, environ la moitié des générations des modèles sans raisonnement peuvent être justes alors que leur texte n’implique plus celui de référence. Cette mesure compare des textes. Elle ne révèle pas le raisonnement caché et ne prouve pas que la référence est vraie. Dans un résumé professionnel, perdre une condition peut compter même si le chiffre reste juste.
La comparaison locale que je préparerais
Je garderais la question intacte et comparerais la réponse habituelle à une seule consigne de concision sur les mêmes cas fixes. Il faut noter les jetons facturés en entrée et sortie, les paramètres, reprises, bonnes réponses et conditions conservées. Les échecs restent dans le calcul. Le Python pédagogique ci-dessous calcule un coût à partir de jetons et de tarifs par million. Les chiffres sont fictifs, aucun appel API n’est fait et ce n’est pas une reproduction de l’étude.
# Fictional token counts; supplied rates per million tokens.
def cost(input_tokens, output_tokens, input_rate, output_rate):
return (input_tokens * input_rate + output_tokens * output_rate) / 1_000_000
baseline = cost(100, 300, 1, 4)
short_input = cost(80, 340, 1, 4)
short_output = cost(100, 180, 1, 4)
assert short_input > baseline > short_outputQuand je refuserais la réduction
Moins de jetons ne suffirait pas si une réserve, une unité ou une action requise disparaît. Le dépôt limite les résultats principaux à des tâches à un tour avec réponse courte extractible et facturation directe au jeton ; les textes longs se comportent autrement. Les limites d’abonnement, le cache, les jetons de raisonnement et les outils demandent leur propre comptabilité. Je choisirais la longueur après avoir comparé coût et information conservée sur le travail réel.