Commit c4387bce by PLN (Algolia)

fix: le modèle se choisit hors raisonneurs, et le raisonnement reste borné

parent ea7d48e7
......@@ -17,7 +17,30 @@ import { lint, bodyOf } from './lint.mjs';
import { RATIONALES } from './catalog.mjs';
export const DEFAULT_URL = 'http://127.0.0.1:1234/v1';
export const DEFAULT_MODEL = 'local-model';
/**
* Ids écartés par la sélection automatique — sous-chaînes, casse ignorée.
* Le endpoint par défaut sert un modèle à long raisonnement qui fait sauter
* le délai de 120 s ; le propriétaire ne veut jamais qu'un raisonneur soit
* choisi en silence.
*/
export const REASONING_ID_HINTS = [
'thinking',
'reason',
'r1',
'qwq',
'o1',
'o3',
'o4',
'deepseek-r1',
'phi-4-reasoning',
'nemotron',
];
const looksReasoning = (id) => {
const lower = id.toLowerCase();
return REASONING_ID_HINTS.some((h) => lower.includes(h));
};
/** Une erreur propre pour l'humain au clavier — jamais une pile. */
export class FixError extends Error {}
......@@ -73,6 +96,11 @@ async function chat(url, model, prompt, timeoutMs) {
],
temperature: 0.2,
stream: false,
// Raisonnement borné, toujours envoyé — modèle choisi à la main
// compris (« off ou low », jamais un raisonneur silencieux). Un
// serveur OpenAI-compatible qui ne connaît pas ces champs les ignore.
reasoning_effort: 'low',
chat_template_kwargs: { enable_thinking: false },
}),
signal: AbortSignal.timeout(timeoutMs),
});
......@@ -92,6 +120,39 @@ async function chat(url, model, prompt, timeoutMs) {
return content;
}
/**
* Le modèle quand BUVARD_FIX_MODEL ne dit rien : on liste les modèles du
* serveur et on prend le premier hors raisonnement. Un seul modèle déclaré :
* il passe quoi qu'il en soit. Que des raisonneurs (ou une liste vide) :
* erreur propre — le propriétaire choisit, jamais le hasard. Un serveur
* muet garde le message « démarre LM Studio » d'origine.
*/
async function pickModel(url, timeoutMs) {
let res;
try {
res = await fetch(`${url.replace(/\/+$/, '')}/models`, { signal: AbortSignal.timeout(timeoutMs) });
} catch (e) {
if (e?.name === 'TimeoutError' || e?.cause?.code === 'UND_ERR_CONNECT_TIMEOUT')
throw new FixError(`délai dépassé (${Math.round(timeoutMs / 1000)} s) — le modèle local charge peut-être`);
throw new FixError(
`le serveur local ne répond pas sur ${url} — démarre LM Studio (Developer → Start Server) ou règle BUVARD_FIX_URL`,
{ cause: e },
);
}
if (!res.ok) throw new FixError(`le serveur local a répondu ${res.status} ${res.statusText}`);
const data = await res.json().catch(() => null);
const ids = (Array.isArray(data?.data) ? data.data : [])
.map((m) => m?.id)
.filter((id) => typeof id === 'string' && id.length > 0);
if (ids.length === 1) return ids[0];
const plain = ids.find((id) => !looksReasoning(id));
if (!plain)
throw new FixError(
`aucun modèle hors raisonnement sur ${url} (${ids.join(', ') || 'liste vide'}) — fixe BUVARD_FIX_MODEL pour choisir`,
);
return plain;
}
/** Le modèle encadre parfois son JSON de fences ou de politesses ; on récupère le tableau. */
export function parseSuggestions(content) {
const body = content.replace(/```[a-z]*\n?/gi, '').trim();
......@@ -199,13 +260,15 @@ export function verifyAndApply(text, suggestions) {
*/
export async function fixText(text, opts = {}) {
const url = opts.url ?? process.env.BUVARD_FIX_URL ?? DEFAULT_URL;
const model = opts.model ?? process.env.BUVARD_FIX_MODEL ?? DEFAULT_MODEL;
let model = opts.model ?? process.env.BUVARD_FIX_MODEL ?? null;
const timeoutMs = opts.timeoutMs ?? Number(process.env.BUVARD_FIX_TIMEOUT_MS ?? 120000);
const maxRounds = opts.maxRounds ?? 3;
const before = lint(bodyOf(text));
const rounds = [];
let current = text;
let improved = before.hits.length > 0;
// Texte propre : pas un seul appel au serveur, pas même pour lister les modèles.
if (improved && model === null) model = await pickModel(url, timeoutMs);
for (let round = 1; improved && round <= maxRounds; round++) {
const here = lint(bodyOf(current));
const content = await chat(url, model, buildPrompt(current, here), timeoutMs);
......
......@@ -12,5 +12,5 @@ export {
diffLines,
FixError,
DEFAULT_URL,
DEFAULT_MODEL,
REASONING_ID_HINTS,
} from './fix.mjs';
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment