Skip to content

test(assistant): дрифт-пазач — речникът на данните срещу реалните миграции - #330

Open
nedda76 wants to merge 38 commits into
midt-bg:mainfrom
nedda76:test/schema-dictionary-drift-guard
Open

test(assistant): дрифт-пазач — речникът на данните срещу реалните миграции#330
nedda76 wants to merge 38 commits into
midt-bg:mainfrom
nedda76:test/schema-dictionary-drift-guard

Conversation

@nedda76

@nedda76 nedda76 commented Aug 24, 2026

Copy link
Copy Markdown
Collaborator

Стакнат върху #321 (мърдж ред: #321 → този). Дифът включва комитите на #321, докато той не мърджне; новото тук е само последният комит ef33fae (3 файла). Стакването не е случайно: срещу main-версията на речника пазачът веднага докладва amendments.contract_id и parties.role — двата реални дрифта, чиято поправка живее в #321.

Свързан issue

Няма closing issue — находката идва от ревюто на PR #321, където историческият дрифт (amendments.contract_id, parties.role) се откри на око; този PR превръща следващия такъв в червен build. По духа на #294: контролите на самия пазач са изпълними тестове в suite-а (небалансирана скоба пада шумно, анти-вакуумна проверка на →референциите), а не само твърдения в това описание.

Какво

Дрифт-пазач: речникът на данните, който моделът чете преди да пише SQL (describe-schema.ts), се заковава срещу РЕАЛНАТА served схема — всички packages/db/migrations/*.sql, приложени поред върху временна sqlite3 база (същият harness като packages/db/src/migrations.test.ts).

Защо

Речникът дрифтна тихо: amendments.contract_id никога не е съществувала, parties.role — също, и двете се откриха само на око при ревюто на #321. Всяка фантомна колона там влиза във всеки prompt, а полученият SQL пада в runtime с грешка, която моделът „поправя" с ново налучкване. Следващият такъв дрифт вече е червен build.

Как

  • всяка таблица от TABLES съществува (sqlite_master);
  • всеки водещ идентификатор от всеки columns низ е реална колона (pragma_table_info; скобените бележки със запетаи/кавички се игнорират от parser-а);
  • всяка →таблица референция е реална таблица, с анти-вакуумна проверка (речникът ДНЕС реферира tenders, така че умряла екстракция пада, вместо тестът да минава на празен списък завинаги);
  • всяка канонична заявка КОМПИЛИРА срещу схемата (EXPLAIN) — тях моделът копира дословно като отправна точка;
  • негативни контроли: историческият дрифт ('id, contract_id→contracts, …') се хваща; бележките в скоби не лъжат parser-а; небалансирана скоба пада шумно (иначе всяка колона след нея тихо изпада от пазача — точно failure mode-ът, който suite-ът лови, скрит в самия suite).

Разположение

Тестът е в apps/web/test/ и е включен в tsconfig.node.json (Node типове за child_process), а не в app/** — иначе Node globals щяха да се налеят в typecheck-а на Workers кода. describe-schema.ts е изрично изброен в composite проекта (нула import-и; коментар в tsconfig-а казва какво да се направи, ако някога добие import — tsc -b го именува с TS6307).

Проверено

  • 556/556 теста в apps/web, pnpm --filter web typecheck → 0, Prettier чист.
  • Негативни контроли на ниво система: срещу main-речника пазачът докладва точно amendments.contract_id + parties.role; изкормена dictionaryRefs (връща []) → 2 теста падат; махнат guard за небалансирана скоба → тестът за това пада.
  • sqlite3 CLI е вече изискване на CI (packages/db/src/migrations.test.ts, scripts-test.yml) — нищо ново за средата.

@lyubomir-bozhinov

Copy link
Copy Markdown
Collaborator

Прегледах новия комит ef33fae при HEAD — drift-guard-ът е точно каквото трябва, и сам се тества, вместо просто да минава.

Проверено:

  • Прилага всички миграции по ред върху throwaway sqlite3 и сверява речника (TABLES/CANONICAL_QUERIES от describe-schema.ts) срещу реалната схема през pragma_table_info / sqlite_master.
  • Всяка канонична заявка се компилира с EXPLAIN — фантомна колона в примерна заявка е по-опасна от тази в речника (моделът я копира буквално като отправна точка).
  • Anti-vacuity-то е налице: →tenders assertion-ът пази извличането да не „умре тихо" и assertion-ът да мине на празен списък завинаги; парсерът на колони хвърля при небалансирани скоби, вместо да изпусне опашката от гарда (точно failure mode-а, който гардът съществува да лови — скрит вътре в самия гард).
  • Negative controls-ите ловят историческия дрифт (amendments.contract_id — колона, която никога не е съществувала) и уважават скобовите бележки със запетаи/крос-таблични референции.

Стакнат на #321 (мърдж ред #321 → 330) и разчита на речника оттам, за да е зелен. Превръща следващия мълчалив дрифт от находка „на око" в червен build — по духа на #294. 👍

@nedda76
nedda76 force-pushed the test/schema-dictionary-drift-guard branch 2 times, most recently from d0015c9 to f4a18c3 Compare August 25, 2026 18:29
nedda76 added 27 commits August 26, 2026 20:57
The curated dictionary the model treats as hard fact had drifted from
packages/db/migrations/0000_init.sql:
- amendments: no contract_id column — it links via unp/contract_number
- parties: no role column — real cols are party_key, eik, ocid, party_id, name…
- value_flag enum was missing value_low
- amount_eur IS NULL was described as meaning value_suspect; it actually has
  several causes (FX-rateless foreign / value_suspect w/o estimate / no
  signing+current), and the unconfirmed count is value_flag='value_suspect'
  (home_totals.suspect), not NULL-amount rows
- data_freshness is a table, not a view

Drift here misleads a weak model into wrong joins or a wrong integrity KPI.
…e retrieval

Two grounding gaps that could leave a RAG turn LESS constrained than the
no-RAG fallback:
- buildSystemPrompt used the retrieved chunks INSTEAD of the dictionary, so a
  retrieval that missed the money-sum trap dropped the SUM(amount_eur) rule
  entirely. Inject the short imperative DATA_TRAPS unconditionally; RAG now only
  selects the extra tables/example-queries for the question.
- retrieveSchemaContext had no relevance floor — top-K returned its K
  least-distant chunks even when all were off-topic. Add MIN_SCHEMA_SCORE; below
  it we return fewer/zero chunks, and zero falls back to the full dictionary
  (the safe outcome).
group_concat / json_group_array / json_group_object collapse an entire
full-table scan into one huge cell that materialises in Worker memory before
capRows can measure it (and capRows keeps the first row whole) — the same
memory-amplification class already blocked for printf/format/randomblob, one
level up. Add them to the scalar blocklist.
- Prose number-gate missed трилион/билион/квадрилион: '3 трилиона лева' slipped
  the whole gate (the digit can't reach 'лева' across the Cyrillic word), an
  unbound order-up figure on a public report — the '12 млрд.' vector one
  magnitude higher. Add them to the spelled-magnitude stem.
- Validate the optional column align against a left|right whitelist, and build
  resolved table columns explicitly instead of spreading the model object, so no
  unknown/unvalidated property reaches the renderer.
- Cap model-emitted array lengths (blocks, items, columns) in validateEmitShape.
…h prompt paths

renderTraps() now owns the numbered-list rendering that describeSchema (full
dictionary) and the RAG hard-traps block duplicated, so the two paths cannot
drift, and the full-dictionary heading is harmonised to match the RAG block
("Задължителни правила за данните"). No behaviour change — string assembly only.
retrieveSchemaContext relied on `m.score` always being numeric. If an index
backend ever returns a match without a `score`, the comparison was falsy and the
chunk was dropped — the correct, safe outcome, but only incidentally. Make it
explicit with `(m.score ?? 0) >= minScore` and a comment so a future refactor
can't strip the guard, and cover it with a test. Addresses the review note on
rag.ts robustness (ydimitrof).
…vers квинтилион+)

The prose-number gate listed magnitudes explicitly and stopped at квадрилион, so
"3 квинтилиона лева" slipped. Match the shared suffixes instead — милион⊃"илион",
милиард⊃"илиард" — which covers the whole family (милион…секстилион…, милиард…)
and closes the row upward for good rather than chasing an endless list. Addresses
the review note on report-schema.ts (ydimitrof).
… the SQL guard

string_agg(X, sep) is the official SQLite 3.44 synonym of group_concat and reaches
the same code path on D1's modern SQLite, so it bypassed the scalar/aggregate
denylist and achieved the same memory amplification (whole scan into one cell
before capRows) the guard just closed for group_concat. Add it to the regex and
the adversarial test. Addresses the review note on sql-guard.ts (ydimitrof).
An over-cap blocks/items/columns array is exactly the unbounded structure
the ceilings guard against, yet validateEmitShape recorded the length error
and then walked the whole array anyway — doing the very scan the cap exists
to refuse. Return before the per-block scan on oversized blocks, and skip the
per-element scan on oversized items/columns. Behaviour is unchanged for valid
reports (ok:false either way); this only stops the wasted walk. Test asserts a
single cap error with no per-element errors, proving the array is not scanned.

Addresses lyubomir-bozhinov's review note on PR midt-bg#223.
The Dependency-audit step (osv-scanner) fails on ANY known vuln and, per its
own comment, expects intentional exceptions in osv-scanner.toml — which did not
exist yet. sharp@0.34.5 (High, GHSA-f88m-g3jw-g9cj: inherited libvips decoder
CVEs) has no in-range upstream fix: miniflare pins sharp ^0.34.5 and its latest
release still ships 0.34.5, so 0.35.0 is unreachable without a forced override.
sharp is a transitive dev-only dep (miniflare dev server / test runtime), absent
from the deployed Worker, and the vuln needs decoding an untrusted image the
toolchain never handles. Record a dated (ignoreUntil 2026-10-22) exception so
the audit gate goes green and the entry auto-resurfaces for revisit.

Verified locally with osv-scanner 2.4.0: fails without the config, passes with.
…d RAG retrieval

DATA_TRAPS are injected into the system prompt unconditionally (hardTraps),
so indexing them in the schema corpus let retrieval hand the same rule back
as "context" and render it twice. Traps are no longer indexed, and
retrieveSchemaContext drops kind:'trap' matches a previously deployed index
may still hold. Retrieval's job stays selecting relevant tables/queries.
(review note, ydimitrof)
The sharp entry used a TOML local-date (2026-10-22) while the react-router
entry above uses full RFC3339; align on the latter so parser versions cannot
read the file inconsistently. (review note, ydimitrof)
…ace instead of a runtime trap filter

Self-review of the previous commit found the client-side kind:'trap' filter
ran AFTER Vectorize's server-side topK cut, so legacy trap vectors (12 of ~37
in a pre-change index, and the most money-question-similar text in the corpus)
could eat up to all six retrieval slots — leaving the turn with fewer
tables/queries than the no-RAG fallback, silently and permanently, since
upsert never deletes the stale ids.

Replaced with a versioned NATIVE namespace (SCHEMA_NS = 'schema-v2') on both
the upserted vectors and the query: native namespaces need no metadata index
and exclude every stale cohort at the source, so no topK slot is ever spent on
a discarded match and the filter is gone. The version is in the vector ids too,
so re-indexing writes a new cohort and a Worker rollback keeps working against
the old one. An un-reindexed environment gets zero matches → the documented
full-dictionary fallback.

Also from the self-review: the stale module header still said trap-rules are
embedded; system-prompt tests fed trap strings retrieval can no longer produce;
and no test entered through the composed seam — added a retrieveSchemaContext →
buildSystemPrompt test seeded with the real corpus asserting every DATA_TRAP
renders exactly once (negative-controlled: re-adding traps under a disguised
id/kind fails it and the new corpus-length assertion). README provisioning now
documents the re-index-on-bump requirement.
Gap-sweep on the namespace fix found the composed exactly-once test was
weaker than advertised: it hand-mirrored the write mapping instead of running
indexSchemaCorpus, sliced only the first topK chunks (so a trap appended at
the corpus tail escaped it), and hard-coded a 0.9 score silently coupled to
MIN_SCHEMA_SCORE. It now routes through the real write path into a recording
fake, retrieves the WHOLE corpus, and derives its score from the floor — so
the write→read metadata contract (text key, ids, namespace) is under test and
a trap re-added at any position under any id/kind fails it
(negative-controlled again with a tail-appended, table-kind trap).

Also: remaining fixtures moved off pre-v2 unversioned ids; the semanticSearch
test title no longer claims a namespace it does not use (it pins the entity
METADATA filter); the module header no longer claims the bindings satisfy the
structural types (the route casts — drift is not tsc-checked); the new-cohort
rollback guarantee is now correctly stated as bump-only, with an explicit
WHEN TO BUMP rule (in-place upserts, positional query ids, orphan risk); the
README no longer suggests purging a cohort inside its rollback window and
notes delete-vectors needs an explicit id list; dropped the stale '150 теста'
verification claim.
… величините

Единствените near-collisions на суфиксния шаблон са думи на -лион
(напр. „Илион") — приети съзнателно: gate-ът нарочно флагва в повече,
а в регистъра на поръчките такива думи почти не се срещат. Записан е
изходът при евентуални фалшиви отхвърляния: \p{L} lookaround граница
(JS \b е ASCII-only), а не списък с изключения. Изброяването на
-илиард величините е сведено до реалните форми на „милиард"
(бележка от ревюто).
… gate-а

„Дванадесет млрд. лева" нямаше нито цифра (за \d…млрд шаблона), нито
пълнословен суфикс — изписано числително + абревиатура се промъкваше
покрай целия gate. млрд/млн влизат в стем шаблона (флагват и без цифра;
негативен контрол: тестът пада без промяната). Остатъкът „хил." без
цифра остава приет — хилядите не са defamation-мащабният вектор
(бележка от ревюто на midt-bg#320).
…enylist

SQLite (D1) резолва "group_concat"(x), [group_concat](x) и
`group_concat`(x) до същия built-in, а регексът изискваше голо име
непосредствено пред скобата — цитиран идентификатор минаваше L1.
Опционален quote клас след името затваря и трите форми (adversarial
тестове; негативен контрол: падат без промяната). Идентификатор с
padding в кавичките е РАЗЛИЧЕН за SQLite и не резолва built-in — не
изисква обработка (бележка от ревюто).
midt-bg#317)

Vectorize зачита metadata филтри само върху свойства с провизиран
metadata index, а репото не провизира нито един — filter: { ns: 'entity' }
на реален индекс греши или под-филтрира, и то тихо, защото извикващите
поглъщат грешките. Native namespace-ът (entity-v1, версиониран като
SCHEMA_NS) не изисква metadata index и се прилага преди всякакви филтри.
Това беше последната употреба на metadata filter в модула. Entity корпус
никога не е индексиран, така че няма legacy кохорт — бъдещият indexer
трябва да upsert-ва с namespace: ENTITY_NS (README, „Какво остава").

Closes midt-bg#317
- Header-ът вече не твърди, че FTS инструментът search_entities
  съществува (само спецификация е) — semantic_search днес връща 0
  попадения по дизайн, докато entity корпусът не се индексира.
- ENTITY_NS коментарът и README вече НЕ пренасят правилото WHEN TO BUMP
  върху entity корпуса: то предполага ръчен append-only корпус, а entity
  корпусът е производен от данните — indexer-ът се нуждае от собствен
  reconciliation/delete път и трябва да пази id-тата си.
- metadata.ns е маркиран изрично като форензично поле — НЕ филтруемо
  (няма metadata index); скоупингът е само през native namespace.
- semanticSearch деградира match без score до 0 (същата защита като
  флора на retrieveSchemaContext) вместо TypeError в tools.ts; тест.
- Тестовете за namespace коват и БРОЯ на заявките (toHaveBeenCalledTimes
  (1)) — иначе filter-базиран retry път би минал зелен.
…ема пътя

Без флор, щом entity корпусът се напълни, top-K връща K-те най-близки
съседа ДОРИ когато всички са off-topic, и те стигат до модела като
реални hits. MIN_ENTITY_SCORE (симетричен на MIN_SCHEMA_SCORE) реже под
прага; match без score се чете като под флора и отпада — същото
защитно правило като схема пътя. Тестовете деривират скоровете от
флора ± ε (бележка от ревюто на midt-bg#319).
…-namespace кохорта

- Number.isFinite вместо ?? 0 във флор филтъра на semanticSearch:
  (undefined ?? 0) >= 0 промъкваше match без score като 'hit' при
  изричен minScore = 0, а истински score 0 при флор 0 е легитимен —
  двата случая вече са разграничени (+ тест). След филтъра score е
  гарантирано число и DTO-то няма нужда от fallback.
- README: 'стар кохорт' изрично включва и оригиналния pre-namespace
  кохорт (id-та в DEFAULT namespace отпреди версионирането) — за
  първите среди той също е orphan за чистене (бележки от ревюто).
…s' на route границата (midt-bg#316)

env.VECTORIZE вече се присвоява на VectorIndex БЕЗ каст: metadata на
VectorRecord е стеснен до стойностите, които Vectorize приема, а
неизползваемият metadata filter отпадна от интерфейса — така tsc доказва
присвоимостта и дрейф между rag.ts и worker-configuration.d.ts чупи
typecheck-а, не продукцията (негативен контрол: върнат filter член →
TS2322 на самото присвояване).

env.AI не може да удовлетвори EmbeddingRunner структурно (run() връща
per-model union), затова route-ът минава през типизиран адаптер, който
вика реалния @cf/baai/bge-m3 overload — също проверен от компилатора —
и подава само embeddings члена; embed() и без това fail-fast-ва при
малформен data.

Кастовете към AgentEnv остават: BGGPT_API_KEY е secret и не присъства
в генерирания Env — отделен въпрос от AI/Vectorize биндингите.

Closes midt-bg#316
- EmbeddingRunner.run вече взима model: typeof EMBED_MODEL (литерала), а
  адаптерът го препраща в реалния Ai.run overload — втори, различен
  модел би бил компилационна грешка, не тихо embed-ване с грешния модел.
- Адаптерът е изнесен в bindings.ts (embeddingRunnerFor) — единственият
  модул, който познава и двете страни на границата; unit тестван,
  включително [] случаят, който инлайн версията оставяше непокрит.
- При неочаквана форма на отговора адаптерът хвърля именувана грешка
  (само ключовете, без payload — error envelope може да ехне въпроса)
  вместо да връща [], което се четеше като 'провайдърът не embed-на нищо'.
- Header коментарът на rag.ts е разделен по интерфейс: VectorIndex е
  присвоим от VectorizeIndex (без каст), EmbeddingRunner нарочно НЕ е;
  поправено и погрешното твърдение, че Vectorize няма filter поле.
- README provisioning gate-ът вика indexSchemaCorpus през
  embeddingRunnerFor — голият env.AI вече не typecheck-ва там.
…е като успех

[] е truthy — проверка само за присъствие връщаше { data: [] } за
непразен вход и embed() после обвиняваше '0 embeddings' вместо реалната
причина: провайдър, отговорил с празен batch. Празният масив вече е
именуван отделен случай в грешката на адаптера (+ тест; бележка от
ревюто на midt-bg#320).
…rieval-а + логнати деградации

retrieveSchemaContext подава RetrievalStats (matched срещу kept) през
опционален onStats hook; route-ът ги логва и вече не поглъща тихо
грешката при retrieval (console.error + fallback, в стила на другите
деградационни пътища на файла). kept=0 при matched>0 е точно тихият
fallback към пълния речник, който досега беше неразличим от работещ RAG.

Позиционните topK/minScore станаха opts обект — така сигнатурата носи
и hook-а без опашка от undefined аргументи.

Флорът MIN_SCHEMA_SCORE остава непипнат: коментарът му вече казва изрично,
че е калибриран срещу пре-v2 корпуса и чака емпирично премерване — това е
втората половина на midt-bg#318, която ще стъпи върху тези логове.

Част от midt-bg#318
…вюто

- onStats се вика в try/catch (reportStats) — хвърлящ metrics sink не
  може да струва на хода неговите чънкове (инвариантът на request-log.ts);
  закован с тест.
- Третият деградационен път (!vec — embed без използваем вектор) вече
  също докладва, с нули — иначе е неразличим от 'статистиката не е вързана'.
- kept се раздели от aboveFloor: aboveFloor > kept сигнализира счупен
  metadata.text контракт (бъг в индексирането), не флор — двата класа
  повреди имат противоположни поправки.
- Логът на route-а е структуриран JSON (стилът на request-log.ts), а
  error логът подава само message — суров error обект може да ехне
  въпроса на потребителя в логовете.
- Тестът за статистика деривира скоровете от MIN_SCHEMA_SCORE ± ε и
  затвърждава и върнатите чънкове, не само броячите.

Част от midt-bg#318
…isFinite и по схема пътя

- semanticSearch подава SemanticSearchStats (matched/kept) през същия
  best-effort reportStats hook; tools.ts ги логва структурирано
  ({evt:'assistant.semantic'}) — след напълването на entity-v1 (Фаза 2)
  'флорът отряза всичко' и 'празен namespace' са различими и там.
- Схема флорът също мина на Number.isFinite (симетрия с entity ръба при
  изричен minScore = 0 в RetrieveOptions).
- Error логът на semantic_search подава само message — провайдърски
  error envelope може да ехне текста на заявката (същата дисциплина
  като route-а). (бележки от ревюто на midt-bg#321)
nedda76 added 11 commits August 26, 2026 20:57
…а модула

Третият catch в route-а още логваше суровия error обект, докато същият
файл вече два пъти пази 'само message' заради ехо на въпроса в логовете.
Същият клас имаше и в run_sql (D1 грешка носи SQL-а, построен от
въпроса) и в stream onError (BgGPT грешка носи prompt-а).

Вместо трети copy-paste на тернара — errorText() в log-safety.ts,
използван на ВСИЧКИТЕ пет catch/лог места: само message (никога stack,
никога cause веригата, никога обекта), с таван от 300 знака срещу
гигантско тяло от провайдър. Тестът закова точно тези инварианти
(негативен контрол: връщане на stack/cause го чупи).

Бележка от ревюто на @lyubomir-bozhinov по midt-bg#321.
…вариант пазеше грешната ос

Само-ревюто на предишния комит намери три дефекта в него:

1. НЕ беше тотален: String(Object.create(null)) хвърля (проверено), а
   Proxy/хостилен message getter — също. Помощник, който живее в пет
   catch блока, не може да хвърля: изключението щеше да избяга от
   catch-а, да убие graceful fallback-а (пълния речник / стрийм линията)
   и да върне 500, при това с целия обект в лога на framework-а.
2. Филтрираше по грешната ос: махаше stack-а (който по конструкция НЕ
   носи потребителски текст) и пазеше message-а (където точно се появява
   ехото от провайдъра). Затова сега сайтовете, които знаят входа си,
   го подават за РЕДАКЦИЯ: въпросът (route + stream през ctx.userQuestion)
   и заявката (semantic_search). Това е частта, която реално затваря
   ехото; тапата и без-stack-а само ограничават щетата.
3. Тестът твърдеше 'обект се свежда до непрозрачен таг' — невярно за
   обект със собствен toString (проверено). Тестът вече документира
   реалното поведение, а не желаното.

Освен това: collapse на нови редове (многоредово съобщение чупеше
prefix-базиран grep — продълженията нямат [assistant] префикс), рязане
по кодови точки (не режем емоджи на самотен surrogate), и връщане на
stack frames там, където те са диагностиката — setup грешката в route-а
е конфигурационна, не провайдърска.

Негативни контроли: махането на try/catch чупи теста за тоталност,
махането на редакцията чупи теста за ехото.
…о на съобщението

errorText свиваше съобщението до един ред преди split, но подаваният needle
(въпросът) оставаше суров — latestUserText прави само join(' ').trim(). Въпрос с
shift-enter, таб или двоен интервал, ехнат от провайдъра, вече не съвпадаше и
влизаше дословно в лога — точно гаранцията „no verbatim copy", която модулът
декларира.

Сега needle-ът минава през същото collapseWhitespace, а прагът MIN_REDACT_CHARS
се преценява по свитата форма (whitespace не може да издуе къс needle над него).
typeof guard пази тоталността срещу не-низ през unknown границата.

Тестове: repro на ревюто (needle с \n/\t/двоен интервал → «редактирано»),
floor по свитата форма, тоталност при не-низ. Негативен контрол: repro тестът
пада срещу старата имплементация.
…d/отрязано ехо

Две дупки в log-safety, намерени при ревю на клона:

1. stackHead приемаше, че съобщението заема само ред 0 на stack-а. V8 печата
   ЦЯЛОТО (многоредово) съобщение преди първата рамка, така че
   `.slice(1, 1 + frames)` връщаше продълженията на съобщението — нередактирани
   и без таван — точно до редактирания errorText на същия ред в route-а. Сега се
   котви на първия `    at ` ред и пази само рамки; без разпознаваема рамка (друг
   runtime, hostile getter) връща '' — fail closed.

2. errorText редактираше само дословно (whitespace-свито) копие на needle-а.
   Провайдър, който връща JSON тялото като message, ехва входа escaped (`"` →
   `\"`, нов ред → двата знака `\n`); embed пътят праща отрязан вход; и двете
   минаваха покрай split-а. Сега се търсят и JSON-escaped формата на суровия
   needle, и прозорци от 24 знака за дълъг needle (отрязано ехо се бланкира като
   един run). Plus: суровото съобщение се отрязва до 19 200 UTF-16 единици
   (surrogate-safe) ПРЕДИ O(n) паса — многомегабайтово тяло вече не струва
   стотици ms в catch блок; capCodePoints пропуска Array.from при къс вход.

Тестове: многоредово съобщение → нито ред от него в stackHead; stack без рамки
→ ''; JSON-escaped ехо и отрязано ехо → «редактирано»; дълъг needle при пре-cap
→ един run; несвързано съобщение непокътнато; surrogate на границата на
пре-cap-а. Негативен контрол: 4 от новите тестове падат срещу старата
имплементация.
… тестове през вратата на потребителя

Ревю на клона намери, че „въпросът не влиза в лога" не е вярно на три места,
въпреки errorText:

1. streamText има СОБСТВЕН default onError = console.error(error) — суровият
   APICallError с requestBodyValues (system prompt + съобщенията на потребителя)
   и responseBody. agent.ts подаваше onError само на toUIMessageStreamResponse,
   така че SDK-то продължаваше да пише суровия обект при всяка провайдърска
   грешка. Сега hook-ът е и на streamText (една редактирана линия на грешка,
   дедуп по идентичност), а UI hook-ът само решава какво вижда клиентът.
   Бонус: линията носи класа и HTTP статуса (и през RetryError) — 401 vs 429
   vs 5xx пак са различими, само идентификатори, никога тяло.

2. Route-ът: catch-ът на RAG retrieval викаше errorText(error) БЕЗ needle, а
   точно той embed-ва въпроса — най-вероятното място за ехо. Вече подава
   [question] като останалите три места.

3. bindings.ts: `'data' in out` хвърля при не-обект, а V8 слага операнда в
   съобщението на TypeError-а — gateway, върнал 200 с текст/примитив, вкарваше
   тялото в лога през „keys-only" пътя. Сега се именува само типът.

Тестове през вратата на потребителя (CLAUDE.md: „at least one test must enter
through the same door as the user"): apps/web/app/routes/assistant.chat.test.ts
кара POST-а през action() с фалшиви AI/VECTORIZE — stats линията е само
броячи, RAG-провалът с ехо е редактиран, setup-провалът дава 503 с редактирана
и само-рамки линия. agent.stream-error.test.ts кара runAssistant през реалния
streamText с MockLanguageModelV3 — точно една низова линия, никога суровият
обект. Негативни контроли: без needle-а route тестът пада; срещу старото
agent.ts console.error се вика два пъти (втория път с обекта).
…аторът затваря sub/null/link

Четири дупки от ревюто на клона по gate-овете на отчета и SQL guard-а:

- Прозата: голият суфикс -илион хващаше „павилион(и)" — рутинен предмет на
  поръчка — и отхвърляше легитимно заглавие като несвързано число, което
  моделът не може да пренапише. Суфиксите вече са котвени към числителните
  представки (м/б/тр/квадр/квинт/секст/септ/окт/нон/дец) — затворено нагоре до
  10^33, „Илион" и „билярд" вече не флагват, „милионер" още (безопасната посока).
- SQL guard: json_group_array/object бяха в денилиста, но JSONB близнаците им
  (SQLite ≥3.45, в build-а на workerd) минаваха през двата слоя — същата класа
  „цял scan в една клетка". Регексът е jsonb?_group_(?:array|object).
- emit-report-schema: `sub` на facts не се проверяваше по тип — число минаваше
  shape-а и хвърляше TypeError в bindReport (непрозрачна tool грешка към модела
  вместо retryable съобщение, и несканирана цифра). `align: null`/`link: null`
  („не е зададено" на модела) вече се приемат като отсъстващи, вместо да
  обръщат иначе валиден отчет в retry. Трикратният copy-paste на cap guard-а
  е един cappedArray helper със същите съобщения (диференциално проверени).
- bindReport: `link` се пресъздава от двете си известни полета, а не се копира
  по референция — допълнителен ключ вътре (href) иначе влизаше в замразения
  отчет въпреки „само известни полета стигат до рендера".

Тестове за всяко; негативен контрол: 5 нови теста падат срещу старите файлове.
…агва само след числително

Две находки от втория преглед на клона:

- describe-schema: новият запис за `amendments` изброяваше value_before/after/
  delta като обикновени колони, без да каже, че са в `currency` (не в EUR — не
  се сумират между валути), че `value_suspect = 1` редовете носят удвоена,
  ненадеждна стойност, която самият сайт бланкира (миграция 0007), и че
  връзката към contracts е по ДВЕ колони (t.source_id = am.unp AND
  c.contract_number = am.contract_number) — само unp дава декартово
  преброяване. Точно класата SUM(amount) капан, заради която речникът
  съществува, отворена върху таблицата, която PR-ът току-що направи
  привлекателна. Записът вече носи и value_suspect, и value_restated.

- report-schema: голите стемове `млрд|млн` (добавени за „дванадесет млрд.")
  флагваха и чисто мерни заглавия като „Стойност (млн. €)" — стилът на
  собствените колони на сайта, без никакво число — и обръщаха валиден отчет
  в retry, докато „(хил. €)" минаваше. Абревиатурата флагва само след
  изписано числително (затворен клас: 1–19, десетици, стотици + няколко/
  десетки/стотици); „Сто-йност" не е „сто" (word-edge lookaround).

Тестове: двете посоки за млн/млрд (числително → флаг; само единица → не),
bindReport с header „Похарчено (млн. €)" минава.
…ции вместо позиционни за semantic_search

- reportStats ловеше само синхронен throw; `(stats) => void` приема и async
  sink, чийто reject избягваше като unhandled rejection (runtime-ът го пише
  като грешка — обратното на best-effort). Върнатият promise вече се обезврежда,
  извикването остава синхронно (старият тест за хвърлящ sink пак минава).
- Нито един тест не заковаваше `returnMetadata: 'all'`: фалшивият индекс
  връщаше metadata.text без да е поискан, така че махането на опцията оставаше
  зелено, докато реалният Vectorize (default 'none') дава text-less съвпадения,
  kept=0 и тих fallback към пълния речник на всеки ход. Двата namespace теста
  го pin-ват, а фалшивият индекс в system-prompt.test дава metadata само при
  'all' — seam-ът вече доказва и четящата страна.
- semanticSearch взимаше (topK, minScore, onStats) позиционно, докато
  сестринската retrieveSchemaContext — опции обект; единственият извикващ
  пишеше `undefined, undefined, cb`. Вече SemanticSearchOptions, огледално.
- Фикстурите на два floor теста бяха твърди 0.6/0.1 — рекалибрация (midt-bg#318) над
  0.6 щеше да ги събори за несъществуваща регресия; изведени от константата.
- tools.test: semantic_search през runTool — рендер на hit-овете, stats
  линията само броячи, needle-ът на tool-а редактира ехо на заявката.
- README/rag.ts: „редакция на текст минава без bump" подвеждаше — retrieval-ът
  връща metadata.text от индексирането, така че ВСЯКА промяна в корпуса иска
  повторно indexSchemaCorpus; bump-ът решава само нов кохорт vs. презапис.
  Таблицата на модулите вече изброява bindings.ts и log-safety.ts.

Негативни контроли: старият reportStats → 1 unhandled rejection уловен;
без returnMetadata → 3 теста падат.
…-ва до 0.35.3

Записът за GHSA-f88m-g3jw-g9cj идваше от стар комит (преди midt-bg#226), пребазиран
върху main, който междувременно ИЗТРИ същото изключение и добави
`sharp: '^0.35.3'` override в pnpm-workspace.yaml; lock-ът резолва само
sharp@0.35.3. Обосновката („forcing 0.35.0 would require a pnpm override")
описва точно това, което repo-то вече прави, а според собственото правило на
файла („if the offending package has since been raised … DELETE the entry")
записът не бива да съществува — keyed по advisory, би маскирал истинска
регресия до 2026-10-22, ако override-ът някога отпадне. Връща файла към main
(и маха единствения файл извън обхвата на assistant промяната).
…рифт-пазач)

Речникът, който моделът чете (describe-schema.ts), дрифтна тихо веднъж:
amendments.contract_id никога не е съществувала, а parties.role — също, и
двете се откриха само на око при ревюто на midt-bg#321. Всяка фантомна колона там
влиза във всеки prompt, а полученият SQL пада в runtime с грешка, която
моделът „поправя" с ново налучкване.

Тестът прилага ВСИЧКИ packages/db/migrations/*.sql поред върху временна
sqlite3 база (same harness като packages/db/src/migrations.test.ts) и
проверява:
- всяка таблица от речника съществува;
- всеки водещ идентификатор от всеки columns низ е реална колона
  (pragma_table_info; скобените бележки със запетаи/кавички се игнорират);
- всяка →таблица референция е реална таблица;
- всяка канонична заявка КОМПИЛИРА срещу схемата (EXPLAIN) — тях моделът
  копира дословно като отправна точка;
- негативни контроли: историческият дрифт ('id, contract_id→contracts, …')
  се хваща, а parser-ът не се лъже от бележки в скоби.

Проверено срещу main-версията на речника: пазачът докладва точно
amendments.contract_id и parties.role. Понеже поправката им живее в midt-bg#321,
клонът е стакнат върху него (мърдж ред: midt-bg#321 → този).

Тестът живее в apps/web/test/ и е включен в tsconfig.node.json (Node типове
за child_process), за да не се наливат Node globals в Workers кода на
приложението; vitest include покрива test/**.
@nedda76
nedda76 force-pushed the test/schema-dictionary-drift-guard branch from f4a18c3 to 224d7fa Compare August 26, 2026 18:03
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants