Skip to content

Fable 5 safeguards repeatedly flag routine desktop-app development (input hooks, WASAPI capture, path validation) and auto-switch the session model #78773

Description

@mykola-zhukovets

Summary (English):

During a multi-day engineering session building an open-source Windows voice-dictation app ("Balachky" — offline Ukrainian speech-to-text, GPLv3, no telemetry), Claude Fable 5's safeguards repeatedly flagged routine, legitimate development work and auto-switched the session model to Opus 4.8 mid-conversation.

Banner shown: "Fable 5's safeguards flagged this message. The safeguards are intentionally broad right now and may flag safe and routine coding, cybersecurity, or biology work. […] Switched to Opus 4.8."

What triggered the switches (all legitimate product work):

  1. File-path validation (preventing deletion outside the app's own storage folder) — presumably matched "cybersecurity".
  2. A low-level mouse hook (WH_MOUSE_LL) to bind a side mouse button as push-to-talk — looks like "keylogger" by shape.
  3. WASAPI loopback capture for recording online meetings locally — looks like "surveillance" by shape.
  4. (Expectedly) local-storage encryption for the user's own recordings.

Impact:

  • The orchestrating model unexpectedly changes mid-workflow; the user has to manually run /model claude-fable-5 each time.
  • Multi-model orchestration breaks: the orchestrator holding the whole session context is swapped without user action.
  • Forced workaround: routing any "security-shaped" but trivial work to an external model, which fragments the workflow.

Requests:

  • Narrow the heuristics so routine app development (input validation, OS input/audio APIs used by the user's own app, local-data encryption) doesn't trigger a model switch.
  • Give the user control: an option to not auto-switch, or at least an explanation of why a specific message was flagged, to distinguish false positives from real risk.
  • Don't penalize legitimate open-source projects because parts of their code look security-themed by topic rather than by intent.

Context: two-day session, ~21 features shipped via subagent orchestration; the safeguards never blocked work outright but systematically slowed it and degraded the chosen-model experience. The heuristics appear to match on topic shape, not intent.


Original (Ukrainian):

Під час тривалої інженерної сесії (розробка відкритого застосунку голосового вводу «Балачки» — офлайн-диктування української мови під Windows, GPLv3, без телеметрії) захисні механізми Claude Fable 5 регулярно позначали цілком безпечні, рутинні задачі з розробки й автоматично перемикали головну модель на Opus 4.8.

Що саме тригерило (усе — легітимна робота):

  1. Валідація шляхів файлової системи (захист від видалення за межі теки сховища) — категорія «кібербезпека».
  2. Низькорівневий хук миші (WH_MOUSE_LL) для призначення бічної кнопки миші кнопкою запису — на вигляд «як кейлогер».
  3. Перехоплення системного звуку (WASAPI loopback) для запису онлайн-нарад — на вигляд «як стеження».
  4. (Очікувано) шифрування локального сховища записів.

Вплив: головна модель «перескакує» з обраної (Fable 5) на Opus 4.8 посеред роботи без дії користувача; доводиться вручну повертати модель щоразу; multi-model оркестрація порушується; змушений обхід — перекидати «схожу на кібербезпеку» тривіальну роботу на зовнішню модель.

Прохання: звузити евристику для рутинної розробки; дати опцію «не перемикати автоматично» або пояснення причини позначення; не карати легітимні open-source-проєкти за форму коду, що нагадує безпекову тематику.

Metadata

Metadata

Assignees

No one assigned

    Labels

    area:modelbugSomething isn't workingplatform:windowsIssue specifically occurs on Windows

    Type

    No type

    Fields

    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions