|
|
6cbabb63bb
|
refactor: 情景选择从卡片网格改为横向滚动芯片条
- 将 scenario-picker 网格布局改为 scenario-strip 横向滚动芯片条
- 新增「新建情景」快捷入口芯片（+按钮）
- 新增 scenario.createChip 三语言翻译键
|
2026-06-21 23:23:22 +08:00 |
|
|
|
949a707e0f
|
refactor: 重构视频面板 UI，情景选择改为卡片网格，控制按钮改为 SVG 图标
- 情景选择从 ChatPanel header 下拉菜单迁移至视频面板下方卡片网格
- 摄像头/麦克风按钮改为圆形 SVG 图标按钮
- 识别/中断/停止按钮改为药丸形状 SVG 图标按钮
- 设备选择器改为水平布局，优化空间利用
- 移除 ChatPanel 空状态中重复的情景卡片
- .gitignore 忽略 .claudian/ 和笔记目录
|
2026-06-21 22:58:02 +08:00 |
|
|
|
6967dd7b2e
|
feat: 实现摄像头和麦克风设备选择功能
- 新增 useDeviceList hook，枚举音视频输入设备并监听热插拔
- CameraManager/MicManager 的 startCamera/startMic 支持可选 deviceId 参数
- useVisionSession 集成设备选择：授权后自动枚举、切换设备时热重启
- 连接后显示设备下拉选择器，未连接时隐藏（避免未授权时空列表）
- SessionConfig 新增 cameraDeviceId/micDeviceId 持久化到 localStorage
|
2026-06-21 16:49:48 +08:00 |
|
|
|
eea5c07eaa
|
refactor: 删除实时分析/按需识别/纯聊天三种模式切换
三种模式仅为前端 UI 区分，后端无感知，实际使用中价值不大：
- 纯聊天模式名不副实（VAD 仍附带摄像头帧）
- 实时分析增加 API 成本且体验不佳
- 按需识别已是默认且最自然的交互方式
删除后保留按需识别行为：语音带图 + 手动识别按钮，UI 更简洁。
|
2026-06-21 16:24:09 +08:00 |
|
|
|
1079e22699
|
feat: 实现自建情景功能
## 功能概述
- 用户可创建、编辑、删除自定义情景
- 支持自定义情景名称、图标、描述、Prompt、首句引导
- 完整的权限隔离，用户只能管理自己的情景
- 深度集成 Eino 框架，动态加载自建情景 Prompt
## 后端实现
### 数据库
- 新增 user_scenarios 表
- 支持用户配额（最多 20 个）
- 字段验证：description 可选，prompt 最小 10 字符
### API
- GET /api/scenarios - 获取用户情景列表
- POST /api/scenarios - 创建情景
- GET /api/scenarios/:id - 获取详情
- PATCH /api/scenarios/:id - 更新情景
- DELETE /api/scenarios/:id - 删除情景
### Eino 集成
- PipelineState 添加 UserID 字段
- nodes_history 动态加载用户自建情景
- GetScenarioPrompt 支持自建情景优先级
## 前端实现
### 组件
- CreateScenarioModal - 创建情景对话框
- EditScenarioModal - 编辑情景对话框
- ConfigPanel 改造 - 分组显示系统预置和自建情景
### Hook
- useScenarios - 合并系统和自建情景，提供 CRUD 接口
### 国际化
- 中文、英文、日文翻译支持
## 问题修复
- 修复 CORS 问题：使用 Vite 代理
- 统一验证规则：description 可选，prompt 最小 10 字符
- 修复数据库约束：使用 NULLIF 处理空字符串
## 文件变更
新增文件: 13 个
修改文件: 14 个
详见文档: docs/自建情景功能完整文档.md
|
2026-06-21 15:38:28 +08:00 |
|
|
|
ab07e01adf
|
feat: 优化对话历史功能
|
2026-06-20 19:57:36 +08:00 |
|
|
|
2a7d4c74d4
|
feat：增加首页登录页面
|
2026-06-20 17:35:14 +08:00 |
|
|
|
f8a79a3b0b
|
fix: 修复文字对话态误显「正在初始化语音检测」
ChatPanel VAD 初始化提示条件增加 isCameraOn 判断，
视频结束后不再显示语音检测初始化提示。
|
2026-06-20 14:04:20 +08:00 |
|
|
|
ae9a27c300
|
feat: 结束视频后保留对话，支持继续文字聊天
- useVisionSession 新增 stopVideo 回调（停媒体流，保持连接和消息）
- App.tsx 控制区从二态改为三态（initial/video/textOnly）
- 文字对话态显示「重新开始视频」和「结束会话」按钮
- 新增 CSS 样式（video-ended-hint、btn--outline）
- 新增 i18n key（stopVideo/endSession/resumeVideo/video.ended）
- 新增设计方案文档
|
2026-06-20 13:48:26 +08:00 |
|
|
|
b60e513317
|
feat：添加对话情景功能
|
2026-06-14 20:32:30 +08:00 |
|
|
|
c3118dd72a
|
feat：语音对话优化
|
2026-06-14 19:54:22 +08:00 |
|
|
|
1109ab41f7
|
refactor: 将退出登录功能从顶部导航栏移至设置面板
|
2026-06-14 18:42:47 +08:00 |
|
|
|
8de956719c
|
feat: 实现前端认证系统，WebSocket 连接携带 JWT token
- 新增 AuthContext/AuthProvider：登录/注册状态管理，JWT 自动刷新
- 新增 AuthPage 组件：登录/注册表单，支持模式切换和前端校验
- 新增 api.ts：封装 auth REST API 客户端（register/login/refresh/logout）
- WebSocket 连接时拼接 ?token=<jwt>，重连自动携带
- useVisionSession 接受 accessToken 参数并透传
- App.tsx 包裹 AuthProvider，未登录时显示登录页
- storage.ts 新增 token/user 的 localStorage 存储
- i18n 新增中/英/日三语 auth 翻译
- App.css 新增 auth 页面和用户 badge 样式
|
2026-06-14 18:38:45 +08:00 |
|
|
|
7a0443ebcc
|
style: 样式优化
|
2026-06-14 16:31:23 +08:00 |
|
|
|
fe053f94dc
|
fix: 隐藏观察模式按钮，清理未使用的 toggleMode 引用
|
2026-06-14 15:56:59 +08:00 |
|
|
|
92f3f45c41
|
feat: 新增会话历史侧边栏，支持新建/切换/删除/重命名会话
类似 ChatGPT 的侧边栏布局，消息历史持久化到 localStorage。
- 新增 SessionSummary 类型和 localStorage 读写函数
- 新增 useSessionList Hook 管理会话列表 CRUD
- 新增 SessionSidebar 组件（展开/折叠、行内重命名）
- App.tsx 协调 useSessionList 和 useVisionSession
- 消息变化时自动持久化，切换/新建会话时保存并加载
- 新增 i18n 翻译 key（中/英/日）
|
2026-06-14 15:44:25 +08:00 |
|
|
|
da8818c3be
|
fix: 隐藏顶部状态栏的 token 数显示
|
2026-06-14 15:10:43 +08:00 |
|
|
|
15b1dd56fa
|
feat: 聊天框与视频功能解耦，输入文字即可开始对话
之前必须点击「开始对话」连接 WebSocket 后才能使用聊天框。
现在聊天输入框始终可用，输入文字自动连接 WebSocket 并发送消息；
左侧按钮改为「开始视频通话」，单独控制摄像头/麦克风。
- ChatPanel 移除 !isConnected early return，始终显示输入框
- useVisionSession 新增待发消息队列，sendTextMessage 支持自动连接
- startSession 改为仅负责视频（摄像头 + 麦克风 + VAD）
- 修复 statusRef 在 useWebSocketManager 之前声明导致的 TDZ 错误
- 更新 i18n 翻译（新增 controls.startVideo、video.placeholder）
|
2026-06-14 15:07:39 +08:00 |
|
|
|
e95b1603c1
|
feat: 前端 UI 国际化，支持中/英/日三语切换
之前语言设置只影响后端 AI 行为，前端 UI 文字始终为中文。
新增轻量 i18n 模块（React Context + 翻译字典），切换语言后所有 UI 文字即时刷新。
- 新增 i18n 核心模块和 zh-CN/en-US/ja-JP 翻译文件（约 72 个 key）
- App.tsx 拆分为 App（Provider）+ AppContent（业务），确保 Hook 可访问 Context
- 所有组件通过 useI18n().t() 获取翻译文本
- errors.ts 改为接受翻译函数参数
- storage.ts saveConfig 时派发事件通知 locale 变化
|
2026-06-14 14:34:30 +08:00 |
|
|
|
dffc8aa538
|
feat: 支持无摄像头/麦克风模式打字聊天
- 修改 startSession 逻辑，摄像头和麦克风为可选
- 连接成功后始终显示聊天输入框
- 更新 UI 提示文字，引导用户打字对话
|
2026-06-14 13:13:29 +08:00 |
|
|
|
51ed6aa563
|
feat: 添加文字输入对话功能
- 后端 WsQuery 添加 text 字段，支持文本输入模式
- Pipeline 支持文本查询时跳过 STT 直接使用输入文本
- 前端 ChatPanel 添加文字输入框，连接状态下可用
- useVisionSession 添加 sendTextMessage 方法
- 更新接口文档，添加文本输入模式说明
|
2026-06-14 12:52:39 +08:00 |
|
|
|
70dfa1c8f8
|
feat：样式美化
|
2026-06-14 10:18:36 +08:00 |
|
|
|
00f10088d0
|
feat: 底部控制栏添加摄像头/麦克风开关，说话时麦克风脉冲动画
- useVisionSession 新增 isCameraOn/isMicOn 状态 + toggleCamera/toggleMic
- 底部控制栏添加 📷🎤 图标按钮，开启绿色/关闭红色
- 说话时麦克风按钮绿色脉冲缩放动画（micPulse）
- 按钮样式优化：nowrap 防换行，flex-wrap 自适应
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 20:01:37 +08:00 |
|
|
|
188782fa66
|
feat: 添加 LIVE 计时器和语言按钮组（P0 优化）
- 视频区左上角显示 LIVE 绿色圆点 + 连接时长计时器
- Header 添加中文/EN/日 语言按钮组，一键切换语言
- live-badge、lang-group 样式
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 19:01:33 +08:00 |
|
|
|
0227822120
|
feat: 增加深色/浅色主题切换功能
- types 新增 Theme 类型（dark/light）
- storage 新增 loadTheme/saveTheme 持久化主题偏好
- ConfigPanel 新增外观分组，主题下拉选择
- App.tsx 通过 data-theme 属性挂载到 html 元素
- App.css 新增 [data-theme=light] 亮色变量覆盖
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 17:08:56 +08:00 |
|
|
|
f17c3c24a7
|
refactor: 设置面板改为右侧抽屉，修复布局跳动问题
- ConfigPanel 重写为 Drawer：右侧 320px 滑入面板 + 半透明遮罩
- 设置按钮始终可见，不依赖连接状态
- 抽屉不推挤主布局，点击遮罩或✕关闭
- 设置项分组显示，带功能描述文案
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 16:54:57 +08:00 |
|
|
|
dd64ed23ee
|
style: 重构为 Web 端双栏布局，突出对话展示
- 重构 App.tsx 为双栏布局：左侧视频面板 + 右侧聊天面板
- 左侧 340px 固定宽度视频区（4:3 比例）
- 右侧对话区 flex:1 占满剩余空间
- Header 改为导航栏风格：标题+副标题+状态标签+设置按钮
- 视频下方控制栏：观察模式/打断/结束对话按钮
- 优化间距、字号、配色，适配桌面端
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 16:16:37 +08:00 |
|
|
|
f5536005f6
|
feat: 实现观察模式，支持持续场景监控（US-05/US-10）
- 新增 useObservationMode Hook：定时 5s 采帧，similarity < 0.85 触发变化回调
- useVisionSession 新增 dialogue/observation 模式切换
- App Footer 加观察模式切换按钮（激活时蓝色脉冲）
- 视频区左上角显示'👁️ 观察中'绿色角标
- 观察模式下画面变化自动发送 query
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 14:46:42 +08:00 |
|
|
|
2c6489b9a6
|
feat: 实现关键帧检测与成本控制
- EdgeProcessor：sampleFrame 降采样 160x120 + compareFrames 像素差异对比
- 重复画面跳过：similarity > 0.9 时不发送 query
- 混合采样策略：静默 5s / 用户说话 1s（docs/08-成本控制.md）
- 请求统计：queryCount + totalTokens 实时显示
- App 状态栏显示成本统计
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 14:38:15 +08:00 |
|
|
|
7e3762b589
|
feat: 实现会话配置与多轮上下文
Backend CI / ci (pull_request) Successful in 1m0s
Frontend CI / ci (pull_request) Successful in 1m0s
- 新增 ConfigPanel 组件：TTS 开关、detail level、语言选择
- 新增 storage.ts：配置持久化到 localStorage
- useVisionSession：连接后自动发送 config，维护最近 10 轮对话历史
- App：齿轮按钮展开配置面板，HD 角标，TTS 播放联动 ttsEnabled
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 14:19:47 +08:00 |
|
|
|
6a47c4dfbb
|
feat: 实现 TTS 语音播放，完成 MVP P0 全部用户故事
- 新增 TTSPlayer：收集流式 tts_audio 片段，is_last 时拼接解码播放
- useVisionSession 接入 TTS 播放器，interrupt/stopSession 时停止播放
- App 显示 '🔊 正在播放...' 指示器
- MVP P0 四个用户故事前端全部实现（US-01 ~ US-04）
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 13:57:36 +08:00 |
|
|
|
734c93a866
|
feat: 完善端到端对话闭环，增强消息渲染与错误处理
- ChatPanel：流式光标动画、token/延迟元数据、自动滚动、三种空状态
- Toast 组件：错误码映射为中文友好文案，3 秒自动消失
- useVisionSession：stt_result 流式更新、防重复发送、打断保存未完成内容、结束清理全部状态
- App：断线提示、视频 loading 遮罩、按钮连接中状态
- ChatMessage 增加 latencyMs、model 字段
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 11:43:16 +08:00 |
|
|
|
9ccd4d6238
|
feat: 集成 VAD 语音活动检测，打通核心交互链路
- 重写 useVAD Hook，接入 @ricky0123/vad-web 的 MicVAD
- 支持 onSpeechStart/onSpeechEnd/onVADMisfire 回调
- useVisionSession 中串联摄像头→麦克风→WebSocket→VAD 完整流程
- App.tsx 新增 VAD 加载中和错误状态的 UI 指示
- VAD 参数对齐设计文档：positiveSpeechThreshold=0.5, minSpeechMs=250
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-13 11:10:29 +08:00 |
|
|
|
b5c0d40609
|
feat: 初始化前端项目，搭建 React + TypeScript + Vite 工程结构
- 创建 Vite + React 18 + TypeScript 项目（严格模式）
- 安装 @ricky0123/vad-web、onnxruntime-web、uuid 依赖
- 定义全部 WebSocket 消息类型和数据模型（对齐接口文档）
- 实现 WebSocket 连接管理（心跳保活、指数退避重连）
- 实现音频编码工具（PCM↔Base64、DataURL 转换）
- 创建组件骨架：CameraManager、MicManager、EdgeProcessor、WebSocketManager、ChatPanel、VideoPreview
- 实现核心 useVisionSession Hook 骨架
- 配置 ESLint（_前缀变量忽略规则）
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-06-12 17:46:25 +08:00 |
|
