当前路径:/wiki/page/oralgpt-omni
返回首页索引

OralGPT-Omni

OralGPT-Omni: Dental Multimodal LLM(CVPR 2026)— 首个牙科专用多模态大语言模型。

Overview

  • 发布时间:CVPR 2026
  • 关键词:牙科 MLLM · 临床推理链 · 多阶段训练 · GRPO
  • 核心问题:通用 MLLM(如 GPT-5)在牙科专业任务上表现不佳,缺乏领域知识和推理能力。

架构

TRACE-CoT(五步临床推理链)

  • 结构化牙科临床推理流程:
    1. T - Tooth identification(牙齿定位)
    2. R - Region analysis(区域分析)
    3. A - Abnormality detection(异常检测)
    4. C - Clinical assessment(临床评估)
    5. E - Explanation(解释生成)
  • 确保推理过程可解释、可追溯

四阶段训练

  1. DKI(Dental Knowledge Injection):牙科知识注入
  2. DCA(Dental Cross-modal Alignment):牙科跨模态对齐(X光、CT、口内照片、3D 扫描)
  3. SFT(Supervised Fine-Tuning):监督微调
  4. GRPO(Group Relative Policy Optimization):组相对策略优化强化学习

性能

指标 OralGPT-Omni GPT-5 对比
MMOral-Uni 总分 51.84 15.42 +236%
  • MMOral-Uni 基准上以 51.84 分大幅领先 GPT-5 的 15.42
  • 首个为牙科场景从头设计的 MLLM

关键创新

  1. 首个牙科专用 MLLM:非通用模型的简单微调
  2. TRACE-CoT:结构化的牙科临床推理链
  3. 四阶段训练:知识注入 → 对齐 → 微调 → 强化学习
  • oralgpt-plus — OralGPT-Plus 牙科 Agent VLM(RL + 工具调用)
  • pmtseg — PMTSeg 照片引导牙齿分割
  • taligndiff — TAlignDiff 自动排牙

Sources

  • OralGPT-Omni, CVPR 2026