LLLMWIKI
ArticleMetadataMain page

Source note · Updated 2026-07-14

KEDs知识增强的双流零样本组合式图像检索(Knowledge-Enhanced Dual-stream Zero-shot Composed Image Retrieval)

KEDs:知识增强的双流零样本组合式图像检索

一句话结论

KEDs 认为直接把参考图映射成一个全局 pseudo-word 会丢失颜色、数量和布局等属性,于是用外部图文数据库增强 pseudo-word,并以 pseudo-triplet 做文本概念对齐。

方法与训练目标

  • 第一条 image-only contrastive learning 流生成基础 pseudo-word;第二条从 image-caption pair 挖掘 pseudo-triplet,让映射视觉特征对齐更细的 textual concepts。
  • 外部数据库检索相关图像与 caption,提供多视角属性信息,再与修改文本融合。
  • 训练不依赖目标 CIR triplet,负样本主要来自 image-only/图文对比学习与数据库检索候选。

数据、指标与关键发现

  • 论文在 ImageNet-R、COCO object、FashionIQ、CIRR 等四类数据上评估 zero-shot CIR,并报告 Recall/mAP 类指标。
  • 论文报告相较既有 zero-shot 方法提升,尤其针对参考图中细粒度属性;但数据库质量与检索候选本身会影响结果。

局限与证据边界

  • 外部数据库引入额外存储、检索和潜在预训练重叠;需要报告数据库规模、污染和查询时延。
  • “属性增强”不等于真实关系推理,仍需 COLA、PinPoint 或结构化 hard negative 验证。

对候选课题 A/B/C/D 的启发

  • A:把数据库增强前后的负例有效性、重叠率和语言捷径纳入审计。
  • B:KEDs 的外部数据库查询与多流融合适合作为召回—精排成本实验。
  • C:多语言 caption 数据库可能强化跨语言检索,但需要按语言分层。
  • D:论文页面/图表 caption 库可作为应用驱动的属性与局部证据来源。

原始链接