当前判断
有限支持 · 持续复核当前证据支持一个范围受限的判断,跨任务外推仍需继续核验。
11 / 1
支持证据 11
ALIGN:用噪声文本监督扩展视觉与视觉语言表示学习(Scaling Up Visual and Vision-Language Representation Learning With Noisy Text Supervision)→BLIP:用自举式图文预训练统一视觉语言理解与生成(Bootstrapping Language-Image Pre-training)→LAION-5B:用于下一代图文模型的开放大规模数据集(An open large-scale dataset for training next generation image-text models)→DataComp:寻找下一代多模态数据集(In search of the next generation of multimodal datasets)→多语言多样性改善视觉语言表示(Multilingual Diversity Improves Vision-Language Representations)→
反证与边界 1
仍待验证
需要更多同规模、同预算、跨任务的受控比较,才能继续提升判断强度。
命题
在图文检索中,数据规模、caption—image 对齐质量、语言/地域分布、去重和预训练概念覆盖,会与架构和损失共同决定模型表现;只扩大数据量不能自动消除噪声、长尾或文化偏差。
为什么重要
这条判断决定了可行的研究路线:数据筛选、难例构造、长尾评测和跨语言域外测试,都可能形成不依赖超大算力的论文贡献。
支持证据
- LAION-5B 展示了开放规模与过滤/安全问题同时增长。
- DataComp 把数据筛选置于固定训练和多任务评测框架中。
- BLIP、多语言多样性 和 No Zero-Shot Without Exponential Data 分别提供 caption 质量、多语言分布和概念频率证据。
- CoLLM 的 MTCIR、MIEB 的任务分层以及 PinPoint 的人工显式负例说明,数据构造和评测协议本身已经是方法结果的一部分。
反证或局限
当前评估
证据方向一致,暂记为 monitored 而非已解决规律。后续应报告数据版本、去重规则、概念频率、语言比例、训练/测试重叠和安全过滤,避免把数据变化隐藏在模型改动之后。