V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
pureGirl
V2EX  ›  程序员

pgvector 生成 embedding 好慢,是我用的方式有问题吗

  •  
  •   pureGirl · 10 小时 20 分钟前 · 477 次点击

    有没有能快速生成 embedding 的办法

    8 条回复    2025-09-17 18:34:12 +08:00
    irrigate2554
        1
    irrigate2554  
       10 小时 18 分钟前
    pgvector 是纯 cpu 没有 gpu 加速的吧,你可以部署其它的 embedding 模型,生成向量后存储到 pg ,pg 只做存储和查询就快了。
    w568w
        2
    w568w  
       10 小时 9 分钟前
    > pgvector 生成 embedding 好慢

    pgvector 可以生成 embedding 吗?我理解它不是只负责储存、索引和检索吗,还管生成?
    rimworld
        3
    rimworld  
       10 小时 4 分钟前
    硅基找个做 embedding 的模型,最好和你用的对话模型是配套的。同意 2 楼的,这不是 pg 的拓展插件来方便保存,和提供一些方法来检索的吗?
    pureGirl
        4
    pureGirl  
    OP
       10 小时 2 分钟前
    @w568w 我用的这个方法生成的 from llama_index.vector_stores.postgres import PGVectorStore
    pureGirl
        5
    pureGirl  
    OP
       10 小时 1 分钟前
    @irrigate2554 生成 embedding 的过程也太慢了,千万级数据 embedding 生成不出来检索快有啥用
    dreasky
        6
    dreasky  
       9 小时 54 分钟前
    生成 embedding 速度慢不是 embedding 模型慢吗 跟 pg 有关系吗
    dzdh
        7
    dzdh  
       9 小时 52 分钟前
    生成不是模型做的吗? pgvector 不是只管 select 和 insert 吗
    beginor
        8
    beginor  
       2 小时 56 分钟前
    embedding 慢的话可以换个显卡加速的模型,关 pgvector 啥事? pgvector 只管存储和查询
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2919 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 13:30 · PVG 21:30 · LAX 06:30 · JFK 09:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.