V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
lhx2008
V2EX  ›  问与答

百万条数据想加快字符串匹配的速度,有什么解法

  •  
  •   lhx2008 · 156 天前 · 1363 次点击
    这是一个创建于 156 天前的主题,其中的信息可能已经有所发展或是发生改变。
    数据是普通的文本数据,字符串匹配就是不分词根据输入直接搜,类似记事本那种。

    如果用传统数据库匹配速度有点差,类 ES 的好像分词的问题不太好处理,还有没有别的更优雅的搞法呢
    11 条回复    2021-12-15 14:09:57 +08:00
    3dwelcome
        1
    3dwelcome  
       156 天前
    建索引啊,还能有什么办法。

    要查找速度上去,那就要看着这索引,建的好不好了。

    至于具体算法,那就是 bloom filter 魔改。
    dbsquirrel
        2
    dbsquirrel  
       156 天前 via iPhone
    让我想起了这个
    https://v2ex.com/t/814478
    murmur
        3
    murmur  
       155 天前
    具体场景是什么

    什么叫普通的文本数据

    如果是内部的数据库慢就慢呗 不能违背物理定律

    如果是商业的 可以对热门词汇缓存
    qping
        4
    qping  
       155 天前
    百万条都加载到内存里,怎么匹配都快
    dddd1919
        5
    dddd1919  
       155 天前
    ES 分词不好处理?中文上 IK 啊
    changnet
        6
    changnet  
       155 天前
    精准匹配?用个字典树或者 acism ,百万的词库匹配起来都是毫秒级的,这在关键字过滤经常用
    IsaacYoung
        7
    IsaacYoung  
       155 天前
    tire
    murmur
        8
    murmur  
       155 天前
    @changnet 不是百万词库是百万记录...
    lhx2008
        9
    lhx2008  
    OP
       155 天前 via Android
    不能分词的数据,现在就是直接字符完全匹配,类似 mysql 的 like %xxx%
    lhx2008
        10
    lhx2008  
    OP
       155 天前 via Android
    小项目才能这么完,从数据库同步数据开销也很大的
    abersheeran
        11
    abersheeran  
       155 天前
    radix tree 完事,只要内存能完全放得下,那搜索速度就和你数据量没什么关系。
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   1134 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 22:25 · PVG 06:25 · LAX 15:25 · JFK 18:25
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.