V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
ihacku
V2EX  ›  信息安全

大语言模型在安全领域的思考和尝试 - AI 安全助手

  •  
  •   ihacku · 2023-06-28 18:15:50 +08:00 · 3987 次点击
    这是一个创建于 519 天前的主题,其中的信息可能已经有所发展或是发生改变。
    8 条回复    2023-07-01 09:53:05 +08:00
    israinbow
        1
    israinbow  
       2023-06-28 19:26:59 +08:00 via Android
    生成式集成进杀软也许是个好方案,也许很快就能用到人工智能的自动化分析工具了。
    kingnopwang
        2
    kingnopwang  
       2023-06-28 19:52:35 +08:00
    看起来很有趣,用大模型辅助一些安全检测和信息查询。看起来作者使用的是 ChatGPT ,没有选择目前开源的大模型,这个就还面临一些返回结果可靠性的问题。
    ternice
        3
    ternice  
       2023-06-28 22:36:25 +08:00
    很巧我最近也在弄这个,和楼主的思路很一相似。有几个问题一只困扰着我找不到思路:
    ternice
        4
    ternice  
       2023-06-28 22:40:39 +08:00
    1. 怎样让 LLM 根据问题 使用最佳的(最接近真实的) chains 回答问呢?
    2:如果是要去返回如防护数据,那么怎么去处理时间问题。(比如 WAF 攻击是每天会产生,怎么根据用户问题转化成查找,虽然可以使用 SQLchain, 但是有面临第一个问题。怎么区分不同的 SQL 表呢
    ruanjf
        5
    ruanjf  
       2023-06-29 12:36:23 +08:00 via Android
    结合 SD ,想象空间巨大
    eleganceoo
        6
    eleganceoo  
       2023-06-29 14:14:31 +08:00
    牛的,最近也有点想法,哈哈哈哈,原来都在做
    jones2000
        7
    jones2000  
       2023-06-29 21:59:09 +08:00   ❤️ 1
    大语言模型只是一个颖上添花的功能, 最终还是要靠在安全领域的深耕。 问题回答的在好,解决不了问题都是白搭。
    另外一个核心的问题就是作为一个安全产品, 你如何确保 ChatGPT 是安全的,回答的是准确的。
    firsthym
        8
    firsthym  
       2023-07-01 09:53:05 +08:00
    关注
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3300 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 00:41 · PVG 08:41 · LAX 16:41 · JFK 19:41
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.