V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
qhgongzi
V2EX  ›  分享发现

英伟达发布了一个 exciting 的新玩具:$249 的 AI 小电脑

  •  
  •   qhgongzi · 10 小时 19 分钟前 · 4295 次点击

    The Jetson Orin Nano Super delivers up to a 1.7x gain in generative AI performance, supporting popular models for hobbyists, developers and students.

    Jetson Orin Nano Super 看起来能跑 Qwen 7B ,Llama 8B 级别的模型

    视频地址: https://youtu.be/S9L2WGf1KrM

    30 条回复    2024-12-18 16:46:15 +08:00
    JayZXu
        1
    JayZXu  
       10 小时 12 分钟前
    Jetson Orin Nano Super Developer Kit Quick Specs

    AI Performance 67 INT8 TOPS
    GPU NVIDIA Ampere architecture with 1024 CUDA cores and 32 tensor cores
    CPU 6-core Arm® Cortex®-A78AE v8.2 64-bit CPU 1.5MB L2 + 4MB L3
    Memory 8GB 128-bit LPDDR5
    102 GB/s
    Storage Supports SD card slot and external NVMe
    Power 7W–25W

    M4 的 NPU 性能为 38 TOPS ( INT8 )

    拿来跑私人还行,至少比游戏卡节能
    jmdxp
        2
    jmdxp  
       10 小时 6 分钟前
    那里能买到呢?
    sbboy
        3
    sbboy  
       10 小时 1 分钟前
    在中国卖吗?
    shenyiyouge
        4
    shenyiyouge  
       9 小时 49 分钟前
    什么价格呢
    shenyiyouge
        5
    shenyiyouge  
       9 小时 48 分钟前
    @shenyiyouge 哎呀呀,看到了,在哪买
    felixlong
        6
    felixlong  
       9 小时 46 分钟前
    内存只有 8G ,跑大模型小了点吧.
    iamqk
        7
    iamqk  
       9 小时 44 分钟前   ❤️ 1
    @JayZXu 主打 AI 我理解 问题是 arm ,用 linux 吗?
    wweerrgtc
        8
    wweerrgtc  
       9 小时 44 分钟前
    这个外观有点太简陋了, 电路都裸露在外, 感觉容易坏
    qhgongzi
        9
    qhgongzi  
    OP
       9 小时 43 分钟前
    @shenyiyouge
    @jmdxp 淘宝应该可以,
    上一代“Jetson Orin Nano”在淘宝有,
    这一代“Jetson Orin Nano Super” 等有货了估计淘宝有卖,刚出来的,再等等
    AFOX
        10
    AFOX  
       9 小时 42 分钟前
    @wweerrgtc 开发板不都是这样吗
    qhgongzi
        11
    qhgongzi  
    OP
       9 小时 42 分钟前
    @iamqk Linux ,这里有个老外的评测,他演示了拆机,跑车辆识别,大模型这些应用
    H97794
        12
    H97794  
       9 小时 33 分钟前
    @JayZXu @felixlong 要是能像 Mac Mini 搞集群, 那要起飞
    qipan0321
        13
    qipan0321  
       9 小时 33 分钟前
    @shenyiyouge 看文档店铺是 https://store.nvidia.com/jetson/store/ 不过我这打不开
    yolee599
        14
    yolee599  
       9 小时 33 分钟前 via Android
    这种板子一般不是跑大模型的吧,都是把一些 yolo ,TF 之类的模型在电脑端训练好,还要量化才能运行在板子上。
    tool2dx
        15
    tool2dx  
       9 小时 31 分钟前
    那么多 cuda 核心,跑原神一定很强。
    baibaibai0126
        16
    baibaibai0126  
       9 小时 16 分钟前   ❤️ 1
    这个系列的设备从 nano 到 orin 我们实验室都买过,都是用来部署在边端做视觉检测的。
    Hana1024
        17
    Hana1024  
       9 小时 8 分钟前
    不知道香港能不能买,想搞一个
    PaulSamuelson
        18
    PaulSamuelson  
       8 小时 57 分钟前
    游戏工作室,多开神器🐶
    lingeo
        19
    lingeo  
       8 小时 57 分钟前
    这个是边缘计算系列的产品,一直在稳定的迭代更新。
    joequan
        20
    joequan  
       8 小时 52 分钟前   ❤️ 1
    这就是个开发版,说成电脑有点夸张了。
    NDHT
        21
    NDHT  
       8 小时 44 分钟前
    @Hana1024 刚发布还不知道,转运到香港至少可行
    superrichman
        22
    superrichman  
       8 小时 44 分钟前
    树莓派 pro
    树莓派 pro max
    chiu
        24
    chiu  
       8 小时 13 分钟前
    @wweerrgtc #8
    这是 Dev-Kit, 每一代都是这样的
    tsq851015
        25
    tsq851015  
       4 小时 57 分钟前
    @Hana1024 同问,老哥有消息了记得戳我
    234ygg
        26
    234ygg  
       4 小时 56 分钟前
    一直都有卖的,购买链接在这
    https://developer.nvidia.com/buy-jetson
    CodeAllen
        27
    CodeAllen  
       3 小时 9 分钟前
    Orin Nano Super ,没看出来跟 Orin Nano 有什么区别,反正都挺贵。
    Nano 都还在吃灰呢
    murmur
        28
    murmur  
       3 小时 1 分钟前
    @tool2dx 这不是废话么,原神现在室温 5g 是手机基本测试,8gen2 就能 wifi 原神,8gen3 可以 5g 原神,8e 能开超分

    过不了原神测试的优化还不如华为的麒麟
    sunmacarenas
        29
    sunmacarenas  
       2 小时 48 分钟前
    GPU 性能 与 NVIDIA Jetson AGX Orin 相比 差了一半,内存小了很多,但价格便宜。看看能不能组 EXO 集群。
    timeance
        30
    timeance  
       2 小时 24 分钟前
    原文地址: https://developer.nvidia.com/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/

    本质上就是英伟达官方的”超频“固件
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3375 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 11:11 · PVG 19:11 · LAX 03:11 · JFK 06:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.