V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
huzhikuizainali
V2EX  ›  机器学习

Batch 线性回归中为什么要要分别求代价函数等于 0 和等于 1 时的截距和斜率?

  •  
  •   huzhikuizainali · 2022-01-14 19:11:06 +08:00 · 982 次点击
    这是一个创建于 1078 天前的主题,其中的信息可能已经有所发展或是发生改变。
    请看下图,函数 h 是假设的目标函数(一元线性函数,θ0 是截距,θ1 是斜率),函数 j(θ0 ,θ1)是代价函数。线性回归本身是求代价函数的最小值时对应的目标函数θ0 和θ1 。**下图红框部分**为什么要分别求代价函数 j=0 时的 j 对θ0 的偏导数和 j=1 时 j 对θ1 的偏导数呢?关键 j=0 或 j=1 是代价函数的局部最小值么?而且从等号右侧也看不出这是在 j=0 和 j=1 时得到的表达式
    ![]( )


    **下方是 andrew ng 讲解时给出的理由**


    ![]( )
    ![]( )
    ![]( )
    ![]( )
    ![]( )
    lance6716
        1
    lance6716  
       2022-01-14 20:21:26 +08:00 via Android
    都是基础知识。θ是参数,求极值一般找参数的导数等于 0 的点。这个表达式没毛病。
    可以先看看数学基础
    huzhikuizainali
        2
    huzhikuizainali  
    OP
       2022-01-14 21:16:24 +08:00
    @lance6716 谢谢回复。请问红框当中的 j=1 该怎么理解?
    huzhikuizainali
        3
    huzhikuizainali  
    OP
       2022-01-14 21:20:16 +08:00
    @lance6716 还有就是微积分中认为一阶导数等于 0 是驻点,驻点可能是极值点,也可能不是极值点。这些不需要考虑么?
    lance6716
        4
    lance6716  
       2022-01-14 21:50:34 +08:00 via Android
    @huzhikuizainali 两个参数,θ0 和θ1 。先找到潜在的极值点,找到之后再根据具体信息排除
    huzhikuizainali
        5
    huzhikuizainali  
    OP
       2022-01-14 22:18:56 +08:00
    @lance6716 请问红框当中的 j=1 该怎么理解? 为什么要考虑 j=1 的情况。这点我不太理解。
    lance6716
        6
    lance6716  
       2022-01-14 23:14:42 +08:00 via Android
    @huzhikuizainali 两个参数,θ0 和θ1 。为了让 J 最大或者最小,两个参数都要调整。两个参数都要通过导数来找极值点
    huzhikuizainali
        7
    huzhikuizainali  
    OP
       2022-01-15 14:51:52 +08:00
    @lance6716 你说的我懂,但是你的回答好像和:“请问红框当中的 j=1 该怎么理解? 为什么要考虑 j=1 的情况。这点我不太理解。” 没有关系吧?
    lance6716
        8
    lance6716  
       2022-01-15 23:08:29 +08:00 via Android
    @huzhikuizainali j=1 就是θ1
    huzhikuizainali
        9
    huzhikuizainali  
    OP
       2022-01-16 00:25:39 +08:00
    @lance6716 j 是由θ1 和θ0 为自变量的函数。怎么说 j=1 就是θ1 呢?
    lance6716
        10
    lance6716  
       2022-01-16 08:50:36 +08:00 via Android   ❤️ 1
    你看看大小写😰j 是θ的下标,J 是代价函数
    huzhikuizainali
        11
    huzhikuizainali  
    OP
       2022-01-16 15:06:15 +08:00
    @lance6716 多谢。我明白了。你真是太棒了!
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2750 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 09:45 · PVG 17:45 · LAX 01:45 · JFK 04:45
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.