第606章 用故事解释softmax函数的溢出问题(2 / 2)
?第一桶水是100升
?第二桶水是200升
?第三桶水是300升
?第四桶水是10亿升
显然,水池无法承受10亿升的水,直接溢出了!
解决方案?
?你先抽掉10亿升的水(相当于减去最大值),这样所有的水量都变成一个较小的数字,水池就不会溢出了。
比喻2:计算机的“溢出”锅
假设你在做饭,想同时煮四个锅的水,每个锅的温度分别是:
?100°c
?200°c
?300°c
?10亿°c
你的炉子最高只能加热到500°c,但第四个锅的温度远超这个上限,直接导致炉子爆炸(计算机溢出)!
怎么办?
你可以先把所有锅的温度减去一个基准值(比如减去10亿°c),让温度变成:
?-9.99亿°c
?-9.98亿°c
?-9.97亿°c
?0°c
现在,最高的温度也只是0°c,不会再超出炉子的承受范围。
总结
?Softax的溢出问题是因为指数运算会导致数值过大,超过计算机的上限。
?解决方案是在计算Softax之前,先减去最大值,这样所有的数值都会变小,防止指数爆炸。
?就像往水池倒水、往锅里加热,数值太大就会溢出,我们需要先做调整,确保计算不超出范围!
↑返回顶部↑
都市言情相关阅读:
容王今天追妻成功了吗
科研式修仙,从拒绝炉鼎开始
美男娇养手册
穿越梦境拥抱你
惊,帮她喂猪的男人是豪门继承人
王大力捉奸之后
丫鬟清锁
日在三国?我真的是汉室忠良啊
洪荒:开局夺舍殷洪得造化乾坤图
挽剑愁眠
大夏第一武世子
无限:杀穿电影世界
孤僻妹妹如何养活废材老哥
葬天
典狱长大人深不可测!
谍战:我当恶霸能爆奖励!
重生小屁孩开局单挑百米巨蟒
一人之下:三一门老祖归来
性转软妹师兄且慢,我本是男子
天武战祖
赶海系统:开挂带全家实现逆袭!
满级杀手在校园,她是隐藏大佬!
重生之我的邻居是未来富婆
综影视:狐狸精在后宫杀疯了
从蒙德开始的格斗进化
学霸和学渣的校园日常
玄幻:带着系统打造最强家族
重生财团千金的我,如何救世
恐怖噩梦:我有一对鬼眼
月帝
游戏人生,全职召唤师,我为主宰
快穿:白月光她完美演绎救世成功
人在综武写日记,开局获得无矩
黑化后,小叔叔被我虐到心碎
王爷重生现代追妻他命都不要
九劫剑塔
我在科举制度下修长生
疯批千金在线吃瓜
暴力前排,兼职奶妈,求组队
书中女配意识觉醒
快穿:女配逆袭,心机攻略
四合院之秦淮茹很旺夫
假面骑士:完蛋!我被美女包围
我创造了赛博修仙
开局兽医:肝词条,创怪物序列
网游:蓝星online
大阿神王
梁发:从磁场转动,开始笑傲江湖
穿书后,我拐走了反派白月光
洪荒,穿越之后
渔夫逆袭:开局救美,渔获满舱
反正死不了,只好逐渐变态喽
被极品儿女遗弃?我直接掏出空间
科举文抄公的快乐你想象不到
律师:霸凌者无罪?我送他死刑!
兽心似火,软妹娇娇别跑
南枝别意琛琛既
东北道门阴阳路
斗罗:我成了千仞雪的妹妹
都追绿茶女主?那恶毒女配我要了