阅读历史 |

第606章 用故事解释softmax函数的溢出问题(2 / 2)

加入书签

?第一桶水是100升

?第二桶水是200升

?第三桶水是300升

?第四桶水是10亿升

显然,水池无法承受10亿升的水,直接溢出了!

解决方案?

?你先抽掉10亿升的水(相当于减去最大值),这样所有的水量都变成一个较小的数字,水池就不会溢出了。

比喻2:计算机的“溢出”锅

假设你在做饭,想同时煮四个锅的水,每个锅的温度分别是:

?100°c

?200°c

?300°c

?10亿°c

你的炉子最高只能加热到500°c,但第四个锅的温度远超这个上限,直接导致炉子爆炸(计算机溢出)!

怎么办?

你可以先把所有锅的温度减去一个基准值(比如减去10亿°c),让温度变成:

?-9.99亿°c

?-9.98亿°c

?-9.97亿°c

?0°c

现在,最高的温度也只是0°c,不会再超出炉子的承受范围。

总结

?Softax的溢出问题是因为指数运算会导致数值过大,超过计算机的上限。

?解决方案是在计算Softax之前,先减去最大值,这样所有的数值都会变小,防止指数爆炸。

?就像往水池倒水、往锅里加热,数值太大就会溢出,我们需要先做调整,确保计算不超出范围!

↑返回顶部↑

书页/目录

都市言情相关阅读: 容王今天追妻成功了吗 科研式修仙,从拒绝炉鼎开始 美男娇养手册 穿越梦境拥抱你 惊,帮她喂猪的男人是豪门继承人 王大力捉奸之后 丫鬟清锁 日在三国?我真的是汉室忠良啊 洪荒:开局夺舍殷洪得造化乾坤图 挽剑愁眠 大夏第一武世子 无限:杀穿电影世界 孤僻妹妹如何养活废材老哥 葬天 典狱长大人深不可测! 谍战:我当恶霸能爆奖励! 重生小屁孩开局单挑百米巨蟒 一人之下:三一门老祖归来 性转软妹师兄且慢,我本是男子 天武战祖 赶海系统:开挂带全家实现逆袭! 满级杀手在校园,她是隐藏大佬! 重生之我的邻居是未来富婆 综影视:狐狸精在后宫杀疯了 从蒙德开始的格斗进化 学霸和学渣的校园日常 玄幻:带着系统打造最强家族 重生财团千金的我,如何救世 恐怖噩梦:我有一对鬼眼 月帝 游戏人生,全职召唤师,我为主宰 快穿:白月光她完美演绎救世成功 人在综武写日记,开局获得无矩 黑化后,小叔叔被我虐到心碎 王爷重生现代追妻他命都不要 九劫剑塔 我在科举制度下修长生 疯批千金在线吃瓜 暴力前排,兼职奶妈,求组队 书中女配意识觉醒 快穿:女配逆袭,心机攻略 四合院之秦淮茹很旺夫 假面骑士:完蛋!我被美女包围 我创造了赛博修仙 开局兽医:肝词条,创怪物序列 网游:蓝星online 大阿神王 梁发:从磁场转动,开始笑傲江湖 穿书后,我拐走了反派白月光 洪荒,穿越之后 渔夫逆袭:开局救美,渔获满舱 反正死不了,只好逐渐变态喽 被极品儿女遗弃?我直接掏出空间 科举文抄公的快乐你想象不到 律师:霸凌者无罪?我送他死刑! 兽心似火,软妹娇娇别跑 南枝别意琛琛既 东北道门阴阳路 斗罗:我成了千仞雪的妹妹 都追绿茶女主?那恶毒女配我要了