第606章 用故事解释softmax函数的溢出问题（1 / 2）
用故事解释Softax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?火龙：100万金币
?冰龙：200万金币
?雷龙：300万金币
?风龙：10亿金币
智慧长老准备使用一个古老的计算方法——Softax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照Softax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?火龙的金币数变为100万-10亿=-9.99亿
?冰龙的金币数变为200万-10亿=-9.98亿
?雷龙的金币数变为300万-10亿=-9.97亿
?风龙的金币数变为10亿-10亿=0
然后，他计算：
现在，所有的指数值都变得很小，不会再溢出，金碗终于能正常计算了！
最终，风龙的财富占比几乎是100%，其他三条龙的财富占比接近0，宴会得出了正确的结论。
这个方法被称为Softax的数值稳定性技巧，即在计算前减去最大值，防止指数运算导致溢出。
用比喻解释Softax的溢出问题
比喻1：水池溢出
想象你有一个大水池，你往里面倒水：
↑返回顶部↑
都市言情相关阅读：
容王今天追妻成功了吗
科研式修仙，从拒绝炉鼎开始
美男娇养手册
穿越梦境拥抱你
惊，帮她喂猪的男人是豪门继承人
王大力捉奸之后
丫鬟清锁
日在三国？我真的是汉室忠良啊
大夏第一武世子
无限：杀穿电影世界
葬天
典狱长大人深不可测！
谍战：我当恶霸能爆奖励！
重生小屁孩开局单挑百米巨蟒
一人之下：三一门老祖归来
性转软妹师兄且慢，我本是男子
天武战祖
赶海系统：开挂带全家实现逆袭！
满级杀手在校园，她是隐藏大佬！
拯救男二：穿进霸总小说怎么办
综影视：狐狸精在后宫杀疯了
从蒙德开始的格斗进化
重生财团千金的我，如何救世
不知微醺
恐怖噩梦：我有一对鬼眼
月帝
快穿：白月光她完美演绎救世成功
别搞，我是人，魔尊是啥玩意儿？
黑化后，小叔叔被我虐到心碎
王爷重生现代追妻他命都不要
九劫剑塔
我在科举制度下修长生
疯批千金在线吃瓜
书中女配意识觉醒
快穿：女配逆袭，心机攻略
四合院之秦淮茹很旺夫
假面骑士：完蛋！我被美女包围
我创造了赛博修仙
我叫墨书，他们叫我杀神大人
开局兽医：肝词条，创怪物序列
网游：蓝星online
穿书后，我拐走了反派白月光
洪荒，穿越之后
渔夫逆袭：开局救美，渔获满舱
反正死不了，只好逐渐变态喽
被极品儿女遗弃？我直接掏出空间
科举文抄公的快乐你想象不到
律师：霸凌者无罪？我送他死刑！
兽心似火，软妹娇娇别跑
南枝别意琛琛既
东北道门阴阳路
斗罗：我成了千仞雪的妹妹
都追绿茶女主？那恶毒女配我要了
小欢喜：漫漫淡淡
东汉末年：黄巾军他不长这样啊！
崩坏：坏了，我成侵蚀律者了？
天灾末日：我在生存游戏中捡垃圾
柯南之组织没了我迟早要完
混沌古鼎
锦衣卫皇帝跑路了