手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
混沌疯魔 夺我灵根骂我狠？先天绝情圣体已成！ 玉孤 夫人算卦缺灵力，亲口冷面侯爷加气运 我是赵梦凡 黑芒科技之途 兵王在地府的甜蜜生活 万星吞天诀 叶尘：重生在赘婿逆袭之路 开局校花太太向我道歉，东京末日 尸之仙 迷雾中的真相：侦探手记 穿越兽世，日日扶腰求放过 徒儿快下山，你师姐等不及了 重生后被亿万富豪逼婚，渣男傻眼 我一身神功全靠努力，给我变身！ 神谕之十二生肖 鬼怪奇谭：兵王与小仙女 女将带球跑后，死对头一夜哭白头 黄帝内经百姓版
下山第一天就撞鬼
时锦从小长在白云观，十五岁时跟随萧家家主萧鹤川回京。二十二岁的萧鹤川看着面前娇娇小小的小孩儿你跟着行远叫我爸爸也可以。眼底毫无波澜的时锦你要是觉得你七岁的时候能生下我，我是不介意叫你爹的。萧鹤川二十五岁的萧鹤川面对出落的亭亭玉立的时锦锦锦时锦爹爹萧鹤川卒...
邪气凛然
很显然，这是跳舞的又一套新书。也将会是跳舞在起点的第五套全本。（注意，这本书是都市YY，呵呵。几乎没有什么神话色彩，更不会再有什么教皇教会宗教圣骑士吸血鬼玉皇大帝之类的东西了）...
女侠且慢
女侠且慢，你可知我是什么人？知道，女帝身边的宠臣，反贼头目的相好，江湖名门的少主。脚踏三只船，我砍得就是你！...
误入帝心：娇软美人被宠冠后宫
论穿越到甜宠文大结局后是一种什么体验？姜澜雪表示，这金手指压根没用。原身入宫三月，却从未见过宣宁帝，因此，后宫嫔妃压根没将她放在眼里。不曾想姜澜雪穿越第一日就被召侍寝了，对此，众人依旧摇摇头表示不用担心。哪知接下来一连三日，宣宁帝都流连在姜澜雪的清光殿中。对此，众人表示，这不可能，肯定是因为齐王妃的缘故，陛下定然是...
凝脂美人随军后，最强军爷急红眼
一朝穿越七十年代，成为了一个将要遭受迫害，面临下乡窘境的物理教授的女儿林听绾，无奈之下被迫相亲！据说那人比她大八岁带三个娃，还不能生育！别人避之不及，林听绾见之却眼前一亮，宽肩窄腰大长腿，一身正气不说，还是个妥妥的纯情小狼狗！结婚后，众人八卦的DNA启动！听说了吗？陆云铮带回来一个漂亮媳妇，可这后妈不好当啊...
超神宠兽店
万订爆款，火爆爽文有一刀斩杀黄金巨龙的低等骷髅种有身怀十大宠兽秘技的看门土狗更有自称为神的打工妹这是一个得到系统开店，在破碎远古培育宠兽的故事。当荣光覆灭，血脉逆流，昔日的存在将再度回归，一切都是毁灭！...