都来读小说网

手机浏览器扫描二维码访问

第583章 激活函数（第3页）

?

当数据过大或过小时，变化很小，容易导致梯度消失（学习速度变慢）。

第四种情况：老张更加智能（softmax

激活函数）

有一天，老板告诉老张：“我们公司不仅有正式员工，还有不同的部门，比如工程部、市场部、财务部。你不能只区分‘进’或‘不进’，而是要把人分到不同的部门。”

于是，老张开发了一套更加高级的评分系统，不仅判断某人是否能进，还会计算他属于哪个部门的概率。

?

如果一个人穿着工程师制服，90%

可能属于工程部，10%

可能属于市场部。

?

如果一个人拿着营销资料，80%

可能属于市场部，20%

可能属于工程部。

?

每个人都按照最高概率归类到相应部门。

这就像softmax

激活函数，它的作用是：

?

把所有的可能性转换成概率分布（所有概率加起来是

1）。

?

适用于多分类问题（比如识别一张图片是“猫”、“狗”还是“兔子”）。

优点：

?

适合多类别分类，可以告诉你**“最有可能”是哪一类**。

问题：

?

计算量比

re露

大一点，但在分类任务中是最合适的。

总结：不同激活函数的角色

激活函数

比喻

适用场景

优点

问题

夺我灵根骂我狠？先天绝情圣体已成！  徒儿快下山，你师姐等不及了  玉孤  尸之仙  开局校花太太向我道歉，东京末日  迷雾中的真相：侦探手记  穿越兽世，日日扶腰求放过  叶尘：重生在赘婿逆袭之路  黄帝内经百姓版  重生后被亿万富豪逼婚，渣男傻眼  混沌疯魔  黑芒科技之途  我一身神功全靠努力，给我变身！  神谕之十二生肖  女将带球跑后，死对头一夜哭白头  万星吞天诀  兵王在地府的甜蜜生活  鬼怪奇谭：兵王与小仙女  我是赵梦凡  夫人算卦缺灵力，亲口冷面侯爷加气运