手机浏览器扫描二维码访问
激活函数是什么?——用故事和比喻讲解
故事比喻:门卫老张的筛选机制
想象一个大型科技公司的总部大楼,每天有很多人想进公司。但并不是所有人都能进去,只有符合某些条件的员工才能进入工作,而其他人要被拦在门外。
这座大楼的门口站着一个门卫——老张。他的任务是检查进来的人,决定谁能进,谁不能进。他的决策规则就像神经网络中的“激活函数”!
第一种情况:老张完全放行(恒等函数)
有一天,老张心情很好,他决定:“今天所有人都能进!”
?
不管是正式员工、游客,还是快递小哥,只要有人过来,老张就让他们进大楼。
?
这就像是**“线性函数”或“恒等函数”**(identity
function),没有任何筛选,数据怎么进来,就怎么传递出去。
问题:
?
如果门口有太多人,会导致办公楼人满为患,甚至干扰员工工作(信息过载)。
?
这种情况下,神经网络可能无法学习复杂的特征,因为它没有任何“过滤”或“激活”机制。
第二种情况:老张只让合格员工进(re露
激活函数)
第二天,公司老板告诉老张:“从现在开始,只有正式员工能进,其他人一律不准进!”
?
于是,如果有人出示正式员工证,老张就让他进去。
?
但如果是游客、闲杂人等,老张直接摇头:“不行,回去吧!”
这就像re露(修正线性单元)激活函数:
?
如果输入是正数(正式员工),就直接通过,传递给下一层神经网络。
?
如果输入是负数(闲杂人等),直接变成
0,相当于拒绝进入。
优点:
?
过滤掉无用信息(负数变成
0,相当于屏蔽了一些干扰)。
?
计算简单,速度快,不会引入复杂的计算。
问题:
?
夺我灵根骂我狠?先天绝情圣体已成! 玉孤 尸之仙 重生后被亿万富豪逼婚,渣男傻眼 徒儿快下山,你师姐等不及了 黄帝内经百姓版 开局校花太太向我道歉,东京末日 我一身神功全靠努力,给我变身! 叶尘:重生在赘婿逆袭之路 夫人算卦缺灵力,亲口冷面侯爷加气运 混沌疯魔 鬼怪奇谭:兵王与小仙女 神谕之十二生肖 我是赵梦凡 万星吞天诀 黑芒科技之途 女将带球跑后,死对头一夜哭白头 兵王在地府的甜蜜生活 迷雾中的真相:侦探手记 穿越兽世,日日扶腰求放过
时忆,时氏集团大小姐,上辈子带着亲情滤镜被害离世。重生归来,她不在眼瞎,披上战甲,决定用自己的力量,守护时家,找到弟弟。骆祺,骆氏集团继承人,回国接手家族集团,杀伐果断的霸总,却在遇上时小姐之后屡屡碰壁,他发誓一定要把人拐回家。...
万订爆款,火爆爽文有一刀斩杀黄金巨龙的低等骷髅种有身怀十大宠兽秘技的看门土狗更有自称为神的打工妹这是一个得到系统开店,在破碎远古培育宠兽的故事。当荣光覆灭,血脉逆流,昔日的存在将再度回归,一切都是毁灭!...
九叠琴音震寰宇,谁敢闻言不识君?七色魔法代等级,雄雄揭大幕。琴之帝王,给这片大陆带来翻天覆地的改革。伴随着旷古绝今的赤子琴心的出现,一代琴魔法师,在碧空海之中悄然诞生。这将是一个单纯的少年,逐渐成为琴中帝王的故事,开创音乐魔法的先河,颠覆以往的设定,赤橙黄绿青蓝紫,彩虹等级将成为所有武技和魔法衡量的标准。原本仅仅是...
传统古言宅斗女强男强双向奔赴王爷宠妻商贾之女高嫁侯府,成了上京笑谈。独守空房供养侯府六年,姜舒无怨无悔。可她苦等多年的夫君从边关归来,带回一妻两子。不仅如此,沈长...
你知道冰和一根香蕉融合在一起会变成什么吗?我面前这个一口一个小冰球的蜥蜴会告诉你答案。但如果把电池和苹果以及苦瓜融合在一起,不仅变的难吃,还能让人拥有放电的时候身体会变绿的超能力!而当叶问拿着用牛粪,兔子毛,蝾螈,水熊虫,魔鬼辣椒和伟哥制成的动物系果实询问眼前这个被前女友戴绿帽,被现女友出轨他老爸,并且生下了他...
出身番茄孤儿院的角木,被泥头车送到忍界。有一个沉稳可靠,有时喜欢搞些小操作的老爸。有一个温柔体贴有主见,偶尔会小腹黑的老妈。有一个活泼调皮,崇拜哥哥的弟弟。虽然还有房贷要还,但仍是个幸福美满,温暖的家。只是,弟弟的名字叫海野伊鲁卡。自己的名字,是海野角木。从未来的九尾之乱中拯救自己的家人,便是海野角木踏足忍界要...