娣卞害瀛︿範涓嶯LP
Posted 鏈哄櫒瀛︿範AI绠楁硶宸ョ▼
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了娣卞害瀛︿範涓嶯LP相关的知识，希望对你有一定的参考价值。
鍚慉I杞瀷鐨勭▼搴忓憳閮藉叧娉ㄤ簡杩欎釜鍙?/span>馃憞馃憞馃憞
鍦ㄦ繁搴﹀涔犱腑锛屾枃鏈垎绫荤殑涓昏鍘熷瀷锛歍ext label锛屽潗杈规槸杈撳叆绔€淴鈥濓紝鍙宠竟鏄緭鍑虹鈥淵鈥濄€傝涓歜aseline锛氱敤BoW锛坆ag of words锛夎〃绀簊entences锛堝浣曞皢鏂囨湰琛ㄨ揪鎴愪竴涓暟瀛楃殑褰㈠紡锛夛紝鐒跺悗鐢↙R鎴栬€匰VM鍋氬洖褰掋€?/p>
涓嫳鏂囧仛鑷劧璇█澶勭悊涓昏鍖哄埆锛屼腑鏂囬渶瑕佸垎璇嶏紙鍚彂寮廐euristic, 鏈哄櫒瀛︿範銆佺粺璁℃柟娉旽MM銆丆RF锛夛級
娣卞害瀛︿範锛氫粠绔埌绔殑鏂瑰紡锛屼互涓嶆幒鍜屼汉涓虹殑璁＄畻锛屼粠X鍒癥鏆村姏绮楁毚鐨勫涔犮€傞€氳繃寰堥殣灞傦紙鍖呭惈澶ч噺绾挎€у拰闈炵嚎鎬х殑璁＄畻锛夎瘯鍥炬ā鎷熸暟鎹殑鍐呭湪缁撴瀯銆?/p>
鏂版墜鎺ㄨ崘鐢╧reas锛屽畠涓嬮潰鏈変袱涓簳灞傦紝涓€涓槸theano锛屼竴涓槸tensorflow锛屽彲浠ヨ嚜鐢辫浆鎹ackend涔熷氨鏄鍙互璁╁畠璺戝湪theano搴曚笅锛屼篃鍙互璺戝湪tensorflow搴曚笅锛屽畠鎶婂叾浠栧嚑涓繁搴﹀涔犳鏋剁患鍚堣捣鏉ユ垚涓€绉嶃€?/p>
鍏充簬鑷劧璇█鐩稿叧鐨勫簱锛実ensim https://radimrehurek.com/gensim/
涓€銆?Auto-Encoder鑷紪鐮佸櫒
搴旂敤鍦烘櫙锛氭棤鏍囩鐨勬椂鍊欓渶瑕佷娇鐢紱灏辩畻鏈夋爣绛剧殑鎯呭喌涓嬩竴鏈功鐨勫唴娑靛お澶氬お澶э紝浣犲笇鏈涢檷缁达紝浣垮緱鍏跺湪鍚庨潰妯″瀷澶勭悊涓兘澶熸帴鍙楋紱
鑷紪鐮佹槸鑷繁瀛︿範鑷繁锛岄€氳繃encoder鍘嬬缉鎴愪竴涓腑缁ч噺锛岀洰鐨勬槸甯屾湜杩欎釜涓户閲忓彲浠ラ€氳繃涓嬩竴鎶婂畬鍏ㄥ弽鍚戠殑encoder锛岃繑鍥炴垚鍘熸湰鐨処nput銆傝繖閲岄潰娌℃湁鐢ㄥ埌浠讳綍鐨刲abel锛岃€屾槸鐓х墖2鏈韩鍜岀収鐗?鏈韩锛屼腑闂村姞浜嗕袱涓绔嬫紡鏂楀舰鐨勭缁忕綉缁溿€傛渶鍚庢垜浠彲浠ュ彇涓棿閭ｄ釜鏇村皬鐨勪腑缁ч噺浠ｆ浛鍘熸潵鐨勫浘鐗囷紙鍥犱负瀹冨彲浠ecoder鍥炲師鏉ョ殑鍥剧墖锛夈€?/p>
瀹炵幇浜嗕笉鐢ㄤ汉涓烘彁鍙栫壒寰佸悜閲忋€?br>鍙兘杈惧埌灞€閮ㄦ渶浼樼偣锛屾棤娉曡揪鍒板叏灞€鏈€浼樼偣銆?br>璺濈鐨勮绠楋紝鏂囨湰涓婂父鐢ㄥ垪鏂囨柉鍧﹁窛绂伙紝浠嶢鍙楤闇€瑕佸灏戞銆傛垨鑰呮妸鏁翠釜鏂囨湰琛ㄨ揪涓虹煩闃靛悜閲忥紝璇嶅悜閲忕殑璺濈鍙互鐢╟osine璺濈绛夈€?/p>
浜屻€?CNN4Text锛堝嵎绉?text锛?/strong> 濡備綍杩佺Щ鍒版枃瀛楀鐞嗭紵 2.鎶妔entence鍙樻垚1缁寸殑锛?/span> 涓夈€?RNN锛堝甫璁板繂锛?/strong> 閫氳繃鍚勭杩愮畻绗﹀彿鍜岃鍒欎娇寰楁暣涓缁忕綉缁滈噷闈㈡瘡涓缁忕綉缁滈兘鑳借寰椾竴鐐逛笢瑗匡紝鍙堜細鍙婃椂鐨勫繕璁颁竴浜涗笢瑗匡紝浣垮緱鎴戣蹇嗙殑璺濈鑳藉鍙樺緱澶熼暱銆傦紙RNN鏄竴涓彔鍔犵殑杩囩▼锛屼笅涓€涓案杩滃熀浜庝笂涓€涓紝灏变細鍙樺緱闈炲父澶у拰鎱級 LSTM涓渶閲嶈鐨勫氨鏄疌ell State(璁板繂绾藉甫) S锛屽畠涓€璺悜涓嬶紝璐┛鏁翠釜鏃堕棿绾匡紝浠ｈ〃浜嗚蹇嗙殑绾藉甫銆傚畠浼氳XOR锛堥仐蹇樺眰澶勭悊锛夊拰AND锛堣蹇嗗鐞嗭級杩愮畻绗︽悶涓€鎼炴潵鏇存柊璁板繂锛岄€氳繃杩欎袱涓繍绠楁潵鐭ラ亾瑕佽寰椾粈涔堝拰蹇樻帀浠€涔堛€?br> 鏈€鍚庡緱鍒拌蹇嗙航甯t 浜斻€?LSTM妗堜緥 浜哄伐鏅鸿兘澶ф暟鎹笌娣卞害瀛︿範 以上是关于娣卞害瀛︿範涓嶯LP的主要内容，如果未能解决你的问题，请参考以下文章 Github 9.9K Star鐨勩€婄缁忕綉缁滀笌娣卞害瀛︿範銆嬶紙闄勪笅杞斤級 娣卞害瀛︿範鎴樹簤锛欶acebook 鏀寔鐨?PyTorch 涓?Google 鐨?TensorFlow | Linux 涓浗
鍗风Н绁炵粡缃戠粶锛岀敤绠€鍗曠殑渚嬪瓙瑙ｉ噴锛屽氨鏄墜鏈轰笂鐨勪慨鍥捐蒋浠讹紝鎷嶇殑鐓х墖缁欎釜婊ら暅锛岀収鐗囨槸涓嶆槸灏遍暱寰椾笉涓€鏍蜂簡锛宑nn灏辨槸鐢ㄥ緢澶氭护闀滅粰鎴戝師濮嬬殑鍥剧墖锛岃繘琛岀収鑰€锛岀収瀹屼箣鍚庝細寰楀埌鍦ㄤ笉鍚屾护闀滀笅鐨勬樉绀哄舰寮忥紝杩欎簺鏄剧ず褰㈠紡涔熻灏辨殫鍚繖浜涘浘鐗囩殑涓€浜涚壒寰併€?閫氳繃婊ら暅鎵繃涔嬪悗寰楀埌鏂扮殑featureMap鎴戜滑绉颁负convolved feature銆傛护闀滄槸鎬庝箞寰楀埌鐨勫憿锛屾槸浜轰负鍒濆鍖栦竴涓护闀滐紝閫氳繃涔嬪悗鏃犳暟娆＄殑瀛︿範鏉ユ洿鏂拌繖涓护闀滃€硷紝浣垮緱杩欎釜婊ら暅鍊兼槸鏈€濂界殑鑳芥彁鍙栧嚭fetureMap鐨勬护闀溿€傦紙鍔犲彿鑰佸笀璁诧級鍙充笅鍥撅紝宸﹁竟鏄ā绯婏紝鍙宠竟鏄竟缂樺寲銆?/p>
1.鎶婃瘡涓崟璇嶅鐞嗘垚涓€涓í鍚戠殑鍚戦噺锛屽氨鎶婂彞瀛愭嫇灞曟垚浜嗙被浼煎浘鐗囩殑琛ㄨ揪寮忥紝
妗堜緥
Rnn鐨勭洰鐨勬槸璁╂湁sequential鍏崇郴鐨勪俊鎭緱鍒拌€冭檻锛孲t鏄熀浜庤繖涓€涓椂闂寸偣鐨刬nput鍜屼笂涓€涓椂闂寸偣鐨勮蹇嗭紝鐒跺悗St鍐嶄箻浠utput weight V寰楀埌鏈€缁堣緭鍑恒€?/p>
濡傛灉Rnn鐨勯暱搴︿笉鑳借蹇嗗嚑澶╁墠鐨凷鐨勮瘽锛屽畠鐨勪笂涓嬫枃澶勭悊鑳藉姏杩樻槸涓?锛屽洜涓哄畠杩樻槸涓嶇煡閬撲綘鐨勪笂涓嬫枃鍓嶆彁鏄粈涔堬紝鍥犳闇€瑕丩STM銆?/p>
鍥涖€?LSTM锛堝甫璁板繂锛?/strong>
闀挎晥璁板繂缃戠粶锛屾妸璁板繂闀挎晥鐨勪繚鐣欎笅鏉ャ€?/p>
鑰屾帶鍒朵俊鎭殑澧炲姞鍜屽噺灏戠殑锛屽氨鏄潬杩欎簺闃€闂細Gate锛岄榾闂ㄥ氨鏄緭鍑轰竴涓?鍜?涔嬮棿鐨勫€硷紝1浠ｈ〃鎶婅繖涓€瓒熺殑淇℃伅璁扮潃锛?浠ｈ〃杩欎竴瓒熺殑淇℃伅鍙互蹇樿浜嗐€傛湁浜涜蹇嗘瘮杈冧箙鐨勮繕闇€涓嶉渶瑕佺暀鐫€銆?br>
鍙互鐢ㄥ湪涓嶅悓鐨勭淮搴︿笂锛?br>缁村害1锛氫笅涓€涓瓧姣嶆槸浠€涔堬紵
缁村害2锛氫笅涓€涓崟璇嶆槸浠€涔堬紵
缁村害3锛氫笅涓€涓彞瀛愭槸浠€涔堬紵
缁村害4锛氫笅涓€涓浘鐗囥€侀煶绗︽槸浠€涔堬紵