神经网络 专业术语解释(Step, Batch Size, Iteration,Epoch)

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了神经网络 专业术语解释(Step, Batch Size, Iteration,Epoch)相关的知识,希望对你有一定的参考价值。

参考技术A 1. 名词解释

Step: 训练模型的步数

Batch Size(批尺寸): 计算梯度所需的样本数量,太小会导致效率低下,无法收敛。太大会导致内存撑不住,Batch Size增大到一定程度后,其下降方向变化很小了,所以Batch Size是一个很重要的参数。

为什么需要有 Batch_Size :

batchsize 的正确选择是为了在内存效率和内存容量之间寻找最佳平衡。 

Epoch(回合):代表样本集内所有的数据经过了一次训练。  

每个 epoch 都会进行shuffle,对要输入的数据进行重新排序,分成不同的batch。

Iteration(迭代):

理解迭代,只需要知道乘法表或者一个计算器就可以了。迭代是 batch 需要完成一个 epoch 的次数。记住:在一个 epoch 中,batch 数和迭代数是相等的。

比如对于一个有 2000 个训练样本的数据集。将 2000 个样本分成大小为 500 的 batch,那么完成一个 epoch 需要 4 个 iteration。

2. 换算关系

实际上,梯度下降的几种方式的根本区别就在于上面公式中的 Batch Size不同。

*注:上表中 Mini-Batch 的 Batch 个数为 N / B + 1 是针对未整除的情况。整除则是 N / B。

3. 例子

CIFAR10 数据集有 50000 张训练图片,10000 张测试图片。现在选择 Batch Size = 256 对模型进行训练。

每个 Epoch 要训练的图片数量: 50000

训练集具有的 Batch 个数: 50000/256 = 195 +1 = 196

每个 Epoch 需要完成的 Batch 个数: 196

每个 Epoch 具有的 Iteration 个数: 196

每个 Epoch 中发生模型权重更新的次数: 196

训练 10 代后,模型权重更新的次数: 196 * 10

不同代的训练,其实用的是同一个训练集的数据。第  代和第  代虽然用的都是训练集的五万张图片,但是对模型的权重更新值却是完全不同的。因为不同代的模型处于代价函数空间上的不同位置,模型的训练代越靠后,越接近谷底,其代价越小。

求一些心理专业术语

多多益善..
一些专业术语及解释最好有实例..

感觉记忆(SM)—sensory memory
短期记忆(STM)—short-term M.
长期记忆(LTM)—long-term memory
复诵——rehearsal
预示(激发)——priming
童年失忆症——childhood amnesia
视觉编码(表征)——visual code(representation)
听觉编码—acoustic code
运作记忆——working memory
语意性知识—semantic knowledge
ji忆扫瞄程序—memory scanning procedure
竭尽式扫瞄程序-exhaustive S.P.
自我终止式扫瞄—self-terminated S.
程序性知识—procedural knowledge
命题(陈述)性知识——propositional(declarative)knowledge
情节(轶事)性知识—episodic K.
讯息处理深度—depth of processing
精致化处理—elaboration
登录特殊性—coding specificity
记忆术—mnemonic
位置记忆法—method of loci
字钩法—peg word
(线)探索(测)(激发)字—prime
关键词——key word
命题思考——propositional thought
心像思考——imaginal thought
行动思考——motoric thought
概念——concept
原型——prototype
属性——property
特征——feature
范例策略——exemplar strategy
语言相对性(假说)—linguistic relativity th.
音素——phoneme
词素——morpheme
(字词的)外延与内涵意义—denotative & connotative meaning
(句子的)表层与深层结构—surface & deep structure
语意分析法——semantic differential
全句语言—holophrastic speech
过度延伸——over-extension
电报式语言—telegraphic speech
关键期——critical period
差异减缩法——difference reduction
方法目的分析——means-ends analysis
倒推——working backward
动机——motive
自由意志——free will
决定论——determinism
本能——instinct
种属特有行为——species specific
驱力——drive
诱因——incentive
驱力减低说——drive reduction th.
恒定状态(作用)—homeostasis
原级与次级动机—primary & secondary M.
功能独立—functional autonomy
下视丘侧部(LH)—lateral hypothalamus
脂肪细胞说——fat-cell theory.
下视丘腹中部(VMH)—ventromedial H
定点论——set point th.
CCK———胆囊调节激素
第一性征——primary sex characteristic
第二性征——secondary sex characteristic
自我效能期望—self-efficiency expectancy
内在(发)动机—intrinsic motive
外在(衍)动机—extrinsic motive
成就需求——N. achievement
需求层级—hierarchy of needs
自我实现——self actualization
冲突——conflict
多项仪——polygraph
肤电反应——GSR
(认知)评估——(cognitive appraisal)
脸部回馈假说——facial feedback hypothesis
(生理)激发——arousal
挫折-攻击假说——frustration-aggression hy.
替代学习——vicarious learning
发展——development
先天——nature
后天——nurture
成熟——maturation
(视觉)偏好法——preferential method
习惯法——habituation
视觉悬崖——visual cliff
剥夺或丰富(环境)——deprivation or enrichment of env.
基模——schema
同化——assimilation
调适——accommodation
平衡——equilibrium
感觉动作期——sensorimotor stage
物体永久性——objective permanence
运思前期——preoperational st.
保留概念——conservation
道德现实主义——moral realism
具体运思期——concrete operational
形式运思期——formal operational st.
前俗例道德——pre-conventional moral
俗例道德——conventional moral
超俗例道德——post-conventional moral
气质——temperament
依附——attachment
性别认定——gender identity
性别配合——sex typing
性蕾期——phallic stage
恋亲冲突—Oedipal conflict
认同——identification
社会学习——social learning
情结——complex
性别恒定——gender constancy
青年期——adolescence
青春期—— -puberty
第二性征——secondary sex characteristics
认同危机——identity crisis
定向统合——identity achievement
早闭型统合——foreclosure
未定型统合——moratorium
迷失型统合——identity diffusion
传承——generativity
心理动力——psycho-dynamics
心理分析——psychoanalysis
行为论——behaviorism
心理生物观——psycho-biological perspective
认知——cognition
临床心理学家-clinical psychologist
谘商——counseling
人因工程——human factor engineering
组织——organization
潜意识——unconsciousness
完形心理学——Gestalt psychology
感觉——sensation
知觉——perception
实验法——experimental method
独变项——independent variable
依变项——dependent V.
控制变项——control V.
生理——physiology
条件化——conditioning
学习——learning
比较心理学——comparative psy.
发展——development
社会心理学——social psy.
人格——personality
心理计量学—psychometrics受试(者)——subject
实验者预期效应—experimenter expectancy effect
双盲法——double—blind
实地实验——field experiment
相关——correlation
调查——survey
访谈——interview
个案研究——case study
观察——observation
心理测验——psychological test
纹理递变度——texture gradient
注意——attention
物体的组群——grouping of object
型态辨识—pattern recognition
形象-背景——figure-ground
接近律——proximity
相似律——similarity
闭合律——closure
连续律——continuity
对称律——symmetry
错觉——illusion
幻觉——delusion
恒常性——constancy
大小——size
形状——shape
位置—— location
单眼线索——monocular cue
线性透视——linear- perspective
双眼线索——binocular cue
深度——depth
调节作用——accommodation
重迭——superposition
双眼融合——binocular fusion
辐辏作用——convergence
双眼像差——binocular disparity
向度—— dimension
自动效应——autokinetic effect
运动视差—— motion parallax
诱发运动—— induced motion
闪光运动—— stroboscopic motion
上下文、脉络-context
人工智能——artificial intelligence A.I.
脉络关系作用-context effect
模板匹配——template matching
整合分析法——analysis-by-synthesis
丰富性——redundancy
选择性——selective
无yi识的推论-unconscious inferences
运动后效——motion aftereffect
特征侦测器—feature detector
激发性——excitatory
抑制性——inhibitory
几何子——geons
由上而下处理—up-down process
由下而上处理——bottom-up process
连结者模式——connectionist model
联结失识症——associative agnosia
脸孔辨识困难症——prosopagnosia
意识——conscious(ness)
意识改变状态——altered states of consciousness
无意识——unconsciousness
前意识——preconsciousness
内省法——introspection
边缘注意——peripheral attention
多重人格——multiple personality
午餐排队(鸡尾酒会)效应—lunch line(cocktail party) effect
自动化历程——automatic process
解离——dissociate
解离认同失常——dissociative identity disorder
快速眼动睡眠——REM dream
非快速眼动睡眠—NREM dream
神志清醒的梦——lucid dreaming
失眠——insomnia
显性与隐性梦——manifest & latern content
心理活动性psychoactive
冥想——meditation
抗药性——tolerance
戒断——withdrawal
感觉剥夺——sensory deprivation
物质滥用——substance abuse
成瘾——physical addiction
物质依赖——sub. dependence
戒断症状——withdrawal symptom
兴奋剂——stimulant
幻觉(迷幻)剂——hallucinogen
镇定剂——sedative
抑制剂——depressant
酒精中毒引起谵妄—delirium tremens
麻醉剂——narcotic
催眠——hypnosis
催眠后暗示——posthypnotic suggestion
催眠后失忆posthypnotic amnesia
超心理学——parapsychology
超感知觉extrasensory perception ESP
心电感应——telepathy
超感视——clairvoyance
预知——precognition
心理动力—psycokinesis PK
受纳器——receptor
绝对阈——absolute threshold
差异阈——difference threshold
恰辨差——-JND
韦伯律——Weber''s law
心理物理——psychophysical
费雪纳定律——Fechner''s law
频率——frequency
振幅——amplitude
音频——pitch
基音——fundamental tone
倍音——overtone
和谐音——harmonic
音色——timbre
白色噪音——white noise
鼓膜——eardrum
耳蜗——cochlea
卵形窗—oval window
圆形窗——round window
前庭——vestibular sacs
半规管——semicircular canal
角膜——cornea
水晶体——lens
虹膜——iris
瞳孔——pupil
网膜——retina
睫状肌——ciliary muscle
调节作用——accommodation
脊髓——spinal cord
反射弧——reflex arc
脑干——brain stem
计算机轴性线断层扫描——CAT或CT
PET——正子放射断层摄影
MRI——磁共振显影
延脑——medulla
桥脑——pons
小脑——cerebellum
网状结构——reticular formation
RAS——网状活化系统
视丘——thalamus
下视丘——hypothalamus
大脑——cerebrum
脑(下)垂体(腺)—pituitary gland
脑半球——cerebral hemisphere
皮质——cortex
胼胝体——corpus callosum
边缘系统——limbic system
海马体——hippocampus
杏仁核——amygdala
中央沟——central fissure
侧沟——lateral fissure
脑叶——lobe
同卵双生子——identical twins
异卵双生子—fraternal twins
古典制约——classical conditioning
操作制约——operant conditioning
非制约刺激—(US unconditioned stimulus
非制约反应—(UR)unconditioned R.
制约刺激——(CS)conditioned S.
制约反应——(CR)conditioned R.
习(获)得——acquisition
增强作用——reinforcement
xiao除(弱)——extinction
自(发性)然恢复——spontaneous recovery
前行制约—forward conditioning
同时制约——simultaneous conditioning
回溯制约——backward cond.
痕迹制约——trace conditioning
延宕制约—delay conditioning
类化(梯度)——generalization(gradient)
区辨——discrimination
(次级)增强物——(secondary)reinforcer
嫌恶刺激——aversive stimulus
试误学习——trial and error learning
效果率——law of effect
正(负)性增强物—positive(negative)rei.
行为塑造—behavior shaping
循序渐进——successive approximation
自行塑造—autoshaping
部分(连续)增强—partial(continuous)R
定比(时)时制—fixed ratio(interval)schedule FR或FI
变化比率(时距)时制—variable ratio(interval)schedule VR或VI
逃离反应——escape R.
回避反应—avoidance response
习得无助——learned helplessness
顿悟——insight
学习心向—learning set
隐内(潜在)学习——latent learning
认知地图——cognitive map
生理回馈——biofeedback
敏感递减法-systematic desensitization
普里迈克原则—Premack''s principle
洪水法——flooding
观察学习——observational learning
动物行为学——ethology
敏感化—sensitization
习惯化——habituation
联结——association
认知学习——cognitional L.
观察学习——observational L.
登录、编码——encoding
保留、储存——retention
提取——retrieval
回忆——(free recall
全现心像、照相式记忆——eidetic imagery、photographic memory .
舌尖现象(TOT)—tip of tongue
再认——recognition
再学习——relearning
节省分数——savings
外显与内隐记忆——explicit & implicit memory
记忆广度——memory span
组集——chunk
序列位置效应——serial position effect
起始效应——primacy effect
新近效应——recency effect
心(情)境依赖学习——state-dependent L.
无意义音节—nonsense syllable
顺向干扰——proactive interference
逆向干扰——retroactive interference
闪光灯记忆——flashbulb memory
动机性遗忘——motivated forgetting
器质性失忆症—organic amnesia
阿兹海默症——Alzheimer''s disease
近事(顺向)失忆症—anterograde amnesia
旧事(逆向)失忆—retrograde A.
高沙可夫症候群—korsakoff''s syndrome
凝固理论—consolidation

参考资料:http://zhidao.baidu.com/browse/143?lm=2

参考技术A 可以自己查查

“俄狄浦斯情结”,心理学上指男孩亲母反父的倾向,亦称“恋母情结”。
而“伊利克特拉情结”则指女孩恋父反母的倾向。

津巴多监狱试验
津巴多(Philip Zimbardo)和他的同事在斯坦福大学的心理学系办公大楼地下室建立了一个“监狱”,他们以每天15美元的价格雇佣了24名学生来参加实验。这些学生情感稳定,身体健康,遵纪守法,在普通人格测验中得分属正常水平。试验者对这些学生随意地进行了角色分配,一部分人为“看守”,另一部分人为“罪犯”,并制定了一些基本规则。然后,实验者就躲在幕后,看事情会怎样发展。

两个礼拜的模拟实验刚刚开始时,被分配做“看守”的学生与被分配做“罪犯”的学生之间,没有多大差别。而且,做“看守”的人也没有受过专门训练如何做监狱看守员。实验者只告诉他们“维持监狱法律和秩序”,不要把“罪犯”的胡言乱语当回事。为了更真实地模拟监狱生活,“罪犯”可以像真正监狱中的罪犯一样,接受亲戚和朋友的探视。但模拟看守8小时换一次班,而模拟罪犯除了出来吃饭、锻炼、去厕所、办些必要的其他事情之外,要日日夜夜地呆在他们地牢房里。

“罪犯”没用多长时间,就承认了“看守”的权威地位,或者说,模拟看守调整自己,进入了新的权威角色之中。特别是在实验的第二天“看守”粉碎了“罪犯”进行反抗的企图之后,“罪犯”们的反应就更加消极了。不管“看守”吩咐什么,“罪犯”都唯命是从。事实上,“罪犯”们开始相信,正如“看守”所经常对他们说的,他们真的低人一等、无法改变现状。而且每一位“看守”在模拟试验过程中,都做出过虐待“罪犯”的事情。他们没有把这些只是当作一次实验,一切好像是真的,尽管他们还在尽力保持自己原来的身份。

最后,由于参加实验地学生在实验中表现出的病态反应,在实验进行了6天之后,研究人员就不得不终止了实验。

--------------------------------------------------------------------------------

角色知觉
看到津巴多试验的结果,也许就不会对驻伊美军虐囚事件感到意外了。莎士比亚说:全世界是一个舞台,所有的男人女人都是演员。津巴多的实验再次证明了我们这些“演员”学习一种新角色是多么迅速。不论是学生、老师还是职员、老板,大家都在兢兢业业得扮演着自己的角色,而我们对这些角色的认知,即所谓角色知觉,对于我们在扮演这些角色时所表现出的行为起了决定性的作用。

参加津巴多实验的学生就像我们大多数人一样,是通过大众传播媒介和自己的亲身经历,如在家庭(父母与孩子),在学校(老师和学生),以及在其他包含有权和无权关系的场合,学习到了关于罪犯和看守的角色定式的内容。这说明了什么呢?说明了角色知觉来源于我们对生活的观察,来源于身边人的影响。

在这个分析的基础上,也许不就难理解为什么优秀的老师带出来的弟子也会对他(她)们自己的学生也会比较宽容和富有责任心,优秀的企业培养出来的人才对社会有更积极的影响;……。用句土话,就是“龙生龙,凤生凤,老鼠的儿子会打洞”
参考资料:http://eaglezhang.spaces.live.com/blog/cns!3c8f0fded366e7a5!135.entry
参考技术B 知道术语有什么用,真正理解才好 参考技术C 建议买心理学看。

以上是关于神经网络 专业术语解释(Step, Batch Size, Iteration,Epoch)的主要内容,如果未能解决你的问题,请参考以下文章

求一些心理专业术语

云计算之OpenStack入门专业术语解释

BeanDefinitionParsingException:配置:元素 [step2] 无法访问

通信专业术语解释

kafka深入研究之路 kafka简介与专业术语解释说明

监控摄像机常用专业术语解释