CA88

EN CA88(中国区)唯一官方网站 CA88(中国区)唯一官方网站
www.ahsjsjt.cn

爱液视频大脑进建机造新突破:科学家揭示生物神经网络中存在无监督预训练

吉林大学本硕校友、中国科学院神经科学钻研所博士毕业生、目前在美国霍华德·休斯医学钻研所珍妮莉亚钻研园从事博士后钻研的钟林 ,一向以来深深厚迷于大脑的复杂性 ,后来他发现只有钻研机械进建能力弄领略更多关于大脑认知职能的问题 [1]。正因而 ,他来到了上述珍妮莉亚钻研园做博士后钻研。而就在 6 月 18 日 ,由他担任第一作者和共同通讯作者的论文发在Nature[2]。 钻研中 ,钟林和地点团队在幼鼠进建多项工作的过程中 ,以及在无嘉奖地接触一样刺激的过程中 ,纪录了幼鼠低级视觉皮层和高级视觉区域(HVAs ,higher visual areas)中数量多达 90,000 个的神经元群体活动。 与先前的钻研类似 ,钻研团队发现执行工作的幼鼠的神经变动与其行为进建有关。然而 ,这些神经变动大多是在无嘉奖露出的幼鼠身上复造的 ,这批注这些变动现实上是由于无监督进建造成的。其中 ,神经可塑性在内侧高级视觉区域阐发得最强 ,并且遵循视觉进建规定 ,而非遵循空间进建规定。 在执行工作的幼鼠中 ,钻研团队在幼鼠的前部高级视觉区域发现了嘉奖预测信号的递增景象 ,这可能与监督进建有关。依附这一神经科学了局 ,钻研团队预测无监督进建可能会加快后续的工作进建。 钻研团队在论文中写路:在进建有关工作之后 ,对于幼鼠视觉皮层中的大部门心经可塑性来说 ,其在无监督露出于一样视觉刺激的幼鼠中得到了复造。 而所发现唯一的例表存在于前视觉区域 ,该区域编码了可能用于监督进建的怪异工作信号。为此 ,钻研团队在尝试中探索了在有监督进建和无监督进建的作用下 ,幼鼠在进建产生前后多个视觉推算过程所出现出的分歧阐发。 具体来说 ,钻研团队设计了一项视觉分辨工作 ,让头部固定的幼鼠在线性虚构现实通路中驰骋。幼鼠必要分辨两条通路的视觉纹理模式 ,与此同时 ,这些通路以伪随机挨次沉复出现。每条通路中的视觉图案均取自天然纹理的大尺寸照片 ,并以“冻结”的裁剪方式获得。为了单一路见 ,钻研团队将刺激暗示为“叶子”和“圆圈”。 针对视觉刺激 ,钻研团队在分歧类别间进行了空间频率匹配 ,以便激励幼鼠在分辨过程中使用越发高阶的视觉特点。在每次尝试之中 ,声音提醒会随机地呈此刻通路内的肆意地位 ,并且仅在嘉奖试验阶段幼鼠给出正确响应后才会提供水源。 经过约莫 2 周的训练 ,幼鼠会在嘉奖通路中阐发出选择性舔舐行为 ,这种舔舐产生在嘉奖开释之前的预期阶段。在进建阶段实现之后 ,钻研团队引入了无嘉奖测试刺激物“leaf2”和“circle2” ,这两个刺激物源自一样照片的分歧固定裁剪区域。 随后 ,钻研团队持续使用无嘉奖的“leaf2”进行训练 ,直到幼鼠终场针对这一刺激做出舔舐行为。此时 ,钻研团队引入了另一个测试刺激“leaf3”以及“leaf1”的空间随机分列版本。了局发现 ,无监督组的幼鼠也会在一样通路中驰骋类似的功夫 ,但是不会获得饮水嘉奖 ,也不受到饮水限度。 钻研团队还对另一组幼鼠进行了钻研 ,这些幼鼠在墙壁上带有光栅的虚构现实通路中驰骋。必要注明的是 ,他们仅将这些幼鼠作为对照组 ,以用于展示单纯露出于虚构现实环境的成效。为了确保所有幼鼠均能获得一致的视觉履历 ,钻研团队设定了虚构现实系统的运行规定:当幼鼠驰骋速度超过阈值时 ,系统维持以固定速度运行的状态 ;当幼鼠驰骋速度低于阈值时 ,则会暂停虚构场景的移动。进建前后的总体驰骋速度类似 ,工作组和无监督组之间的总体驰骋速度也类似。 必要注明的是 ,钻研团队仅将幼鼠活动期间的功夫点纳入分析 ,由此排除了尝试幼鼠通过终场驰骋以便获取水嘉奖的功夫段。 在幼鼠进建的前后 ,他们使用双光子介观显微镜同时纪录了多个视觉区域的大量神经群体活动 ,并针对这些数据运行了 Suite2p 法式 ,从而能在每次纪录中获取 20,547 至 89,577 个神经元的活动轨迹。 钻研团队针对每只幼鼠的神经元推算了选择性指数 d′ ,该指数的推算基于以下数据:在分歧通路的屡次试验中 ,将幼鼠处于驰骋状态时的神经元反映散布进行汇总 ,并忽略空间地位差距。其中 ,d′ 值相对较高的神经元 ,在 leaf1 或 circle1 通路内的某些地位有着强烈反映。 为了确定这些拥有选择性反映的神经元在幼鼠脑组织中的具体散布地位 ,钻研团队通过将每次尝试纪录与预先推算的视觉皮层图谱进行空间校准后 ,天生了可能反映神经元地位的二维散布直方图。借此发现 ,幼鼠在进建之后内侧视觉区域出现了很多选择性神经元。 其中 ,在职务组和无监督组中 ,内侧视觉区的区域均显示出对天然图像神经选择性的类似变动 ;而在虚构现实中露出于光栅刺激的幼鼠组则没有出现这种变动。尝试期间 ,钻研团队没有观察到表侧区域的变动 ,而前部区域仅仅在监督前提下受到调节。 与此同时 ,他们还在低级视觉皮层观察到一些可塑性变动。具体来说:在无监督组中 ,低级视觉皮层的内侧部门阐发出选择性的幼幅降落 ;当依照刺激类型分辨时 ,也能观察到选择性上的轻微变动。 然而 ,拥有选择性的低级视皮层神经元的总体比例并未产生显著变动 ,这与之前一些钻研的寂仔类似之处也有分歧之处。因而 ,对于神经可塑性在视觉区域的散布来说 ,大多不依赖于工作反馈或监督。 必要把稳的是 ,工作组幼鼠还必须学会获取水分 ,以及理解“水、刺激信号、通路地位与声音提醒”之间的关联关系。幼鼠们在嘉奖通路中也有着分歧的阐发 ,好比有的会在通路中停下、喝水 ,而后沉新起头驰骋。 只管在尝试中 ,幼鼠的阐发存在各种差距 ,但是这些脑区的神经可塑性变动模式与无监督进建组高度类似。这一了局批注 ,这些区域内的可塑性重要源自幼鼠对于刺激自身的直接响应 ,而非其他滋扰成分的影响。 为了测试幼鼠在无监督训练之后在神经可塑性的潜在职能 ,钻研团队先是如果这种可塑性有望让动物更快地进建后续工作 ,即类似于无监督预训练援手人为神经网络更快地进建监督工作。 基于此 ,钻研团队针对三组幼鼠进行了一项行为钻研。第一组的“无预训练”幼鼠接受了与上述工作幼鼠类似的训练 ,而第二组的“无监督预训练”幼鼠接受了 10 天的无嘉奖虚构现实跑步。第三组幼鼠的设置与第二组幼鼠根基一样 ,唯一区别在于虚构现实预训练阶段使用的刺激是光栅图案而非天然纹理。 为了简化嘉奖进建工作 ,钻研团队选取了以下两种方式:首先 ,将嘉奖投放限度在嘉奖通路的后半段即限度在嘉奖区 ;其次 ,取缔了声音提醒。 与此同时 ,钻研团队还纳入了一天带有被动嘉奖的初始训练 ,以便激励幼鼠起头进建。了局发现 ,针对天然纹理进行无监督预训练的幼鼠通常可能更快地实现这项工作。例如 ,幼鼠在职务训练的第一天起头时 ,会在两条通路中无差距地舔舐 ,但在经过约莫 10 次试验之后 ,它就终场了在无嘉奖通路中的舔舐行为。训练到第 5 天的时辰 ,这只幼鼠仅在嘉奖区的肇始地位有选择性地进行舔舐。相比之下 ,未进行预训练或在光栅通路上进行预训练的幼鼠在自动训练的第一天没有可能学会分辨两条通路。 5 天后 ,所有三组幼鼠都具备了很高的分辨能力 ,但是第二组“无监督预训练”的幼鼠进建速度更快。此表 ,幼鼠进建能力的提升大多产生在单个训练阶段内。 钻研团队暗示 ,经过预训练的幼鼠的分辨能力可能得到提升 ,并非由于工作进建过程中的行为差距:所有三个组的幼鼠在两条通路中的舔舐地位类似 ,且进行的试验次数也相近。 总的来说 ,本次钻研证明对于皮质视觉区域的神经表征 ,无监督的预训练会带来内容性影响 ,并能援手幼鼠更快地进建监督工作。 无监督可塑性的重要区域可能是内侧高级视觉皮层 ,由于这些区域所蕴含的表征可能强烈地域分所进建到的刺激 ,并且无论幼鼠是否经过工作训练城市出现。只管如此 ,哪怕在选择性神经元的数量并未增长的情况下 ,幼鼠在进建后其所有视觉区域都阐发出了一些调谐上的变动。 最后 ,刺激的新鲜性重要体此刻低级视觉皮层和表侧高级视觉区域的神经元反映中。钻研团队暗示 ,这一钻研了局可能与其他关于感触皮层神经可塑性的报路有关。 在视觉皮层中 ,进建可导致更多神经元可能分辨已进建的刺激、能更好地分辨刺激的神经元或对已进建刺激反映更强烈的神经元 ;进建还能为神经元的视觉调谐增长情境依赖性 ,并且可使低级视觉皮层中的刺激表征正交化。这类变动通常被诠释为工作进建的了局 ,由于它们与工作阐发亲昵有关。 然而 ,钻研团队的钻研了局批注 ,这些变动也可能在没有工作训练的情况下产生。具体到低级视觉皮层 ,蕴含本次成就在内的很多钻研都已批注其在选择性和调谐方面存在变动 ,但部门钻研也显示选择性神经元的数量有所增长 ,而蕴含本次钻研在内的目前已有钻研则并未观察到这一景象。这种差距可能源于尝试工作的分歧 ,或是由刺激响应的丈量方式差距所导致。 与此同时 ,本次钻研了局也能够与海马体中的钻研了局进行比力。只管钻研团队已经批注皮层表征在性质上是视觉的而非空间的 ,但海马体的表征仍有可能从其输入中继承一些视觉个性。因而 ,进一步分辨统一回路中的空间进建和视觉进建可能是未来钻研的一个有远景的方向。另一个颇具远景的钻研方向是:为本次观察到的神经变动寻找生理学基础 ,并将其与经典进建法令或新规定有关联。与此同时 ,还能够将无监督可塑性与无监督进建的经典理论和模型 ,以及自监督进建等步骤联系起来。

爱液视频
爱液视频高考期间,针对途经考点周边的414条公交线路,结合各场考试开考时间,加强运力安排,在开考前1小时增配运力,加密行车间隔,方便考生乘车。对考点周边线路采取灵活的调度措施,在大木仓胡同、彰化村、嘉园一里、龙跃苑一区西门、北京八中大兴分校、丽园北、海子角北口、海子角东口、绿色庄园、海子角等10处公交站点部分时段采取临时甩站措施,线路临时甩站和绕行期间,车内考生要求下车时,在保证安全的前提下方便考生就近下车。这也是我们与其他云厂商的不同之处,我们不愿意去争夺行业收入规模第二或第几的名次,这毫无意义。我认为对华为云来说,未来会迎来更多积极变化。硅基黑土地一定会越来越厚、越来越肥沃,这意味着中国的硅基技术必将在全球技术体系中占据重要一席。爱液视频《《泡在我家的黑田同学》第二季动漫》谈到潜在投资者是谁,弗洛伦蒂诺-佩雷斯表示:“可能是一家希望与皇马建立联系的大品牌,但它不会拥有任何权利。100%的所有权仍将属于会员。”【Quobly完成1.15亿欧元A轮融资】法国量子计算公司Quobly宣布完成1.15亿欧元A轮融资,旨在加速其硅基量子计算机的产业化进程,并计划于2026年底前将首款商用产品推向市场。本轮融资由Bpifrance、SEALSQ和意法半导体领投,欧洲创新理事会、Blast、ALIAD以及现有投资者Innovacom参与投资。(睿兽分析戳此处查看更多)
20260606 ? 爱液视频科纳特上赛季的状态确实会让这笔签约受到一些质疑,但即便如此,考虑到他可以自由转会加盟,这仍然是一次有吸引力的市场机会。《表国大片又大又好看的ppt百度10分钟》天气预报显示,接下来可能还是类似情况。你阵中有不少球员目前俱乐部未来还不明确。之前我们还没问过你类似的问题,但你的原则是什么?如果有球员来找你,说“我能不能出去做个体检”“我能不能去见经纪人谈转会”,你会怎么处理?
爱液视频
? 焦志刚记者 向永华 摄
20260606 ? 爱液视频新加坡队本场比赛的最佳球员瑞安-斯图尔特同样出席了发布会,他也不满意球队输给了中国队:“我们在比赛中某些阶段的表现要更出色。总体来说,我们并不满意这个比分,因为我们没有赢球。我们可以做得更好。”《香蕉视频》在投票之前,德国国内也有人敲响了警钟。德国马丁路德-哈勒维滕贝格大学国际关系学教授瓦尔维克当时表示,德国此次竞选成功并非铁板钉钉,“几十年来,德国一直被看作是多边主义解决全球问题的推动力量。但如今,支持德国的力量正在瓦解”,以色列、两伊战争和乌克兰问题都对此产生了影响。
爱液视频
? 赵井龙记者 倪春宏 摄
? 让我们敢于做大梦想的,是我们对这里每一位球员质量的信心。我们知道这件球衣的意义,这是五届世界杯冠军巴西队的球衣。我个人在这里时间不长,但从最近两次征召开始,我已经对这个团队、球员和教练组非常有信心。球队运转很好,我们需要继续提升,还有需要改进的地方,但关键是努力训练、保持信心,并在场上付出全部。​《法国空姐2019(多塞尔航空) 争先版百度百科》
扫一扫在手机打开当前页
【网站地图】