CA88

EN CA88(中国区)唯一官方网站 CA88(中国区)唯一官方网站
www.ahsjsjt.cn

露脚踝白鞋白袜大脑进建机造新突破:科学家揭示生物神经网络中存在无监督预训练

吉林大学本硕校友、中国科学院神经科学钻研所博士毕业生、目前在美国霍华德·休斯医学钻研所珍妮莉亚钻研园从事博士后钻研的钟林,一向以来深深厚迷于大脑的复杂性,后来他发现只有钻研机械进建能力弄领略更多关于大脑认知职能的问题 [1]。正因而,他来到了上述珍妮莉亚钻研园做博士后钻研。而就在 6 月 18 日,由他担任第一作者和共同通讯作者的论文发在Nature[2]。 钻研中,钟林和地点团队在幼鼠进建多项工作的过程中,以及在无嘉奖地接触一样刺激的过程中,纪录了幼鼠低级视觉皮层和高级视觉区域(HVAs,higher visual areas)中数量多达 90,000 个的神经元群体活动。 与先前的钻研类似,钻研团队发现执行工作的幼鼠的神经变动与其行为进建有关。然而,这些神经变动大多是在无嘉奖露出的幼鼠身上复造的,这批注这些变动现实上是由于无监督进建造成的。其中,神经可塑性在内侧高级视觉区域阐发得最强,并且遵循视觉进建规定,而非遵循空间进建规定。 在执行工作的幼鼠中,钻研团队在幼鼠的前部高级视觉区域发现了嘉奖预测信号的递增景象,这可能与监督进建有关。依附这一神经科学了局,钻研团队预测无监督进建可能会加快后续的工作进建。 钻研团队在论文中写路:在进建有关工作之后,对于幼鼠视觉皮层中的大部门心经可塑性来说,其在无监督露出于一样视觉刺激的幼鼠中得到了复造。 而所发现唯一的例表存在于前视觉区域,该区域编码了可能用于监督进建的怪异工作信号。为此,钻研团队在尝试中探索了在有监督进建和无监督进建的作用下,幼鼠在进建产生前后多个视觉推算过程所出现出的分歧阐发。 具体来说,钻研团队设计了一项视觉分辨工作,让头部固定的幼鼠在线性虚构现实通路中驰骋。幼鼠必要分辨两条通路的视觉纹理模式,与此同时,这些通路以伪随机挨次沉复出现。每条通路中的视觉图案均取自天然纹理的大尺寸照片,并以“冻结”的裁剪方式获得。为了单一路见,钻研团队将刺激暗示为“叶子”和“圆圈”。 针对视觉刺激,钻研团队在分歧类别间进行了空间频率匹配,以便激励幼鼠在分辨过程中使用越发高阶的视觉特点。在每次尝试之中,声音提醒会随机地呈此刻通路内的肆意地位,并且仅在嘉奖试验阶段幼鼠给出正确响应后才会提供水源。 经过约莫 2 周的训练,幼鼠会在嘉奖通路中阐发出选择性舔舐行为,这种舔舐产生在嘉奖开释之前的预期阶段。在进建阶段实现之后,钻研团队引入了无嘉奖测试刺激物“leaf2”和“circle2”,这两个刺激物源自一样照片的分歧固定裁剪区域。 随后,钻研团队持续使用无嘉奖的“leaf2”进行训练,直到幼鼠终场针对这一刺激做出舔舐行为。此时,钻研团队引入了另一个测试刺激“leaf3”以及“leaf1”的空间随机分列版本。了局发现,无监督组的幼鼠也会在一样通路中驰骋类似的功夫,但是不会获得饮水嘉奖,也不受到饮水限度。 钻研团队还对另一组幼鼠进行了钻研,这些幼鼠在墙壁上带有光栅的虚构现实通路中驰骋。必要注明的是,他们仅将这些幼鼠作为对照组,以用于展示单纯露出于虚构现实环境的成效。为了确保所有幼鼠均能获得一致的视觉履历,钻研团队设定了虚构现实系统的运行规定:当幼鼠驰骋速度超过阈值时,系统维持以固定速度运行的状态 ;当幼鼠驰骋速度低于阈值时,则会暂停虚构场景的移动。进建前后的总体驰骋速度类似,工作组和无监督组之间的总体驰骋速度也类似。 必要注明的是,钻研团队仅将幼鼠活动期间的功夫点纳入分析,由此排除了尝试幼鼠通过终场驰骋以便获取水嘉奖的功夫段。 在幼鼠进建的前后,他们使用双光子介观显微镜同时纪录了多个视觉区域的大量神经群体活动,并针对这些数据运行了 Suite2p 法式,从而能在每次纪录中获取 20,547 至 89,577 个神经元的活动轨迹。 钻研团队针对每只幼鼠的神经元推算了选择性指数 d′,该指数的推算基于以下数据:在分歧通路的屡次试验中,将幼鼠处于驰骋状态时的神经元反映散布进行汇总,并忽略空间地位差距。其中,d′ 值相对较高的神经元,在 leaf1 或 circle1 通路内的某些地位有着强烈反映。 为了确定这些拥有选择性反映的神经元在幼鼠脑组织中的具体散布地位,钻研团队通过将每次尝试纪录与预先推算的视觉皮层图谱进行空间校准后,天生了可能反映神经元地位的二维散布直方图。借此发现,幼鼠在进建之后内侧视觉区域出现了很多选择性神经元。 其中,在职务组和无监督组中,内侧视觉区的区域均显示出对天然图像神经选择性的类似变动 ;而在虚构现实中露出于光栅刺激的幼鼠组则没有出现这种变动。尝试期间,钻研团队没有观察到表侧区域的变动,而前部区域仅仅在监督前提下受到调节。 与此同时,他们还在低级视觉皮层观察到一些可塑性变动。具体来说:在无监督组中,低级视觉皮层的内侧部门阐发出选择性的幼幅降落 ;当依照刺激类型分辨时,也能观察到选择性上的轻微变动。 然而,拥有选择性的低级视皮层神经元的总体比例并未产生显著变动,这与之前一些钻研的寂仔类似之处也有分歧之处。因而,对于神经可塑性在视觉区域的散布来说,大多不依赖于工作反馈或监督。 必要把稳的是,工作组幼鼠还必须学会获取水分,以及理解“水、刺激信号、通路地位与声音提醒”之间的关联关系。幼鼠们在嘉奖通路中也有着分歧的阐发,好比有的会在通路中停下、喝水,而后沉新起头驰骋。 只管在尝试中,幼鼠的阐发存在各种差距,但是这些脑区的神经可塑性变动模式与无监督进建组高度类似。这一了局批注,这些区域内的可塑性重要源自幼鼠对于刺激自身的直接响应,而非其他滋扰成分的影响。 为了测试幼鼠在无监督训练之后在神经可塑性的潜在职能,钻研团队先是如果这种可塑性有望让动物更快地进建后续工作,即类似于无监督预训练援手人为神经网络更快地进建监督工作。 基于此,钻研团队针对三组幼鼠进行了一项行为钻研。第一组的“无预训练”幼鼠接受了与上述工作幼鼠类似的训练,而第二组的“无监督预训练”幼鼠接受了 10 天的无嘉奖虚构现实跑步。第三组幼鼠的设置与第二组幼鼠根基一样,唯一区别在于虚构现实预训练阶段使用的刺激是光栅图案而非天然纹理。 为了简化嘉奖进建工作,钻研团队选取了以下两种方式:首先,将嘉奖投放限度在嘉奖通路的后半段即限度在嘉奖区 ;其次,取缔了声音提醒。 与此同时,钻研团队还纳入了一天带有被动嘉奖的初始训练,以便激励幼鼠起头进建。了局发现,针对天然纹理进行无监督预训练的幼鼠通常可能更快地实现这项工作。例如,幼鼠在职务训练的第一天起头时,会在两条通路中无差距地舔舐,但在经过约莫 10 次试验之后,它就终场了在无嘉奖通路中的舔舐行为。训练到第 5 天的时辰,这只幼鼠仅在嘉奖区的肇始地位有选择性地进行舔舐。相比之下,未进行预训练或在光栅通路上进行预训练的幼鼠在自动训练的第一天没有可能学会分辨两条通路。 5 天后,所有三组幼鼠都具备了很高的分辨能力,但是第二组“无监督预训练”的幼鼠进建速度更快。此表,幼鼠进建能力的提升大多产生在单个训练阶段内。 钻研团队暗示,经过预训练的幼鼠的分辨能力可能得到提升,并非由于工作进建过程中的行为差距:所有三个组的幼鼠在两条通路中的舔舐地位类似,且进行的试验次数也相近。 总的来说,本次钻研证明对于皮质视觉区域的神经表征,无监督的预训练会带来内容性影响,并能援手幼鼠更快地进建监督工作。 无监督可塑性的重要区域可能是内侧高级视觉皮层,由于这些区域所蕴含的表征可能强烈地域分所进建到的刺激,并且无论幼鼠是否经过工作训练城市出现。只管如此,哪怕在选择性神经元的数量并未增长的情况下,幼鼠在进建后其所有视觉区域都阐发出了一些调谐上的变动。 最后,刺激的新鲜性重要体此刻低级视觉皮层和表侧高级视觉区域的神经元反映中。钻研团队暗示,这一钻研了局可能与其他关于感触皮层神经可塑性的报路有关。 在视觉皮层中,进建可导致更多神经元可能分辨已进建的刺激、能更好地分辨刺激的神经元或对已进建刺激反映更强烈的神经元 ;进建还能为神经元的视觉调谐增长情境依赖性,并且可使低级视觉皮层中的刺激表征正交化。这类变动通常被诠释为工作进建的了局,由于它们与工作阐发亲昵有关。 然而,钻研团队的钻研了局批注,这些变动也可能在没有工作训练的情况下产生。具体到低级视觉皮层,蕴含本次成就在内的很多钻研都已批注其在选择性和调谐方面存在变动,但部门钻研也显示选择性神经元的数量有所增长,而蕴含本次钻研在内的目前已有钻研则并未观察到这一景象。这种差距可能源于尝试工作的分歧,或是由刺激响应的丈量方式差距所导致。 与此同时,本次钻研了局也能够与海马体中的钻研了局进行比力。只管钻研团队已经批注皮层表征在性质上是视觉的而非空间的,但海马体的表征仍有可能从其输入中继承一些视觉个性。因而,进一步分辨统一回路中的空间进建和视觉进建可能是未来钻研的一个有远景的方向。另一个颇具远景的钻研方向是:为本次观察到的神经变动寻找生理学基础,并将其与经典进建法令或新规定有关联。与此同时,还能够将无监督可塑性与无监督进建的经典理论和模型,以及自监督进建等步骤联系起来。

露脚踝白鞋白袜
露脚踝白鞋白袜就在吃瓜群众和经销商认为闹剧要结束的时候,又有消息说宗馥莉回到了娃哈哈上班。看到这儿,如果你以为宗馥莉这是要撒手娃哈哈从此当个乖巧的二股东,那你可就太天真了。直播节目中,南京市民何先生表示,经过与华夏银行沟通,他才意识到突然被划走的十几万存款与2017年被冒用身份信息办理华夏银行信用卡一事有关。露脚踝白鞋白袜免费互看隐衷的视频谈天软件普渡机器人成立于2016年,专注于商用服务机器人解决方案的研发与销售,据弗若斯特沙利文行业统计报告,2023年以23%的市场份额位居全球第一。公司构建了“一脑多形”的技术架构,有配送、清洁、工业搬运和通用具身智能四条产品线。这些产品广泛应用于餐饮、酒店、医疗等领域,已覆盖全球80多个国家和地区,累计出货量超过13万台。文班:你说的指谁?媒体还是球迷大众?或许吧,确实有一点点夸大成分。一个休赛期的特训不可能彻底脱胎换骨,去年夏天我只是完成了既定的训练计划,那段特训充实圆满,没有半点遗憾。但不管是我还是全队所有人,如今的实力是长年累月沉淀的结果,绝非短短一个夏天就能脱胎换骨。
20260608 ? 露脚踝白鞋白袜从整体来看,日本队本次备战思路呈现出更加“精细化”和“风险控制导向”的特点。一方面,通过刻意强化高温环境适应,试图弥补过往在极端气候下的短板;另一方面,则通过减少对外热身赛,集中资源提升内部训练质量与战术保密性。《三叶草OZWEEGO3M》更进阶的可以自己手动改造,ins上的手工达人各显神通,有把球衣改造成胸衣的,也有玩拼接裙装,紧身褶皱……趣味无穷。每到这时,我就恨我这双手啊!
露脚踝白鞋白袜
? 朱河军记者 康继昌 摄
20260608 ? 露脚踝白鞋白袜这场半决赛前,科斯秋克对胜利非常渴望,她希望为乌克兰人民击败俄罗斯的安德烈娃。但是,她最终没有做到这一点。全场比赛,安德烈娃状态糟糕,想赢怕输的心态严重影响了她的发挥。《韩剧《成婚前夕》》但这一切的转折,发生在10年前。10年前,迈威尔只有10%的收入来自数据中心。那时,它是一家市值仅23亿美元的公司。启动转型后,“前五年我们就把公司规模翻了一倍,收入达到45亿美元。”马特·墨菲介绍说:“我们围绕数据移动来建立这家公司,这是一个涵盖广泛的领域,我们与所有人合作。”
露脚踝白鞋白袜
? 王永强记者 朱林 摄
? 队里显然有摩根-罗杰斯、埃利奥特-安德森、拉什福德,他们都和转会传闻联系在一起。你担心这会让他们分心吗?理想情况下,你是否希望所有事情在真正的赛事开始前解决?《《今夜无人入睡》》
扫一扫在手机打开当前页
【网站地图】