CA88

EN CA88(中国区)唯一官方网站 CA88(中国区)唯一官方网站
www.ahsjsjt.cn

《《泡在我家的黑田同学》第二季动漫》大脑进建机造新突破:科学家揭示生物神经网络中存在无监督预训练

吉林大学本硕校友、中国科学院神经科学钻研所博士毕业生、目前在美国霍华德·休斯医学钻研所珍妮莉亚钻研园从事博士后钻研的钟林,一向以来深深厚迷于大脑的复杂性,后来他发现只有钻研机械进建能力弄领略更多关于大脑认知职能的问题 [1] 。正因而,他来到了上述珍妮莉亚钻研园做博士后钻研 。而就在 6 月 18 日,由他担任第一作者和共同通讯作者的论文发在Nature[2] 。 钻研中,钟林和地点团队在幼鼠进建多项工作的过程中,以及在无嘉奖地接触一样刺激的过程中,纪录了幼鼠低级视觉皮层和高级视觉区域(HVAs,higher visual areas)中数量多达 90,000 个的神经元群体活动 。 与先前的钻研类似,钻研团队发现执行工作的幼鼠的神经变动与其行为进建有关 。然而,这些神经变动大多是在无嘉奖露出的幼鼠身上复造的,这批注这些变动现实上是由于无监督进建造成的 。其中,神经可塑性在内侧高级视觉区域阐发得最强,并且遵循视觉进建规定,而非遵循空间进建规定 。 在执行工作的幼鼠中,钻研团队在幼鼠的前部高级视觉区域发现了嘉奖预测信号的递增景象,这可能与监督进建有关 。依附这一神经科学了局,钻研团队预测无监督进建可能会加快后续的工作进建 。 钻研团队在论文中写路:在进建有关工作之后,对于幼鼠视觉皮层中的大部门心经可塑性来说,其在无监督露出于一样视觉刺激的幼鼠中得到了复造 。 而所发现唯一的例表存在于前视觉区域,该区域编码了可能用于监督进建的怪异工作信号 。为此,钻研团队在尝试中探索了在有监督进建和无监督进建的作用下,幼鼠在进建产生前后多个视觉推算过程所出现出的分歧阐发 。 具体来说,钻研团队设计了一项视觉分辨工作,让头部固定的幼鼠在线性虚构现实通路中驰骋 。幼鼠必要分辨两条通路的视觉纹理模式,与此同时,这些通路以伪随机挨次沉复出现 。每条通路中的视觉图案均取自天然纹理的大尺寸照片,并以“冻结”的裁剪方式获得 。为了单一路见,钻研团队将刺激暗示为“叶子”和“圆圈” 。 针对视觉刺激,钻研团队在分歧类别间进行了空间频率匹配,以便激励幼鼠在分辨过程中使用越发高阶的视觉特点 。在每次尝试之中,声音提醒会随机地呈此刻通路内的肆意地位,并且仅在嘉奖试验阶段幼鼠给出正确响应后才会提供水源 。 经过约莫 2 周的训练,幼鼠会在嘉奖通路中阐发出选择性舔舐行为,这种舔舐产生在嘉奖开释之前的预期阶段 。在进建阶段实现之后,钻研团队引入了无嘉奖测试刺激物“leaf2”和“circle2”,这两个刺激物源自一样照片的分歧固定裁剪区域 。 随后,钻研团队持续使用无嘉奖的“leaf2”进行训练,直到幼鼠终场针对这一刺激做出舔舐行为 。此时,钻研团队引入了另一个测试刺激“leaf3”以及“leaf1”的空间随机分列版本 。了局发现,无监督组的幼鼠也会在一样通路中驰骋类似的功夫,但是不会获得饮水嘉奖,也不受到饮水限度 。 钻研团队还对另一组幼鼠进行了钻研,这些幼鼠在墙壁上带有光栅的虚构现实通路中驰骋 。必要注明的是,他们仅将这些幼鼠作为对照组,以用于展示单纯露出于虚构现实环境的成效 。为了确保所有幼鼠均能获得一致的视觉履历,钻研团队设定了虚构现实系统的运行规定:当幼鼠驰骋速度超过阈值时,系统维持以固定速度运行的状态;当幼鼠驰骋速度低于阈值时,则会暂停虚构场景的移动 。进建前后的总体驰骋速度类似,工作组和无监督组之间的总体驰骋速度也类似 。 必要注明的是,钻研团队仅将幼鼠活动期间的功夫点纳入分析,由此排除了尝试幼鼠通过终场驰骋以便获取水嘉奖的功夫段 。 在幼鼠进建的前后,他们使用双光子介观显微镜同时纪录了多个视觉区域的大量神经群体活动,并针对这些数据运行了 Suite2p 法式,从而能在每次纪录中获取 20,547 至 89,577 个神经元的活动轨迹 。 钻研团队针对每只幼鼠的神经元推算了选择性指数 d′,该指数的推算基于以下数据:在分歧通路的屡次试验中,将幼鼠处于驰骋状态时的神经元反映散布进行汇总,并忽略空间地位差距 。其中,d′ 值相对较高的神经元,在 leaf1 或 circle1 通路内的某些地位有着强烈反映 。 为了确定这些拥有选择性反映的神经元在幼鼠脑组织中的具体散布地位,钻研团队通过将每次尝试纪录与预先推算的视觉皮层图谱进行空间校准后,天生了可能反映神经元地位的二维散布直方图 。借此发现,幼鼠在进建之后内侧视觉区域出现了很多选择性神经元 。 其中,在职务组和无监督组中,内侧视觉区的区域均显示出对天然图像神经选择性的类似变动;而在虚构现实中露出于光栅刺激的幼鼠组则没有出现这种变动 。尝试期间,钻研团队没有观察到表侧区域的变动,而前部区域仅仅在监督前提下受到调节 。 与此同时,他们还在低级视觉皮层观察到一些可塑性变动 。具体来说:在无监督组中,低级视觉皮层的内侧部门阐发出选择性的幼幅降落;当依照刺激类型分辨时,也能观察到选择性上的轻微变动 。 然而,拥有选择性的低级视皮层神经元的总体比例并未产生显著变动,这与之前一些钻研的寂仔类似之处也有分歧之处 。因而,对于神经可塑性在视觉区域的散布来说,大多不依赖于工作反馈或监督 。 必要把稳的是,工作组幼鼠还必须学会获取水分,以及理解“水、刺激信号、通路地位与声音提醒”之间的关联关系 。幼鼠们在嘉奖通路中也有着分歧的阐发,好比有的会在通路中停下、喝水,而后沉新起头驰骋 。 只管在尝试中,幼鼠的阐发存在各种差距,但是这些脑区的神经可塑性变动模式与无监督进建组高度类似 。这一了局批注,这些区域内的可塑性重要源自幼鼠对于刺激自身的直接响应,而非其他滋扰成分的影响 。 为了测试幼鼠在无监督训练之后在神经可塑性的潜在职能,钻研团队先是如果这种可塑性有望让动物更快地进建后续工作,即类似于无监督预训练援手人为神经网络更快地进建监督工作 。 基于此,钻研团队针对三组幼鼠进行了一项行为钻研 。第一组的“无预训练”幼鼠接受了与上述工作幼鼠类似的训练,而第二组的“无监督预训练”幼鼠接受了 10 天的无嘉奖虚构现实跑步 。第三组幼鼠的设置与第二组幼鼠根基一样,唯一区别在于虚构现实预训练阶段使用的刺激是光栅图案而非天然纹理 。 为了简化嘉奖进建工作,钻研团队选取了以下两种方式:首先,将嘉奖投放限度在嘉奖通路的后半段即限度在嘉奖区;其次,取缔了声音提醒 。 与此同时,钻研团队还纳入了一天带有被动嘉奖的初始训练,以便激励幼鼠起头进建 。了局发现,针对天然纹理进行无监督预训练的幼鼠通常可能更快地实现这项工作 。例如,幼鼠在职务训练的第一天起头时,会在两条通路中无差距地舔舐,但在经过约莫 10 次试验之后,它就终场了在无嘉奖通路中的舔舐行为 。训练到第 5 天的时辰,这只幼鼠仅在嘉奖区的肇始地位有选择性地进行舔舐 。相比之下,未进行预训练或在光栅通路上进行预训练的幼鼠在自动训练的第一天没有可能学会分辨两条通路 。 5 天后,所有三组幼鼠都具备了很高的分辨能力,但是第二组“无监督预训练”的幼鼠进建速度更快 。此表,幼鼠进建能力的提升大多产生在单个训练阶段内 。 钻研团队暗示,经过预训练的幼鼠的分辨能力可能得到提升,并非由于工作进建过程中的行为差距:所有三个组的幼鼠在两条通路中的舔舐地位类似,且进行的试验次数也相近 。 总的来说,本次钻研证明对于皮质视觉区域的神经表征,无监督的预训练会带来内容性影响,并能援手幼鼠更快地进建监督工作 。 无监督可塑性的重要区域可能是内侧高级视觉皮层,由于这些区域所蕴含的表征可能强烈地域分所进建到的刺激,并且无论幼鼠是否经过工作训练城市出现 。只管如此,哪怕在选择性神经元的数量并未增长的情况下,幼鼠在进建后其所有视觉区域都阐发出了一些调谐上的变动 。 最后,刺激的新鲜性重要体此刻低级视觉皮层和表侧高级视觉区域的神经元反映中 。钻研团队暗示,这一钻研了局可能与其他关于感触皮层神经可塑性的报路有关 。 在视觉皮层中,进建可导致更多神经元可能分辨已进建的刺激、能更好地分辨刺激的神经元或对已进建刺激反映更强烈的神经元;进建还能为神经元的视觉调谐增长情境依赖性,并且可使低级视觉皮层中的刺激表征正交化 。这类变动通常被诠释为工作进建的了局,由于它们与工作阐发亲昵有关 。 然而,钻研团队的钻研了局批注,这些变动也可能在没有工作训练的情况下产生 。具体到低级视觉皮层,蕴含本次成就在内的很多钻研都已批注其在选择性和调谐方面存在变动,但部门钻研也显示选择性神经元的数量有所增长,而蕴含本次钻研在内的目前已有钻研则并未观察到这一景象 。这种差距可能源于尝试工作的分歧,或是由刺激响应的丈量方式差距所导致 。 与此同时,本次钻研了局也能够与海马体中的钻研了局进行比力 。只管钻研团队已经批注皮层表征在性质上是视觉的而非空间的,但海马体的表征仍有可能从其输入中继承一些视觉个性 。因而,进一步分辨统一回路中的空间进建和视觉进建可能是未来钻研的一个有远景的方向 。另一个颇具远景的钻研方向是:为本次观察到的神经变动寻找生理学基础,并将其与经典进建法令或新规定有关联 。与此同时,还能够将无监督可塑性与无监督进建的经典理论和模型,以及自监督进建等步骤联系起来 。

《《泡在我家的黑田同学》第二季动漫》
《《泡在我家的黑田同学》第二季动漫》总决赛第二战做客圣安东尼奥,布伦森末节完成抢断并罚进关键罚球,帮助尼克斯以105-104险胜。目前尼克斯的季后赛连胜场次位列NBA历史第二,仅次于2017年的金州勇士(15连胜)。绿色和平气候变化项目资深研究员李朝对新京报记者说,随着气候变化不断加剧,高温致死已经成为近些年来备受关注的一个话题。在印度,高温导致人员死亡的一个重要原因是基础设施薄弱,空调安装率低,且因为缺水和电力不足等问题,很多地方即使有空调也无法正常使用。《《泡在我家的黑田同学》第二季动漫》《XL上级》用没有任何经理的单一智能体作为基准,成功率是25.0%。加入经理后,使用Gemini 3.1 Flash Lite(一个轻量级模型)作为经理,成功率提升到36.1%;使用Kimi K2.6或Qwen3.6-27B作为经理,达到41.7%;Gemini 3.1 Pro Preview同样是41.7%;GPT-5.4达到44.4%;Claude Sonnet 4.6达到52.8%;而Claude Opus 4.6作为经理时,成功率高达58.3%,比没有经理的基准翻了一倍多。一觉醒来,风云突变:纳斯达克指数跌了4.18%,标普跌了2.64%,道琼斯跌了1.35%。风光无限的芯片、AI的“小登”们都跌了不少,英伟达跌了6.2%,博通跌了7.92%,美光跌了13.25%,超威跌了10.86%,英特尔跌了11.28%。被黄仁勋金手指刚刚点过、大涨过的迈威尔科技,跌了16.74%。主要是三大原因:第一,涨多了,需要调整。此前三大股指,尤其是纳指几乎每两三天就创一次历史新高,积累了大量获利盘。第二,美国5月非农数据爆表,就业形势非常好,这让降息无望,加息反而有可能。北京时间昨天晚上公布的美国5月非农数据为:新增就业17.2万人,远超市场预期的8.5万人;前两个月数据还合计上修9.3万人,近三个月就业增长创下两年多来最强。就业好、通胀高,再加上油价高位运行,很多人担心美联储加息。我认为不太可能加息,因为美国就业数据虽然亮眼,但整体失业率仍然在4.3%的位置,高于4%红线。暂时不太可能加息,但可能启动缩表。新任美联储主席沃什也表示,他将尽量采取“降息+缩表”的政策。第三,这波调整有机构调仓的意味,SpaceX马上要IPO,大家要腾出仓位接纳这个1.7万亿美元市值的大家伙。AI也有几个好消息,最主要的是特朗普证实:由人工智能(AI)企业向美国公众提供一定比例的股权权益,让普通民众能够分享AI产业发展的成果。美国政府将代表公众,持有这些股权。最早将于下周召集人工智能行业高管举行会议,OpenAI的CEO表态支持这个想法,愿意向美国政府捐赠股权,以成立"公共财富基金"。早在一年前,我就多次在文章里预测,由于人工智能将加剧财富分化、行业分化,替代大量岗位。所以,初次分配(就业、获取劳动报酬)的公平性将显著降低;未来要维护社会公平正义、防止社会两极化,需要更多依靠二次分配(政府税收、社会保障、转移支付)。2026年5月,韩国总统府政策室提出,应将人工智能(AI)基础设施时代产生的超额利润通过制度设计,返还给全体国民,暂时命名为“公民红利”或“国民红利”。其实在房地产暴利时期,中国设立的土地增值税就有这个含义。美国、韩国政府的新动向,印证了AI崛起的大方向,是这个行业的长期利好。政府持股(其实是全民持股)后,肯定会更强力支持行业发展。另外一个好消息是:谷歌每月将向SpaceX支付9.2亿美元租用其算力。SpaceX今年2月与xAI合并,因此有算力出租服务。谷歌是SpaceX的大股东之一,此举有通过AI合同撑估值的含义。
20260608 ? 《《泡在我家的黑田同学》第二季动漫》“没有意大利的世界杯感觉差点味道。这不仅对我们意大利人来说如此,对全世界球迷来说也是一样,因为意大利队是世界上最迷人、也最重要的国家队之一。能在顶级赛事中看到意大利队,总是一件令人欣喜的事。少了这样一支球队,世界杯就缺了一大块精彩。”溏心WINALL/WIN7/WIN10/百度2012年5月,雷州市人民法院审理后认为,陈某在犯罪后主动向公安机关投案并如实供述所犯罪行,系自首;陈某及其同案人在对被害人实施伤害过程中,陈某始终没有持凶器且不是其行为直接导致被害人伤害结果,同时已积极赔偿被害人家属经济损失,取得了被害人家属的谅解,有悔罪表现,最终以犯“故意伤害罪”判处其有期徒刑四年。
《《泡在我家的黑田同学》第二季动漫》
? 张跃武记者 邓维延 摄
20260608 ? 《《泡在我家的黑田同学》第二季动漫》苏商银行研究院高级研究员杜娟向时代周报记者表示,上市银行分红主要建立在持续盈利基础之上,目前虽然银行业净息差承压,但整体盈利能力依然稳健,且头部银行已出现净息差企稳现象,并持续推进贷款结构调整、不良资产出清、轻资产收入能力提升等。未来行业整体的稳健盈利依然可期。日剧《太想被你爱了》百度云“我喜欢摩根·罗杰斯——非常喜欢。但是,必须明确的是,裘德·贝林厄姆不是替补。他不是替补。他不是替补;他是球星。就是这样。他是球星。”内维尔告诉《每日电讯报》。
《《泡在我家的黑田同学》第二季动漫》
? 陈刚记者 张素连 摄
? 不只是这一点,球队还有很多地方需要改进。我很喜欢上半场的表现,当然,我们确实缺少效率,也需要更多球员进入禁区完成终结。上位勾/引(/出/轨)笔趣阁幸奏双男主
扫一扫在手机打开当前页
【网站地图】