《新框架可以解决生成对抗性网络中的模式崩溃问题》

  • 来源专题:新一代信息技术
  • 编译者: isticzz2022
  • 发布时间:2024-04-23
  •         杨教授的团队生成对抗性网络(GANs)被广泛用于通过学习真实样本的分布来合成复杂而真实的数据。然而,GANs面临的一个重大挑战是模式崩溃,其中生成的样本的多样性明显低于真实样本。GANs及其训练过程的复杂性很难揭示其模式崩溃的潜在机制。

            中国科学院(CAS)中国科学技术大学(USTC)杨周旺教授领导的一个研究小组对模式崩溃的根本原因进行了深入调查,并提出了一个新的框架——动态GAN(DynGAN),以定量检测和解决GAN中的模式崩溃。他们的论文发表在《IEEE模式分析与机器智能汇刊》上。通过理论分析,研究小组发现,当实际数据中存在多种模式时,发电机损失函数相对于其参数是非凸的。具体而言,导致生成的分布仅覆盖真实分布的一部分模式的参数是发电机损失函数的局部极小值。为了解决模式崩溃的问题,该团队提出了一个统一的框架DynGAN。该框架可以在可观察鉴别器输出上建立阈值,以检测生成器未能生成的样本,称为折叠样本。基于折叠样本对训练集进行分割,然后在分割上训练动态条件生成模型。理论结果保证了DynGAN的渐进模式覆盖。在合成和真实世界数据集上的实验结果表明,DynGAN在解决地址模式崩溃方面超过了现有的GAN及其变体。这项研究不仅推进了对GAN的理论理解,而且为提高生成模型的模式覆盖率提供了一个至关重要的实施策略。

           Ps.文献详情请见智库报告。

  • 原文来源:https://techxplore.com/news/2024-04-framework-mode-collapse-generative-adversarial.pdf
相关报告
  • 《制药的常规模式VS新模式》

    • 来源专题:重大新药创制—政策信息
    • 编译者:严舒
    • 发布时间:2015-10-30
    • 我经过了十多年跟踪性新药的实践,做了十几个me too、me worse,却痛苦地发现这是自欺欺人的、昂贵的、无效的劳动,十到十五年一个新药研发出来,再生产,从商业角度来讲这个药成功的可能性是没有的,Me-too新药模式虽然简单,但是开发费用一样昂贵,一样要花大量的时间来。我现在不想这样做了,也希望大家不要这样做。 ——黄振华 做新药是世界上最难的工作,没有捷径。一个新药研发成本大概26亿美金,发现新药对大药厂来讲也是一个很大的挑战,因为投入越来越多,产出却越来越低。对中国医药企业而言,基于临床未满足的需求,回归到新药的基本目的,从临床中发现新药,打造出真正的Me-only新药是唯一出路。 常规模式的疑问 首创新药模式(First-in-class)要求高,多数立项基于基础科学的进步,该模式竞争力强,但是经验不足实力不济的企业容易被大药厂Me-too。大药厂之所以争先恐后做首创新药,其根本原因在于首创新药在市场的顶端优势导致的马太效应。一旦一个新药成为首创新药,该靶点的其他新药就被Me-too,首创新药竞争优势就自然体现了。 国内企业所谓的First-in-class大多是国外公司研究多年而未成药的靶点或者是学校里面研究的没有经过认可的老“新”靶点。特别是肿瘤领域,靶点日新月异,很多靶点还没有来得及成药就被其他新的靶点淘汰了,而且只要这个靶点有希望,大药厂很容易反超,DPP4抑制剂默克反超诺华就是很好的例子。该模式不适合中国公司。 快速跟踪性新药模式(Me-too、Me-better、Best-in-class)其实并没有区别,只是在首创新药的夹缝中艰难寻求生存空间。几乎所有的中国公司均采取这样的新药模式。这种模式的时效性非常强,和首创新药上市相差三年内的快速跟踪性新药有一定机会,但是仍面临首创新药马太效应的压制;在首创新药五年后上市的快速跟踪性新药基本上没有机会,其销售没有达峰的时候就被首创新药的仿制药终结。 中国公司Me-too(better、worse)新药多数比首创新药滞后十年以上。而且,如果这样的模式有机会,国外公司为什么不在自己的首创新药开发的同时,把其Back-up的项目推入市场?(多数Back-up对其首创新药来说属于Me-better)或者把同个靶点的多个模块新药同时进入开发? 很多公司把临床前以及临床的数据中对比首创新药少许的优势认为是一种Me-better,事实上,这样的Me-better上市以后被淘汰的例子越来越多。比如BI的DPP4药物利格列汀(Linagliptin)。当然,如果你真有能力看出首创药物的漏洞,并能找到弥补这些漏洞的优化、评价手段和临床开发办法,敢于投入巨资扩大目标机理的临床用途,那么Best-in-class 无疑可以是很有效的研发策略,如立普妥。但从研发的角度看,找到能在临床上比首创药物更好的跟进药物的难度远超过绝大多数研发企业所能想象。如果首创药物有明显缺陷,如半衰期短、剂量太大,原创公司自己肯定会有跟进药物解决这些问题,基本轮不到其他人。 综上所述,快速追踪新药模式其风险比First-in-class还要大。 新模式的疑问 大药厂花了五六十个亿的项目,不做了,给了你,这个模式赌博的成分太大了,不是说一定不能成功,但是先从商业的角度回答这些问题: 国外大药厂不缺资源、资金、人才,就是特别缺新药,为什么会放弃开发一个有价值的项目,送给中国公司开发? 大药厂因为没有看明白自己项目的数据,把机会留给中国公司,这些人以后还有机会在医药领域工作吗? 多数国外药厂在中国的研发和销售团队已经非常强大,也非常重视中国市场,即使只适合中国的项目他们是否应该交给在中国的团队来开发和销售? 国外小公司有价值的项目大药厂为什么不去接手? 为什么国外药厂会选择没有新药经验,没有完善的开发团队,没有技术平台支持后期开发的中国公司合作开发? 另外,很多人在做505(b)(2)这个项目,它被比喻为“站在巨人肩膀上的攀登之旅”。505(b)(2)申报是针对那些已经上市且失去市场独占期的药物,产品包括新适应症、已批准活性成分的新组合、新制剂、剂型、规格、给药途径或给药方案的变化等。专利药过期以后,市场已经被压缩10倍,众多仿制药包围的市场还有多大?多数专利药的制剂技术已经符合临床需求了,505(b)(2)申报剩余的夹缝有多大?中国公司在美国没有生产和销售平台,从事该类新药的竞争力在哪里?505(b)(2)在满足未满足临床需求方面有什么机会? Me-only模式 Me-only是一种特殊的First-in-class,但又有质的不同,普通的First-in-class容易被Me-too,但是Me-only不会被Me-too。Me-only选择了一个没有竞争的领域来满足临床未满足的需求,该模式需要更多的立项调研工作来确定其Me-only的地位,虽然立项困难,但是由于没有竞争其后期的市场风险非常小。me-only有几种方式: 第一,药物构效关系非常严格,独此一家别无分店。比如用于抑郁症的锂盐,和它最接近的钠盐除了能让你得高血压外没有其它治疗效果,氯吡格雷、恶唑烷酮也是该类; 第二,优化途径不广为人知。假如你有独家的动物模型可以筛选活性化合物,那么竞争对手拿到你的首创药物也不知如何继续优化,富马酸二甲酯、吡非尼酮、氯胺酮等很多药物都可以算作这一类; 第三,机理未知。现在主流的模式是以靶点为中心,但这个模式有个很大缺点就是非常容易被竞争对手跟踪和超越。氯氮平属于这一类,大家只知道这个药效果好但不知道为什么好。 Me-only模式新药,可能是中国公司新药在国际化竞争中占有一席之地的唯一可行机会,因为不管白猫黑猫,解决问题才有价值,找到一个安全有效的新药满足临床未满足的需求才是硬道理。 三个立项要素 首先,选择合适的专注研究领域。选择适合自身的领域并非易事,但是至少要做到避免进入没有机会的领域。 比如糖尿病、心脑血管、肿瘤、CNS等,不属于中国公司的常规开发领域。在这些领域的中国公司,如果有足够强大的市场销售网络,可以尝试进行首仿以及破坏外围专利的策略;比如做小池塘里面的大鱼,针对中国临床需求的差异,来研究适合中国临床需求的新药;孤儿药越来越成为新药关注的趋势,特别是严重影响生活质量的孤儿药,比如IPF,以后会受到越来越多的重视。首款基因治疗药物——天价药“Glybera”也属于孤儿药的一种。 第二,打造独有的技术平台的护城河法则。 新药没有现成的机会,需要深入的探索,只有形成独有技术平台,才有可能得到有竞争力的新药。打造核心技术平台的过程就是加固竞争屏障的过程,就类似护城河越宽,竞争力就越强,形成国际化新药的机会就越多,这是新药公司的核心竞争力。Me-too是一种成熟的简单技术,如果只是通过药物化学的手段修饰已有的结构而获得专利就成为新药的想法过于简单,这样的新药确实不需要什么核心竞争力,任何人都可以完成。 第三,有合格的新药管理领导人。 千军易得一将难求,很多海归没有经历新药研发全过程,没有决策的经验,新药立项简单化的做法是中国目前的普遍现象。新药是一种商业科学,必须产生商业价值,新药的过程才有意义。所以新药团队的领导人必须有充足的商业竞争经验,同时熟知新药研究和开发过程中运作的各个环节,有效整合各种新药资源,只强调团队,不注重立项的根本问题,团队再强也是无效劳动。 最核心的是新药团队的领导人有其独到的新药理念来发现未来新药的机会。因为没有一个固定的新药模式可以复制,如何获得一个有巨大市场价值独家的新药,没有现成路径可以遵循。没有深刻的思想和独到的见解,选择人云亦云的Me-too新药模式投入越多浪费越大。 三个新药定律 第一定律:任何同样机理新药无法与仿制药竞争。 第二定律:First-in-class与Me-too(better)新药竞争中总是胜出。 第三定律:新药风险守恒定律。 三十年新药竞争法则 新药研发需要提前预计三十年竞争情况。立项到上市的研发过程时间超过三十年,上市专利剩余不到十年,竞争后效应包括替代产品的成熟也需要十年。如果在立项的时候不考虑未来三十年的竞争,那么,新药在未来的十多年后会成为企业的包袱。新药上市的十年黄金期无法实现新药的价值,同时会错失了下一个机会。 来源:同写意/黄振华
  • 《新能源汽车换电模式或催生新业态》

    • 来源专题:中国科学院文献情报先进能源知识资源中心 |领域情报网
    • 编译者:guokm
    • 发布时间:2020-07-31
    • 今年的《政府工作报告》中指出,加强新型基础设施建设,发展新一代信息网络,拓展5G应用,建设数据中心,增加充电桩、换电站等设施,推广新能源汽车,激发新消费需求、助力产业升级。新型基础设施建设既包括5G、数据中心、人工智能、工业互联网、物联网等新一代信息基础设施,还包括了特高压、城际高速铁路和城际轨道交通、新能源汽车充电桩等融合型基础设施。目前,在国家与政府的支持推动下,我国新能源汽车发展势头强劲,新能源汽车产业规模全球领先,产销量连续五年位居世界首位,累计推广的新能源汽车超过了450万辆,占全球的50%以上。新能源汽车产销量的增加也推动了充电桩、充电站等相关基础设施的建设。据了解,全国已累计建设充电站3.8万座,换电站449座,建设各类充电桩130万个,其中公共充电桩55.1万个,私人桩74.9万个。   作为新基建的重要领域之一,新能源汽车与充电桩一直是社会各界关注的重点。日前,工信部透露,整个新能源汽车产业发展体系渐趋完善,新能源汽车的基础材料、电池、电机、整车、电控、生产装备等产业链上下游基本实现了贯通。此外,我国还建成了“十纵十横两环”4.9万公里的高速公路快充网络,遍布19个省份的171个城市。根据国家电网发布的数据,6月国家电网公司智慧车联网平台新增接入充电桩15.98万个,充电量1.49亿千瓦时,同比增长24.59%。同时,今年上半年国家电网新能源汽车充电量达7亿千瓦时,同比增长6.4%。从数字中可以发现,新能源汽车充电桩的数量在全国各地正稳步增长,这对于广大车主而言,无疑是一大利好。过去大家所担忧的新能源汽车不能出城,不能在城际间来回穿梭的问题正得到有效解决。以福建为例,日前发布的《关于进一步加快新能源汽车推广应用和产业高质量发展推动“电动福建”建设三年行动计划(2020-2022年)》强调加快充电设施建设,指出进一步优化和完善充电设施用地、报装、建设、通电等流程,优先安排土地利用年度计划指标,将独立占地的集中式充换电站纳入公用设施营业网点用地,允许利用临时用地建设充电设施;同时,有条件的党政机关、事业单位、国有企业原则上应自建或委托配建不低于20%比例的充电设施。充电基础设施建设奖补政策延长至2022年,加大对非城市核心区的补贴力度。可以预见,未来全国各地新能源汽车充电桩将继续增多,为新能源汽车的电力续航提供强有力的支撑。   然而,公众对新能源汽车的续航里程与续航能力仍有担忧,这背后透露出的,其实是对汽车电池的顾虑。工业和信息化部副部长辛国斌表示,从当前来看,新能源汽车虽然取得了长足发展,但仍处于产业的发展初期,具体表现为技术路线、商业模式都在探索和变化当中,仍有必要支持新技术、新业态、新模式的创新发展,鼓励企业研发新型充电和换电技术,探索车电分离的模式应用,来满足不同市场的需要。而充电与换电作为电动汽车的能源补充方式,各有各的优势。目前,对于广大新能源汽车的车主而言,充电是补充能源的“唯一”办法,其实不然。车辆驶入设施完备的换电站后进行换电操作耗时甚至比传统汽车加油的时间更短更便捷。同时,换电后替换的汽车电池由电池运营公司进行集中监测、养护、管理,更利于延长动力电池的寿命,提升电池安全性。当前,老旧小区充电桩建设难问题是令许多新能源汽车车主头疼的症结所在,这些小区由于电压负荷问题导致充电桩无法正常建设使用,只能通过电力扩容的方式才能开展建设工作。然而扩容成本高、涉及问题多,对于老旧小区而言是个极大的挑战,充电桩问题因此悬而未决。在这种背景下,车电分离的混电模式或许是电力补充的一条新路径。值得一提的是,新能源汽车的换电模式还能催生新的服务业态。设想一下,当新能源汽车的动力电池符合统一标准与换电业务规范时,一个通话10~15分钟就近换电点可派车前往进行换电,这对于车主而言既快捷又有保障。再以退役动力电池为例,目前,部分新能源汽车退役动力电池被应用到通信基础设施的备电场景当中,经过统一收集、管理、再次加工后的退役电池进入通信基站机房,通信基站遇突发断电可由退役电池进行电力补充,保证通信基站的正常运行。   据工信部透露,未来将大力推进充换电基础设施建设,进一步完善相关技术标准与管理政策,鼓励企业根据使用场景研发适合换电模式的车型,并在北京、海南等地开展试点推广。   除了电力续航问题外,新能源汽车行业的发展也离不开政策的支持。今年4月,财政部联合工信部、科技部、国家发改委发布《关于完善新能源汽车推广应用财政补贴政策的通知》,提出延长补贴期限,支持“车电分离”等新型商业模式发展,鼓励企业进一步提升整车安全性、可靠性,研发生产具有先进底层操作系统、电子电气系统架构和智能化网联化特征的新能源汽车产品。完善配套设施政策,营造良好发展环境。此外,《新能源汽车产业发展规划(2021-2035年)》也在紧锣密鼓制定当中,工信部将进一步发布实施公共领域车辆电动化的行动计划,并准备在公交车、出租车、城市物流车,包括环卫的清扫车等方面,进一步推动电气化。