登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《密歇根大学开发评估大模型性能与成本的新工具，发现SLM可以更好的降低成本》

  • 来源专题：新一代信息技术
  • 编译者： isticzz2022
  • 发布时间：2024-05-16

  •       密歇根大学的研究人员发现，开源小型语言模型（SLM）可以提供类似于资源密集型专有大型语言模型（LLM）的会话响应，如OpenAI的ChatGPT，且成本较低。他们将研究结果发表在arXiv预印本服务器上，并且在最近的2024年IEEE国际系统和软件性能分析研讨会上展示了他们的研究成果。该团队开发了一种能够评估SLM并将其与专有LLM应用程序编程接口进行比较的同类工具，包括性能和成本。LLM所展示的理解和生成语言的能力已在虚拟助理、聊天机器人和语言翻译系统等应用程序中得到广泛使用。尽管LLM很有用，但它的培训成本高达数百万甚至更多，限制了人工智能向科技巨头的发展，而小公司必须依赖其付费服务。密歇根大学计算机科学与工程副教授Jason Mars表示。

          实施专有LLM提高了速度和便利性，但也带来了定制和数据隐私有限、性能不可靠、峰值使用滞后和成本高的缺点。开源SLM已经成为一种替代方案，但到目前为止，还没有一种方法可以系统地将其性能与更广为人知的LLM进行比较。研究团队开发了一种名为dSLaM的自动化分析工具，作为第一种评估SLM及其与LLM相比的权衡（质量、性能和成本）的方法。

          “我们创建了SLaM，并将其开源，以填补加速和自动化工具的空白比较分析。”Mars说。

          该工具在Myca AI正在开发的一款名为 "daily pep talk."的人工智能生产力工具中进行了测试。该功能利用用户的任务列表，每天提供个性化和智能的鼓励和建议。研究人员在 "daily pep talk."的生产环境中，针对OpenAI的GPT-4评估了九个SLM的29个不同版本。虽然GPT-4在人类专家组的判断中达到了最高的准确率，但大多数SLM在可预测的延迟性能方面接近其质量。计算机科学与工程副教授唐凌佳表示：“这些小型模型所提供的高质量答案让我们感到惊讶。很多时候，用户无法真正区分SLM和LLM。”重要的是，与LLM相比，SLM的成本降低了5到29倍，具体取决于使用的模型。“这一发现对试图在这场激烈的人工智能竞赛中保持竞争力的小公司具有重大意义。借助SLaM工具，公司可以选择更小的开源模型能够提供高质量的答案，但成本更低，从而减少了对科技巨头的依赖，”唐补充道。






  • 原文来源：https://techxplore.com/news/2024-05-tool-capable-slms-llms-smaller.html?deviceType=mobile
82浏览量
原文链接
相关报告

  • 《密歇根大学开发出全新锂硫电池 可循环1000次》
    • 来源专题：能源情报网信息监测服务平台
    • 编译者：guokm
    • 发布时间：2022-01-18
    • 据外媒报道，密歇根大学(University of Michigan)研究团队发现，从凯拉维尔纤维(Kevlar)回收的芳纶纳米纤维网络可解决锂硫电池循环寿命短的问题，可提供实际循环约1,000次。 该电池图显示了锂离子如何返回锂电极，而多硫化锂不能穿过电极隔膜。此外，从锂电极上长出的尖刺状枝晶不会刺穿薄膜并到达硫电极，从而使电池短路。 该项研究的领导人、化学科学与工程教授Nicholas Kotov表示：“许多报告称其可使锂硫电池实现数百次循环，但却影响了其他性能参数，如容量、充电率、弹性和安全性。因此当前的难题是生产出可大大提高循环数量(从10到百)，同时还可满足成本等要求的电池。 这些电池的仿生工程集成了两个尺度：分子尺度和纳米尺度。我们首次整合了电池隔膜的离子选择性和软骨韧性。我们的集成系统方法能够应对锂硫电池的总体挑战。” 电池循环寿命较短的主要原因之一是电极生长的枝晶刺穿隔膜。此前，Kotov的团队依靠注入电解质凝胶的芳纶纳米纤维网络解决这一问题，因为芳纶纤维的韧性可阻止枝晶。然而，锂硫电池还有其他问题，即锂和硫的小分子形成并流向锂，从而附着自身并降低电池容量。该隔膜需要允许锂离子从锂流向硫并返回，以及阻止锂和多硫化锂。这种能力称为离子选择性。 论文共同第一作者化学工程博士后Ahmet Emre表示：“受生物离子通道启发，我们设计了锂离子可快速通过，而多硫化锂无法通过的高速通道。” 锂离子和多硫化锂的大小相似，因此仅通过制造小通道来阻挡多硫化锂是不够的。密歇根大学的研究人员还模仿生物膜中的孔隙，向电池膜的孔隙中添加电荷。他们采用的方法是将多硫化锂本身粘附在芳纶纳米纤维上，因此负电荷排斥在硫电极上不断形成的多硫化锂离子。然而，带正电的锂离子可以自由通过。 Kotov表示该电池设计“近乎完美”，其容量和效率接近理论极限。该电池还可以应对汽车生活中的极端温度，从充满阳光的充电热到冬天的寒冷。然而快速充电后，电池在现实世界的循环寿命可能会变短，约1000次，即可用十年。 除更高容量外，锂硫电池还比其他锂离子电池具有可持续性优势。硫比锂离子电极的钴较为丰富。此外，电池隔膜的芳纶纤维可以从旧防弹背心中回收利用。
    116浏览量
    原文链接

  • 《CSIRO：开发优质、高强、低成本的碳纤维》
    • 来源专题：中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者：冯瑞华
    • 发布时间：2020-08-06
    • 英联邦科学与工业研究组织（简称CSIRO）是澳大利亚的国家科学机构，目前正在开发下一代的碳纤维。 具体而言，其研究人员旨在通过控制聚丙烯腈（PAN）前驱体的分子结构及其生产过程，来确保生产出的碳纤维质量更优、价格更便宜且性能更好。 “到目前为止，碳纤维只实现了10%的理论强度。”CSIRO的碳纤维团队负责人Andrew Abbott表示。 “限制强度的因素主要是纤维的表面缺陷和微观结构，以及前驱体中的杂质。”CSIRO的纤维计量项目负责人Tony Pierlot解释说，“因此，控制前驱体的结构能够提高碳纤维的强度。” 该碳纤维团队组合了CSIRO的高分子化学和纺织技术专业知识（图片来自CSIRO） 2017年，CSIRO与迪肯大学的Carbon Nexus设施（该设施于2013年推出了其碳化生产线）合作，推出了自己的湿法纺丝生产线，用于生产PAN原丝。 CSIRO和Carbon Nexus都是迪肯大学位于吉朗（墨尔本西南约75公里）的Waurn Ponds校区的一部分。 这些组织正在与作为吉朗先进纤维集群一部分的当地复合材料行业展开合作，包括知名的复合材料制造商如Carbon Revolution和Quickstep（同样在Waurn Ponds校区内），以及GMS Composites、Sykes Racing和ACS Composites等。 “CSIRO的研究集中在碳纤维生产的第一步，包括将丙烯腈聚合成聚丙烯腈，然后纺丝并进一步加工PAN 以生产出更高质量、更便宜的原丝纤维。”Abbott解释说。PAN的生产过程，占碳纤维成本的50%，但却决定了碳纤维70%～90%的性能。“迪肯大学的技术涉及碳纤维生产的最后步骤，包括氧化和碳化。”他继续说道，“他们已授权给LeMond Composites公司（美国田纳西州橡树岭）的技术可用于快速氧化，目的是降低这些最后生产步骤的成本。” 为实现其开发下一代碳纤维的目标，CSIRO正在使用一套战略工具，包括：RAFT 聚合、FLOW化学工艺和CarbonSpec计量方法。 “我们的目标是，生产一种强度提高了20%的航空级别的碳纤维。”Abbott表示，该团队希望到2020年底有一些初步结果。 CSIRO碳纤维团队 凭借5000名员工、55个基地、8个业务单元和大约10亿美元的预算，CSIRO 项目涉及的主题广泛，如3D打印、生物聚合物、医用植入物、智能服装、天文/太空探索，且每年有2800多名合伙人加盟。 “CSIRO发明了无线网络并取得了专利，然后用这笔收入资助其他研究。”Abbott解释说。 其55个基地之一位于美国加州的硅谷。CSIRO US让澳大利亚的研究人员参与到美国项目中，以加速太空、农业、节水、野火和智慧城市等领域的科技进步，目的是集聚深入的研究能力和处理各种现实问题的经验，实现开放式的创新合作。 “在复合材料方面，CSIRO开发了新的树脂和工艺技术。”他继续说道，“我们还在复合材料建模和工艺模拟以及碳纤维性能测试方面做了大量研究，比如，我们开发了测量碳纤维横向模量的新仪器，然后我们输入测量结果以改进我们的建模和仿真。” “CSIRO与波音公司拥有30年的战略合作关系。”Abbott说，“我们在2016和2017年被认定为波音的年度技术供应商。”CSIRO的碳纤维团队还与美国密西西比南部大学合作。 湿法纺丝试验生产线 CSIRO的湿法纺丝生产线包括热水喷淋（左上）和控制拉伸用辊（图片来自CSIRO） 为了完成有关碳纤维前躯体的必要研究，CSIRO首先必须建成自己的湿法纺丝生产线。 “世界上只有少数的制造商能生产碳纤维，且每一家都有自己的技术机密和专利配方。”CSIRO的总裁Larry Marshall博士在2017年新的生产线启动仪式上如是说。这条试验生产线由专业生产聚合物和纤维加工设备的机器制造商MAE公司（意大利Fiorenzuola d'Arda）为其订制。“它被设计成像一条商用的生产线，但规模较小。”Abbott解释道。 CSIRO在其博客中用“做意大利面”来描述这条生产线的工作原理。 类似于做意大利面的面团，一种名为dope的聚合物溶液被用于纺制PAN原丝：好比是将面团揉好，然后压制使其通过模头，制成细长的意大利面条。Dope经混合、凝固后，通过多孔的喷丝板以进行纺丝，从而生产出500～12000股不同的PAN纤维，所有这些纤维比人的头发丝还细。在进行缠绕从而进入Carbon Nexus的碳化生产线之前，这些纤维会得到清洗、在辊筒上拉伸、在一系列溶液中稳定，然后是蒸干。 CSIRO的湿法纺丝生产线（图片来自CSIRO） “我们花了很长时间才完全理解了如何制造碳纤维及其前体原料。”Abbott说道，“没有人真的想帮助我们，所以我们只能自己学习。然而，现在我们已经完全控制了前驱体的制备过程，这是关键，然后我们使用碳链进行碳化。” RAFT聚合 RAFT为聚合提供了更多的控制，包括聚合物的大小、组成和结构。它利用聚合物主链中的反应端基来增加功能以及复杂的结构，如接枝、星形和梯度聚合物等（图片来自CSIRO） CSIRO正在使用的另一个工具是其专利的以及商业化的RAFT（可逆加成-裂解链转移）技术。 RAFT是一种复杂的可控自由基聚合形式，能以对成分和结构前所未有的控制能力来实现订制聚合物的合成。 从新型药物输送系统到工业润滑油和涂料，RAFT的应用范围非常广泛，虽然如此，CSIRO的碳纤维团队却用它来控制PAN的聚合过程。 “从单体到聚合物的常规聚合会产生广泛的多分散性，或者说，聚合物链有很多不同的长度。”CSIRO的高分子化学团队负责人Melissa Skidmore说，“但是，如果我们加入RAFT 试剂，现在我们就能得到长度几乎相同的聚合物链，这样，分子量的分布就更窄。我们仍然使用相同的引发剂、单体和溶剂，只是加入了RAFT。” “分子量影响纺丝液的黏度。”Skidmore说，“传统上，dope溶液中较高的分子量导致原丝纤维表面出现沟槽。加入RAFT则降低了dope溶液的黏度，导致更高的固体负荷。去除该聚合物中的超高分子量聚合物，可能带来纤维中更好的分子排列以及性能的改善。”她补充说，低分子量对纤维有塑化作用。 “利用RAFT生产出的PAN聚合物，可以获得更密集、更均匀且结构缺陷更少的前体纤维，这也有助于加速碳化并降低成本。” 利用RAFT生产的PAN聚合物拥有控制更好的分子量，从此图更窄的分布中可以看出（左），从而得到了总分子量较高的dope，但与目前商用的PAN相比，它的黏度仍然较低（右）（图片来自CSIRO） “这也让我们有机会接触到复杂的聚合物结构。”Skidmore表示，“RAFT允许对聚合物基团作进一步的化学处理。”一个可派上用场的例子是，当dope溶液得到处理而凝结成纤维时。“在聚合物溶液的理想特性和混凝条件之间，存在一个微妙的平衡。”她补充道，“该聚合物是95%的 PAN 和5%的添加剂。由于RAFT聚合物的行为不同，我们认为，我们可以减少一些传统的添加剂，将较高百分比的纤维转化为高固体含量的纤维，以减少缺陷。我们正在进行测试。” 尽管目前还不是受关注的焦点，但RAFT依然凭借其能在聚合过程中添加功能而变得非常有趣，比如，研究人员们一直在研究如何制造一种复合材料，使其具有捕获CO2的高吸附性能，也就是说，CO2会附着在复合材料的分子表面。 多功能的复合材料已经受到飞机和电动汽车制造商们的青睐，因此，新型PAN和拥有添加功能的碳纤维可能成为未来复合材料行业的重要解决方案。 连续的FLOW工艺 “利用RAFT，我们可以控制聚合反应。”Abbott说，“但利用FLOW，我们可以对纤维的形成作更多的控制。” 间歇式与流动式聚合反应器示例 FLOW将聚合转化为连续过程而不是间歇过程。 Abbott和Skidmore解释说，虽然目前使用的间歇式反应器已经很成熟，不仅易于设置，还能有效混合和监测反应动态，但需要的容量却比连续加工的反应器更大，这意味着建立工业化规模的间歇式反应器是昂贵的，而且这些大容量的间歇式反应器在占用空间和能耗方面也是低效的。 与间歇式工艺相比，连续加工的反应器更小更便宜，易于扩展，更加节能，可提供卓越的过程控制和更好的再现性。 但是，由于是一条专用的连续生产线，因此在不同的参数和产品之间切换时缺乏灵活性。 此外，还有安全和可持续性方面的优势。 “目前，PAN的生产在环境上是不可持续的，特别是在毒性方面。”Skidmore说，“要持续改善聚合过程的安全性，就要隔离那些有毒、有气味和易燃的反应剂，并用自动化的设备来处理，但这将增加生产线的复杂性，需要采取更高程度的监控。” 虽然还有待进一步发展，但Abbott认为，FLOW聚合技术是积极有效的：“碳纤维本身是可变的，所以你可以做任何能够减少这种可变性以提高性能的事。” CarbonSpec：管理措施 CSIRO的碳纤维方法的最后一个工具是CarbonSpec。“它基本上由我们开发出来，是用来测试我们生产的纤维以更好地理解‘性能-材料’之间关系的计量方法。”Pierlot解释道，“如果你不能衡量它，就不能改进它。我们还能通过对PAN和碳纤维的最少量测试来更好地预测碳纤维的性能。” CarbonSpec是CSIRO碳纤维团队用于理解和预测纤维性能的计量方法，它包括新方法的创建，以及用于测量横向和压缩性能的仪器（图片来自CSIRO） “在碳纤维行业中，标准的做法是，使用同步辐射X射线计算机断层扫描（CT）法测定纤维的微观结构（同步加速器是足球场大小的粒子加速器，能产生非常明亮的X射线，该X射线被定向到相邻的光束线进行成像等）。”Pierlot说，“在澳大利亚同步加速器的光束线工作人员的帮助下，开发了一种新的专用特征描述协议，用于扫描单个PAN前驱体和碳纤维的微观结构，只需几分钟，就能获得直径小于5µm的单个纤维的微观结构图。SAXS信号有助于了解纤维中的孔隙发展情况，而WAXS信号有助于确定优化纤维模量的关键微观结构参数。同时使用这两个信号，我们可以从PAN dope到碳纤维生产这一过程的每个阶段，监控和优化机械强度和刚度。” Pierlot指出，利用CarbonSpec，该团队还在开发新的仪器和测试方法。“比如，除了通常报告的纤维的轴向特性外，我们正在测量横向模量和强度。我们认为，我们可以使用我们为此而开发的新方法来测量轴向压缩强度。”后者长期以来一直是一项挑战，因为单根碳纤维或PAN纤维的直径很小，通常只有5～10µm，这使得在不引起屈曲的情况下施加真实的轴向压应力变得非常困难。 强度提高20%的下一代碳纤维 “我们已经加强了我们对如何将聚合物转化为纤维的理解，现在正在生产商用纤维。”Abbott说，“我们正在将这些技术工具应用于其他前体聚合物以制造SIROPAN，这是使用RAFT技术的CSIRO版本的PAN，现在我们能按公斤生产这种纤维。” “下一步是评估使用RAFT聚合物的好处。”他继续说，“我们还在生产PAN，但我们在降低黏度的同时能更好地控制分子量并增加它，这样才能生产出更强的碳纤维。” 有多强？ “还不确定，但我们的目标是强20%。”Abbott说，“我们知道，强10% 不足以使改变前驱体成为经济上可行的一项改进措施，因此强20%是必要的。” 1. 利用RAFT技术开发新型前体聚合物（优质聚合物或不同的性质）。 2. 开发具有商业竞争力的聚合物工艺（FLOW）。 3. 了解聚合物转化为纤维（湿法纺丝）以降低成本和提高性能。 4. 了解前驱体性能对碳纤维性能的影响，更好地预测碳纤维的性能，根据这些测量和预测优化流程（CarbonSpec）。 5. 通过工程化PAN和碳化纤维，生产适合特殊终端应用的订制碳纤维。 “碳纤维行业正以每年10%的速度增长。”Abbott说，“我们希望与那些对改善碳纤维的质量、性能、成本和可持续性感兴趣的成熟的和新的行业参与者展开合作。” “我们正在测试6种不同的前体配方并将在Carbon Nexus对它们进行碳化。” Skidmore补充道，“我们希望今年年底能有结果。从RAFT聚合物到白色纤维然后再通过碳化需要一段时间。” 这项研究获得了科学和工业捐赠基金的资助。
    324浏览量
    原文链接