《美国CRS发布《半导体和人工智能》报告,建议加强云计算服务监管》

  • 来源专题:集成电路
  • 编译者: 李衍
  • 发布时间:2023-10-17
  • 据战略科技前沿微信公众号报道,2023年9月18日,美国国会研究服务部(CRS)发布《半导体和人工智能》报告。报告指出,人工智能(AI)的日益普及引起了美国国会的关注,许多国会议员正在考虑AI监管提案。AI的技术进步在很大程度上得益于底层计算硬件(也称为半导体、集成电路、微电子学或简称芯片)的进步,这些硬件提供了更强的数据处理能力以改善AI系统开发。报告简要描述了AI使用的半导体类型及其供应链问题、所面临的半导体监管挑战,并为提升美国AI竞争力提出了政策建议。

    一、AI模型中使用的半导体芯片

    AI泛指能够从数据中学习并做出预测、建议或分类等决策的计算系统。AI系统可用于多种应用,包括语音/视觉识别、自动驾驶、机器人过程自动化以及虚拟助手。一类流行的AI系统是深度神经网络。一般来说,AI模型的准确性随着大量数据训练而提高,这反过来又需要更多计算能力。流行的大语言模型(例如GPT-3)经过数十亿或数万亿文本数据训练来处理和生成文本。一些应用于AI模型的大数据集可能需要训练数周或数月,使用数千个芯片并花费数百万美元。这些高成本在很大程度上是运行硬件所需电力造成的。

    半导体芯片旨在实现处理、存储、传感和传输数据或信号等功能。AI模型用到了不同类型芯片,包括储存大量数据的存储芯片和处理数据的逻辑芯片。据Gartner预测,AI用芯片的收入有望从2022年约440亿美元快速增长至2027年的1200亿美元。

    早期的AI模型使用中央处理器(CPU)进行训练和推理。尽管CPU仍然足以进行推理,但领先的AI模型现在主要使用图形处理器(GPU)进行训练。GPU能并行处理信息,而CPU是串行处理信息。并行处理允许AI模型通过划分任务并同时执行任务来使用大量数据进行更快训练。此外,许多芯片设计公司越来越多地提供专为特定应用设计的定制逻辑芯片,即专用集成电路(ASIC)或加速器。用于AI的逻辑芯片也统称为AI芯片。

    为了训练出最大AI模型,许多逻辑芯片与数据中心或超级计算设施中的其他半导体硬件(例如内存和网络芯片)以大型集群的形式连接在一起。例如,Meta正在为AI研究构建一台超级计算机,预计包含16,000个GPU,而初创公司Inflection AI正在为其AI模型构建一个包含22,000个GPU的集群。Meta、Tesla和NVIDIA等私营公司建造的一些超级计算机比世界上许多国有超级计算机还要大。

    训练AI模型的公司可以购买和维护其芯片硬件基础设施,也可以通过付费购买云服务来远程访问所需硬件训练模型。根据美国联邦贸易委员会的说法,“云服务可能很昂贵,而且目前只有少数公司提供,这提高了反竞争行为的风险。”美国领先的AI应用云服务提供商包括亚马逊Web AI Services、微软Azure AI和谷歌Cloud AI。

    AI训练通常受益于AI芯片的两个技术参数的改进:更高的数据处理能力(一般以万亿次/秒(trillions of operations per second,TOPS)为单位进行衡量)和更快的芯片间传输速度。许多大型AI模型(例如OpenAI的GPT模型)和领先的AI研究论文都没有明确说明用于AI模型训练的计算能力。此外,没有标准方法或工具来衡量用于训练AI模型的计算能力,因为不同公司的TOPS计算方式可能不同,并且这可能不是评估和比较AI模型的最佳指标。AI训练计算能力的透明度和全球衡量计算能力的标准方法可能会支持AI监管工作。

    二、AI芯片的供应链问题

    总部位于美国的公司,无论是老牌公司还是初创公司,在AI芯片的设计方面处于全球领先地位。从收入和使用情况来看,目前排名第一的AI芯片设计商是总部位于美国的NVIDIA。然而,这些芯片设计公司中的绝大多数完全依赖代工服务来生产和封装其设计的AI芯片。由于最高性能的AI芯片需要世界上最先进的制造工艺,因此大多数AI芯片设计公司依赖目前有能力制造AI芯片的两家公司:台积电(TSMC)和三星公司。

    由于台积电等公司的代工服务成本高昂且产能有限,美国AI设计初创企业等小型实体经常面临将其设计进行原型化以及生产的挑战。由于AI竞争力将受益于芯片硬件的进步,帮助美国公司获得原型化、规模化的制造服务机会可能会促进长期创新。

    三、美国AI芯片的监管及不足

    2022年10月,美国商务部实施了管制措施,要求向中国大陆和澳门地区出口某些用于AI训练和构建超级计算机等应用的先进逻辑和相关芯片需要获得许可证,并限制使用原产于美国的技术或软件的全球芯片制造工厂在未经许可的情况下为总部位于中国的芯片设计公司制造某些先进芯片。管制措施适用于芯片间传输速度为每秒600 GB或更高且计算能力超过600 TOPS的逻辑芯片。为提供不受新许可证约束的替代产品,NVIDIA开始向中国营销A800和H800芯片,作为受管制芯片A100和H100的替代品。

    该出口管制旨在限制中国大陆和澳门地区购买或生产某些可用于AI应用的先进芯片的能力。然而,中国AI公司使用国内外云服务提供商来训练AI模型并没有受到任何限制。

    四、政府行动及相关政策建议

    1. 根据2021年1月美国国会颁布的《2020年国家人工智能倡议法案》,提升美国在人工智能研究和开发方面的领导地位并为美国人工智能研究资源制定路线图。

    2. 根据第13859号行政命令,美国国家标准与技术研究院进行了一项研究,建议联邦政府“致力于更深入、一致、长期地参与AI标准制定活动”,涉及开发“量化衡量和表征人工智能技术的指标,包括但不限于硬件及其性能方面”。

    3. 2022年8月拜登总统签署了“芯片和科学法案”以扩大美国国内半导体制造能力以及下一代半导体技术研发,国会可以就扩大先进逻辑芯片的国内制造能力和改善小型实体的制造可及性的有效性行使监督权。

    4. 由于许多AI模型是使用云服务进行训练,国会可以考虑进行出口管制改革,使商务部能对出售大量计算能力的云服务提供商行使监管权。

  • 原文来源:https://crsreports.congress.gov/product/pdf/IF/IF12497
相关报告
  • 《印度政府正全力以赴发展人工智能和半导体等热门领域》

    • 来源专题:新一代信息技术
    • 编译者:isticzz2022
    • 发布时间:2024-03-13
    •        上周,印度政府制定了全面的AI政策,这项耗资12亿美元的计划为创建全面的国家AI基础设施提供了机会,其中包括创建AI模型和提供计算基础设施。印度电子和信息技术部在一份新闻声明中表示,IndiaAI任务将是一个公私合作项目,以促进人工智能创新。        印度还将建立一个拥有超过10,000个图形处理单元(GPU)的人工智能计算基地。此外,人工智能市场将旨在为人工智能创新者提供人工智能即服务和预先训练的模型。它将作为人工智能创新关键资源的一站式解决方案。大公司的首席执行官们纷纷访问印度,以期在印度的人工智能领域分得一杯羹。据标普全球称,到2030年,印度可能成为世界第三大经济体,超过日本和德国。标普全球市场情报公司亚太区首席经济学家拉吉夫·比斯瓦斯在12月发表的一份研究咨询报告中表示:“以美元计算,印度的名义国内生产总值预计将从2022年的3.5万亿美元增至2030年的7.3万亿美元。印度的商业环境也变得更加友好,而十年前并非如此。经济学人智库2023年的一项商业环境准备度调查显示,印度在市场机会、技术准备、人才库以及外贸和出口管制方面具有优势。        人工智能在印度是一个新机会,迄今为止使用非常有限。与美国相比,该国的GPU安装基数很小,预计在未来两年内会增长。几乎所有主要科技公司的首席执行官——埃隆·马斯克、安迪·雅西、桑达尔·皮查伊、帕特·格尔辛格等——都在过去两年里与莫迪总理会面。        英伟达首席执行官黄仁勋去年访问了印度,并宣布与Reliance Industries合作创建人工智能基础设施,Reliance是一家拥有技术和电信部门的多元化公司。Reliance经营着印度最大的移动电话服务提供商之一Jio。Reliance正在建立一个数据中心基础设施,该基础设施将部署Nvidia的DGX Cloud CPU和GPU。 Reliance正在创建一个基础AI模型,为4.5亿移动用户托管AI应用程序。英伟达在一份声明中表示:“人工智能基础设施将托管在人工智能计算数据中心,最终将扩展到2000兆瓦。”印度数据中心运营商 Yotta 正与英伟达合作,扩大人工智能的使用。该公司预计,4,096 个英伟达 H100 GPU 将于今年 1 月投入使用,并表示到 2024 年 6 月将有 16,384 个 GPU 投入使用。到 2025 年底,这一数字将扩大到 32,768 个。        微软首席执行官萨蒂亚·纳德拉上个月访问了印度,并主要谈到了人工智能。该公司宣布了一项计划,到2025年将有200万人具备人工智能技能。微软和英伟达也在与印度机构合作,以适应印度的主要语言。据印度官方语言部门称,印度有22种官方语言。大多数人工智能机会都是间接通过印度政府实现的,印度政府更像是技术实施的监督者。然而,潜在的问题已经出现,这可能成为硅谷的警示故事。印度科技部最近的一份咨询报告指出,科技公司需要明确许可才能使用人工智能模型、否则将被认为未经测试不可靠的算法。这是在印度政府对深度伪造视频的担忧之上,印度选举将于今年晚些时候举行。硅谷公司对印度政府的强硬态度反应不佳,这导致了反弹。印度部长拉杰夫·钱德拉塞卡进一步阐明了政府的立场,称“该建议旨在阻止未经测试的人工智能平台在印度互联网上部署”,并且“该建议针对的是大型平台,而Meity的许可申请仅适用于大型平台,不适用于初创公司。”钱德拉塞卡的评论集中在LLM反应的不可靠性上,即使在美国,这也是一个有争议的话题。钱德拉塞卡说:“安全和信任是平台的法律义务,并且抱歉不可靠并不能免除法律责任。”        与印度成为半导体巨头的雄心相比,12亿美元的人工智能覆盖仍然小得多。印度正在提供100亿美元的激励措施,以吸引芯片制造商到该国,最近批准了建立三个芯片工厂的计划,其中公私投资额为150亿美元。
  • 《美国半导体产业协会发布《美国维持半导体设计领导地位的挑战日益严峻》报告》

    • 来源专题:集成电路
    • 编译者:李衍
    • 发布时间:2023-04-20
    • 据战略科技前沿微信公众号报道,2022年11月30日,美国半导体产业协会(SIA)联合波士顿咨询公司发布《美国维持半导体设计领导地位的挑战日益严峻》报告。半导体设计(包括硬件设计和软件设计)约占半导体行业研发投资和增值的一半。报告分析了美国半导体设计的市场领导地位赋予的多重优势,还指出美国继续捍卫其在设计领域的领导地位需要应对三个挑战,并建议美国加大政府投资以保证其在半导体设计领域的领先地位。 一、半导体设计领导地位赋予的多重优势 美国公司在半导体设计方面发挥了主导作用。迄今为止,美国已享受到世界领先的半导体设计带来的好处。截至2021年,半导体行业的46%的收入来自总部位于美国的设计公司活动,几乎是其他任何单个地区的2.5倍。美国在设计领域的市场领导地位在逻辑芯片领域最为明显,占该领域设计相关收入的64%;美国在设计领域的市场领导地位也扩展到分立、模拟和其他器件领域,美国公司在这些领域创造了37%的设计相关收入。美国只在存储芯片领域未占市场领先地位,韩国公司创造了该领域设计相关收入的59%。 半导体设计的市场领导地位具有多种优势,包括: 1. 创新的良性循环。设计领导力使美国公司能够吸引和培训外国人才。这支劳动力的贡献和创新产生的利润可以再投资于研发,反哺劳动力的持续扩张和未来创新。也就是说,设计领导力吸引全球人才并促进创新和再投资的循环。 2. 增强标准制定能力。在任何技术领域,标准都支持互操作性,并使公司能够更轻松地进行跨供应链协作。通常,设计领先的公司最先开发出需要标准的产品(如Wi-Fi、蓝牙和5G)。拥有许多领先设计公司的国家或地区将在制定和利用技术标准方面具有相对优势。 3. 加强国家安全。设计领导力在两个方面提供国家安全优势。首先,具有设计领先地位的国家或地区可以获得更先进的可以提高防御和武器系统效率的半导体芯片。其次,拥有设计领先地位的国家或地区可能面临较低的恶意篡改和供应链拦截风险,例如保护关键设计信息并实现设计IP的控制和可追溯性。 4. 提供高质量就业机会。设计领导力通过高工资支持高质量就业。2020年,从事半导体设计工作的美国工人的平均年收入为17万美元,而美国的年收入中位数约为5.6万美元。 5. 对相关行业原始设备制造商的优势。技术密集行业的原始设备制造商(OEMs)广泛依赖半导体设计来制造系统级产品。在共同的地理和文化背景下通常更容易协作,因此OEMs可以直接与市场领先的本土芯片设计团队合作并采用联合设计和系统级优化等实践来创造竞争优势。自动驾驶、智能手机、云计算、5G通信、医疗器械等行业的原始设备制造商从芯片设计领先优势中获益颇多。 二、美国捍卫半导体设计领域的领导地位面临的挑战 美国公司在设计相关收入的全球市场份额从2000年以来出现下降迹象,并从2015年的51%下降到2020年的46%。其他地区(尤其是韩国和中国)的本地设计能力正在增长。SIA分析表明,按照目前的发展轨迹,如果美国规划者不采取行动,美国公司设计相关收入份额到2030年可能会降至36%。 如果美国捍卫设计领域的领导地位并获得相关的下游利益,需要应对三个挑战。 1.设计研发投入上升。随着芯片变得越来越复杂,开发成本也在上升,尤其是先进制程芯片。从2006年到2020年,最新制程节点的芯片设计成本增加了18倍以上。美国私营部门在设计研发方面的投资比其他国家或地区的私营部门都多,但是世界各国政府都提供大量激励措施来促进先进设计,而美国公共部门在基础研究和直接税收激励方面的支持落后于其他国家或地区。在美国,半导体设计和研发投资中的公共投资份额为13%,而欧洲、日本、中国大陆地区、韩国和中国台湾地区的平均比例为30%。如果美国在设计和研发方面的公共投资与国际同行保持一致,包括对美国的先进设计和研发提供税收抵免等直接激励措施,将有助于确保美国设计领域的公平竞争环境。 2.设计人才供给减少。尽管当今世界上大多数半导体设计工程师都在美国,但美国半导体设计行业仍面临技术工人短缺的问题。按照目前的科技人员发展趋势,到2030年美国的设计人员将增加至6.6万人左右。然而,随着半导体市场的增长,维持美国目前的46%的市场份额需要约 8.9万名设计工程师,因此将存在约2.3万名左右的工程师缺口。公共和私营部门必须共同努力,鼓励更多的美国STEM毕业生进入半导体设计领域,并增加现有人才的保留率,鼓励有经验的设计师留在该领域或国家。此外,私营部门必须继续通过开发和部署新工具并优先考虑附加值最高的研发和设计领域来提高劳动生产力。 3. 开放的全球市场面临压力。美国设计公司长期以来受益于开放的全球市场,销售额是研发投资的最终资金来源。然而,随着地缘政治紧张局势的加剧,自由和开放的贸易受到关税、出口管制和产业政策等带来的挑战,同时也威胁着美国半导体企业进入全球市场,并使研发再投资面临风险。贸易限制对美国乃至全球的半导体行业产生了深远的负面影响,损害了所有参与者的利益。美国的出口限制使中国寻找半导体设计的替代来源,直接导致中国等非美国OEMs越来越多地转向本地设计,不断发展各国半导体设计生态系统。如果欧盟、印度、日本、韩国、中国大陆和其他地区越来越多地寻求将半导体价值链的元素本地化,那么庞大的全球市场将遭遇被规模较小的区域市场割裂的真正风险,从而损害所有国家参与者利益。 三、政策建议 为了保持设计领域的领先地位,美国必须拥有足够的私人和公共投资以及足够多的劳动力来维持市场份额,从而实现再投资的良性循环。如果不在这些方面采取行动,美国设计公司将在未来十年内因市场份额侵蚀而累计损失约4500亿美元的销售额。 未来十年,美国私营部门可能会投资4000亿至5000亿美元用于设计活动,包括研发和劳动力发展。为了在未来十年保持领先地位,美国需要补充公共部门投资,以加强美国本土半导体行业。此外,公共部门投资提供的杠杆作用将是巨大的。SIA分析认为,投资于设计和研发的每一美元公共资金都会吸引私营部门对设计和研发的额外投资,最终产生18至24美元的设计相关销售额。因此,到2030年,设计和研发方面约200亿至300亿美元的公共投资(通过设计税收激励可提供约150亿至200亿美元的公共投资),将在十年内产生约4500亿美元的设计相关销售额增量,同时还将支持约2.3万个设计工作岗位和13万个间接和衍生工作岗位,进而巩固美国在半导体设计领域的领导地位。