据透露，AI 半导体初创公司 LeapMind 将于 2024 年 7 月 31 日遣散。

该公司董事兼首席执行官松田宗一(Soichi Matsuda)在发给相关方的电子邮件中示意，“我们以为，为了现实使用人工智能，我们需要同时思量软件和硬件，而且，这样的公司很少。”天下各地都有这种想法，以是我们不停接受挑战，以为它们很有价值，但我们异常失望，我们还没有能够证实它们的价值”，并注释说，他们决议这样做。在公司尚有现金和存款的情形下自愿遣散公司，以防止违约风险。

从8月起，公司设计启动正常整理程序，届时松田先生将担任代表整理人。

LeapMind最先开发新的AI芯片

据该公司在官网先容，随着手艺的提高，社会在不停转变。装备的快速创新和基础设施的普及，让网络和行使大量数据已成为可能。随同着机械学习的现实应用，剖析的准确性提高了，数据的行使也变得加倍熟悉。数据周期的流动，即通过机械学习变得加倍智能的装备发生更好的数据，将变得比以往任何时刻都更快，使人们的生涯加倍便利。

LeapMind作为一家最早展望这一未来的公司之一，而且自 2012 年以来一直在谋划基于机械学习的营业。

LeapMind示意，公司的手艺能力和远见获得了许多公司和组织的高度评价，并介入了许多使用机械学习的项目，但遗憾的是并没有许多案例转化为社会落地。有两个问题。一是构建适用的机械学习模子。为了行使机械学习来解决迄今为止无法解决的义务，我们必须开发高质量的机械学习模子。第二个是允许机械学习模子现实运行的盘算环境。没有明确的装备可以让它在使用受到限制的情形下现实事情，例如在边缘。

为了通过使用机械学习的装备来改善社会， LeapMind以为公司必须战胜两个挑战。通过与具有差异手艺的同事继续真诚地面临客户和问题，我们能够通过两种方式解决问题：“开发高质量的机械学习模子”和“开发高速、高效的硬件IP” ”我得出了谜底。

通过从软件和硬件两方面着手，我们可以将不能能酿成可能。这个未来是触手可及的。我们信托，通过为天下提供未来的要害手艺，我们可以缔造加倍人性化的生涯方式。

基于这些靠山和思索，LeapMind在去年十月宣布，将开发新的AI芯片，以加速AI模子的盘算处置速率，追求行业*的性价比。

他们示意，由于最近人工智能模子（包罗大规模语言模子（LLM））的规模和盘算庞大性不停增添，训练尖端人工智能模子的成本与 10 年前相比大幅增添。这种不停上升的成本是人工智能生长的一个重大瓶颈。

为了确立优异的AI模子，需要使用大量处置器举行并行盘算。提供大量处置器需要大量预算。若是能使用性价比优异的处置器，纵然预算规模相同，也能开发出更好的AI模子。换句话说，AI学习所需的处置器特征正在从*性能向性价比转变。

鉴于这些情形，LeapMind最先应用我们在边缘人工智能加速器开发中积累的手艺，开发用于人工智能学习和推理的新型处置器半导体（以下简称“人工智能芯片”）。这款新的AI芯片专注于AI模子学习和推理，其盘算性能目的为2 PFLOPS（万万亿次浮点运算），其性价比是一致性能GPU的10倍。该产物预计最迟将于 2025 年最先发货。 　

据先容，新型AI芯片具有以下特点：

专为AI模子学习和推理而设计

强调低位表达如fp8

开源驱动程序和编译器

他们示意，当将人工智能模子学习和推理视为盘算义务时，它具有以下特征：

矩阵乘法是盘算瓶颈

易于并行化

条件分支很少。

萨莉亚的低价，中国餐饮学不会？

LeapMind强调，公司不是以提高通用盘算机的性能为目的，而是行使上述特征，专门为人工智能模子学习和推理而设计。例如，由于程序中的条件分支很少，因此可以通过省略分支展望单元来削减晶体管的数目。

而之以是强调如fp8等低位表达，是由于在他们看来，AI模子的盘算瓶颈是矩阵乘法，其中涉及大量乘法和加法。乘法器往往是大型电路，但通过使用位宽比以前更低的数据类型（例如 fp8），可以削减所需的晶体管数目。此外，由于处置的数据较小，因此可以有用地行使近年来成为瓶颈的DRAM带宽。

至于开源驱动程序和编译器，则由于开发人工智能模子需要先进的软件客栈，而这不能由单一公司提供。已经有一个涉及多家公司的开源软件生态系统，为了成为这个生态系统的一部门，作为开源软件加入社区异常主要。

根据LeapMind设计，公司将尽可能公然硬件规格，并在相符 OSI 的允许下宣布驱动程序和编译器等软件。

他们指出，这款新型人工智能芯片支持普遍的神经网络训练和推理，包罗大规模语言模子训练以及扩散模子等天生式人工智能模子。

“我公司在边缘AI推理加速器的开发方面取得了较高的功效和功效。在服务器端，我们将行使已经培育的手艺能力，开发新的AI芯片，加速AI模子盘算处置速率，加速下一代AI的演进。”LeapMind Co., Ltd. 首席执行官 Soichi Matsuda 的谈论道。

公司一最先对搞芯片的看法

LeapMind 的首席手艺官撰文谈到了对进军芯片的看法，以下文章以*人称视角形貌：

正如上文所说，LeapMind 将进军 AI 半导体芯片营业。开发已经最先。到现在为止，我们只针对边缘市场销售半导体IP，即设计，但在服务器市场，很难只销售半导体设计，因此我们将以现实芯片的形式开展营业（或板）。新产物不仅可以用于推理，还可以用于学习。

虽然只有一句话，但这样写会大大增添你作为一个企业需要做的事情量。由于LeapMind到现在为止一直在卖IP，以是我们基本上没有做库存治理。从这样的公司的角度来看，处置实物产物自己就是一项艰难的义务。库存治理、现金流治理、需求展望、缩小产物阵容等。有许多事情我不知道，不明了。固然，另有许多其他事情需要做。

当前的半导体行业，流动的资金量极其伟大，若是实验使用靠近尖端的半导体工艺制造芯片，将需要数十亿日元到数百亿日元。仅仅生长乐成是不够的，我们还必须在思量种种因素的同时开展营业。

现在，我们正在进入一个比IP营业庞大得多的市场。这个决议是基于一系列庞大的缘故原由做出的，不能简朴地用“我要这样做是由于……”往返覆。然而，可以琐屑地提出一些缘故原由。

首先，众所周知，服务器人工智能半导体作为一项营业的价值正在不停增添。训练大型语言模子（LLM）的成本，更不用说扩散模子，比几年前凌驾几个数目级，而且我最先长时间训练大型模子显然没有价值。看看这是真的。

最初，我们公司的理念是，“虽然很难展望神经网络的详细未来，但执行装备对于现实使用来说是*需要的，因此我们提供专用于神经网络的处置器。”我们希望提供一种处置器致力于神经网络不停增进的市场与公司最初的理念和宗旨是一致的。

若是乐成，这项营业可能成为在种种装备上普及神经网络的要害垫脚石。好比神经渲染是一个热门的研究领域，我以为它未来有潜力在游戏和其他领域盛行起来。通过发展为一家处置现实半导体装备的公司，我们希望确立一个能够快速响应这些新市场的职位。

现在，我们正在进入一个难题的行业和一个难题的市场，但我们真的有时机获胜吗？

从手艺上讲，我们拥有现实交付半导体 IP 并将其作为物理芯片事情的纪录。只管我们所处的领域略有差异，但我们在确立可正常运行的 IP 和软件方面拥有优越的纪录。我有信心自己有资格进入市场。

若是您信托缩放定律，那么确立大型模子就很主要，为此目的，确保盘算能力也很主要。由于神经网络训练可以并行化，因此具有优异性价比的处置器比单个高速处置器更合适。从程序员的角度来看SIMT更容易使用（比SIMD），而且它能做的事情局限更广（比SIMD），然则为了同时实现易用性和性能，缓存险些是必不能少的，而神经网络则是若是你仔细想想，你可能会说这对程序员来说有点太友好了，而且肩负都在硬件方面。我们信托，通过专注于该领域的神经网络学习和推理，我们可以提高性价比。

此外，就处置器营业而言，仅仅确立硬件是不够的；我们需要一个允许我们行使现有软件资产的系统。在这方面，情形与几年前相比已经有了很大改善。在这里写这么长是不平衡的，以是我只宣布一些链接，然则使用 PyTorch 现在可以使用PJRT确立了Triton。通过为 PJRT 编写插件，您可以吸收StableHLO 花样的网络界说、编译并运行它们。这样，现在就可以通过简朴地实现原始运算符并将它们组合起来来运行主要的深度学习框架，而不是手写大量的运算符代码。

我列出了一些我以为获胜时机很大的缘故原由。说真话，无论你想出若干理由，都不能保证你有100%的获胜时机。也就是说，我以为我们获胜的时机很大。

最初，我们设计从大型高性能产物最先，但最终，就像今天的 GPU 一样，在秋叶原的零件店可以轻松获得廉价的产物，我们的产物也将用于超级盘算机。我们的目的是未来的产物。已安装。

但在搞了芯片不到一年之后，这家公司宣布遣散。