翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群开启全新大模型生态协作模式

来源于:产业咨询与投资 日期:2024-01-15 12:41:48 浏览:21次

  8月30日,青岛国际会议中心迎来了一场人工智能盛会“2023智能要素流通论坛暨第三届DataX大会”。由青岛市大数据发展管理局、青岛市城阳区人民政府、翼健(上海)信息科技有限公司共同主办本次活动,汇聚了业界顶尖人士及专家学者。翼方健数董事长陈恂博士、集团总裁罗震博士、首席科学家张霖涛博士以及首席技术官赵玺相继上台,分享了翼方的发展的策略,聚焦人工智能三要素——数据、算力、算法的“安全流通、高效匹配、价值释放”。

  翼方在本次大会上公布了揽睿星舟人工智能服务平台上实现的“揽睿大模型流通解决方案”和“星舟·密方”机密可信计算智算集群。

  大型深度学习模型的训练与服务需要庞大的计算资源,但人工智能的专用算力,即智算算力,现今仍存在着明显的缺口,难以满足迅速增加的需求。当下日益分散的算力对分布式计算和解决能力的需求也慢慢变得高,相关基础设施的建设还要进一步建设与完善。

  揽睿星舟(简称“揽睿”)直面算力短缺和分散的现实挑战,提供了完善的算力基建解决方案。揽睿汇聚了来自不同供应商、不同地域、不同类别的算力供应,并以AI开发和使用的完整技术栈和工具链的产品形式呈现给客户,开箱即用,高效易用。

  揽睿算力网络专注于集中生态优势实现算力统一标准、高效配置。通过跨云、跨节点、跨地域的算力调度体系,为算力需求方和算力供应商提供算力调度和需求匹配:

  异构计算:揽睿星舟支持异构的超级计算和私有平台,全面利用不一样供应架构下的算力资源;

  充足多云算力:通过多云平台提供充足算力,实现实时调度匹配AI企业的算力需求和供给;

  资源战略合作:揽睿星舟平台向算力服务商批量采购算力,为算力需求方提供高性价比的算力资源;

  揽睿全面保障用户的稳定体验。使用先进的云原生弹性架构,确保系统具有卓越的可伸缩性,避免单点故障风险,维护系统的高可用性和可靠性。系统持续监控和记录日志,既可提前预防潜在问题,也能在问题发生时快速解决,保障系统稳定运行。这些措施共同构成揽睿算力基建的坚实支持。

  人工智能大模型技术正蒸蒸日上,在各个行业将产生深远的影响。技术进步带来了无限的潜力与机遇,也不可忽视模型和数据的安全问题以及开发利用大模型的商业困境。本次发布的“揽睿大模型流通解决方案”旨在通过机密可信计算环境“星舟·密方”、隐私安全计算、以及弹性、可信的商业实现开启人工智能大模型生态协作的新模式。

  构建大模型需要巨大的时间和资金成本。既有因测试调优及广泛部署带来的模型产权风险问题,也有模型基于行业数据获得的调优参数泄露风险。没有经过授权的访问或复制会导致模型的非规范操作甚至恶意传播与使用。其次,大模型的训练和推理应用过程不能离开大量优质数据,特别是在调优和推理过程中,可能涉及个人隐私和商业核心竞争力的敏感信息,这些机密数据需要严格的安全保护。

  常用的“私有化部署”模式,虽然某些特定的程度上解决了数据安全问题,但对于绝大多数的企业和机构而言,私有化部署大模型、智算算力集群以及人工智能训练和推理环境的大额资本投入和后续维护管理都是不可企及的。同时,在大模型训练、微调、使用的过程中对于算力的需求种类不一、变化巨大,而且在初期难以预估。广大的大模型使用者迫切地需要弹性资源调度、按需使用、按量计费的共享的算力、工具和模型生态。而对于基础模型提供方而言,降低千行百业发展、使用专业行业模型的门槛,实现可持续的、按量收费的商业模式,也是亟待解决的问题。

  揽睿大模型流通解决方案,集成了隐私安全计算和机密可信计算能力,为用户更好的提供模型、数据集与服务有效串联,无论是数据提供方、基础模型拥有者、参与行业大模型调优的服务团队,还是使用大模型的业务部门,揽睿大模型流通解决方案都为您提供了数据和模型的隐私及产权的保护。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全而高效的协作,一同推动大模型的技术进步和产业落地。

  同时,揽睿大模型流通方案集成了区块链技术,提供可信而精确的用量计量、存证,形成弹性算力资源、共享的算力、工具和模型生态,并以此赋能“按需使用、按量计费”的商业模式。

  揽睿大模型解决方案的安全核心是翼方健数机密可信计算产品“星舟·密方”。“星舟·密方”是一个安全、通用、高效的“零信任”机密可信计算集群。以模型服务运行时的内存数据保护为例,高权限的攻击者可以对明文内存进行窥探,得到模型、参数、业务调用数据等一切计算过程中曾驻留在内存中的数据。“星舟·密方”利用机密可信计算软、硬件结合的能力,确保整个计算环境中,包括数据中心管理员,云平台管理员在内的任何一方都无法不经授权访问计算集群,或通过计算基础设施别的类型的攻击。

  翼方健数多年沉淀的隐私安全计算技术为大模型流通过程中的模型与数据提供了完善的授权与可用不可见机制。授权记录不可篡改。每次授权被视为区块链中的一个交易,并被添加到系统中的一个个区块中。每个区块包含了一批授权信息,并且与前一个区块通过加密哈希链接在一起,形成了一个一直增长的链条,确保单个区块的授权记录数据无法被随意修改。

  大模型流通过程中,用户可自由选择使用开源大模型或受限模型进行模型服务搭建。服务搭建支持在线服务与私有化部署。“星舟·密方”为每个公司可以提供独立的模型搭建和推理服务,确保企业的模型构建成果与业务数据不与别的企业共享。

  方案内置的精准计量模块,可集成翼方健数自研基于区块链的存证和激励系统,支持多种主流区块链技术,存储关键信息,在确保用户数据安全的前提下以不可篡改方式统计并存储推理服务的调用量。调用量与基础模型和数据集准确关联,支持智能合约,完美助力要素流通,实现价值激励,用于商业利润分配。

  揽睿星舟(Lanrui-ai)是AI企业翼方健数自主研发的隐私安全计算与机密可信计算护航的一站式AI服务平台,提供开箱即用的训推环境、AI工具链及大模型流通解决方案。揽睿星舟旨在解决AI协作过程中的安全信任问题,通过生态力量加速AI价值释放。本次大会上,发布的基于隐私安全计算与机密可信计算的“揽睿大模型流通解决方案”、“星舟·密方”,为AI应用落地提供全流程安全保护、赋能生态协作的新商业模式。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全且高效的协作,一同推动大模型的技术进步和产业落地。

  未来,翼方健数希望与更多行业伙伴进行合作,共建算力、算法与数据的计算生态网络,在行业变革的浪潮同实现真正的智能价值发掘和流通。