重新定义大模型服务平台——火山方舟

来源:本站  作者:   资产安全管理系统      2023-07-08 01:44:03

突破安全与信任:火山方舟助力企业大模型应用

火山引擎在6月28日的“V-Tech体验创新科技峰会”上,与英伟达合作发布了一项重要的服务平台——火山方舟. 这个平台面向企业提供了全方位的模型精调、评测和推理等服务,旨在帮助企业解决大模型应用中的安全和信任问题. 火山方舟通过独特的多模型架构,让企业能够同步试用多个大模型,并选择最适合自身业务需求的模型组合.

在火山引擎总裁谭待看来,资产安全管理系统企业使用大模型时最关心的问题就是数据泄露. 为了解决这一问题,火山方舟致力于构建一个安全互信的大模型使用环境,确保企业客户的数据资产安全. 根据火山引擎智能算法负责人吴迪的介绍,火山方舟已经上线了基于安全沙箱的大模型安全互信计算方案. 通过计算隔离、存储隔离、网络隔离和流量审计等措施,该方案能够保证模型的机密性、完整性和可用性,适用于对训练和推理延时要求较低的客户。

除了已经上线的安全互信计算方案,火山方舟还在不断探索更多的安全互信计算方案。其中包括基于NVIDIA新一代硬件支持的可信计算环境和基于联邦学习的数据资产分离等方案. 这些方案将更全面地满足大模型在不同业务场景下的数据安全需求。

未来,NVIDIA和火山引擎将进一步深化合作,包括在NVIDIA Hopper架构上进行适配与优化、机密计算、重点模型合作优化以及NeMo Framework的适配等方面. 他们将携手为重点客户提供全面的支持,共同推动大模型产业的繁荣。

智能选择大模型:降低使用成本,提升效果

据中国科学技术信息研究所等机构发布的《中国人工智能大模型地图研究报告》,截至今年5月,国内已经公开披露的大模型数量已经达到了79个. 随着大模型的快速涌现,企业面临着“选择困难”的问题.

吴迪认为,在技术发展日新月异的今天,国内的大模型正在不断迭代. 不同的大模型在特定任务上各有千秋。因此,企业不必急于绑定某一个大模型,而是应该根据自身业务场景,综合评估使用效果和成本,选择更具性价比的模型.

以微软在生物领域精调的BioGPT-Large模型为例,该模型仅有15亿参数,却在PubMedQA基准测试中的准确率优于拥有数千亿参数的大型通用语言模型. 火山方舟为企业提供了丰富的模型精调和评测支持。企业可以通过统一的工作流接入多个大模型,资产安全管理系统并根据复杂需求设置高级参数、验证集和测试集等功能,从而选择最适合自身需求的模型.

火山方舟的发布将为企业带来更安全、可信赖的大模型服务,同时也降低了企业的使用成本. 随着NVIDIA和火山引擎团队的深化合作,相信大模型产业将迎来更加繁荣的未来。

智轩互联提供资产安全管理系统的全面解决方案免费试用
咨询在线QQ客服
服务热线
0735-7607358
电话咨询 在线咨询 系统演示
填写以下信息
马上为您安排系统演示