
作者 ,译者
Google 宣布在他们的云平台上,释放为 Preemptible 虚拟机(Virtual Machine)附加图像处理器(Graphical Processing Unit,GPU)的 beta 发布版本。Google 云平台(Google Cloud Platform)的客户现在能够将 NVIDIA K80 和 NVIDIA P100 GPU 附加到 Preemptible VM 上,每个 GPU 每小时的价格分别是 0.22 和 0.73 每分,这要比 on-demand 实例上 GPU 的价格便宜 50%。这个发布版本能够让 Google 的客户在计算密集型的任务上有了更多的选择,这样他们能够在更细的粒度上进行高吞吐的批处理计算、机器学习以及科学和技术工作负载。
GCP 用户能够 创建和运行 Preemptible VM 实例,它要比标准的 on-demand 实例成本低得多。但是,Google Compute Engine 会在 30 秒的警告之后,终止(preempt)这些实例。这些实例最多能使用 24 小时。GCP 用户如果具有容错的工作负载并且不需要专门的实例,就成本而言,Preemptible 实例是很合适的选择。另外,关联到 Preemptible VM 上的 GPU 默认都是 preemptible 的,因此成本会更低。
Alex Hickey 是 CIO Dive 站点的编辑,在 最新的简报 中,他提供了一些利用 Google Preemptiple GPU 的观点:
对于一般的公司来说,构建或运行 AI 系统并不便宜。专家们的薪水已经达到了六位数甚至更高,AI 的预算也变得很难分配。计算处理的硬件资源一般都是外包的,以便于节省成本。GPU 比专门的硬件在速度和处理时间上表现更好,而专门的硬件往往很快就会积累可观的前期和维护成本。可用工具,包括用于处理的硬件,是 AI 和 ML 实现普及的重要因素。据统计,40%的公司具有 AI 实验室或实验性地应用,但是只有大约 20%的企业实现了 AI 的规模化部署或核心业务功能的部署。不过,凭借更加可负担的 GPU,更多的公司能够在预算和策略方面找到空间,实现 POC 和测试用例的落地。
典型的 Preemptible VM 可以通过在 gcloud 命令行的 实例创建命令 上附加 –preemptible 参数或者在使用 REST API 时,将 scheduling.preemptible 属性设置为 true 进行创建。另外,用户还可以在 Google Cloud Platform Console 上将 Preemptibility 设置为 “On”,然后像往常一样为其关联 GPU。
图片来源:https://cloudplatform.googleblog.com/2018/01/introducing-preemptible-gpus-50-off.html
除此之外,用户如果需要更强的可扩展性,还可以通过创建 由 preemptible 实例所组成的托管实例组 实现 GPU 动态池的功能。需要注意的是,在创建组之前,要指定实例模板的 preemptible 选项。这种方法所能带来的好处是如果 preemptible 实例有足够的处理能力的话,在重新 preempt 的时候,它们能够自动重建。当前,preemptible GPU 的特性只能在 US-central1 region 中使用。Preemptible VM 的完整文档可以通过 Compute Engine 文档 进行访问。
Google、Amazon 和 Microsoft 都提供了这样低价的计算资源,形式包括 Preemptible VM、spot 或 reserved VM 实例。它们的差异在于实例使用的灵活性。Amazon EC2 Spot 实例兼容 Preemptible VM。但是,客户不能为它们添加 GPU。AWS 和 Azure 所提供的 reserved 实例成本优势不明显,不过它们有一年或三年的期限。根据用例和所需的可用性不同,用户可以选择存活时间更短的 Preemptible VM 或 AWS spot 实例,也可以选择生命周期更可扩展的 Azure 或 AWS Reserved 实例。它们在成本上都比云平台的 on-demand 实例更廉价。
查看英文原文 :Google Introduces Low-Priced Preemptible GPUs for Their Customers
转自 http://ift.tt/2BFYjSW
The post Google 为他们的客户引入了 Preemptible GPU appeared first on Linuxeden开源社区.
http://ift.tt/2oiEKII
没有评论:
发表评论