GPUs NVIDIA más rápidas para Google Compute Engine

Introducción de GPUs NVIDIA más rápidas para Google Compute Engine

Por Chris Kleban y Ari Liberman, Product Managers para Google Compute Engine

Hoy, estamos felices de hacer algunos anuncios masivamente paralelos para Cloud GPUs. En primer lugar, Google Cloud Platform (GCP) obtiene otro impulso de rendimiento con el lanzamiento público de las GPUs NVIDIA P100 en versión beta. En segundo lugar, las GPUs NVIDIA K80 ahora están disponibles en Google Compute Engine. En tercer lugar, estamos felices de anunciar la introducción de descuentos de uso sostenido en las GPUs K80 y P100.

Las GPUs Cloud pueden acelerar sus cargas de trabajo, incluyendo capacitación e inferencia de aprendizaje de máquinas, procesamiento de datos geofísicos, simulación, análisis sísmico, modelado molecular, genómica y muchos más casos de uso de computación de alto rendimiento.

La NVIDIA Tesla P100 es el estado de la técnica de la tecnología GPU. Basándose en la arquitectura GPU de Pascal, puede aumentar el rendimiento con menos instancias mientras ahorra dinero. Las GPUs P100 pueden acelerar sus cargas de trabajo en hasta 10 veces en comparación con K801.

En comparación con las soluciones tradicionales, las GPUs Cloud ofrecen una combinación sin precedentes de flexibilidad, rendimiento y ahorro de costes:

• Flexibilidad: las formas personalizadas de VM de Google y las GPUs de nube incremental proporcionan la máxima flexibilidad. Personaliza la configuración de la CPU, memoria, disco y GPU para que se adapte mejor a tus necesidades.

• Rendimiento rápido: Las GPUs de nube se ofrecen en modo de paso para proporcionar un rendimiento de metal desnudo. Conecte hasta 4 P100 o 8 K80 por VM (ofrecemos hasta 4 tarjetas K80, que vienen con 2 GPUs por placa). Para aquellos que buscan mayor rendimiento de disco, opcionalmente adjuntar hasta 3 TB de SSD Local a cualquier GPU VM.

• 
  

• Bajo costo: con Cloud GPUs obtiene la misma facturación por minuto y los descuentos de uso sostenido que hace por el resto de los recursos de GCP. ¡Pague sólo por lo que necesita!

• 
  

• Integración en la nube: Las GPUs en nube están disponibles en todos los niveles de la pila. Para la infraestructura, Compute Engine y Container Engine (sólo en clústeres alfa) le permiten ejecutar las cargas de trabajo de la GPU con VM o contenedores. Para el aprendizaje automático, Cloud Machine Learning puede configurarse opcionalmente para utilizar GPUs con el fin de reducir el tiempo que se necesita para entrenar sus modelos a escala con TensorFlow.

Con el anuncio de hoy, ahora puede implementar las GPUs NVIDIA Tesla P100 y K80 en cuatro regiones del mundo. Todas nuestras GPU ahora pueden aprovechar los descuentos de uso sostenido, que reducen automáticamente el precio (hasta un 30%) de sus máquinas virtuales cuando las utiliza para ejecutar cargas de trabajo sostenidas. No se necesitan compromisos mínimos de compromiso de lock-in o upfront para aprovechar estos descuentos.

Cloud GPUs Disponibilidad de regiones - Número de zonas

Acelere las cargas de trabajo de aprendizaje de máquinas

Desde el lanzamiento de las GPUs, hemos visto que los clientes se benefician del cómputo adicional que proporcionan para acelerar cargas de trabajo que van desde la genómica y las finanzas computacionales hasta el entrenamiento y la inferencia en los modelos de aprendizaje automático. Uno de nuestros clientes, Shazam, fue uno de los primeros en adoptar GPUs en GCP para impulsar su servicio de reconocimiento de música.

"Para ciertas tareas, las GPU [NVIDIA] son ​​una alternativa rentable y de alto rendimiento a las CPUs tradicionales. Funcionan muy bien con la carga de trabajo de reconocimiento de música principal de Shazam, en la que combinamos fragmentos de huellas de audio grabadas por el usuario con nuestro catálogo de más de 40 millones de canciones. Hacemos esto tomando las firmas de audio de cada canción, compilándolas en un formato de base de datos personalizada y cargandolas en la memoria de la GPU. Cada vez que un usuario Shazams una canción, nuestro algoritmo utiliza GPUs para buscar esa base de datos hasta que encuentre una coincidencia. Esto sucede con éxito más de 20 millones de veces al día. "

- Ben Belchak, Jefe de Ingeniería de Confiabilidad del Sitio, Shazam

Con los anuncios Cloud GPU actuales, GCP da otro paso para ser el lugar óptimo para cualquier carga de trabajo acelerada por hardware. Con la adición de GPUs NVIDIA P100, nuestro principal objetivo es ayudarle a dar vida a nuevos casos de uso. Para obtener más información sobre cómo su organización puede beneficiarse de GPUs Cloud y Compute Engine, visite el sitio de la GPU y empiece hoy mismo.

GPUs on Compute Engine

GPUs en Compute Engine

 

Google Compute Engine proporciona unidades de procesamiento gráfico (GPUs) que puede activar en las instancias de la máquina virtual. Puede utilizar estas GPU para acelerar cargas de trabajo específicas en sus instancias, como el machine learning y el procesamiento de datos.

Compute Engine proporciona GPUs NVIDIA® Tesla® K80 para sus instancias en modo passthrough para que las instancias de su máquina virtual tengan control directo sobre las GPUs y su memoria asociada. Puede unir las GPUs a cualquier tipo de máquina predefinida que no comparta su CPU o usando máquinas personalizadas en el panel de google cloud computing que pueda crear en una zona. Sin embargo, las instancias con un número menor de GPUs se limitan a un número máximo de vCPUs. En general, un mayor número de GPUs le permite crear instancias con un mayor número de vCPUs y memoria del sistema.

Actualmente no están disponibles en todas la zonas en la siguiente tabla tienes una relacion de como se combinan las GPU con las CPU y las zonas disponibles.

GPU model	GPUs	GPU boards	GPU memory	Available vCPUs	Available memory	Available zones
NVIDIA® Tesla® K80	1 GPU	1/2 board	12 GB GDDR5	1 - 8 vCPUs	1 - 52 GB	us-west1-b us-east1-d europe-west1-b asia-east1-a
	2 GPUs	1 board	24 GB GDDR5	1 - 16 vCPUs	1 - 104 GB
	4 GPUs	2 boards	48 GB GDDR5	1 - 32 vCPUs	1 - 208 GB
	8 GPUs	4 boards	96 GB GDDR5	1 - 32 vCPUs	1 - 208 GB

Para conocer el precio de las  GPU mira Compute Engine pricing page.

Restriciones:

Las instancias  con GPUs tienen restricciones específicas que las hacen comportarse de manera diferente que otros tipos de instancia.

•     Debe tener una cuota de GPU para poder crear instancias con GPUs. Compruebe la página de cuotas para asegurarse de que tiene suficientes GPUs disponibles en su proyecto. Las cuentas de prueba gratuita no reciben la cuota de GPU de forma predeterminada.
•     Las instancias con una o más GPUs tienen un número máximo de vCPUs para cada GPU que se adjunta a la instancia. Por ejemplo, cada GPU NVIDIA® Tesla® K80 le permite tener hasta ocho vCPUs en su tipo de máquina de instancia. Para ver los rangos de vCPU disponibles para diferentes configuraciones de GPU, consulte la lista de GPUs.
•     No puede adjuntar GPUs a instancias con tipos de máquina de cores compartidos.
•     No puede adjuntar las GPUs a instancias preemptibles.
•     Las instancias de GPU no pueden migrar en caliente para situaciones de mantenimiento del host porque la instancia de VM está conectada directamente a un dispositivo de hardware específico. Cuando crea instancias de GPU, debe configurar sus instancias para finalizar para situaciones como los mantenimiento de los host y, opcionalmente, establecer la instancia para reiniciar en un sistema host diferente después de que la instancia de VM termine. Aprenda a manejar situaciones de mantenimiento de host en instancias con GPUs.
•     Las GPU requieren controladores del harware  para funcionar (Drivers) correctamente. Puede utilizar cualquier controlador que desee, pero debe asegurarse de que estos controladores están instalados y configurados correctamente. Por ejemplo, algunos controladores instalan módulos del kernel que debe reconfigurar cada vez que actualice el kernel para su instancia. Puede evitar este problema instalando controladores utilizando el sistema dinámico de soporte de módulos del kernel (DKMS). Para obtener instrucciones sobre cómo instalar controladores para instancias con GPUs, consulte Instalación de controladores de GPU.