Mostrando entradas con la etiqueta nvidia. Mostrar todas las entradas
Mostrando entradas con la etiqueta nvidia. Mostrar todas las entradas

sábado, 26 de octubre de 2024

nuevo estándar de alta velocidad y baja latencia para sistemas IA enlazados en Data Centers

Se ha formado un grupo de grandes empresas tecnológicas para desarrollar un nuevo estándar de comunicación de alta velocidad y baja latencia para sistemas de Inteligencia Artificial (IA) enlazados en centros de datos. El consorcio creará el estándar Ultra Accelerator Link (UALink) e incluirá a AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta y Microsoft. Es en respuesta al dominio de NVidia.


El objetivo del consorcio UALink es definir y establecer una norma abierta para que los aceleradores de IA se comuniquen con mayor eficacia. UALink permitirá a los OEM, los profesionales informáticos y los integradores de sistemas disponer de un camino más fácil hacia la integración, más flexibilidad y escalabilidad en los centros de datos que operen con soluciones de IA.

El grupo desarrollará una especificación para definir interconexiones de alta velocidad y baja latencia para una comunicación escalable entre aceleradores y conmutadores en clusters de computación de IA.

El objetivo de UALink en su especificación 1.0, que debería estar disponible en el tercer trimestre de 2024, es interconectar hasta 1.024 aceleradores en un pod de computación de IA. Tendrá que competir con NVLink de NVidia que, muy probablemente por este motivo, no forma parte de la nueva asociación.

La primera gran diferencia entre UALink y NVlink es el enfoque de norma abierta del primero, que contrasta con la naturaleza propietaria del segundo. 

El propósito de UALink, al ser abierto, es estimular la colaboración y el desarrollo conjunto en la industria, acelerando los avances en el hardware de IA de múltiples proveedores.

Fuente;  Network King

miércoles, 19 de junio de 2024

NVIDIA logra máxima valorización bursatil - Junio 2024

 NVIDIA diseñador de semiconductores se convirtió el 18 junio 2024 en la mayor capitalización bursátil del mundo, superando a Apple y Microsoft, un símbolo de la fiebre por la inteligencia artificial 

 

La valorización de NVIDIA (California) alcanzó 3,352 billones de dólares, según un cálculo de la AFP. De todos modos, Nvidia aún no alcanza el récord absoluto al que llegó Apple el lunes, en 3,376 billones de dólares.

Desde que se lanzó el ChatGPT, el robot conversacional de OpenAI en noviembre de 2022, el precio de Nvidia se multiplicó por ocho, gracias a la popularidad de sus potentes microchips.

El producto estrella de Nvidia, el H100, es de lejos el microchip más demandado del sector y vale varias decenas de miles de dólares por unidad.  ChatGPT requiere unos 30.000 GPU para funcionar.

Google, para la informática a distancia o "cloud" es un gran consumidor de los procesadores de Nvidia, al igual que Amazon y Microsoft.

En 1993, Jen-Hsun Huang, quien hoy se hace llamar Jensen Huang, fundó con dos socios Nvidia, primera empresa completamente dedicada a las tarjetas gráficas, apuntando al mercado de los videojuegos.

Nvidia lanzó su primera GPU en 1999, con el boom de internet, y desarrolló productos para "data centers", infraestructuras deslocalizadas que permiten a una empresa conseguir una potencia de tratamiento de datos reservada hasta entonces a investigadores o grandes firmas tecnológicas.

Los dos principales rivales de Nvidia en el mercado de tarjetas gráficas son dos empresas estadounidenses: AMD (Advanced Micro Devices) e Intel.

 Nvidia produjo 88% de los GPU autónomos entregados en el mundo en el primer trimestre de 2024.

Nvidia concibe sus procesadores, pero no los fabrica en un sitio propio, al igual que hacen AMD o Apple. La mayor parte de sus productos son fabricados por Taiwan Semiconductor Manufacturing Company, o TSMC, referencia mundial en este sector.




Fuente:


ANTECEDENTES


 2021: NVIDIA presentó su 1ra supercomputadora cloud para Inteligencia Artificial (IA) 

NVIDIA presentó la primera supercomputadora de Inteligencia Artificial (IA) de clientes múltiples y nativa de cloud: la NVIDIA DGX SuperPOD™ de próxima generación cuenta con las DPU NVIDIA BlueField®-2.

Al potenciar la DGX SuperPOD con las DPU BlueField-2 (unidades de procesamiento de datos que descargan, aceleran y aíslan los datos de los usuarios), es posible proporcionar a los clientes conexiones seguras a su infraestructura de IA.

La empresa también presentó  NVIDIA Base Command™, que permite que múltiples usuarios y equipos de TI accedan, compartan y operen de forma segura su infraestructura DGX SuperPOD. Base Command coordina las operaciones y el entrenamiento de IA en la infraestructura DGX SuperPOD para permitir el trabajo de equipos de científicos y desarrolladores de datos ubicados en todo el mundo.

“La IA es la tecnología más poderosa que el mundo haya conocido y los sistemas NVIDIA DGX son la herramienta más eficaz para aprovecharla”, dijo Charlie Boyle, vicepresidente y gerente general de sistemas DGX de NVIDIA. “La nueva DGX SuperPOD, que combina varios sistemas DGX, proporciona un data center de IA listo para usar, que se puede compartir de forma segura entre equipos enteros de investigadores y desarrolladores”.

Avanzar en la IA con DGX SuperPOD

Las DGX SuperPOD son supercomputadoras de IA con 20 sistemas NVIDIA DGX A100™ o más y redes NVIDIA InfiniBand HDR. Algunas de las empresas más recientes que implementan DGX SuperPOD para impulsar nuevas soluciones y servicios de IA:

Sony Group Corporation está utilizando DGX SuperPOD para permitir que su equipo de investigación y desarrollo corporativo infunda la IA en toda la empresa.

NAVER, una empresa líder en tecnología de Internet en Corea y Japón, está entrenando modelos gigantes de lenguaje de IA a escala en DGX SuperPOD para ser pioneros en nuevos servicios en aplicaciones de comercio electrónico, búsqueda, entretenimiento y pago.

Recursion, una empresa de biología digital que trabaja para industrializar el descubrimiento de fármacos, está utilizando DGX SuperPOD para acelerar sus modelos de deep learning y potenciar su creciente fuerza laboral de expertos en machine learning.

MTS, la empresa de telecomunicaciones más grande de Rusia, está utilizando su DGX SuperPOD como base para su crear infraestructura de desarrollo preparada para IA y nuevas ofertas de servicios de cloud público, así como para integrar la IA y la ciencia de datos en todos sus departamentos.

VinAI está usando su DGX SuperPOD, que será la supercomputadora de IA más rápida de Vietnam, para acelerar las iniciativas de IA que incluyen vehículos autónomos, atención médica y servicios al consumidor en el sudeste asiático y todo el mundo.

Además, NVIDIA y Schrödinger anunciaron hoy por separado una asociación estratégica diseñada para aprovechar las DGX SuperPOD y acelerar aún más el descubrimiento de fármacos a escala de supercomputación. Su solución desarrollada conjuntamente puede permitir a las empresas farmacéuticas y de biotecnología de todos los tamaños simular combinaciones moleculares con la física y la IA para identificar y optimizar los compuestos más prometedores para un posible uso terapéutico.

IA Segura y Nativa de Cloud a Escala

NVIDIA diseñó la nueva DGX SuperPOD para satisfacer los crecientes requisitos de seguridad y escalabilidad de los clientes a medida que se amplía la adopción de la IA. Cada vez más, los departamentos de TI empresariales necesitan respaldar el trabajo de varios equipos en diferentes ubicaciones, mientras que las instituciones académicas y de investigación a menudo otorgan a organizaciones externas acceso a sus recursos de computación.

Las DPU BlueField-2 descargan, aceleran y aíslan a los usuarios y sus datos, lo que permite a las organizaciones proporcionar de manera segura acceso al cloud privado para su infraestructura de DGX SuperPOD con seguridad que abarca el tráfico de usuarios, firewalls y acceso de múltiples clientes al almacenamiento. DDN es el primer socio de almacenamiento de NVIDIA certificado para admitir la DGX SuperPOD de próxima generación con BlueField-2.

NVIDIA Base Command permite a los equipos de desarrolladores de IA y científicos de datos aprovisionar y programar cargas de trabajo sin problemas en la infraestructura DGX, desde la creación de prototipos hasta la producción.

Para respaldar el proceso iterativo de crear y perfeccionar modelos de IA, Base Command proporciona telemetría incorporada para que los usuarios validen técnicas de deep learning, configuraciones de carga de trabajo y asignaciones de recursos para mejorar constantemente los resultados.


La Nueva Suscripción a DGX Station A100 Hace que la IA Sea Más Accesible

NVIDIA también presentó una oferta de suscripción disponible para NVIDIA DGX Station A100, el único dispositivo de grupo de trabajo del mundo en un factor de forma de oficina que admite la tecnología de Múltiples instancias de GPU de NVIDIA.

El nuevo programa de suscripción facilita que las empresas en cada etapa de crecimiento aceleren el desarrollo de la inteligencia artificial fuera del data center para los equipos que trabajan en oficinas corporativas, instalaciones de investigación, laboratorios y oficinas en el hogar.

Con cuatro GPU NVIDIA A100 de 80 GB, DGX Station A100 ofrece una velocidad 3 veces mayor en comparación con su predecesor para cargas de trabajo de IA complejas, como el procesamiento de idiomas naturales. Hasta 28 científicos de datos pueden compartir una DGX Station A100 simultáneamente, lo que permite a las empresas acelerar el desarrollo de la inteligencia artificial y ahorrar hasta 700,000 dólares en comparación con los servidores de data centers.

Disponibilidad

Las NVIDIA DGX SuperPOD nativas de cloud y de clientes múltiples estarán disponibles en el segundo trimestre de 2021 a través de los socios globales de NVIDIA, que pueden proporcionar precios a los clientes calificados que los soliciten.

NVIDIA Base Command también estará disponible a partir del segundo trimestre.

Las suscripciones para NVIDIA DGX Station A100 están disponibles a partir de un precio de lista de $9,000 por mes.


 2021: NVIDIA por medio de GauGAN que utiliza Deep Learning, convierten 𝘨𝘢𝘳𝘢𝘣𝘢𝘵𝘰𝘴 en escenas realistas utilizando redes generativas de confrontación (GAN)

En resumen y para todos los públicos: Tomas un pincel inteligente, "dibujas" un mar o una montaña y el algoritmo lo convierte en una imagen realista. 


SET-2020:  Nvidia cerró un acuerdo para adquirir Arm, la empresa de chips de SoftBank, creando así al mayor diseñador de procesadores que buscará explotar las oportunidades de la Inteligencia Artificial (IA).



Nvidia pagará 40 mil millones de dólares por ARM, de los cuales 21.5 mil millones los abonará por medio de acciones; 12 mil millones, en efectivo; 5 mil millones adicionales en acciones o efectivo si las operaciones de Arm cumple con ciertas metas; e igual se darán 1.5 mil millones a los empleados de Arm en acciones de Nvidia. Esto significa que SoftBank se convertirá en accionista de Nvidia.

Los chips diseñados por Arm se utilizan en gran parte de los dispositivos móviles del mundo, y están presentes en alrededor de mil millones de teléfonos inteligentes vendidos al año, incluidos los equipos de firmas como Apple o Samsung.

el Director Ejecutivo de Nvidia, Jensen Huang, dijo que la combinación de la tecnología de IA de Nvidia y el alcance de la CPU de Arm permitirá aprovechar oportunidades de negocio en computación en la nube, teléfonos inteligentes, PC, vehículos autónomos, robótica, 5G e Internet de las cosas.

Huang afirmó que Arm mantendrá “su modelo de licencia abierta y neutralidad con el cliente”. Aunque hasta ahora la compañía se ha caracterizado por ser independiente y no competir directamente con sus clientes, la transacción podría replantear el escenario.

Nvidia anunció que construirá un Centro de Investigación en Inteligencia Artificial, en Cambridge, el cual será hogar de una supercomputadora de IA de última generación con CPU de Arm. Asimismo, la firma busca que sea un “hub europeo para colaborar con universidades, socios industriales y nuevas empresas”




jueves, 29 de junio de 2023

Los cables ópticos activos

 El uso cada vez más frecuente de los  cables ópticos activos (Active Optical Cable - AOC) en los data centers es una tendencia

El cable óptico activo (AOC) es una tecnología de cableado que acepta las mismas entradas eléctricas que un cable de cobre tradicional, pero utiliza fibra óptica “entre los conectores”. Cable AOC utiliza la conversión eléctrica a óptica en los extremos del cable para mejorar la velocidad y el rendimiento a distancia del cable sin sacrificar la compatibilidad con las interfaces eléctricas estándar.

Una imagen vale más que mil palabras. Veamos un producto AOC. La siguiente imagen muestra un conjunto de cable óptico activo QSFP + de 40 Gb / s de marca Arpers.



El ensamblaje del cable óptico activo (AOC) en realidad se compone de 4 partes funcionales:

– El “Conector QSFP + de alta densidad”. Este es el conector electrónico SFF-8436 que se puede conectar a un router o switch.

– El “Transceptor de cable óptico activo dúplex completo de 4 canales”. Este transceiver óptico está incrustado dentro de la carcasa para que no pueda verlo. Esta parte del transceiver óptico es responsable de la conversión de opto-electro (O-E) y electro-opto (E-O).

– El conector óptico MPO (la parte negra). Este conector está permanentemente conectado a la carcasa y la fibra. Este accesorio permanente protege la interfaz óptica del usuario final y también de los contaminantes ambientales.

– El cable de fibra óptica de cinta (esta imagen muestra una fibra de modo único de chaqueta amarilla, pero también hay disponibles modelos de fibra multi-modo).

El producto de arriba tiene cuatro transceptores de fibra óptica mono-modo por extremo, cada uno operando a velocidades de datos de 1 a 10.3125 Gb/s y soportando un alcance de hasta 4.000 metros. Este cable óptico activo es eléctricamente compatible con la interfaz SFP+ y admite InfiniBand, Ethernet, Fibre Channel, Myrinet y otros protocolos.

Realmente, la idea básica de AOC es integrar los componentes del transceiver óptico activo en el conector electrónico en lugar de usar un transceptor óptico separado y un cable de fibra conectable, (dado que el cable está conectado permanentemente).

 

INVENCIÓN

Los conjuntos de cables ópticos activos (AOC) se inventaron para reemplazar la tecnología de cobre en centros de datos y aplicaciones de computación de alto rendimiento (HPC).

El primer controlador fue de la tecnología InfiniBand. A medida que las tasas de datos de InfiniBand aumentan y los clusters de centros de datos aumentan de tamaño, la tecnología del cable de cobre se estira hasta sus límites. InfiniBand Doble velocidad de datos (DDR) de 20 Gigabits por segundo (Gbps) significa que el cable de cobre convencional está limitado a un alcance de 8 a 10 metros.

Esto puede estar bien para los clústers pequeños, pero para los más grandes, esta distancia de enlace físico hace que el diseño físico del clúster se convierta en un verdadero desafío. Debido a las limitaciones de ancho de banda inherentes a los conjuntos de cables de cobre de alta velocidad, no es raro que los diseñadores incorporen amplificadores, regeneradores de señales o dispositivos similares dentro de un conjunto de cables.

El cable de cobre es pesado y voluminoso, lo que dificulta la administración física de los centros de datos. Y debido a la naturaleza de las señales eléctricas, la interferencia electromagnética (EMI) limita el rendimiento y la confiabilidad del cobre. Si tiene un clúster de alto rendimiento escalado, estos problemas realmente se suman.

Así que esa fue la razón por la cual Intel y Luxtera inventaron conjuntos de cables ópticos activos para llenar el vacío.

VENTAJAS

El conjunto de cable óptico activo tiene muchas ventajas potenciales. Si el equipo de red está diseñado adecuadamente, es posible tener un puerto eléctrico común que pueda aceptar cable de cobre pasivo o cable de cobre activo, lo que permite al usuario seleccionar la tecnología y el gasto apropiados con una fácil reconfiguración.

El conector óptico puede ser un elemento caro y de precisión (particularmente para enlaces ópticos paralelos) debido a tolerancias de fabricación ajustadas. Esto se elimina al unir permanentemente las fibras a la óptica.

Los principales beneficios de los conjuntos de cables ópticos activos (AOC):

– Mayor alcance y mayor ancho de banda

– Transporte seguro y confiable

– Exposición limitada a EMI / RFI

– Baja tasa de errores de bits (BER) – 10-15

– Tamaño más pequeño y menor peso en comparación con los cables de cobre


Jugadores clave 

Amphenol Corporation

ATEN INTERNATIONAL Co., Ltd.

Black Box

Broadcom Inc.

Cisco System Inc.

Coherent Corp.

Cosemi Technologies Inc.

Hitachi Cable Ltd.

Jabil Inc.

Japan Aviation Electronics Industry, Ltd.

Koincable

Nitto Denko Corporation

NVIDIA Corporation

Pure Fi

Shenzhen City Euroway Technology Co, Ltd

Siemon

Sumitomo Electric Industries, Ltd.

Tyco Electronics (TE Connectivity Ltd.)