Les puces ASIC révolutionnaires d’Etched, conçues spécifiquement pour l’IA, offrent des avantages significatifs par rapport aux GPU traditionnels. La première puce ASIC Transformer, Sohu, est particulièrement remarquable avec ses spécifications avancées, telles que l’architecture de transformer gravée dans le silicium et 144 GB HBM3E par puce, offrant des performances supérieures et une meilleure gestion énergétique. Cette innovation permet des applications variées comme les agents vocaux en temps réel et le décodage spéculatif multicast, favorisant des économies de coûts et une efficacité accrue pour les entreprises.
Qu’est-ce qu’un ASIC et pourquoi est-ce révolutionnaire pour l’IA ?
Les ASIC, ou circuits intégrés spécifiques à une application, surpassent les GPU traditionnels en termes de vitesse, d’efficacité énergétique et de coûts. Ils sont conçus pour des tâches spécifiques, rendant leur utilisation pour l’IA particulièrement efficace.
Présentation de Sohu, le premier ASIC Transformer d’Etched
La puce Sohu se distingue par son architecture de transformer directement gravée dans le silicium. Comparée aux GPU NVIDIA, elle offre des performances équivalentes à plusieurs GPU (par exemple, 8xH100, 8xGB200). Avec ses 144 GB HBM3E par puce, Sohu est extensible à des modèles de 100T paramètres.
Applications pratiques des ASIC d’Etched
Les puces d’Etched sont idéales pour des agents vocaux en temps réel, la recherche d’arbre pour le codage, le décodage spéculatif multicast et les modèles de paramètre de trillion. Ces applications montrent la flexibilité et l’efficacité des ASIC pour des tâches spécifiques.
Avantages compétitifs des puces Sohu
Sohu offre un logiciel open-source entièrement intégré, réduisant les coûts pour les entreprises et améliorant la gestion des modèles de grande taille, comme les MoE et les variantes transformer.
Cas d’utilisation et retours d’expérience
Plusieurs projets et entreprises utilisent déjà les puces Sohu, avec des témoignages positifs sur leurs performances et économies réalisées.
Les ASIC d’Etched représentent une avancée significative pour l’industrie de l’IA, offrant des performances supérieures et une meilleure gestion énergétique, ouvrant la voie à des innovations futures dans le traitement de l’IA.
