Hardware
Chips, GPUs y el silicio de abajo
18 artículos en esta sección.
El proyecto MedQA demuestra que AMD ROCm se está convirtiendo en una alternativa viable y accesible al CUDA de Nvidia para el ajuste fino de IA clínica especializada.
El consumo energético de la IA es tan extremo que la infraestructura eléctrica se ha convertido en el principal limitante para el desarrollo de la IA. Y las empresas que resuelvan este problema primero controlarán el cuello de botella que impide a los demás escalar. La intersección entre la IA y la energía no es un proyecto secundario...
Groq ha establecido un nuevo récord de velocidad para la inferencia de IA, y es la primera grieta en el monopolio de NVIDIA. No porque Groq sea mejor que NVIDIA. Porque Groq es diferente, y a veces “diferente” es exactamente lo que necesita el mercado. La LPU de Groq (unidad de procesamiento de tensores) puede procesar grandes la
El retraso en la fabricación de 2nm de TSMC no es un simple desfase de calendario. Es ese tipo de retraso que podría frenar la próxima fase de crecimiento de toda la industria de la IA. TSMC lleva años siendo la empresa de semiconductores más crítica del mundo, y el proceso de 2nm se suponía que sería su mayor logro. El retraso...
La escasez de chips de NVIDIA no se debe al éxito de NVIDIA. Se debe a que el resto de la industria de semiconductores va tan retrasada que no puede alcanzar a una compañía que lleva décadas fabricando GPUs. Cuando el mundo depende de una sola empresa para la computación de IA y esa empresa no puede...
Las empresas tecnológicas más valiosas del mundo tienen entre manos un problema que ninguna cantidad de código puede solucionar: nadie ha construido suficientes centrales eléctricas para alimentar su sueño de IA. Meta acaba de gastar 2.600 millones de dólares en electricidad. Los centros de datos de Amazon están pujando por casi todas las nuevas centrales eléctricas en EE. UU. Micros
Microsoft está apostando todo a Copilot. Word, Excel, PowerPoint, Teams, Windows, GitHub. Está integrado en todas partes. La ambición es clara: Copilot debe ser la capa de IA que recorra cada producto de Microsoft que uses. Pero la ambición no equivale a la ejecución. Copilot aún está averiguando qué quiere ser.
AMD acaba de enviar su chip de IA de nueva generación y parece ser el desafío más creíble al dominio de las GPU de NVIDIA que hemos visto en años. NVIDIA ha estado sentada en su trono durante mucho tiempo. Sus ingresos por centros de datos han crecido tan rápido que casi resulta cómico. Pero el AMD MI350 afirma superar al NVIDIA H100 en pruebas de benchmark mientras cuesta menos. Si el mundo real está de acuerdo, eso queda por ver, pero la simbología importa: alguien está diciendo por fin que no al monopsonio de GPU. ¿Quién impulsa esta competencia? Los grandes proveedores de la nube. Amazon, Google y Microsoft están construyendo sus propios chips de IA y se niegan a depender exclusivamente de NVIDIA. Históricamente, esto es un gran paso. Las implicaciones más amplias: el cómputo de IA se abaratará. Más empresas podrán competir. Y la capa de infraestructura de IA de la que hablamos está empezando a tomar forma.
