Microsoft promete IA accesible: el reto del coste del hardware

La promesa de Microsoft de llevar inteligencia artificial (IA) a cada hogar y escritorio se enfrenta a un desafío significativo: el coste del hardware necesario para ejecutar modelos de IA locales. Durante un evento en San Francisco, el CEO de Microsoft, Sadya Nadella, destacó la visión de una «inteligencia sin límites» accesible para todos, pero la realidad económica de los dispositivos necesarios plantea interrogantes sobre su accesibilidad real.

Las claves

  • Microsoft apuesta por la «inteligencia híbrida» combinando IA local y en la nube.
  • Los «tokens gratis» requieren inversión en hardware costoso como el Surface Laptop Ultra.
  • El coste del hardware puede superar el de suscripciones a servicios de IA en la nube.

Contexto

La inteligencia híbrida es el enfoque de Microsoft para integrar la IA en la vida cotidiana, combinando modelos locales y en la nube. Según Pavan Davuluri, directivo de Microsoft, este modelo permite ejecutar tareas localmente cuando es eficiente y recurrir a la nube cuando es necesario. Esta estrategia busca ofrecer flexibilidad y eficiencia en el uso de recursos de IA.

Durante el evento, se realizó una demostración con GitHub Copilot y un nuevo enrutador inteligente de modelos, mostrando cómo se generan «tokens gratis» mediante modelos locales. Kayla Cinnamon, directiva de Microsoft, explicó que estos tokens tienen un coste mínimo, principalmente el de la energía consumida por el equipo. Sin embargo, para beneficiarse de estos modelos, es imprescindible contar con un hardware potente, como el nuevo Microsoft Surface Laptop Ultra.

El Surface Laptop Ultra, equipado con chips Nvidia RTX Spark, tiene un precio base de 2.599 dólares, lo que supone una inversión inicial significativa. Este coste es comparable a dispositivos como el MacBook Pro, que también ofrece capacidades para modelos de IA locales. La diferencia radica en el soporte nativo de CUDA en los chips de Microsoft, que podría ser un factor decisivo para algunos usuarios.

La lectura desde España

Para las empresas y usuarios en España, la propuesta de Microsoft podría representar una oportunidad para integrar IA de manera más directa en sus operaciones diarias. Sin embargo, el coste del hardware necesario puede ser un obstáculo importante. Las organizaciones deberán evaluar si la inversión en dispositivos compatibles con IA local compensa frente a las suscripciones a servicios en la nube, considerando sus necesidades específicas y el potencial retorno de la inversión.

Fuente: https://www.xataka.com/robotica-e-ia/gran-promesa-ia-local-microsoft-tokens-gratis-realidad-no-gratis-eso-no-importa

Deja un comentario