NVIDIA Jetson AGX Orin 64GB Kit de desarrollo con Ethernet, USB, puerto de pantalla

Muchas aplicaciones de IA requieren una memoria amplia para ser eficaces. La mayoría comprará en la gama de tarjetas RTX 4090 / 5090 para el escritorio, pero todavía golpeará limitaciones de memoria.Para las necesidades y aplicaciones de servicio pesado que ruta puede ser la mejor, ya que esas rutas tienen el soporte de plataforma más importante y brillará donde esto no lo hace. Esto significa que debe entender las limitaciones de la plataforma Jetson AGX Orin. Es muy capaz, pero construido sobre generaciones más antiguas de arquitectura nVidia. Esto significa que es un poco más lento que las últimas generaciones cuando se trata de las tareas, que debería ser un equilibrio aceptable dada la baja potencia y la naturaleza autónoma del dispositivo. Hay un comportamiento finicky conseguir el …

Un dispositivo muy poderoso. Ideal para proyectos avanzados y aplicaciones de IA.

Realmente buena plataforma para ejecutar LLM's. Cada corredor de IA está optimizado para CUDA y Nvidia, y el rendimiento es realmente bueno.Además, la configuración es bastante fácil; casi todo funciona. La memoria unificada funciona muy bien y puedes ejecutarla sin cabeza o con una interfaz de usuario decente.Solo tienes que decidir si no puedes vivir sin el rendimiento de la AGX Spark.

El artículo llegó exactamente como se describe, nuevo, sellado en fábrica. El embalaje estaba intacto y la unidad se encendió sin problemas. La configuración inicial es sencilla: fácil de conectar a un monitor, teclado y ratón, y se arranca inmediatamente. Dicho esto, tenga en cuenta que este es un dispositivo antiguo. Se envía con firmware y software actualizado por última vez alrededor de 2023, lo que se espera, pero importante saber dada la rapidez con que el ecosistema de IA se mueve. Para usarlo con marcos de IA modernos, necesitará actualizar el firmware iGPU, instalar una versión de Jetson Linux más reciente y reconstruir/instalar controladores y bibliotecas actualizados.Esto no es plug-and-play para cargas de trabajo actuales de IA, pero si está cómodo con Linux y configuración …

Se espera que los equipos de marketing se muevan rápido, personalicen los mensajes y utilicen los datos para tomar mejores decisiones. La mayoría de las herramientas de IA empujan todo a la nube, lo que causa retrasos, mayores costos y preocupaciones sobre la privacidad de los datos.Si trabajas en marketing, esto es frustrante. Tienes buenos datos e ideas fuertes, pero las herramientas no se ajustan a cómo funciona tu equipo, y la IA se siente más complicada que útil.El kit de desarrollo NVIDIA Jetson AGX Orin 64GB nos dio una forma confiable de ejecutar la IA en nuestros propios sistemas. Podemos analizar datos, generar información y apoyar campañas localmente, sin depender de servicios externos o conexiones lentas.En lugar de probar IA en experimentos pequeños, ahora lo usamos como …

Llevo una semana usando esto, y me encanta este dispositivo. Es un poco más lento que una GPU adecuada, pero tener esta cantidad de memoria disponible es lo que lo hace bueno. Sin duda, añadir una unidad NVMe. Los 64 conciertos de almacenamiento desaparecerán rápidamente. Este es un kit de desarrollo, así que espera pasar mucho tiempo aprendiendo el conjunto de herramientas y asegúrate de usar las versiones de antorcha de Nvidea. He podido ejecutar Framepack, ComfyUI (con varios flujos de trabajo), varios LLM y SparkTTS hasta ahora. El único que no tengo trabajando todavía es Riva de uno de los ejemplos de chat de voz.

Este es un sistema de IA muy poderoso. Su configuración fue muy directa hacia adelante y viene equipado con la pila de desarrollo de NVidia AI completa. Se ejecuta Ubuntu 20.04 pre instalado, e incluye Docker. 64gb de memoria principal es más que suficiente. He añadido una SSD de 4TB para almacenamiento adicional. Además de ser un potente sistema de IA, también es una estación de trabajo Linux completamente cargada, y la NVidia GPU le permite ejecutar grandes LLMs. Si usted es serio acerca de involucrarse con el desarrollo de IA de última generación, este sistema es una excelente opción.

Estoy revisando mi revisión original listada a continuación y degradando mi revisión a una estrella. NVIDIA gas finalmente puso a disposición una versión de su software que se envía con Ubuntu 22, pero no es estable. Después de ejecutar controladores de vídeo "actualización de la Apt" para el Orin bloquear los Orin en los reinicios, lo que lo hace inutilizable. Re-imagené mi Orin dos veces y tuve el mismo problema. Este no es un problema nuevo para NVIDIA, como observé los foros para el Oring. Una empresa de la talla de NVIDIA debería ser capaz de enviar software más confiable para su hardware. Hay opciones mucho mejores para $2K a los Orin, no desperdicies tu dinero.Revisión …