Una de las mejores maneras de reducir su vulnerabilidad al robo de datos o las invasiones de privacidad cuando se usa la inteligencia artificial del modelo de lenguaje o el aprendizaje automático es ejecutar el modelo localmente. Dependiendo del modelo que elija ejecutar, ni siquiera necesita el sistema más poderoso del mundo, aunque sí ayuda.
Aquí le mostramos cómo crear una PC para cargas de trabajo de AI y aprendizaje automático, para que pueda mantener sus datos seguros y privados, y asegurarse de que la IA siempre esté lista y lo espere.
Videos recomendados
¿Qué necesita una PC AI?
Las PC AI no son drásticamente diferentes a las PC de alta potencia para diferentes tareas, aunque tienen algunos requisitos ligeramente extravagantes que significan que construir un sistema en mente es ligeramente diferente para construir una potente PC para juegos.
Aunque muchos de los principales fabricantes de CPU han hablado mucho en el último año sobre los procesadores neuronales y cuán eficientes pueden ser, solo tienden a ofrecer unos 10s de Tops (billones de operaciones por segundo). Eso puede parecer mucho, hasta que descubras que un NVIDIA RTX 4090 puede entregar más de 1,300 tops.
En resumen, para las cargas de trabajo de IA, la CPU es mucho menos importante. Si bien un procesador rápido siempre es útil y tener muchos núcleos acelerará absolutamente sus cargas de trabajo de aprendizaje automático y asegurará que el sistema permanezca funcional incluso cuando trabaje duro, la potencia real proviene de la tarjeta gráfica.
Así que estamos buscando una GPU poderosa, preferiblemente con mucha memoria de video, mucha memoria del sistema cuando eso no es suficiente y un almacenamiento local expansivo y rápido. Eso también significa que necesitamos una placa base de alta gama. Si bien eso no nos dará ningún rendimiento de IA adicional por derecho propio, una placa base de primer nivel garantiza una potencia suave para la CPU y la GPU, así como para agregar soporte para múltiples tarjetas gráficas si realmente desea acelerar sus tareas de aprendizaje automático, o correr más de uno en paralelo.
Fuera de eso, puede ponerlo en cualquier caso que desee, con una gran fuente de alimentación y un buen enfriamiento para mantener el sistema funcionando sin sobrecalentamiento y estrangulamiento. Algunos buenos a los haves pueden incluir una alta eficiencia a través de un menor atractivo de potencia para mantener bajos los costos de funcionamiento, pero eso se mueve contrario a nuestras elecciones de GPU de alta gama. También consideraremos actualización en el futuro.
UPC
Por lo general, la CPU es el corazón de una PC, ya sea que se use para juegos, trabajo de oficina, transmisión o edición de video. Pero si bien todavía juega un papel en nuestro aprendizaje automático, AI PC, no es el linchpin.
Aún así, desea uno moderno con muchos núcleos y preferiblemente un sendero de actualización fuerte para el futuro también. Con ese fin, recomendamos el AMD Ryzen 9950X. Es una de las últimas CPU de AMD con 16 núcleos y soporte para 32 hilos. También es una potencia relativamente baja para una CPU de tan alta gama, y le dará mucho margen para ejecutar sus propios modelos de idiomas grandes, o simplemente apoyar el sistema que los está entrenando en una monstruosa GPU.
Si desea una alternativa más asequible, el 7950X de última generación sigue siendo mucho capaz y alrededor de $ 100 más barato y aún ofrece un excelente rendimiento. Si eres más un fanático de Intel, considere el Core Ultra 9 285K o Core Ultra 7 265K, tienen un montón de núcleos y una eficiencia impresionante, así como a su propio procesador neural a bordo.
Placa madre
La placa base rara vez es el componente más emocionante en cualquier PC de compilación personalizada, pero con una computadora de IA y aprendizaje automático juega un papel más importante de lo que piensas. Desea algo con VRMS fuertes y estables para manejar toda la potencia con la que lidiará este sistema. Idealmente, desea soporte PCIEXPress 5 para el almacenamiento más rápido, y el soporte de múltiples tarjetas gráficas no duele si desea duplicar sus GPU de entrenamiento.
O simplemente puedes obtener cualquier placa base vieja porque probablemente lo hará. Estoy siendo gracioso, porque ¿quién quiere gastar cerca de $ 1,000 en una placa base? Pero, en última instancia, cualquier cosa fuera de los modelos de sótano de Bargain probablemente sea suficiente, solo asegúrese de que tenga las características que desea para su tipo de presupuesto.
También asegúrese de obtener uno que coincida con su CPU. En caso de duda, verifique dos veces antes de comprar.
Tarjeta gráfica
Si va a hundir su presupuesto en cualquier componente en su IA y PC de aprendizaje automático, conviértelo en la tarjeta gráfica. Cuando está entrenando modelos de idiomas grandes, o incluso solo ejecutando grandes y complicados, necesita una poderosa tarjeta gráfica. Tienen el VRAM para almacenar el modelo en la tarjeta en sí, y los miles de núcleos de procesamiento paralelos para ejecutarlo.
Si no tiene mucho presupuesto de sobra, busque una tarjeta como la NVIDIA RTX 3060 12GB: puede obtenerla por alrededor de $ 300 al momento de escribir. Sin embargo, si realmente desea impulsar su entrenamiento de IA o ejecutar algunos de los modelos más avanzados y exigentes, entonces cuanto más alto pueda ir, mejor. El RTX 5090 es la mejor tarjeta gráfica del mundo en este momento, pero es muy difícil conseguirlo.
Las alternativas de última generación tampoco son tan fáciles de encontrar, por lo que es posible que deba esperar un poco. Lo mejor que pudimos encontrar al momento de escribir fue un RTX 3090 renovado por $ 1500, o un 4070 Ti Super con 16 GB de VRAM.
¿Qué pasa con AMD? Desafortunadamente, aunque los aceleradores de IA de AMD son excelentes para los juegos, simplemente no compiten con Cuda y núcleos de tensor por tareas de IA todavía. Tal vez eso cambie, pero por ahora si desea crear una PC AI, las GPU de NVIDIA son la mejor opción.
Memoria
Puede minimizar el rendimiento con la memoria, pero no va a marcar una gran diferencia en una PC AI. Lo mejor que puede hacer es asegurarse de tener mucha memoria rápida y no pensar demasiado, a menos que le guste el overclocking.
Tómate un kit de 64 GB de memoria de 6400 MHz de un fabricante importante como Corsair, Kingston, G-Skill, Patriot o TeamGroup. Cualquier cosa más rápido y tienes que comenzar a incursionar en ajustes de configuración para aprovecharlo al máximo. Es mejor asegurarse de tener suficiente.
Almacenamiento
Mucho almacenamiento rápido es útil para las AI y las PC de aprendizaje automático para que puedan manejar todos los datos de entrenamiento que va a lanzar. Afortunadamente, el almacenamiento moderno es más rápido y más barato que nunca, por lo que puede obtener varios terabytes de almacenamiento PCIe 5 SSD por unos pocos cientos de dólares.
Cualquiera de los principales SSD de marca hará aquí, pero al igual que con la memoria, solo asegúrese de tener mucho.
Fuerza
Las fuentes de alimentación son un área en la que no desea intentar SKRIMP y ahorrar. Una buena fuente de alimentación se asegura de que su PC de IA completa y costosa se mantenga saludable a largo plazo. Obtenga una fuente de alimentación de 1.200W + titanio o platino de una de las principales marcas de PSU y tendrá una opción sólida. ¡Evga, Corsair, estacional, FSP, Thermaltake, Enermax, Superflower o Bequiet! son excelentes opciones.
Ponlo todo junto
Si agarras todo el hardware anterior pero quieres algunos consejos sobre cómo construir realmente la cosa, te tenemos cubierto. Una vez que esté hecho (o que haya hecho que alguien más lo construya para usted) estará en funcionamiento con una IA y una PC de aprendizaje automático súper potente y súper capaz.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
