Dator för Machine Learning/AI, Excel, och lättare gaming med budget 20-25k.

Permalänk
Medlem

Dator för Machine Learning/AI, Excel, och lättare gaming med budget 20-25k.

Hej!

Den enda komponentpreferensen jag har är Fractal Design North Vit TG, och som rubriken lyder är jag ute efter en dator med följande användingsområden:

Machine Learning/AI

  • Machine learning för tidsserier

  • LLMs

  • Computer Vision

  • Allmän Deep-Learning

Vid behov av tung träning tänker jag hyra beräkningstid istället.

Excel

  • Finansiell modellering med flera stora ark öppna samtidigt

Lättare gaming

  • Äldre spel så som Age of Empires 3 Definitive Edition

I övrigt, är det en rimlig budget för de ändamålen jag beskriver, eller bör jag utöka min budget?

stavfel
Permalänk
Medlem

Allt jag har att säga är Nvidia grafikkort med så mycket minne som budget tillåter. Undvik amd för stödet är inte i närheten lika bra (antar att du kommer använda pytorch, tensorflow o liknande).

Visa signatur

Processor: Motorola 68000 | Klockfrekvens: 7,09 Mhz (PAL) | Minne: 256 kB ROM / 512 kB RAM | Bussbredd: 24 bit | Joystick: Tac2 | Operativsystem: Amiga OS 1.3

Permalänk
Medlem

Nvidia är det som gäller gör de mesta inom generativ AI. För LLMs så vill du ha så mycket VRAM som möjligt. Många Ai entusiaster kör 4090/3090 som har 24gb vram. Ett av de korten kommer äta hela din budget dock.

Steget under är 4080 super eller 4070 ti super, vilka båda har 16gb VRAM. Det senare har fått bra rescensioner och kan fås från 10400kr.

Mitt tips är att undersöka vad VRAM kraven/performance är för de specifika modeller du vill använda och gå efter det.

Kör själv mycket stable diffusion, uppgraderade från 2060 super till 4080 för ett halvår sen och är väldigt nöjd.

Permalänk
Medlem

Tack skall ni ha för svaren.
Hur hade detta stått sig tror ni?

Borde jag sikta på 16gb VRAM istället?

Permalänk
Medlem
Skrivet av Zting93:

Tack skall ni ha för svaren.
Hur hade detta stått sig tror ni?
https://komponentkoll.se/bild/RcLrd.png

Borde jag sikta på 16gb VRAM istället?

Mer VRAM är bättre, men beror lite på vilka krav du har. Jag har lekt lite med att generera bilder exempelvis och man blir ganska snabbt begränsad i hur många pixlar man kan generera åt gången pga VRAM. Tar inte lång tid för mitt gamla 1660 Ti att tugga igenom själva genereringen men mina 6 GB minne slukar den i sig oerhört snabbt. Vill du vara på den säkra sidan och lite framtidssäker så kasta in så mycket VRAM som möjligt.

Men det blir ju en avvägning jämtemot kostnaden och behoven såklart.

Permalänk
Medlem
Skrivet av Zting93:

Tack skall ni ha för svaren.
Hur hade detta stått sig tror ni?
https://komponentkoll.se/bild/RcLrd.png

Borde jag sikta på 16gb VRAM istället?

Köp en (andrahands) 3090 istället, du vill ha så mycket VRAM som möjligt.

Permalänk
Medlem

Något i denna stil kanske?

Permalänk
Medlem

Tycker de ser helt ok ut, för t.ex stable diffusion så kommer det räcka ganska långt.
Men det beror helt på vilka LLMs du tänkt köra.
För träning så är det extra viktigt med mycket vram. Efter en snabb googling så de verkar ha gjorts framsteg på den punkten den senaste tiden, och man kan i vissa fall komma undan med så lite som 8gb.

För träning via LoRas så kommer det där säkert att funka bra. Vid tung träning, så precis som du säger, bättre att hyra beräkningstid.

Så för dina behov: AI/vardagsanvändning/gaming så tycker jag det ser ut som ett vettigt bygge. 16gb vram tycker jag absolut du ska sikta på iaf.

Permalänk
Medlem

Tack skall ni ha för svar, jag kommer sikta på minst 16gb VRAM. Skall också ta ditt råd @n0kturnal och gå igenom mina användningsområden mer i detalj och se exakt vilka krav jag behöver tillgodose. Kanske blir så att jag utökar budget en del.