Коробочка для локальных LLM
От: Артём Австралия жж
Дата: 09.01.25 21:06
Оценка:
HP Z2 Mini G1a
https://www.hp.com/us-en/workstations/z2-mini-a.html

Наверное, будет стоить неприлично дорого как workstation.

Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X

128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.

Круто же?
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.