Хороший аппарат, но стоит как машина. Вот, навеяло:
"Эра персональных компьютеров закончена" — говорили они. "Теперь все решает смартфон" — говорили они людям, листающим картинки котиков сидя в туалете. "Все в аппстор!" — говорили они.
Как показало будущее, подобные заявления оказались не более, чем введением в заблуждение и манипуляциями. Только тот, кто владеет средствами производства, владеет миром — более чем столетняя аксиома была подтверждена еще раз.
pva>О! Поздравляю, красавчик! ))) Аппарат — огонь! GЗ>Поздравляю! Для себя или на контору? A>Хороший аппарат, но стоит как машина. Вот, навеяло:
Спасибо за поздравления, признателен всем =)
Видяха действительно офигенная. Брал себе домой, за свои.
Что касается цены -- да сумма приличная, но.. оно того стоит, однозначно.
Я спустя много лет получаю от экспериментов с нейронками такой же кайф, какой был у меня в 15 лет при появлении первого компа.
Здравствуйте, spb5030, Вы писали:
S>Я спустя много лет получаю от экспериментов с нейронками такой же кайф, какой был у меня в 15 лет при появлении первого компа.
Подтверждаю, аналогичный опыт. Особенно приятно решать задачи на своем железе, когда есть уверенность что какой-нибудь капиталист уже не встроит в следующее обновление модели очередную повесточку и не выдернет ковер из под ног.
Здравствуйте, spb5030, Вы писали:
S>Спасибо за поздравления, признателен всем =) S>Видяха действительно офигенная. Брал себе домой, за свои. S>Что касается цены -- да сумма приличная, но.. оно того стоит, однозначно. S>Я спустя много лет получаю от экспериментов с нейронками такой же кайф, какой был у меня в 15 лет при появлении первого компа.
А какого рода эксперименты? Есть интересные проекты, которыми можете похвастаться?
И как оно по перформансу, с такой видяхой обучать сеть лучше, чем на всяких google collab gpu?
Здравствуйте, opfor, Вы писали:
O>А какого рода эксперименты? Есть интересные проекты, которыми можете похвастаться? O>И как оно по перформансу, с такой видяхой обучать сеть лучше, чем на всяких google collab gpu?
Я не автор темы, но могу поделится: используя готовые модели наподобие QWEN, можно закрыть множество задач. От привычного кодирования, до обработки потоковых данных, анализа рисков. Всё это можно делать и без AI, но с ним выходит в десятки раз быстрее, плюс качество решений получается выше поскольку программа пишется на натуральном языке и поэтому её проще менять и детализировать, быстрее доводя до требуемой степени совершенства.
Приведу пример задачи, которая меня досаждала много лет. Как и некоторые здешние обитатели, продается ПО собственной разработки. Так вот, когда ПО покупают, часть заказов гарантировано оказывается поддельными — оплачиваются украденными картами, подставными лицами. Когда приходит время, такие транзакцию приходится реверсировать, что ведет за собой финансовые и временные потери. На сленге шароварщиков это называется "фрауд".
Чтобы не терять деньги и время, такие заказы желательно заворачивать в момент осуществления. Для этого нужно анализировать данные и параметры клиента, делая статистическое сопостановление с известными типажами и ситуациями характерными для электронной коммерции и конкретного продаваемого продукта.
Так вот, модели Qwen3.5 9B работающей на видеокарте среднего эшелона вполне хватает на решение этой задачи в режиме реального времени. Это работает лучше обычного алгоритма, который использовался ранее, поскольку нейронка обладает богатыми жизненными знаниями, которые она тонко вплетает в принимаемое решение. Результат получается на уровне хорошего специалиста-аналитика, с той разницей что затраты на нейронку в этом случае значительно ниже затрат на соотв. работника.
Здравствуйте, Aquilaware, Вы писали:
A>Чтобы не терять деньги и время, такие заказы желательно заворачивать в момент осуществления. Для этого нужно анализировать данные и параметры клиента, делая статистическое сопостановление с известными типажами и ситуациями характерными для электронной коммерции и конкретного продаваемого продукта.
Это как?
У нас есть страна, имя, почтовый адрес, телефон, имейл, номера карты нет.
Если имя не Devil Hell, а почтовый адрес реальный или похож на реальный а телефон соответствует стране, то чем нейронка может помочь?
Здравствуйте, spb5030, Вы писали:
S>Я спустя много лет получаю от экспериментов с нейронками такой же кайф, какой был у меня в 15 лет при появлении первого компа.
Потом попробуй замкнуть цепь с пиковым током в 1 кА за 500 нс — тоже массу интересных ощущений получишь. Я в прошлом году начал — до сих пор замыкаю. Сейчас вот "гайки" с ППГ из чипа и дипа жду. Да, я дошёл до ручки — начал закупаться в чипе и дипе: перерыл весь российский али-экспресс, написал пяти продавцами — никто мне не хочет нужные "гайки" продать.
Можешь у своей нейронки спросить, что за "гайки" и зачем они.
Всё сказанное выше — личное мнение, если не указано обратное.
Здравствуйте, Aquilaware, Вы писали:
A>"Эра персональных компьютеров закончена" — говорили они. "Теперь все решает смартфон" — говорили они людям, листающим картинки котиков сидя в туалете. "Все в аппстор!" — говорили они.
Так это же про бытовой сегмент, про конечных пользователей. Сервера — это совсем другой сегмент и они никогда не пересекались с персональными компьютерами.
То что чел. купил — это никакого отношения к домашнему компьютеру не имеет — это уже промышленный сегмент.
A>Как показало будущее, подобные заявления оказались не более, чем введением в заблуждение и манипуляциями. Только тот, кто владеет средствами производства, владеет миром — более чем столетняя аксиома была подтверждена еще раз.
Как раз все как и говорили — многие люди отказались от владения ПК, т.к. по сути он дома не нужен — все есть в телевизоре или в телефоне.
Здравствуйте, Shmj, Вы писали:
S>Так это же про бытовой сегмент
Перекручивание фактов. Аппстор — это промышленная площадка, которая навязывалась именно производителям ПО (которые находятся в промышленном сегменте).
S>Как раз все как и говорили — многие люди отказались от владения ПК
Подмена понятий. У этой группы людей никогда не было ПК изначально. Да и не нужны им ПК, потому что они ничего не производят.
S>все есть в телевизоре
Там нет ничего, кроме рекламы, дезинформации и окучивания планктона на вечное рабство.
96GB сейчас — "ни рыба ни мясо", непонятно куда пойдет. По пропускной это как 2x3090, раз в 5 которые дешевле но в 2 раза меньше памяти, непонятно что на 96GB запускать.
Здравствуйте, Shmj, Вы писали:
S>Так это же про бытовой сегмент, про конечных пользователей. Сервера — это совсем другой сегмент и они никогда не пересекались с персональными компьютерами. S>То что чел. купил — это никакого отношения к домашнему компьютеру не имеет — это уже промышленный сегмент.
То что чел. купил — это никакого отношения к серверам не имеет. Это не Тесла, у неё есть видеовыход и нет NVLink.
Здравствуйте, _ilya_, Вы писали:
__>96GB сейчас — "ни рыба ни мясо", непонятно куда пойдет. По пропускной это как 2x3090, раз в 5 которые дешевле но в 2 раза меньше памяти, непонятно что на 96GB запускать.
Здравствуйте, Aquilaware, Вы писали:
A>Перекручивание фактов. Аппстор — это промышленная площадка, которая навязывалась именно производителям ПО (которые находятся в промышленном сегменте).
Я не об этом.
Изначально сервера — обработка данных, датацентры — это совсем другие сферы, никак не связанные с бытовым использованием. Даже если все будут сидеть в мобилках или очках — датацентры от этого не пострадают — они обеспечивают скрытую часть айсберга.
Там шкафы стоят.
S>>Как раз все как и говорили — многие люди отказались от владения ПК A>Подмена понятий. У этой группы людей никогда не было ПК изначально. Да и не нужны им ПК, потому что они ничего не производят.
Та были, просто оказались не нужны. Почту проверить, вконтакт, телеграм, новости, погоду, поиграть, сделать фото и обработать — можно и в телефоне.
S>>все есть в телевизоре A>Там нет ничего, кроме рекламы, дезинформации и окучивания планктона на вечное рабство.
Через телевизор уже можно ютюб смотреть, можно подключить приставку и играть.
Предлагают, потому что лицензия позволяет. Предлагали бы и GeForce, да Nvidia запрещает.
S>А зачем тогда она? Неужели для игр?
Для обычной работы, по твоей ссылке написано: "Graphics and visualization". Сейчас тот же Фотошоп насквозь нейросетевой. Видюшки генерировать, картинки, редакторы всякие, автокады и т.д.
Здравствуйте, Shmj, Вы писали:
S>Та были, просто оказались не нужны. Почту проверить, вконтакт, телеграм, новости, погоду, поиграть, сделать фото и обработать — можно и в телефоне.
А если я из каменного века и не держу на смартфоне ничего личного? О всяких платёжных и банковских приложениях я вообще молчу. На моём смартфоне даже NFC нет. И мне это никак не мешает. А ещё я не играю уже больше 30 лет.
Почту посмотреть можно. Если, конечно, она без вложений. А вот ответить на неё — задачка. Мне пришлось как-то со смартфона переписку вести. Он от реальности отключает. Я тогда в какой-то очереди стоял, чуть всё не пропустил. Даже для нормального лайканья котиков лучше иметь экран чуть больше смартфона и нормальную клавиатуру. Правда, в вопросе лайканья я теоретик. Мне вполне живых котиков хватает.
Если я еду в отпуск, всегда беру фотоаппарат.
И мои дети используют как смартфоны, так и компы. Они даже бумажные книги читают.
S>Через телевизор уже можно ютюб смотреть, можно подключить приставку и играть.
Ютуб рекламу не показывает? На компе — нет. Резалка ставится в минуту.
Здравствуйте, Shmj, Вы писали:
S>Изначально сервера — обработка данных, датацентры
Если "изначально" начинается в 2015 году, то может сложится такое впечатление.
Но это иллюзия. Сервер спонтанно возникает в комнате админа студенческой общаги, окруженный полупустыми банками из под пива. Или даже у вас на столе, когда вы спихиваете ему прогонку интеграционных тестов вашего проекта, чтобы процессор вашей машины оставался более доступным.
S>Там шкафы стоят.
У вас очень бинарное мышление, есть черное и белое, но нет серого.
На внушении этих различий кормятся хищники, которые засоряют мозг внушая ложные нарративы. Чтобы конкуренцию потушить, чтобы сделать из вас технологического импотента, чтобы вы пошли к ним покупать то, что вас хотят склонить покупать. На пике, сама жертва такой промывки доходит до того, что пытается распространять эти больные идеологии и на остальной люд. Нет, спасибо, оставьте эту жижу венчурного капитализма её авторам для умывания по утрам.
Риторическое предложение: не пойти бы вам, Shmj, в аппстор?
Здравствуйте, _ilya_, Вы писали:
__>96GB сейчас — "ни рыба ни мясо", непонятно куда пойдет. По пропускной это как 2x3090, раз в 5 которые дешевле но в 2 раза меньше памяти, непонятно что на 96GB запускать.
qwen3.6 27B в прекрасной первозданности и с хорошей скоростью и с максимальным контекстом. Так как он проектировался. Туда же embedder, tts. Я думаю скоро появится qwen3.6 122B
Здравствуйте, GlebЗ, Вы писали:
GЗ>qwen3.6 27B в прекрасной первозданности и с хорошей скоростью и с максимальным контекстом. Так как он проектировался. Туда же embedder, tts. Я думаю скоро появится qwen3.6 122B
Увы, все модели деградируют если увеличивать контекст. Т.е. максимальный скорее бесполезен, сейчас оптимум 32-64К.
Вот тут опен-модели: https://github.com/NVIDIA/RULER
Для меня 3.6 35B-A3B ощущается немного хуже, чем Coder-Next, но это ближе, чем я ожидал, до такой степени, что я больше не часто использую Coder-Next
Лично для меня также, Coder-Next сильно лучше. А на адекватном железе ещё и быстрее.
Ну и это не ради одной модели, не думаю. Это ради увеличения своей производительности.
Здравствуйте, TheBeginner, Вы писали:
TB>Здравствуйте, Aquilaware, Вы писали:
A>>Чтобы не терять деньги и время, такие заказы желательно заворачивать в момент осуществления. Для этого нужно анализировать данные и параметры клиента, делая статистическое сопостановление с известными типажами и ситуациями характерными для электронной коммерции и конкретного продаваемого продукта.
TB>Это как? TB>У нас есть страна, имя, почтовый адрес, телефон, имейл, номера карты нет. TB>Если имя не Devil Hell, а почтовый адрес реальный или похож на реальный а телефон соответствует стране, то чем нейронка может помочь?
думаю есть серые сервисы или форумы куда она отправляет запросы
Здравствуйте, Nuzhny, Вы писали:
N>Лично для меня также, Coder-Next сильно лучше. А на адекватном железе ещё и быстрее. N>Ну и это не ради одной модели, не думаю. Это ради увеличения своей производительности.
Обьясните мне дураку, а чем оно лучше чем облачные модели? То есть для для контор использование в локалки еще можно понять, но дома то нахрена все эти костыли?
Здравствуйте, Shmj, Вы писали:
S>То что чел. купил — это никакого отношения к домашнему компьютеру не имеет — это уже промышленный сегмент.
Так было до ИИ. А теперь появилась потребность в ИИ агентах, и чтобы они локально крутились, а не на серверах. А для такого ИИ нужно то что чел купил. Т.е. пока что да, производство сильно не успевает за спросом, и последний ограничивает, но потребность проявилась, сформирована, и теперь нужны мощные вычислялки и для серверов, и для дома.
Здравствуйте, Aquilaware, Вы писали:
A>Подтверждаю, аналогичный опыт. Особенно приятно решать задачи на своем железе, когда есть уверенность что какой-нибудь капиталист уже не встроит в следующее обновление модели очередную повесточку и не выдернет ковер из под ног.
Капиталист встроит повесточку прямо в железо и драйверы к нему.
Здравствуйте, novitk, Вы писали:
N>Обьясните мне дураку, а чем оно лучше чем облачные модели? То есть для для контор использование в локалки еще можно понять, но дома то нахрена все эти костыли?
у моей конторы нет офиса, все сотрудники работают дома.
Здравствуйте, rm2, Вы писали:
rm2>Здравствуйте, novitk, Вы писали:
N>>Обьясните мне дураку, а чем оно лучше чем облачные модели? То есть для для контор использование локалки еще можно понять, но дома то нахрена все эти костыли? rm2>у моей конторы нет офиса, все сотрудники работают дома.
Если код разрабатывается на твоей домашней машине, то почему ты не можешь подключить облачные модели? Если на удаленной, принадлежащей конторе, то как воткнуть туда железки нвидиа?
Здравствуйте, novitk, Вы писали:
N>Если код разрабатывается на твоей домашней машине, то почему ты не можешь подключить облачные модели?
Privacy, например. Не весь код можно или хочется шарить.
Да и бывают просто рутинные задачи, на которые нужно много токенов. Я, например, натравливаю на них локального агента и он себе их грызет часами.
Здравствуйте, pva, Вы писали:
pva>Privacy, например. Не весь код можно или хочется шарить.
имхо аспект преувеличен. Для MS и винды актуально, но для домашних поделок?
pva>Да и бывают просто рутинные задачи, на которые нужно много токенов. Я, например, натравливаю на них локального агента и он себе их грызет часами.
GSD?
Я тут начал, кажется по твоей рекомендации, его использовать. Токены он жрет действительно хорошо и думает долго. Потратил за пару дней $10, что не очень и много. Не уверен в эффективности средства, но пока продолжаю.
Здравствуйте, novitk, Вы писали:
N>Обьясните мне дураку, а чем оно лучше чем облачные модели? То есть для для контор использование в локалки еще можно понять, но дома то нахрена все эти костыли?
1. Тем что не зависит от качества интернета. У меня локальная моделька живёт на ноутбуке, периодически выручает.
2. Тем что не зависит от левой пятки правой ноги облачного провайдера. Недавно я кидал ссылку на отчёт АМД, что модель Антропика в марте сильно поглупела. Где-то неделю назад Антропики признались, что так оно и было и не просто так, а по трём разным причинам.
3. Зачастую хватает локальной. Может быть не все замечают, как движется прогресс, но теперь небольшая локальная модель с поиском в интернете и другими инструментами работает не хуже, чем большая облачная 3-4 летней давности. А многие за большую платили и радовались, она им конкретно помогала.
В частности могу сказать, что тот же qwen-coder вполне неплохо пишет небольшие функции, скрипты, код на Питоне.
Здравствуйте, novitk, Вы писали:
pva>>Privacy, например. Не весь код можно или хочется шарить. N>имхо аспект преувеличен. Для MS и винды актуально, но для домашних поделок?
"один мой друг" где-то в интернете писал что занимается интеграцией и приходится реверсить протоколы и тому подобное, что противоречит соглашениям антропик, например.
pva>>Да и бывают просто рутинные задачи, на которые нужно много токенов. Я, например, натравливаю на них локального агента и он себе их грызет часами. N>GSD? Я тут начал, кажется по твоей рекомендации, его использовать. Токены он жрет действительно хорошо и думает долго. Потратил за пару дней $10, что не очень и много. Не уверен в эффективности средства, но пока продолжаю.
Да, я его использую в задачах где нужен формализованный процесс разработки, поскольку это позволяет устойчиво сохранять сопутствующие артефакты. Еще это является плюсом для слабых моделей, потому как формальный процесс раньше выявляет проблемы и позволяет решить их не доводя до катастрофы. По поводу стоимости, многие очень метко подмечали что использование подписки гораздо экономней работы через АПИ. Грубо говоря, за 100/мес ты получаешь объем, который сложно выбрать при обычной разработке. По крайней мере, я сейчас чаще упираюсь в размер контекста, который забивается чаще и останавливает бота, чем в лимит сессии.
Впрочем, я слышал что всякие ClownBot и прочие hermes подобные штуки могут при автономной работе выжирать токены тоннами. Но я не научился пока ими пользоваться и со скепсисом читаю "я ему сказал ... и он к утру принес 100500 тыщ".
Здравствуйте, novitk, Вы писали:
N>Я тут начал, кажется по твоей рекомендации, его использовать. Токены он жрет действительно хорошо и думает долго. Потратил за пару дней $10, что не очень и много. Не уверен в эффективности средства, но пока продолжаю.
На днях директор Uber жаловался, что годовой бюджет на ИИ-агентов уже исчерпан и они обходятся дороже живых сотрудников.
Здравствуйте, Nuzhny, Вы писали:
N>1. Тем что не зависит от качества интернета. У меня локальная моделька живёт на ноутбуке, периодически выручает.
+1. Когда СВО "идет по плану" должно быть актуально.
N>2. Тем что не зависит от левой пятки правой ноги облачного провайдера. Недавно я кидал ссылку на отчёт АМД, что модель Антропика в марте сильно поглупела. Где-то неделю назад Антропики признались, что так оно и было и не просто так, а по трём разным причинам.
Я отношусь к этому как к багам. Они бывают везде, в том числе в локальных моделях.
N>В частности могу сказать, что тот же qwen-coder вполне неплохо пишет небольшие функции, скрипты, код на Питоне.
с этим справляется и "бесплатные" модели для копилота.
Здравствуйте, pva, Вы писали:
N>>имхо аспект преувеличен. Для MS и винды актуально, но для домашних поделок? pva>"один мой друг" где-то в интернете писал что занимается интеграцией и приходится реверсить протоколы и тому подобное, что противоречит соглашениям антропик, например.
+1
N>>GSD? Я тут начал, кажется по твоей рекомендации, его использовать. Токены он жрет действительно хорошо и думает долго. Потратил за пару дней $10, что не очень и много. Не уверен в эффективности средства, но пока продолжаю. pva>Да, я его использую в задачах где нужен формализованный процесс разработки, поскольку это позволяет устойчиво сохранять сопутствующие артефакты. По поводу стоимости, многие очень метко подмечали что использование подписки гораздо экономней работы через АПИ. Грубо говоря, за 100/мес ты получаешь объем, который сложно выбрать при обычной разработке. По крайней мере, я сейчас чаще упираюсь в размер контекста, который забивается чаще и останавливает бота, чем в лимит сессии.
Посмотрю как пойдет. На работе у нас нет CC (CTO мне сказал, что "очень дорого". Мне политкарму на проверку "а не пиз..т ли он" пока неохота тратить), а на Copilot я GSD пока не ставил. Дома имхо я просто не напрограмирую столько. По моей оценке Pro и еще $250/annual должно хватит.
Здравствуйте, novitk, Вы писали:
N>Обьясните мне дураку, а чем оно лучше чем облачные модели? То есть для для контор использование в локалки еще можно понять, но дома то нахрена все эти костыли?
Здравствуйте, novitk, Вы писали:
N>>В частности могу сказать, что тот же qwen-coder вполне неплохо пишет небольшие функции, скрипты, код на Питоне. N>с этим справляется и "бесплатные" модели для копилота.
Воооот, а из РФ нет бесплатного копилота. И не всегда хочется и можется сидеть с ВПН.
Здравствуйте, novitk, Вы писали:
N>Посмотрю как пойдет. На работе у нас нет CC (CTO мне сказал, что "очень дорого". Мне политкарму на проверку "а не пиз..т ли он" пока неохота тратить), а на Copilot я GSD пока не ставил. Дома имхо я просто не напрограмирую столько. По моей оценке Pro и еще $250/annual должно хватит.
Я там где-то выше давал ссылку на недельный триал