/hw/ - Камрады, есть идея поднять ИИ стационарно. Хочу обсудить сборку под это дело с учетом масштабирован

Камрады, есть идея поднять ИИ стационарно. Хочу обсудить сборку под это дело с учетом масштабирован Аноним 02/02/25 Вск 04:48:13 № 7244137 1

Камрады, есть идея поднять ИИ стационарно.
Хочу обсудить сборку под это дело с учетом масштабирования.
Итак мы имеем:
1. https://www.dns-shop.ru/product/928b0884c0ce3330/blok-pitania-exegate-80-bronze-600pph-ex280578rus-oem-cernyj
2. https://www.dns-shop.ru/product/922b152b72733332/operativnaa-pamat-apacer-el16g21gsh-16-gb
3. https://www.dns-shop.ru/product/4202bd74ae7eed20/kuler-dla-processora-id-cooling-se-903-xt-black-se-903-xt-black
4. https://www.dns-shop.ru/product/0a2114a7fcc9ed20/processor-intel-core-i5-12400f-oem
5. https://www.dns-shop.ru/product/ef42e95e5af71b80/videokarta-palit-geforce-rtx-3060-dual-lhr-ne63060019k9-190ad
Сборка без дисков, но это тоже обсуждается... Думаю запилить туда SAS-контроллер...
Мать с поддержкой DDR4 и DDR5
Мнения? Предложения?

Аноним 02/02/25 Вск 05:07:24 № 7244139 2

>поднять ИИ стационарно
>3060 в количестве одной штуки

Зачем, а главное нахуя? Генерацию картинок можно поручить арендованному за несколько баксов в час серваку с пачкой ртх4090, а локальный чатбот с такими мощностями будет глупее даже яндексовской алисы.

Аноним 02/02/25 Вск 14:31:51 № 7244451 3

>>7244139
>арендованному
Пошел-ка ты нахуй, дружок

Аноним 07/02/25 Птн 11:07:00 № 7251090 4

>>7244451
Аргументы уровня /hw/
Он тебе так-то базу говорит. Поднимать отдельный сервак ради нейросети с 3060 - идиотия.

Аноним 08/02/25 Суб 05:04:45 № 7252060 5

>>7251090
Так в сборке она присутсвует...
Мне нужно голос в текст - обработка - выдача текса и в голос

Аноним 08/02/25 Суб 12:24:26 № 7252335 6

>>7244137 (OP)
> 12 ГБ GDDR6
ahah
> Мнения? Предложения?
тебе правильно сказали про аренду. хочешь на локалхосте гонять лламы - раскошеливайся на 2 видюхи по 24 гига

Аноним 08/02/25 Суб 12:25:28 № 7252336 7

>>7252060
хотя хуй знает, для такой задачи возможно 12 гигов и хватит. для чат-бота и генерации картинок это ПИЗДЕЦ как мало.

Аноним 08/02/25 Суб 13:06:23 № 7252375 8

>>7252336
В том то и дело, что мне картинки нахер не нужны... Чат бот с функцией озвучки...

Аноним 08/02/25 Суб 13:46:17 № 7252408 9

>>7252375
> Чат бот

> > раскошеливайся на 2 видюхи по 24 гига

Аноним 08/02/25 Суб 17:25:06 № 7252623 10

>>7252408
Ты с ДНСа чтоле? Может тогда пойдешь балонкам жопы нюхать, а то тут серьезные вещи обсуждают....

Аноним 08/02/25 Суб 17:37:23 № 7252631 11

>>7252623
во-первых, пошёл нахуй.
во-вторых, тут >>7244139 всё ответили.

Аноним 08/02/25 Суб 18:00:23 № 7252657 12

>>7252631
Ебать... Обидели мышку - насрали в норку... А есть чо по существу или ты опять тред жопой прочитал?

Аноним 08/02/25 Суб 18:23:17 № 7252688 13

>>7252657
по существу всё написано тут: >>7244139

Аноним 08/02/25 Суб 19:01:20 № 7252735 14

>>7252688
Локально! Это важно ибо данный ИИ будет работать с персональными данными. 152ФЗ покури знаток. Кртинки мне нахуй не нужны.
голос2текст - обработка - текст2голос...

Аноним 08/06/25 Вск 18:41:40 № 7410353 15

>>7252688
Так ты же блядь.
>>7252688
Сама иди туда же.

Аноним 09/06/25 Пнд 07:08:18 № 7410800 16

>>7244137 (OP)
>идея поднять ИИ стационарно
Какого ИИ, какие модели, что ты хочешь получить?
>без дисков, Думаю запилить туда SAS-контроллер
Нахуя?

Аноним 13/06/25 Птн 12:26:40 № 7414817 17

>>7252735
Это чатбот, к которому прикрутили распознавалку голоса и диктора? Если да, то ресурсоёмкая задача. Я бы начал думать где достать хотя бы 48Гб GDDR6. Но это прям ниже некуда падать, чтобы всё работало стабильно, но периодически будет выдавать бред и даже намешивать разные языки на выходе. Твой идеал вкорячить в твою 3060 второй видеочип, заставить корректно работать с имеющейся шиной и напаять на неё 96Гб GDDR6. Правда точно не помню какое количество видеопамяти этот чип в состоянии адресовать. Если мало - то лучше приобрести 2-4 новых видеокарты по 24гб. Или попробовать запустить всё это на ryzen ai 395. Это проц может использовать оперативку вместо видеопамяти, а адресовать он может до 128гб. Крч надо пробовать. Но предложенный тобой вариант самый ненадежный и самый дорогой из всех возможных, учитывая насколько сильно придется переделать 3060. Такие дела.