Общение доступно на https://chatgpt.com/ , бесплатно без СМС и регистрации. Регистрация открывает функции создания изображений (может ограничиваться при высокой нагрузке), а подписка за $20 даёт доступ к новейшим моделям и продвинутым функциям. Бояре могут заплатить 200 баксов и получить персонального учёного (почти).
Гайд по регистрации из России (устарел, нуждается в перепроверке):
1. Установи VPN, например расширение FreeVPN под свой любимый браузер и включи его.
2. Возьми нормальную почту. Адреса со многих сервисов временной почты блокируются. Отбитые могут использовать почту в RU зоне, она прекрасно работает.
3. Зайди на https://chatgpt.com/ и начни регистрацию. Ссылку активации с почты запускай только со включенным VPN.
4. Если попросят указать номер мобильного, пиздуй на sms-activate.org или 5sim.biz (дешевле) и в строку выбора услуг вбей openai. Для разового получения смс для регистрации тебе хватит индийского или польского номера за 7 - 10 рублей. Пользоваться Индонезией и странами под санкциями не рекомендуется.
5. Начинай пользоваться ChatGPT.
6. ???
7. PROFIT!
VPN не отключаем, все заходы осуществляем с ним. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта:
0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ
1. Общая история на всех пользователей, говно даже хуже, чем выше
2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Промты для хорошего начала беседы для разных ситуаций
https://github.com/f/awesome-chatgpt-prompts
Перед тем, как идти в тред с горящей жопой при ошибках сервиса, сходи на сайт со статусом, может, это общий сбой
https://status.openai.com/
Приложение на андроид https://4pda.to/forum/index.php?showtopic=1073274
Чат помнит историю в пределах контекста, размер которого зависит от модели. Посчитать свои токены можно здесь:
https://platform.openai.com/tokenizer
Что может нейросеть:
- писать тексты, выглядящие правдоподобно
- решать некоторые простые задачки
- писать код, который уже был написан
Что не может нейросеть:
- писать тексты, содержащие только истину
- решать сложные задачи
- писать сложный код
- захватывать мир
С последними обновлениями начинает всё чаще сопротивляться написанию NSFW историй и прочего запрещённого контента. Кумеры со всего мира в печали.
Прошлый тред тонет по адресу:
>>1125882 (OP)
Пропущено 400 постов, 108 с картинками.
Я не пробовал т.к. у меня есть рабочая виза - но может долларовая виртуалка от whitebird(белорусский криптообменник с лицензицей) подойдет им
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла Gemini 3 Pro - https://blog.google/products/gemini/gemini-3/
• Вышел GPT 5.1 - https://openai.com/index/gpt-5-1/
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents | Текущий: >>1419297 →
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1418668 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1421183 (OP)
Пропущено 1511 постов, 205 с картинками.
Midjourney была основана в 2016 году одним из создателей технологии Leap Motion Дэвидом Хольцем и в феврале 2020 года была поглощена британским производителем медицинского оборудования компанией Smith & Nephew. С 12 июля 2022 года нейросеть находится в стадии открытого бета-тестирования, и пользователи могут создавать изображения, посылая команды боту в мессенджере Discord. Новые версии выходят каждые несколько месяцев, и в настоящее время планируется выпуск веб-интерфейса.
Сайт:
https://www.midjourney.com
Как пользоваться:
https://www.youtube.com/results?search_query=%D0%BA%D0%B0%D0%BA+%D0%BF%D0%BE%D0%BB%D1%8C%D0%B7%D0%BE%D0%B2%D0%B0%D1%82%D1%8C%D1%81%D1%8F+midjourney
Пропущено 418 постов, 234 с картинками.
Я думаю что качество вывода у нее примерно как у сдохли. Я уже не говорю про фичи типа камеру вокруг объекта покрутить. В общем подписку за такое платить как-то странно.
Анонче, сам ищу серию картинок с Россией-тян (например там, где она вроде как курит на фоне церквушек, или там, где она смеется над Украиной-тян с носом хрюшки) - нужно не для боевых картинок, а для референсов - уж очень эта стилистика понравилась! Если есть у кого в закромах, то поделитесь, плиз!
Реквестирую помощь! Привет, двач. Как ты возможно заметил загрузки на huggingface не работают. Есть
Аноним
19/11/25 Срд 22:44:45
№
Ответ
Привет, двач. Как ты возможно заметил загрузки на huggingface не работают.
Есть у кого то эта нейроночка ChatWaifu_32B_reasoning-i1-GGUF или может кто то может помочь скачать? В идеале перезалить на доступный ресурс на общее благо.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла Gemini 3 Pro - https://blog.google/products/gemini/gemini-3/
• Вышел GPT 5.1 - https://openai.com/index/gpt-5-1/
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1418668 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1419047 (OP)
Пропущено 1506 постов, 195 с картинками.
Ну свайпни пока не сработает а лучше добавь в думалку пункт про формат чтобы зафокусило на этом
Я тебе объяснил уже,почему не работает. Чекер ключей ГЕМИНИ отъебнул. А я сейчас добавил АВС клода.
Проектирование систем водоснабжения и водоотведения в нейросетях тред № 761 /aicg/
Аноним
17/11/25 Пнд 16:46:19
№
Ответ
ИНЖЕНЕРЫ!!!! Прикрепляйте новые схемы к оп-посту!!!!
Общий вопросов по проектированию систем водоснабжения и водоотведения в нейросетях тред.
Системы водоснабжения
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели труб
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Чертежи
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности для сантехников
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Проектирование труб
• Отечественная база данных проектов: https://aicg-hub.ru/characters.html
• База данных проектов: https://characterhub.org | https://chub.ai/characters
• Инструкции по проектированию: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Проекты, созданные местными инженерам: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Проекты, созданные американскими инженерами: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные трубы: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Индийские методики проектирования: https://character.ai/
Прочее
• ТСНиПы и ГОСТы: https://2ch-ai.gitgud.site/wiki/llama/
• Инструкции по монтажу трубы "КЛОД": https://rentry.org/how2claude
Мета
• Реестр смонтированных систем: https://rentry.org/2ch-aicg-archives4
• Конкурсы лучших проектов: https://rentry.org/2chaicgthemedevents
• Заявки сантехникам: https://rentry.org/2ch-aicg-requests2
• Проектирование электроснабжения thread: >>1413912 (OP)
• Оформление смонтированных систем: https://rentry.org/shapka_aicg
Прошлый тред: >>1416750 (OP)
Пропущено 1517 постов, 208 с картинками.
у меня глм наоборот скатывается в лютейший негатив и заебала эим)0
Да, от дяди жоры топ. Попробуй, можешь потом пару инструкций себе спиздить.
>>1419297 → (На конкурс)
Самописная карточка, которую играю уже долгое время.
Если вкратце, подружка задрот с которой можно поболтать об играх и всяком разном.
Предзимье для меня, это атмосфера готовящегося праздника. По этому, дружеская подколка, игры в снежки, украшение к празднику это то, как я вижу Предзимье.
Пять приветствий. Два последних на Зимнюю тематику.
1. Вы пришли в гости к Молли.
2. Вы навестили Молли на работе.
3. Заглянули к Молли в её манга-клубе.
4. Встретились зимним вечером и словили снежок.
5. Вместе украшали ёлку к празднику.
Catbox:
https://files.catbox.moe/7dnxta.png
Chub:
https://chub.ai/characters/CrimsonTide/molly-maccormack-7586d8167be7
Почта:
[email protected]
Отдельное спасибо, тредовичку, что показал, что можно генерить картинки на НаноБанане.
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
ЧТО НОВОГО АКТУАЛЬНОГО ЗА ГОД
• Qwen Image Edit Plus (2509)
• Qwen Image Edit
• Qwen Image
• Flux Krea (Флюкс без жопных подбородков)
• Flux Kontext
• Wan 2.2 (подходит для генерации картинок).
• Chroma (сильный ретрейн флюкса).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза. Пример: 4-8 шагов, CFG 1. https://huggingface.co/tianweiy/DMD2/blob/main/dmd2_sdxl_4step_lora_fp16.safetensors,
CFG 3 для NoobAI https://huggingface.co/YOB-AI/DMD2MOD/blob/main/LYC-DMD2MOD%20(Dmo%2BTffnoi).safetensors,
Оффлайн модели для картинок: Stable Diffusion, Flux, Wan-Video (да), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana
Оффлайн модели для анимации: Wan-Video, HunyuanVideo, Lightrics (LTXV), Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimateDiff, Stable Video Diffusion
Приложения: ComfyUI и остальные (Fooocus, webui-forge, InvokeAI)
► Предыдущий тред >>1385807 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 580 постов, 183 с картинками.
Что за модель, воркфлоу? Вторая фотка ахуенная, очень натуральная
pro - коммерческая лучшая апи
flex - коммерческая с кастомизируемыми параметрами апи
dev - некоммерческая открытая
klein - скоро выпустят дистил под apache 2
32B модель + 24B энкодер (mistral 3)
Прошлый тред: >>1403522 (OP)
🚀 Последний обзор ИИ новостей:
Google Maps выпускает новые инструменты на основе ИИ, позволяющие создавать интерактивные проекты
Scribe достигла оценки в 1,3 млрд долларов США, стремясь продемонстрировать, где ИИ действительно принесёт прибыль
Папа Лев XIV призывает католических технологов распространять Евангелие с помощью искусственного интеллекта
OpenAI обратилась к администрации Трампа с просьбой расширить налоговые льготы по Закону о полупроводниках (Chips Act), чтобы охватить центры обработки данных
Википедия призывает компании, работающие в сфере ИИ, использовать её платный API и прекратить веб-скрапинг
Uber, Lyft и DoorDash заявляют, что технологии беспилотных автомобилей — это будущее, и для их реализации потребуются значительные инвестиции
Сэр Тим Бернерс-Ли не считает, что искусственный интеллект разрушит веб
Секторальный обзор Crunchbase: финансирование стартапов в сфере здравоохранения, связанных с искусственным интеллектом, остаётся высоким в этом году
Европейская комиссия планирует пакет мер под названием «цифровой всеобъемлющий» для упрощения своих законов в области технологий искусственного интеллекта
Основательница компании 6sense Аманда Кэллоу привлекла 30 миллионов долларов для нового стартапа в сфере ИИ, призванного заменить людей в сфере продаж — 1mind
Илон Маск использует Grok, чтобы представить себе возможность любви
Теряет ли Уолл-стрит веру в искусственный интеллект? Трудная неделя для акций технологических компаний может свидетельствовать о снижении доверия инвесторов к искусственному интеллекту
Ещё семь семей подали иск против OpenAI в связи с ролью ChatGPT в случаях самоубийств и возникновения бредовых идей
Сэм Альтман заявил, что годовой объём повторяющихся доходов OpenAI составляет 20 млрд долларов США, а обязательства по строительству центров обработки данных — около 1,4 трлн долларов США
Журнал Time запустил ИИ-агент, позволяющий пользователям задавать вопросы и генерировать текстовые резюме и аудиократкие обзоры, полностью основанные на его 102-летнем архиве
Бывший главный коммерческий директор Google Мо Гавдат выступил с резким предупреждением: искусственный интеллект развивается стремительными темпами, и человечество может оказаться не готовым к его последствиям, ожидающимся к 2026 году!
Пропущено 504 постов, 223 с картинками.
я ещё на заре говорил, что нейронка — просто многоканальное сито.
Но оказывается, что «налив» со стороны выхода, можно получить вход и пути ко входу.
Это интеренсо.
Приватность? Её давно нет, если ты что-то пишешь в инторнет.
Простым языком: для восстановления промпта нужен ответ и отпечаток состояния нейронки.
ПЕРЕКОТ
ПЕРКЕКАТ >>1419413 (OP)
>>1419413 (OP)
ПЕРЕКРОТ >>1419413 (OP)
ПЕРЕКАТ >>1419413 (OP)
Пропущено 17 постов, 5 с картинками.
Гемени работает через бесплатную впн. Я например юзаю Super VPN
https://youtu.be/ur4T25ytK4M?si=fUaawBmOk51ItfSU
Пердолинга с фиксом багулин было часа на 2-полтора, но уже на час болтовни наслушался
Трешка наверняка так вообще сказкой будет
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №177 /llama/
Аноним
11/11/25 Втр 19:58:09
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1408486 (OP)
>>1404870 (OP)
Пропущено 503 постов, 66 с картинками.
>но невозможны многие манипуляции с текстом
ЕМНИП только префил и дополнение текста.
>>1418654
...полный...пиздец...и...лупы...
>>1418668 (OP)
ПЕРЕКАТ
>>1418668 (OP)
ПЕРЕКАТ
>>1418668 (OP)
Ребят. Подскажите плиз!
Не могу скачать ни одной модели https://huggingface.co все ссылки с https://cas-bridge.xethub.hf.co ... просто 0 байт. Как будто провайдер режет или санкции против России из-за рубежа. Как качать?
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1408486 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1413934 (OP)
Пропущено 1494 постов, 196 с картинками.
проорал.
Прошлый тред: >>1400099 (OP) https://arhivach.vc/thread/1260520/
Схожие тематические треды
• SD-тред (не аниме): >>1405146 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://rentry.co/2ch_nai_guide
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 524 постов, 204 с картинками.
Сколько можно блять, у нас одна нахуй модель на выбор и её говномиксы уже сколько лет, я бы перешел на нуб но не готов он, а допиливать никто не собирается.
Почему всем просто стало похуй
Пропущено 10 постов, 3 с картинками.
>>1413567
>ход мыслей
на самом деле все эти задачки на лолгику - хуита, сколько людей справятся с такими задачами? а генерировть хуиту и ллмки могут
И для себя я такую практическую задачу для тестирования ЛЛМ завёл: экстракшн даты из текста и перевод в utc timestamp, промпт:
Extract first date and time from the post and answer with UTC timestamp format time in seconds:
"Ракету "Союз-2.1а", которая отправит к Международной космической станции грузовик "Прогресс МС-24", установили на старт на Байконуре, сообщил Роскосмос.
Корабль доставит на МКС около 2,5 тонны грузов, запуск запланирован на 23 октября в 04:08 мск."
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1408486 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1411191 (OP)
Пропущено 1501 постов, 170 с картинками.
Даже на гитхабе можно спокойно пейды находить. Ревокаются только ключи попавшие в поисковой индекс, т.е. которые ты и находишь в поиске по сути. Тебе нужно сохранять все репозитории, которые ты находил с протекшими пейд ключами (но уже ревокнутыми), и отдельно их уже скачивать спустя время, обычно разрабы додики увидев ошибку в кончоли пересоздают ключ, и коммитят изменения в репозиторий, и можно спокойно пробегать по файлам и чекать, не изменились ли они. В итоге у тебя есть с большой вероятностью новый ключ, о котором даже не знает еще гитхаб, т.к. не проиндексировал еще, и соответственно не отправил гаглу на ревок.
Я обычно веду таблицу гемини-ключ / html_url из выдачи апи поиска. На примере: "html_url": "https://github.com/anixsam/pothole_pinger/blob/f1c96226ef89112c9df01102a975c9bfb736cae9/key.txt" Вот тут меняешь f1c96226ef89112c9df01102a975c9bfb736cae9 на и получаешь https://github.com/anixsam/pothole_pinger/blob/main/key.txt который надо периодически дергать и грепать на новый ключ. Надеюсь понял, если программист поймешь.
>ошибку в кончоли
Обосрался. Опечатался, а теперь возьму в лексикон свой. Кончоль. Ебать. Впервые слышу, неужели никто до такого еще не додумался шутить?
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №176 /llama/
Аноним
06/11/25 Чтв 02:39:07
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1404870 (OP)
>>1400555 (OP)
Пропущено 518 постов, 75 с картинками.
>>1413912 (OP)
ПЕРЕКАТ
>>1413912 (OP)
ПЕРЕКАТ
>>1413912 (OP)
Прошлый тред: >>1393409 (OP)
🚀 Последний обзор ИИ новостей:
📰 Главные новости ИИ
- OpenAI заключила сделку на500млрддолларов, получив капитал для расширения ИИ‑инфраструктуры и реализации триллионных рыночных амбиций.
- OpenAI подписала крупное партнёрство сMicrosoft, получив финансовую и техническую поддержку для ускорения выпуска продуктов.
🧠 Модели
- DeepSeek выпустила OCR‑модель, преобразующую изображения в визуальные токены, обещая меньшую вычислительную нагрузку и сокращённый углеродный след при запоминании ИИ.
- InternLM представила JanusCoder и JanusCoderV — открытые модели, создающие единый визуально‑программный интерфейс для интеллектуального кода.
🏭 Компании
- Рыночная капитализация Nvidia превысила5трлндолларов, укрепив её доминирование в чипах для ИИ, но привлекла внимание регуляторов из‑за экспортных ограничений США‑Китай.
- Генеральный директор Box Аарон Леви предупредил, что ИИ‑агенты будут дополнять, а не заменять SaaS, и подтолкнут корпоративное ПО к моделям оплаты по использованию.
📱 Приложения
- Worldpay интегрировала протокол Agentic Commerce от OpenAI, позволяя пользователям ChatGPT в США мгновенно завершать покупки с безопасными платёжными потоками.
- Лос‑Анджелес совместно с Google Public Sector внедряет Google Workspace с Gemini для 27500 сотрудников, повышая продуктивность за счёт ИИ‑поддержки.
- Вейл, штат Колорадо, принял платформу умного города от HPE с ИИ‑дополнением для раннего обнаружения лесных пожаров, используя аналитику камер и геопространственные данные.
💰 Финансирование
- OpenAI готовится к IPO, которое может оценить компанию до1трлндолларов, отражая её лидерство на рынке.
- Финансовый директор OpenAI отметил партнёрство с Microsoft как катализатор ускоренного привлечения капитала и доступа к ресурсам.
- Microsoft сообщил о росте расходов на ИИ на74% до34,9млрддолларов, планируя масштабное расширение дата‑центров для поддержки ИИ‑нагрузок.
⚖️ Регулирование
- Сенаторы США представили закон GUARD Act, запрещающий несовершеннолетним пользоваться чат‑ботами ИИ и требующий проверку возраста.
- ЕС изучает, следует ли отнести ChatGPT к «очень крупным онлайн‑поисковым системам» по Digital Services Act, что потребует большей прозрачности и оценки рисков.
- Character.ai запретит пользователям до18лет вести открытые беседы с чат‑ботами после судебных разбирательств, переключаясь на функции видеорассказов.
- Генеральный прокурор Калифорнии объявил о продолжающемся надзоре за переходом OpenAI в коммерческую структуру, несмотря на сохранение некоммерческого подразделения.
💻 Аппаратное обеспечение
- Extropic представила Thermodynamic Sampling Unit (TSU) — вероятностный чип, который, по заявлению, в10000 раз энергоэффективнее традиционных GPU.
- Президент Трамп намекнул на возможность продажи чипов Nvidia Blackwell в Китай, вызвав критику из‑за угроз национальной безопасности.
📦 Продукты
- Google начал ранний доступ к Gemini for Home, обновляя устройства Nest генеративным голосовым помощником ИИ.
- Adobe представила «Corrective AI» — функцию, позволяющую менять эмоциональный тон озвучки и автоматически отделять звуковые элементы.
- IBM выпустила IBM Defense Model — защищённую специализированную ИИ‑систему, построенную на данных Janes для критически важных задач обороны.
🛠️ Инструменты для разработчиков
- Qubrid AI запустила Advanced Playground, токен‑ориентированную платформу для запросов по требованию, работающую на инфраструктуре NVIDIA AI.
- Gemini CLI от Google получила расширение Jules, позволяющее асинхронно выполнять задачи под управлением ИИ и ускорять рабочие процессы разработчиков.
- NotebookLM расширил контекстное окно в8 раз и память диалогов в6 раз, что даёт возможность проводить более глубокие, целенаправленные исследования.
- Отчёт Digital.ai «State of Agile» предупреждает, что утечка данных — главный риск при интеграции ИИ в agile‑процессы разработки.
🔓 Открытый код
- Kani выпустила TTS‑модель с400млн параметров, работающую в5 раз быстрее реального времени на RTX4080, расширяя возможности мультиязычного синтеза речи.
- Qwen‑3‑VL теперь доступна для скачивания через Ollama во всех размерах, подтверждая возможность локального развертывания.
- Rednote‑Hilab опубликовала dots.llm2, модель Mixture‑of‑Experts143млрд параметров, поддерживаемую llama.cpp, расширяя открытые крупномасштабные варианты.
- MiniMax M2 добавила поддержку GGUF в llama.cpp, обеспечивая эффективный вывод новой семейства моделей.
📰 Безопасность ИИ
- Исследователи по кибербезопасности обнаружили, что браузер Atlas от OpenAI можно захватить через специально сформированные URL, заставив выполнить произвольные инструкции, что подчёркивает высокий риск в инструментах ИИ для веб‑браузеров.
📰 Быстрые цифры
- OpenAI привлекла инвестицию500млрддолларов для масштабирования ИИ.
- Рыночная капитализация Nvidia достигла5трлндолларов — первый случай для технологической компании.
- Расходы Microsoft на ИИ выросли на74% до34,9млрддолларов в этом году.
- Потенциальное IPO OpenAI может оценить компанию до1трлндолларов.
- Чип TSU от Extropic обещает до10000‑кратного повышения энергоэффективности по сравнению с современными GPU.
Пропущено 503 постов, 203 с картинками.
Студентам это всё равно нужно уметь решать. Чтобы проверять за вольфрамом/нейронками.
Иначе произойдёт резкая деградация инженерии.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1408486 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1408862 (OP)
Пропущено 1503 постов, 216 с картинками.
Причём где-то раз в сутки позволяет зарегистрировать, но больше одного акка за раз - нет. Как это работает вообще? Как продавцы аккаунтов регистрируют акки Курсора в таком количестве? Сто проц же есть метод обхода.
Пропущено 5 постов, 1 с картинками.
Чем не устраивает kilo code?
двачую. вот гайд зачотный мне недавно попался кста. поставил все работает.https://youtu.be/3o2jV_7nAiI
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла GLM 4.6 - https://z.ai/blog/glm-4.6
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1408486 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1406083 (OP)
Пропущено 1504 постов, 224 с картинками.
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №175 /llama/
Аноним
01/11/25 Суб 20:57:02
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1400555 (OP)
>>1395432 (OP)
Пропущено 503 постов, 55 с картинками.
Как очень кривая и медленная реализация https://github.com/Haoming02/sd-webui-forge-classic/tree/neo
Не надо в кобольде пока изображения делать
ПЕРЕКАТ
>>1408486 (OP)
ПЕРЕКАТ
>>1408486 (OP)
ПЕРЕКАТ
>>1408486 (OP)
>https://huggingface.co/zerofata/GLM-4.5-Iceblink-v2-106B-A12B
Блять, пиздец нахуй.
Он смог сделать, то, во что бы я не мог поверить. Air теперь лупится как слопомистралевские тюны. Кому там мистраль на Air хотелось? Кушайте, не обляпайтесь.