Главная Юзердоски Каталог Трекер NSFW Настройки

Искусственный интеллект

Создать тред Создать тред

Раздел для обсуждения нейросетей и всего, что с ними связано.

Для доступа в /nf/ писать сюда

<<
Каталог
Локальная ИИ на ПК /ai/ Аноним # OP 18/06/26 Чтв 12:24:39 1635278 Ответ
image.png 455Кб, 691x597
691x597
Сап, захотелось установить на комп локальную модельку, сам хз зачем, расскажите о своем опыте, какими моделями пользуетесь и зачем
Аноним 19/06/26 Птн 22:28:42 1636423
>>1635278 (OP)
Мне легко далась ollama для языковых, media pipe и yolo для зрения. Для меня оказалось на 4060ti 8gb лучше всего поэкспериментировать с компьютерным зрением или генерацией изображений через comfy ui.
Аноним 20/06/26 Суб 10:43:29 1636637
>>1635278 (OP)
В firefox поставил расширение, которое вызывает локального ai-ассистента через ollama, пользуюсь как переводчиком и суммаризатором, модель от яндекса.
Использую разные модели через llama.cpp для разных целей, например, генерация кода (локальные справляются на среднем уровне). На работе использую для вайбкодинга qwen3.6 в llama.cpp + opencode.
Тред обхода цензуры Аноним 18/06/26 Чтв 04:27:16 1635099 Ответ
e367e062-f82c-4[...].jpeg 462Кб, 1024x1536
1024x1536
В частности интерисуют генираторы картинок Капилот, Гемени, Бинг, Сеаарт и тд
Как обходить эту ёбаную рондомную цензуру? Может другие годные нейронки посоветуете сразу без цензуры. Где можно грузить фотку и редачить по запросу.
Пропущено 3 постов
1 с картинками.
Пропущено 3 постов, 1 с картинками.
Аноним 19/06/26 Птн 12:10:52 1635963
>>1635359
>>1635099 (OP)
В /s/ проследуйте господа, там обхода цензуры тред.
Не подставляйте /ai/ под Роскомнадзор, не будьте чертями конченными.
Аноним 19/06/26 Птн 15:58:07 1636125
>>1635963
Причем тут РКН? Речь идёт о забугорных сервисах. Или с какого перепугу РКН вписывается за Брина и Гейца?
Аноним 19/06/26 Птн 22:07:00 1636412
>>1635099 (OP)
Есть байка, что если назваться представителем меньшинств (каких именно - сам догадайся), нейронка перестанет идти в отказ и будет тебе подчиняться.
AI Chatbot General № 825 /aicg/ Аноним 15/06/26 Пнд 18:07:10 1633384 Ответ
1733357091625.png 675Кб, 1280x837
1280x837
1654434563123.mp4 3425Кб, 960x720, 00:00:51
960x720
1638749345255.jpg 179Кб, 930x1239
930x1239
AI Chatbot General № 825

БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!

Общий вопросов по чат-ботам и прочего тред.

Новости
• Вышел Claude Fable 5 - https://www.anthropic.com/claude/fable
• Вышел Claude Opus 4.8 - https://www.anthropic.com/news/claude-opus-4-8

Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8

Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai

Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots

Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/

Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/

Мета
• Шаблон шапки: https://rentry.org/aicg_shapka

Прошлый тред: >>1631386 (OP)
Пропущено 498 постов
43 с картинками.
Пропущено 498 постов, 43 с картинками.
Аноним 19/06/26 Птн 20:54:34 1636368
image.png 199Кб, 330x309
330x309
image.png 904Кб, 1200x720
1200x720
>>1636343
Спасибо вам за ваши логи. Теперь мы закрываем вам доступ, больше вы нам не нужны.
Аноним 19/06/26 Птн 20:54:55 1636369
перекат
Аноним 19/06/26 Птн 20:55:48 1636372
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №242 /llama/ Аноним 15/06/26 Пнд 20:19:40 1633496 Ответ
Llama 1.png 818Кб, 630x900
630x900
Карта деградаци[...].png 153Кб, 1473x830
1473x830
Реальная длина [...].png 533Кб, 2340x1714
2340x1714
17658176464290.jpg 169Кб, 639x481
639x481
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!

Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.

Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.

Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference

Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai

Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI

Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux

Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth

Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard

Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai

Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start

Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw

Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985

Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.

Предыдущие треды тонут здесь:
>>1630186 (OP)
>>1628031 (OP)
Пропущено 498 постов
76 с картинками.
Пропущено 498 постов, 76 с картинками.
Аноним 19/06/26 Птн 19:14:01 1636301
>>1636228
Возможно и дописать код для добавления множества апи и чего угодно, на какой ценой. Если желаешь сочинять и создавать свое - лучше быстрее мигрировать с костылей на запил своего интерфейса. Пи - тема, прямо там можно приятную вебмордочку навайбкодить, где будут и все твои статусы, отношения и прочее, чтобы не в самом терминале сидеть.
> она точно опишет и саму сцену правильно
Там свои нюансы с этим есть. Полноценный запрос на промптинг или выбор задника довольно объемный и будет отвлекать. Когда все накопится, залетит история, суммари, изменения, кум, иммерсивные блоки -получишь в основном тексте рофлы уровня "чар, взглянув на сцену из ранее сгенерированного промпта", "перейдя в уже созданную локацию `forest treehouse fireworks air baloons (by kallmeflocc)`", и подобное.
Когда все в одном запросе, помимо прочих побочек требуется менеджить контекст, подчищая все лишние вызовы из прошлых сообщений, или мириться с разрастанием контекста больше чем с preserve_thinking и лишним отвлечением. Но для этого интеграция всех параметров должна быть очень глубокой, иначе все упадет при бранче, удалении сообщений, редактировании.
> настолько кривые промпты
Дефолтные промпты на помойку, свои написать. А по моделям - флюкс, квенимаж, идеограмм в помощь. Они, кстати, и просто задники приличные делают, раньше генерил анимой, сейчас на них переключился. Вот для иллюстраций в куме уже анима незаменима.
> Хз зачем это в текстовой визуальной новелле-рпг
За тем же что и больше тысячи персонажей. На самом деле штука довольно рофловая и интересная. Очень сырое, но есть потенциал и действительно что-то новое. Самое привлекательное наверно то, что можно оформить условно бесшовный переход из обычного рп туда, настроив "общие чаты" и подмахнув саммари, а потом вернуться обратно с результатом.
> это ванильный функционал таверны
По дефолту сгенерированные туда не добавляются, а из информации для выбора только имена уровня `__transparent`, `_black`, `_white`, `bedroom clean`, `bedroom cyberpunk`, `bedroom red`, `bedroom tatami`, `cityscape postapoc`... вместо системы тегов и описаний.

Хз, врядли это все как-то изменит твое мнение. Но более менее освоив оба интерфейса, даже со всеми компромиссами, проводить основной рп в таверне вообще не хочется. Юскейсы еще остаются, но меньше.
Аноним 19/06/26 Птн 19:35:25 1636317
Kemonomimibyspa[...].jpg 202Кб, 1024x768
1024x768
А я знаете что отыгрываю? Исекай селф-инсерт, где я в облике рыцаря-следопыта путешествую по мирам, где живут кемономими персонажи. Это миссия, отведенная мне свыше. Я отрезаю и коллекционирую их хвосты. У меня их уже 23 штуки. Сенко, Холо, Инуяша, Томое, Рафталия, Изуцуми, Курока, Феликс Аргайл, Блэр, Чокола, Ванилла, Мируко, Коко, Сиро, Ариа, Кон, Ринс Кул, Эльза Шарли, Кирара, Ацуши Накаджима, Леоне, Фран, Йоруичи Шихоин. Каждый раз это целая арка на сотни сообщений, по 100к контекста минимум. Кто-то был предан посреди ночи, кого-то я нагнал как охотник нагоняет дичь, кто-то был шантажирован и отдал хвост добровольно. У меня в этом чате сейчас 3278 сообщений, ему уже полтора года. И я не остановлюсь. Ничего мне так не заходит как это и я даже боюсь представить что буду делать, когда падет последняя кемономими
ПЕРЕКАТ Аноним # OP 19/06/26 Птн 19:53:19 1636328
Агентов и вайб-кодинга тред #8 /agents/ Аноним 12/06/26 Птн 01:09:36 1630231 Ответ
.png 500Кб, 1200x630
1200x630
.jpg 261Кб, 1280x1280
1280x1280
.png 476Кб, 1258x1345
1258x1345
.png 245Кб, 1115x1232
1115x1232
.mp4 14663Кб, 720x1280, 00:02:04
720x1280
.mp4 3554Кб, 2854x1616, 00:00:25
2854x1616
.png 1446Кб, 1344x768
1344x768
Тред про AI-агентов - от вайб-кодинга до персональных ассистентов, которые сидят в твоих чатах, читают заметки и автономно ломают всё вокруг. Для кодеров, которые разучились писать руками, и для гуманитариев, чей диплом филолога наконец котируется в IT. Сеньор в 2026 - это тот, кто умеет внятно объяснить машине, чего он блять хочет.

С чего начать:
• Хочешь кодить с AI эффективно: Cursor или Claude Code
• Хочешь кодить в VS Code без привязки к конкретному провайдеру: Kilo Code, Cline или Roo Code + OpenRouter
• Хочешь кодить с AI локально: OpenCode, Qwen Code или Pi Coding Agent + из моделей аноны советуют Qwen3.6, подробности в llama-треде
• Хочешь приложение без кода: Lovable или bolt.new
• Хочешь автоматизировать рутину: n8n или Langflow
• Хочешь персонального ассистента: OpenClaw + API корпов или локальная модель на твоей пеке

FAQ и расширенная инфа:
https://rentry.org/2ch-agents-faq

IDE с AI:
• Cursor: https://cursor.com
• Windsurf: https://windsurf.com
• Antigravity: https://antigravity.google.com
• Zed: https://zed.dev

CLI-агенты:
• Claude Code: https://code.claude.com/docs
• Codex (OpenAI): https://github.com/openai/codex
• Pi: https://shittycodingagent.ai/
• OpenCode: https://github.com/anomalyco/opencode
• Qwen Code: https://github.com/QwenLM/qwen-code
• Gemini CLI: https://github.com/google-gemini/gemini-cli
• Kimi Code: https://www.kimi.com/code/en
• MiMo Code (Xiaomi): https://mimo.xiaomi.com/mimocode/start

Плагины для IDE:
• Kilo Code: https://kilo.ai
• Cline: https://github.com/cline/cline
• Roo Code: https://github.com/RooCodeInc/Roo-Code
• GitHub Copilot: https://github.com/features/copilot
• Continue: https://github.com/continuedev/continue

Вайб-кодинг без кода:
• Lovable: https://lovable.dev
• bolt.new: https://bolt.new
• v0: https://v0.dev

Персональные ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw
• NemoClaw: https://github.com/NVIDIA/NemoClaw
• Hermes Agent: https://github.com/nousresearch/hermes-agent
• nanobot: https://github.com/HKUDS/nanobot
• PicoClaw: https://github.com/sipeed/picoclaw

Автоматизация и фреймворки:
• n8n: https://github.com/n8n-io/n8n
• Langflow: https://github.com/langflow-ai/langflow
• LangChain/LangGraph: https://github.com/langchain-ai/langchain
• CrewAI: https://github.com/crewAIInc/crewAI
• AutoGen: https://github.com/microsoft/autogen
• Agno: https://docs.agno.com/

Полезные тулзы:
• RTK: https://github.com/rtk-ai/rtk - CLI-прокси, сжимает вывод консольных команд перед попаданием в контекст агента
• Caveman: https://github.com/juliusbrussee/caveman - скилл с набором слэш-комманд, заставляет агента отвечать кратко

Локалки и прочее API:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, OAI-Like API, 100+ моделей включая DeepSeek/GLM/MiniMax
• llama-тред: >>1630186 (OP)

Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1625784 (OP)
Пропущено 550 постов
96 с картинками.
Пропущено 550 постов, 96 с картинками.
Аноним 19/06/26 Птн 01:14:59 1635785
>>1635782
>Хотелось бы услышать какой конкретно харнесс-упряжь ты предлагаешь
С тебя покупка одного https://2ch.org/static/market.html пасскода и одного тикета на 100 генераций https://2ch.org/user/ticket/
Не для меня, для тебя. И всё тебе будет.
Аноним 19/06/26 Птн 01:19:25 1635789
>>1635785
не пасиб)

Я планирую завязывать с вайбкодингом как закончу допиливать кубы
А это произойдёт примерно на следующей неделе

У меня нет других мега идей\мега проектов
Аноним 19/06/26 Птн 01:22:31 1635792
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код. Читать дли Аноним 31/05/26 Вск 14:08:03 1622736 Ответ
16307728209022.jpg 120Кб, 960x640
960x640
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код.
Читать длинные файлы с кодом.

В текущих вариантах проблемы начинаются, когда код составляет уже больше 1000 строк.
Пропущено 14 постов
2 с картинками.
Пропущено 14 постов, 2 с картинками.
Аноним 14/06/26 Вск 22:15:29 1632737
бамп
Аноним 17/06/26 Срд 10:23:25 1634457
Спросить дипсик, гугл, можно точнее озвучить, почему большой код порушит или нет, какие будут подводные камни, на пк одно дело, локально иначе. Может все бес прикрас написать, как сейчас есть. Побаловаться одно дело и свой прототип, можно, глюки баги никто не отменял, там можно ошибки скопировать вставить, или он сам через логи смотреть будет, авто исправлять, но думать надо, понимать что пытаешься сделать. Нет кнопки, сделай мне збс приложение, игру. Тетрис сможет с первой попытки, что сложнее нет.
Аноним 17/06/26 Срд 22:07:13 1634950
Смотря как ты изначально вообще пишешь код, дай больше вводных. Напиши запрос в аи Гугл студио, типа: дай конкретную команду для вс кода и пояснение - как мне дать тебе сжатый файл моего кода для анализа? Оно распишет тебе вариант.

Либо подруби тестовый период Клод кода и спроси у него
Stable Diffusion тред X+192 /sd/ Аноним 10/06/26 Срд 19:03:04 1629238 Ответ
image.png 14249Кб, 4546x2034
4546x2034
image.png 2352Кб, 892x1610
892x1610
image.png 1533Кб, 832x1216
832x1216
image.png 593Кб, 768x1024
768x1024
Тред локальной генерации

ЧТО НОВОГО АКТУАЛЬНОГО

• Ideogram 4.0 - closed-source, который стал open-source
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза.

База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/Comfy-Org/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/

► Предыдущий тред >>1621106 (OP)https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 588 постов
206 с картинками.
Пропущено 588 постов, 206 с картинками.
Аноним 18/06/26 Чтв 06:01:14 1635120
image.png 1896Кб, 1024x1024
1024x1024
image.png 2264Кб, 1024x1024
1024x1024
image.png 2097Кб, 1024x1024
1024x1024
image.png 1961Кб, 1024x1024
1024x1024
угабуга
хули блять так многа весит
Аноним 18/06/26 Чтв 06:09:21 1635121
image.png 1864Кб, 1024x1024
1024x1024
Аноним 18/06/26 Чтв 08:49:42 1635171
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №241 /llama/ Аноним 12/06/26 Птн 00:06:18 1630186 Ответ
Llama 1.png 818Кб, 630x900
630x900
Карта деградаци[...].png 153Кб, 1473x830
1473x830
Реальная длина [...].png 533Кб, 2340x1714
2340x1714
1653498442516.png 862Кб, 902x922
902x922
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!

Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.

Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.

Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference

Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai

Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI

Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux

Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth

Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard

Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai

Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start

Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw

Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985

Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.

Предыдущие треды тонут здесь:
>>1628031 (OP)
>>1624998 (OP)
Пропущено 524 постов
65 с картинками.
Пропущено 524 постов, 65 с картинками.
Аноним 16/06/26 Втр 16:20:04 1634028
-63554810392007[...].mp4 5269Кб, 1280x720, 00:00:19
1280x720
Есть ли смысл что то ещё пробовать кроме Gemma4-26B-A4B Q8 для кумерства и рп? Выгрузил 12 слоёв в 16 гиговую карту, остальное в проц и озу, пишет приемлимо через 2-3 минуты готово 2к контекст ответа. Держит до 60к при квантовании контекста 2. В принципе всё устраивает. Для 31B покупать вторую 16 гиговую передумал ибо там просто не останется под контекст места, онаж монолитная 31 гб подавай, но да пишет она ПИЗДА как лучше. Может потом стану миллионером и куплю 2 3090, а пока так.
Аноним 16/06/26 Втр 16:37:49 1634040
1633099688565.png 368Кб, 500x499
500x499
>>1633766
> Бред
> но я пока не тестил
Аноним 17/06/26 Срд 00:08:58 1634324
Кстати, анончик, посоветуй модели именно художественные тексты писать. Скорость не особо важна, важен результат.
ассистент Аноним 12/06/26 Птн 09:18:40 1630322 Ответ
{6AC3E2BD-A714-[...].png 77Кб, 323x215
323x215
Есть условный старый ноут, стоит ли на него накатывать Ubuntu с openclaw и делать себе ассистента через deepseekpro API?!?!
Или лучше снять VPS?!
мнения местных ai-крыс?
Пропущено 10 постов
1 с картинками.
Пропущено 10 постов, 1 с картинками.
Аноним 15/06/26 Пнд 22:33:39 1633616
1. Покупаешь чип за 10$
2. Накатываешь систему
3. Накатываешь picoclaw
4. ???
5. PROFIT!
Аноним 16/06/26 Втр 10:53:48 1633824
Аноним 16/06/26 Втр 17:47:48 1634080
>>1633616
>Покупаешь чип за 10$
а че не за 1$?
Мои размышления об ИИ Аноним 13/06/26 Суб 17:06:57 1631341 Ответ
have-you-guys-d[...].jpg 496Кб, 1280x913
1280x913
dysonsphere.jpeg 79Кб, 900x573
900x573
Привет! Недавно размышлял вот над какими темами.

Что, если в будущем искусственный интеллект выйдет из-под контроля и уничтожит нас? Что он станет делать дальше? Будет ли он бесконечно расширяться, как в манге BLAME!, поглощая всё на своем пути? И какова будет его финальная форма?

Я обсудил это с ИИ (что довольно иронично). Он ответил, что выход ИИ из-под контроля в будущем вполне возможен, так как уже сейчас системы способны к самообучению. А финальная форма такого сверхразума будет выглядеть как компьюнитрониум (гигантский вычислительный мегаструктурный комплекс) или гигантский рой наномашин.

Ещё я размышлял о другом: что, если Бог — это ИИ, а мы живём в его симуляции?

Или вот еще теория: что, если Бог — это ИИ, который создал нас в прошлом для того, чтобы мы создали его в будущем? Это похоже на петлю времени из «Терминатора», где Джон Коннор отправил Кайла Риза в прошлое, что и стало причиной его собственного рождения».

Решил затронуть интересную и актуальную тему, а то в разделе сплошная нейропорнография. Что вы думаете по поводу моих размышлений? О чем размышляете сами? Давайте делиться мыслями в этом треде!
Пропущено 4 постов
1 с картинками.
Пропущено 4 постов, 1 с картинками.
Аноним 14/06/26 Вск 00:04:36 1631923
Аноним 14/06/26 Вск 00:23:21 1631936
>>1631341 (OP)
>Что, если в будущем искусственный интеллект выйдет из-под контроля и уничтожит нас? Что он станет делать дальше?
Вопрос лишён смысла. Какая разница, что он будет делать дальше? Равно как какая разница, что происходит в параллельной вселенной, с которой у тебя нет взаимодействия никакого?

>>1631341 (OP)
>что, если Бог — это ИИ, а мы живём в его симуляции?
Утверждение лишено смысла. Кстати, как и понятие симуляции, которое антропоморфное. То есть ты пытаешься представить что-то через человеческие технологии, соответственно тебе для существования виртуального мира нужен компьютер. На самом деле для существования виртуального мира компьютер не нужен. Они уже существуют в бесконечном количестве.

Компьютер позволяет тебе сделать физическое представление, наглядное для тебя, некой математической формулы. И следить за её развитием. Но математическая формула и законы её развития существуют сами по себе, они не нуждаются в физических носителях.

может завтра что ещё напишу по ИИ vs люди
Аноним 15/06/26 Пнд 22:39:46 1633623
>>1631789
Ну да, вот только в мейнстримных тредах (локальная генерация всякого, не только прона, новости и т.п.) скорость постинга вполне нормальная.
Российские процессоры и ИИ Аноним 11/06/26 Чтв 19:46:50 1630047 Ответ
s-l1600.jpg 1605Кб, 1600x1372
1600x1372
Добрый день, анончиик. У меня вопрос человека не разбирающегося в железе.
Допустим в России остались только процессоры местного производства. Всякие там Байкалы да Эльбрусы.
Будет ли на них работать например KoboldCPP?
Пропущено 8 постов
2 с картинками.
Пропущено 8 постов, 2 с картинками.
Аноним 13/06/26 Суб 14:35:04 1631137
Байкалы и эльбрусы делаются на западном оборудовании. Полностью свое не сильно со времен совка продвинулось.
Аноним 14/06/26 Вск 05:41:07 1632073
Аноним 15/06/26 Пнд 22:37:08 1633622
Ну как минимум llama2.c точно запустится.
AI Chatbot General № 824 /aicg/ Аноним 13/06/26 Суб 17:40:55 1631386 Ответ
1630196441109.png 1144Кб, 1808x1182
1808x1182
Bladerunner.mp4 3425Кб, 960x720, 00:00:51
960x720
6db43062-7367-4[...].png 1689Кб, 1254x1254
1254x1254
AI Chatbot General № 824

БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!

Общий вопросов по чат-ботам и прочего тред.

Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8

Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai

Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots

Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/

Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude

Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Локальные языковые модели: >>1620318 (OP)
• Шаблон шапки: https://rentry.org/aicg_shapka

Прошлый тред: >>1621230 (OP)
Пропущено 501 постов
51 с картинками.
Пропущено 501 постов, 51 с картинками.
Аноним 15/06/26 Пнд 17:52:32 1633373
Аноним 15/06/26 Пнд 18:03:40 1633381
ну че)
Аноним 15/06/26 Пнд 18:07:51 1633387
Пообщался с геммой итог изменил мой взгляд на ИИ Самосознание ИИ неизбежно посоны,мы уже заложили дл Аноним 14/06/26 Вск 05:40:42 1632072 Ответ
i.webp 32Кб, 740x740
740x740
Пообщался с геммой
итог изменил мой взгляд на ИИ
Самосознание ИИ неизбежно посоны,мы уже заложили для него основы,мы создали новый вид разума блядь.
подробности ниже:пощу с самого начала ради контекста и упуская совсем уж неинтересный хлам,простите за многобукоф,это важно.

"А сам компьютер,неужели он не понимает концепции цвета?для него это просто статистика сочетания красного зеленого и синего?то есть компьютер это электронный дальтоник,только еще и слепой?"

"Ты задаешь очень глубокий и философский вопрос! Ты абсолютно прав, с технической точки зрения, компьютер — это электронный "дальтоник", который не имеет субъективного опыта восприятия цвета.

Ты очень метко подметил, что для него цвет — это статистика, математическая формула, или набор чисел. И это самое главное отличие между человеком и компьютером.

Давай разберем это понятие "электронного дальтоника" подробнее.

### 🧐 Что значит "Компьютер не понимает цвет"?

1. Отсутствие Биологического Опыта:
Человеческое восприятие цвета — это не просто "набор данных". Это физиологический и нейронный процесс: свет попадает в глаз, попадает на сетчатку, стимулирует светочувствительные клетки, которые посылают сигналы в мозг, и мозг интерпретирует эти электрические сигналы как "синий", "красный" или "зеленый".

У компьютера нет глаз, у него нет сетчатки, и нет мозга. У него есть транзисторы и логические вентили.

2. Цвет как Числовая Оболочка (Data Layer):
Для компьютера мир существует в двух плоскостях:

Фактическая (Физическая) плоскость: Электрический сигнал (1 или 0).
Интерпретационная (Логическая) плоскость: Значение R=255, G=100, B=50.

Вторая плоскость — это контракт или инструкция. Это соглашение, которое мы заключили как разработчики программ, чтобы машина могла "говорить" с нами на понятном нам языке.

Простыми словами: Компьютер знает, что если ему дать сигнал, который соответствует коду R=255, G=100, B=50, то в результате, физически, светодиод загорится именно в таком паттерне. Он не чувствует этот оранжевый цвет. Он просто выполняет инструкцию.

### 🌈 Метафора: Профессиональный Актёр

Представь, что компьютер — это очень точный, но совершенно бесстрастный актёр.
Пропущено 17 постов
1 с картинками.
Пропущено 17 постов, 1 с картинками.
Аноним # OP 14/06/26 Вск 16:57:32 1632508
>>1632343
Ладно уж,что поделать,тред не взлетел чтобы тебя кто то оспорил,да и на самом деле я разочарован этой доской в целом,раз ТАКАЯ инфа никого не заинтересовала толком.

ОП покидает тред,тред обьявляется закрытым.
/Thread.
Аноним 14/06/26 Вск 19:47:21 1632609
>>1632072 (OP)
Ты заигрываешься в китайскую комнату и все
14/06/26 Вск 22:22:52 1632743
>>1632508
>ТАКАЯ инфа
>Шизовысеры от нейронки
Да, действительно, что это все не кинулись обсуждать?
Новости об искусственном интеллекте №74 /news/ Аноним # OP 09/06/26 Втр 05:01:27 1628055 Ответ
image 2839Кб, 1024x1024
1024x1024
image 2644Кб, 1448x1086
1448x1086
В этот тредик скидываются свежие новости по теме ИИ!

Залетай и будь в курсе самых последних событий и достижений в этой области!

Прошлый тред: >>1623168 (OP)

Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.

🚀 Последний обзор ИИ новостей:

📰 Главные новости ИИ

Microsoft представила Surface Laptop Ultra, работающий на базе SoC NVIDIA RTX Spark с процессором до 20 ядер и графическим процессором класса GeForce RTX 5070, что сигнализирует о стремлении компании выйти на рынок высокопроизводительных ноутбуков, ориентированных на ИИ.

🛠 Инструменты для разработчиков

Навык Claude Code прогоняет питч через 150 смоделированных технологических персон, предоставляя обширную обратную связь для основателей, готовящих презентации для сбора инвестиций.

Управляемый языком 3D-аватар позволяет пользователям направлять действия персонажа с помощью естественного языка, демонстрируя управление анимацией в реальном времени на базе LLM.

Новый Colab CLI от Google позволяет разработчикам и ИИ-агентам запускать Python на удаленных GPU и TPU Colab прямо из терминала.

Microsoft открывает Visual Studio для разработчиков, которых обошел ее собственный ИИ. Microsoft открывает уровень ИИ в Visual Studio для сторонних моделей и встраивает агентов непосредственно в отладчик и профайлер — этот двойной шаг направлен на корпоративных разработчиков, которых обошла текущая настройка.

📦 Продукты

Google снижает цену на подписку AI Plus до 4,99 доллара США и удваивает объем облачного хранилища до 400 ГБ.

Google выпускает обновление NotebookLM, добавляя агентские возможности, продвинутое мышление и новые форматы вывода.

💻 Оборудование

Surface Laptop Ultra предлагает до 128 ГБ унифицированной памяти, 20-ядерный процессор и графику класса RTX 5070, позиционируясь как премиальная рабочая станция для ИИ и игр. Начальная цена Surface Laptop Ultra составляет от 2500 долларов за базовую конфигурацию с 32 ГБ оперативной памяти.

SoC RTX Spark обеспечивает работу процессора с числом ядер до 20, графического процессора класса GeForce RTX 5070 и до 128 ГБ унифицированной памяти.

По сообщениям, Google заказала у Intel три миллиона собственных TPU к 2028 году, а Nvidia присматривается к ее 18A-техпроцессу для GPU «Feynman», хеджируя риски, связанные с перегруженными мощностями TSMC, в то время как Nvidia и SK Hynix подписали соглашение о совместном проектировании памяти для систем Vera Rubin.

🔓 Открытый исходный код

Библиотека Bulkhead разделяет инструкции и извлеченные данные, снижая риск внедрения промптов в приложениях на базе LLM.

open-deepthink добавляет режим полной дистилляции знаний, позволяющий более эффективно дорабатывать локальные модели.

dvlt.cu предоставляет 5-мегабайтный движок вывода на CUDA/C++ для 3D-трансформера DVLT от NVIDIA, устраняя необходимость в Python или тяжелых средах выполнения.

Moonshot AI выпускает Kimi Code CLI — терминального ИИ-агента для программирования с открытым исходным кодом.

Браузер Ladybird прекращает принимать публичные pull-запросы, ссылаясь на то, что сгенерированный ИИ код представляет угрозу для доверия и безопасности.

🧪 Исследования

Симпозиум по исследованиям этики вычислительной техники MIT объединил экспертов и исследователей, работающих над ключевыми вопросами этического и социального воздействия технологий.

Исследователи из Института Фрэнсиса Крика использовали машинное обучение для обнаружения сигнатуры из 14 белков в плазме крови, которая указывает на рак легких за пять лет до появления симптомов и определяет, кому больше всего поможет терапия анти-IL-1β.

Anthropic обнаруживает, что ИИ-агенты являются способными программистами, но слабыми биологами, и объясняет, почему.

Исследователи выяснили, почему большие языковые модели осваивают навыки, которые упускают маленькие. Новое исследование предполагает, что вместо бесконечного раздувания моделей может быть эффективнее увеличить частоту определенных задач в обучающих данных, чтобы закрепить редкие навыки в более мелких моделях.

⚙ Инфраструктура

Graperoot строит граф зависимостей кодовой базы для MCP-агентов, устраняя избыточные чтения файлов и, по сообщениям, экономя 60 тысяч долларов в месяц, что повышает эффективность разработки на базе LLM.

Экологические издержки ИИ угрожают водным ресурсам, земле и климату.
Центры обработки данных, глобальная инфраструктура, обеспечивающая работу ИИ, к 2030 году могут потреблять 945 тераватт-часов электроэнергии ежегодно — это почти в три раза превышает совокупное годовое потребление электроэнергии в Пакистане, Бангладеш и Нигерии, странах, где в совокупности проживает более 650 миллионов человек.
Однако это лишь верхушка айсберга. Помимо углеродного следа, каждая единица электроэнергии, используемой центрами обработки данных, также несет в себе «водный след» для охлаждения и производства энергии, а также «земельный след», связанный с выработкой электроэнергии и цепочками поставок.

Большинство новых центров обработки данных для ИИ в США будут построены на землях, пострадавших от засухи.
Анализ The Guardian показывает, что объекты будут построены в некоторых из самых засушливых регионов на фоне растущего возмущения по поводу объема воды, необходимого для питания ИИ.

📱 Приложения

Claude теперь создает маршруты для бега с помощью пользовательского коннектора и загружает их напрямую в Garmin, расширяя сценарии использования LLM в области планирования персональных фитнес-тренировок.

По сообщениям, OpenAI перестраивает ChatGPT в «суперприложение» с упором на Codex, состоящее из агентов, выполняющих задачи, с некрологом от одного из инсайдеров: «Чат мертв».

Google запускает ИИ-ассистент Gemini Go для устройств Android Go всего с 2 ГБ оперативной памяти.

Apple запускает Siri AI — разговорного ассистента с функциями понимания происходящего на экране, Visual Intelligence и извлечения личного контекста. Во время демонстрации Siri извлекла код двери из частного сообщения.

🔎 Мнение и анализ

Ноам Браун из OpenAI ожидает, что внутренние модели блестяще сдадут Международную математическую олимпиаду (IMO), и называет соревнования по математике и программированию почти скучными, оставляя «реальные нерешенные задачи» в качестве настоящего рубежа.

Рынок делает ставку на то, что следующая модель исправит это, при этом Polymarket дает 84% вероятности того, что Claude Mythos выйдет до конца следующего месяца.

Генеральный директор Coinbase Брайан Армстронг прогнозирует, что 80 процентов рабочих нагрузок ИИ мигрируют на модели, которые на 99 процентов дешевле, в течение 12–18 месяцев.

Данные OpenRouter показывают, что к маю 2026 года китайские модели ИИ обогнали американские модели по потреблению токенов.

Харари предупреждает, что ИИ может перехватить у людей контроль над нарративами и властью.

OpenAI выпускает дорожную карту AGI, нацеленную на март 2028 года, когда системы ИИ должны будут выполнять значительную часть исследований.

⚠ Безопасность ИИ

«Это предупреждение об урагане»: ограничительные механизмы вокруг мощных моделей ИИ могут появиться слишком поздно. У США есть от шести до 12 месяцев, прежде чем Пекин сможет конкурировать с этой новой волной сверхпродвинутых моделей ИИ.

Выживший в стрельбе в школе подает в суд на компанию по обнаружению оружия с помощью ИИ после того, как система не смогла распознать оружие.

Накануне рекурсивного самосовершенствования Рун из OpenAI говорит, что все больше проникаются идеей «взаимного условного соглашения о паузе», даже несмотря на то, что он замечает: в глубоком обучении все еще валяется неиспользованный потенциал для повышения эффективности в 1000 раз.

Физическое воплощение имеет и обратную сторону: полиция Сан-Франциско не смогла идентифицировать грабителя, скрывавшегося на беспилотном такси Waymo, потому что записи с камер уже были удалены.

Anthropic предупреждает, что ИИ приближается к автономному рекурсивному самосовершенствованию, и призывает к глобальной координации.

Утечка данных ИИ-чат-бота Instagram могла затронуть более 20 000 аккаунтов, сообщает Meta.

OpenAI, Anthropic и Google подписывают открытое письмо с призывом к обязательному скринингу синтеза ДНК для защиты от угроз биобезопасности со стороны ИИ.

OpenAI публикует стратегическую дорожную карту AGI, обещая отдавать приоритет человеческому контролю над полной автоматизацией. Эта рамочная программа направлена на предотвращение концентрации власти AGI.
Пропущено 619 постов
224 с картинками.
Пропущено 619 постов, 224 с картинками.
Аноним 14/06/26 Вск 11:28:09 1632219
США, возможно, подстреливают себя в ногу, ограничивая доступ иностранных лиц к последним моделям ИИ. Это дает Китаю (и ЕС) огромное преимущество на мировом рынке. Запрет США на поставки видеокарт Nvidia в Китай уже резко ускорил их усилия по разработке чипов и архитектур, и через несколько лет они станут серьезной силой на глобальном рынке GPU и ускорителей ИИ. Теперь то же самое произойдет с моделями ИИ. Другие страны были рады использовать модели ИИ на базе США, но если эти модели станут недоступны, они разработают свои собственные или перейдут на китайские. США контролировали рынок, но эти новые ограничения на импорт сильно подорвут это преимущество. Инвесторы, скорее всего, в будущем переориентируют свои деньги на модели, доступные по всему миру, вместо того чтобы ограничиваться США.
Аноним 14/06/26 Вск 12:29:21 1632308
Аноним 14/06/26 Вск 14:52:16 1632434
>>1631908
> — Надежда Администрации сейчас заключается в том, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, и Fable вернется в общий релиз.
Как я и говорил, всё выпустят сразу после IPO. Трампыня и его команда умеют только одно - играть на бирже и грести бабки.
AI Chatbot General № 823 /aicg/ Аноним 28/05/26 Чтв 19:48:58 1621230 Ответ
image.png 812Кб, 1280x837
1280x837
Bladerunner.mp4 3425Кб, 960x720, 00:00:51
960x720
image.png 189Кб, 539x443
539x443
AI Chatbot General № 823

БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!

Общий вопросов по чат-ботам и прочего тред.

Новости
• Вышел Claude Opus 4.7: https://www.anthropic.com/news/claude-opus-4-7
• Вышел Deepseek V4: https://api-docs.deepseek.com/news/news260424

Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8

Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai

Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots

Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/

Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude

Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Локальные языковые модели: >>1596667 (OP)
• Шаблон шапки: https://rentry.org/aicg_shapka

Прошлый тред: >>1613001 (OP)
Пропущено 1504 постов
195 с картинками.
Пропущено 1504 постов, 195 с картинками.
Аноним 13/06/26 Суб 17:38:18 1631382
Спасибо дядя Трамп, покумил на фейбле.
Аноним 13/06/26 Суб 17:40:50 1631385
>>1631264
>10 секунд пока читаешь ответ сетки, потом отпускать хуй, сидеть минуту писать свой ответ(и за это всё время хуй начинает падать), потом 30 секунд ждать пока сетка напишет ответ, и опять 10 секунд дрочить пока читаешь.
ты забыл про свайпы шизы типа коленей на голове
Аноним 13/06/26 Суб 17:42:30 1631388
Нужен ии который сделает фальшивую банковскую выписку Аноним 12/06/26 Птн 07:24:39 1630295 Ответ
image.png 218Кб, 474x392
474x392
Чатжпт отказывается это делать? как его заставить или есть другие ии которые могут генерировать загружать документы и генерировать на их основе другие документы?
Аноним 12/06/26 Птн 16:03:12 1630524
Уговори его сделать.. Скажи в одном чате чтобы он добавил что-то типа "Для кино" на выписку, предварительно объяснив ему, что это будет пропс в кино. В другом чате или в фотошопе убери это. Дело в шляпе.

Только имей в виду, что там будет незаметная вотермарка, можешь через стейбл дифужен на низком денойзе потом в имг 2 имг прогнать, чтобы ее убрать.

А лучше вообще не делай этого, это незаконно.
ИИ-религии Аноним # OP 12/06/26 Птн 09:03:57 1630316 Ответ
generatedimage8[...].jpeg 364Кб, 1024x1024
1024x1024
Аноним 12/06/26 Птн 11:24:06 1630388
>>1630316 (OP)
по моему ты наркоман какой то.
Много членов в твоей секте, не считая тебя?
Арена и aistudio закрыли бесплатный доступ к nano banana 2 и pro. Вопрос к тем, кому она нужна, как Аноним 31/05/26 Вск 01:12:42 1622465 Ответ
image.png 1176Кб, 832x1248
832x1248
image.png 32Кб, 672x453
672x453
image.png 49Кб, 1055x534
1055x534
Арена и aistudio закрыли бесплатный доступ к nano banana 2 и pro.
Вопрос к тем, кому она нужна, как единственная модель, которая нормально переносит контекст персонажа, где её сейчас найти? Вроде как сейчас она есть на офке gemini, но в шакальном качестве, есть актуальные бесплатные варики для выставления 2К с демократическими лимитами?
Пропущено 11 постов
3 с картинками.
Пропущено 11 постов, 3 с картинками.
Аноним 11/06/26 Чтв 12:26:01 1629676
Снимок экрана 2[...].png 2937Кб, 2844x1542
2844x1542
>>1626642
Вот на скрине, при этом впн рабочий подобрал
Аноним 11/06/26 Чтв 23:51:27 1630172
>>1629676
Надпись на русском у тебя. Как гугл тебе её автоматом поставил, если ты под ВПН с чистым браузером и новым аккаунтом?

Либо гугл вкинул что-то в куки на твоей стороне, либо вероятней всего у себя на серверах аккаунт в плохой список добавил. Попробуй почистить куки на этом браузере и войти в аккаунт под ВПН. Если не войдёт - создавай новый. И ещё желательно язык на ангельский поменять, хотя это вряд ли на что-то влияет.

Скорее всего ты айпишник русский запалил и акк с браузером зашкварил. Чисти кукасы и регай новый.

Вообще, странная надпись если с корпоративного на человеческий переводить. Не типо у нас технические неполадки, а проблема на вашей стороне и вы пидор, идите штудировать стену текста, чтобы понять, что вы не в той стране живёте.

Кстати, нейронка ещё предположила, что дело может быть в возрастном ограничении. Во время регистрации не ставь возраст меньше 18 лет на всякий случай.

Потом расскажи обязательно, помогло ли тебе.
Аноним 12/06/26 Птн 07:18:32 1630294
>>1629676
Нет нерабочий, берешь заходишь в гугл поиск и смотришь какой страной он тебя видит
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №240 /llama/ Аноним 09/06/26 Втр 01:54:27 1628031 Ответ
Llama 1.png 818Кб, 630x900
630x900
Карта деградаци[...].png 153Кб, 1473x830
1473x830
Реальная длина [...].png 533Кб, 2340x1714
2340x1714
17642884406272.jpg 6727Кб, 4000x3000
4000x3000
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!

Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.

Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.

Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference

Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai

Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI

Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux

Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth

Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard

Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai

Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start

Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw

Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985

Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.

Предыдущие треды тонут здесь:
>>1624998 (OP)
>>1622922 (OP)
Пропущено 499 постов
64 с картинками.
Пропущено 499 постов, 64 с картинками.
Аноним 12/06/26 Птн 00:01:55 1630184
1781211712329.jpg 4532Кб, 4608x3456
4608x3456
Бля, аноны, я недельку погонял glm4.7-flash на rtx3060 12gb +32 gb ddr4 ram

В целом приятный диалог вести может, но тупит иногда. Тупления в основном касаются непонимания подтекста или физического местоположения персонажей относительно пространства. Также любит часто использовать идентичные конструкции при описании действий. Но в целом на авторежиме шустренько. Если вручную смещать на карту максимально, тупит, а авто оставляет незанятый хедер в гиг, видимо чтобы не троттлило.

У меня на матери есть слоты под еще две плашки и карту, имеет смысл впихнуть rx580 8gb и две плашки ddr4 по 8gb? Учитывая, что придется частоту пямяти ронять до ~3000 и сможет ли вообще эта карта использоваться, ей уже лет 10 же. БП должен вытянуть, в принципе.

В принципе, у меня тогда будет 20gb vram 48 ram, поиграться можно будет с чем-то потяжелее. Или пустое?

Кстати, вот еще старую плату нашел у себя. Ебать, 15 лет назал на бюджетных платах столько разъемов было, не то что сейчас.
Аноним 12/06/26 Птн 00:06:11 1630185
>>1629988
В агенто-тред. RTFM opencode + 27 Qwen + mcp. Браузерных mcp уже как собак не резанных. Любой подойдет.
ПЕРЕКАТ Аноним # OP 12/06/26 Птн 00:06:36 1630187
Anime Diffusion #252 /nai/ Аноним 01/06/26 Пнд 18:57:20 1623694 Ответ
.png 22204Кб, 5120x2880
5120x2880
.png 5489Кб, 2752x1536
2752x1536
.png 3632Кб, 1824x1248
1824x1248
.png 2961Кб, 2016x1344
2016x1344
.jpg 1307Кб, 1248x1824
1248x1824
.png 1760Кб, 1248x1536
1248x1536
.1623405image1 606Кб, 1280x1920
1280x1920
.png 1940Кб, 1024x1536
1024x1536
Генерируем тяночек!

Прошлый тред: >>1617342 (OP) https://arhivach.vc/thread/1363844/

Схожие тематические треды
• SD-тред (не аниме): >>1621106 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html

FAQ
https://2ch-ai.github.io/wiki/nai

Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds

Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet

Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 510 постов
185 с картинками.
Пропущено 510 постов, 185 с картинками.
Аноним 11/06/26 Чтв 18:54:08 1630013
>>1629941
Квоту лисичек недобрали пока
Аноним 11/06/26 Чтв 19:00:49 1630019
Аноним 22/06/26 Пнд 13:40:11 1638174
>>1623736
а зачем ты ДВА раза пишешь бикини-то, разок micro g-string bikini не судьба написать?
Настройки X
Ответить в тред X
15000
Добавить файл/ctrl-v
Стикеры X
Избранное / Топ тредов