Пропущено 182 постов 182 с картинками.
Пропущено 1484 постов, 182 с картинками.
>>1183530 Я теперь знаю, что это скрины тян. Буду фапать на них, представляя как о на там мусолит фасолинку.
>>1183546 Тебя фильтр блочит
Спасибо дипсик оче наглядно!
Пропущено 156 постов 156 с картинками.
Пропущено 1617 постов, 156 с картинками.
>>1181124 Оооо, клеточка. Карточку?
куда тут жмать, чтобы без кончи во рту
>>1181049 это местный дурачок с 17 айкью, который постоянно о себе в женском роде пишет, чего ты хотел
Llama 1.png
818Кб, 630x900
Альфа от контек[...].png
121Кб, 3090x1830
KL-divergence s[...].jpg
223Кб, 1771x944
17447508049381.mp4
4075Кб, 1280x720, 00:00:03
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/ Инструменты для запуска на десктопах: • Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama , https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный Не совсем актуальный список моделей с отзывами от тредовичков на конец 2024-го: https://rentry.co/llm-models • Неактуальный список моделей по состоянию на середину 2023-го: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch , предложения принимаются в треде. Предыдущие треды тонут здесь:>>1159889 (OP) >>1149538 (OP)
Пропущено 63 постов 63 с картинками.
Пропущено 492 постов, 63 с картинками.
>>1179083 >Анон выше кинул ссылку с джейлбрейком ломающим любые модели одним промптом. О, Немотрон новый попробовать надо, а то он никому не нужен для тюнов, а модель вроде умная.
>>1179143 >Зато какую свинью всем подложили эти пидарасы, лишнее внимание к теме Это да. Белые, бля, хакеры.
Вышла Qwen 3, говорят, идет на "домашнем железе". Мнения?
17415188875670.mp4
985Кб, 1280x720, 00:00:06
17419540385170.mp4
2473Кб, 1280x720, 00:00:05
I wanted to see[...].mp4
6837Кб, 1280x720, 00:00:36
17397909184564.mp4
6046Кб, 960x540, 00:00:08
Генерируем свое (и постим чужое) в Hunyuan, Wan, Luma Dream Machine, Hailuo Minimax, Kling, Sora, Vidu, Runway, Pixverse, Pika и др. сервисах. 1. Hailuo Minimax https://hailuoai.video/ 2. Kling https://klingai.com/ 3. Sora от OpenAihttps://openai.com/sora/ 4. Luma Dream Machine https://lumalabs.ai/ 5. Vidu https://www.vidu.com/create 6. Pixverse https://app.pixverse.ai/ 7. Pika https://pika.art/try 8. Runway Gen. 3 https://runwayml.com/ 9. Wan от Alibabahttps://wan.video/ Сайты, где можно попробовать генерации на разных моделях https://pollo.ai/ https://www.florafauna.ai/ https://nim.video/ Коллекция ИИ-видео: https://www.reddit.com/r/aivideo/ Локальные модели 1. Hunyuan от Tencent.https://hunyuanvideoai.com/ https://github.com/Tencent/HunyuanVideo 2. Wan от Alibabahttps://github.com/Wan-Video/Wan2.1 Локальный UI https://github.com/comfyanonymous/ComfyUI Установка локальных моделей Hunyuan Video: https://comfyanonymous.github.io/ComfyUI_examples/hunyuan_video/ Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/ Альтернативные ноды ComfyUI Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper Wan 2.1: https://github.com/kijai/ComfyUI-WanVideoWrapper Квантованные чекпоинты Hunyuan Video (GGUF): https://huggingface.co/Kijai/SkyReels-V1-Hunyuan_comfy/tree/main Wan 2.1 (GGUF): https://huggingface.co/city96/Wan2.1-I2V-14B-480P-gguf/tree/main Wan 2.1 (NF4): https://civitai.com/models/1299436?modelVersionId=1466629 Где брать готовые LoRA https://civitai.com/models Hunyuan Video: https://civitai.com/search/models?baseModel=Hunyuan%20Video&sortBy=models_v9 Wan 2.1: https://civitai.com/search/models?baseModel=Wan%20Video&sortBy=models_v9 Обучение LoRA https://github.com/tdrussell/diffusion-pipe Предыдущий тред>>1082918 (OP)
Пропущено 148 постов 148 с картинками.
Пропущено 508 постов, 148 с картинками.
У меня framepack пытается использовать 30 гб врам? На гитхабе есть такая проблема, но никто решения не дал. На ютубе у всех просто из коробки нормально работает на 8 гб. У меня 32 гига оперы и файл подкачки 32.
image.png
294Кб, 1643x839
>>1190134 Зарегился через гугл висит это. Часто такое у них?
>>1199294 >Часто такое у них? попробуй страну поменять в РКН
agent.jpg
26Кб, 512x512
Представьте себе ИИ, который не просто выполняет код, а понимает его, адаптируется и даже улучшает себя на лету. Это компактный, умный и невероятно гибкий инструмент для разработчиков, исследователей и всех, кто хочет заглянуть под капот автономного ИИ. Ссылка: https://github.com/machinegpt/agent # Почему это круто? 🧠 Самопознание — Агент анализирует и модифицирует собственный код, открывая двери к настоящему ИИ-самосовершенствованию. ⚡ Легковесность — Никаких гигабайтных моделей: чистый Python, прозрачная логика и полный контроль. # Как начать? Клонируйте репозиторий: ``` git clone https://github.com/machinegpt/agent.git ``` Установите зависимости Python (если требуются) Добавьте ваш OpenAI API ключ в файл .env # Запустите агента ``` python machine.py ``` Для глубокой настройки изучайте и модифицируйте код в machine.py
Если кто-то сделает видео для GitHub и скинет ссылку, я добавлю его.
Пропущено 179 постов 179 с картинками.
Пропущено 1597 постов, 179 с картинками.
Осторожно, за любое упоминание организаций Неовхора и К, снайпер стреля...
>>1178177 Картинку прикрепил, а они ей загрузили спали айпи.
Пропущено 180 постов 180 с картинками.
Пропущено 1491 постов, 180 с картинками.
>>1176202 Какие токены в три горла, ты за них платишь?
>>1176215 будь обьективен - лучше 90% треда
В этот тредик скидываются свежие новости по теме ИИ! Залетай и будь в курсе самых последних событий и достижений в этой области! Прошлые треды: https://arhivach.hk/?tags=16252
Пропущено 124 постов 124 с картинками.
Пропущено 498 постов, 124 с картинками.
>>1174207 Ну так ты скинь промпт то.
Пропущено 176 постов 176 с картинками.
Пропущено 544 постов, 176 с картинками.
>>1173778 Одна девочка уже надкусила яблоко, а ее потом из рая выгнали. ПОДУМОЙ
Я правильно понял что пока разраб пони мнул яйца и собирал донаты уже вышла серия иластриас и теперь новый понь нахуй не нужен?
Пропущено 209 постов 209 с картинками.
Пропущено 1625 постов, 209 с картинками.
>>1173846 подскажи, пожалуйста как regex сделать, не вижу его на странице
Я студентка матфакультета, специализируюсь на прикладной математике и работаю в data science. В последние пару лет плотно занимаюсь генеративными моделями, в основном LLM и diffusion-системами. Проекты есть, практика есть, опыт растёт. Но сейчас пришёл момент, когда хочется определить более устойчивое направление для серьёзных исследований. Хайп вокруг генеративок не утихает, но архитектуры генеративных моделей имеют пока что не исправимые недостатки. Поэтому я начала смотреть в сторону менее популярных, но, возможно, более значимых в будущем направлений. Как думаете какие виды искуственного интеллекта смогут заменить превычные нам за эти 4 года трансформеро зависимые llm?
Пропущено 3 постов 3 с картинками.
Пропущено 7 постов, 3 с картинками.
Llama 1.png
818Кб, 630x900
Альфа от контек[...].png
121Кб, 3090x1830
KL-divergence s[...].jpg
223Кб, 1771x944
17447508048920.mp4
8483Кб, 1280x720, 00:00:06
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/ Инструменты для запуска на десктопах: • Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama , https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный Не совсем актуальный список моделей с отзывами от тредовичков на конец 2024-го: https://rentry.co/llm-models • Неактуальный список моделей по состоянию на середину 2023-го: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch , предложения принимаются в треде. Предыдущие треды тонут здесь:>>1149538 (OP) >>1142778 (OP)
Пропущено 59 постов 59 с картинками.
Пропущено 532 постов, 59 с картинками.
>>1169899 Но у аблитерации и так совсем нет цензуры зачем ещё и лоботомировать её?
>>1170944 в таверне есть "имена как стоп строки", оно в промт дописывает стоп строку и на этапе ответа модель сама прерывается ещё на этапе выдачи токенов. Ну и безжоп есть в мануалах в шапке треда. Качаешь расширение и скрипты, она сделают тебе кРаСиВо. Аноны, у меня обратная проблема. Выглядит как эта тотчь в точь https://github.com/SillyTavern/SillyTavern/issues/260 Какая настройка может давать такой эффект?
Пропущено 189 постов 189 с картинками.
Пропущено 1506 постов, 189 с картинками.
Я уже просто надеюсь, что следующая итерация писик-чата сможет держать контекст больше 12к и не сваливаться в тотальный безмозг.
>>1171357 >Ща натяну колготки А не жарко?
Пропущено 187 постов 187 с картинками.
Пропущено 517 постов, 187 с картинками.
>>1169418 >карту мира Хорош, уважаю, понимает в теме.>>1169391 Хорошая, но на ночь много пить не стоит. Даже воды
>>1164198 Может уж лучше в гугл колабе генерить на чем хочешь без ваших этих токенов, 2.5 часа в день если не хватает, делаешь второй гугл акк
>>1168395 Спасибо. Работает.
Аноны, милые, помогите допилить вот эту фейк-апишку https://github.com/mem0ai/grok3-api под глупую таверну. Я поковырялся, из коробки даже базовые запросы не работают пока что. Я не красноглазик, так что мб мой косяк.Я хз вообще это может так работать
Пропущено 169 постов 169 с картинками.
Пропущено 1590 постов, 169 с картинками.
>>1169026 > Настрой КоТ на основе внешнего рандома (например рандомвордс), чтобы задать нужный уровень рандомности и вписываемости ее в сцену да это все в теории, может в каких-то форматах где один ход всегда примерно одинаковый. а если темп меняется, и я хочу просто поговорить с чаром в какой-то момент например, то что это будет с этим рандомом сам понимаешь. краз
>>1169029 Да вроде и на 100к норм работала. Я как раз сумарайз делал ужав эти 100к в 8к. И мне кажеться она теперь на этот сумарайз сильно отвлекаеться игноря остальное.
image.png
0Кб, 270x82
как сделать свою нейросеть с нуля с чего начинать?
Пропущено 1 постов 1 с картинками.
Пропущено 2 постов, 1 с картинками.
>>1158111 раз такой умный, то мог бы и подсказать
>>1157635 (OP) Для начала пройди учебник Яндекса по ML: https://education.yandex.ru/handbook/ml Дальше будет видно.
>>1157635 (OP) В телеге иногда подборкой слитые книги/гайды по программированию и в том числе по нейросеткам есть.Там часть по просьбам,а часть как делать нейросетки.Но более менее толкового в одно лицо запаришсы обучать...
image.png
2720Кб, 1024x1536
image.png
2677Кб, 1024x1024
image.png
5095Кб, 1360x1440
image.png
2335Кб, 832x1216
Тред локальной генерации, преимущественно реализм. Cоседи ► Аниме-тред >>1144753 (OP) ► Техно-тред >>1118663 (OP) База: → Приложение ComfyUI https://www.comfy.org/download → Примеры https://comfyanonymous.github.io/ComfyUI_examples/ (откуда, куда, как. Начинать со страницы SDXL) → Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений) → Модели https://civitai.com/ (собрано со всего инета) Промт должен быть кратким для SDXL и поэма длинная для Flux и SD3.5, негативы обычно вредны. ЧТО НОВОГО АКТУАЛЬНОГО ЗА ГОД • SDXL модели: Natvis Natural Vision v1.0, BigASP v1.0, Illustious (cyberillustrious/thrillustrious), NoobAI (noobReal). Все 4 NSFW; • SD3.5 medium и large; • Flux dev и schnell; • Auraflow. Станет Pony Diffusion v7; • ComfyUI + Krita = Krita-ai-diffusion; • DARE Merge; • Лора DMD2 для SDXL ускоряет в 2 раза. Пример: 10 шагов, семплер LCM, шедулер beta, 832x1216, CFG 1-1.2 для обычных SDXL https://huggingface.co/tianweiy/DMD2/blob/main/dmd2_sdxl_4step_lora_fp16.safetensors , CFG 3 для NoobAI https://huggingface.co/YOB-AI/DMD2MOD/blob/main/LYC-DMD2MOD%20(Dmo%2BTffnoi).safetensors , Оффлайн модели для картинок: Stable Diffusion, Flux, OmniGen (Shitao), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana Оффлайн модели для анимаций: HunyuanVideo, Lightrics (LTXV), Wan-Video, Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimationDIFF, Stable Video Diffusion Приложения: ComfyUI, Fooocus, webui-reForge, Stability matrix, webui-Forge (мёртв), webui от A1111 (мёртв) ► Предыдущий тред >>1127030 (OP) ► https://arhivach.hk/?tags=13840 Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 196 постов 196 с картинками.
Пропущено 512 постов, 196 с картинками.
>>1166762 На нем прекрасно работает все на базе СДХЛ. Вот всякие сд3 и флаксы уже нет, хотя мож на дев-версии и они работают тоже.
>>1166762 >на комфи сидят только дегенераты. И те, кто терпит это говно, чтобы генерировать видео, аудио, 3д, сд3 и хрома. сд-флакс отлично генерится на фордже.
Пропущено 200 постов 200 с картинками.
Пропущено 1493 постов, 200 с картинками.
Как кто то сидит в таверне после смерти свинореза? Я не верю что кому то нравится читать безжизненный слоп гемини литери худшая сетка, одни негативные эмоции. Может ньюфажки ещё схавают, но тредовички...