Шарящие ллм-щики, в какую сторону копать, чтобы локально соорудить русскоязычного чат-бота, максимально приближенного по выдаче к "персонажу" Юи Алисы AI, только без цензуры?
>>1636471 (OP) Kobold.cpp - локальная модель, можешь выбрать персонажа, создать своего или скачать готового. Как вариант - запариться с makemodel в ollama.
>>1636631 Крутяк, Kobold.cpp то что надо! Взяв модель saiga_llama3_8b_gguf, выствив режим чата, ограничив ответ до 200 токенов и, самое главное, скопировав текст описания и характеристик персонажа Юи из Алисы AI, получил требуемый результат, спасибо!