БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла Gemini 2.5 (gemini-2.5-pro-exp-03-25) - https://blog.google/technology/google-deepmind/gemini-model-thinking-updates-march-2025/
• Вышел новый снапшот DeepSeek V3 - https://huggingface.co/deepseek-ai/DeepSeek-V3-0324
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1111645 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1112238 (OP)
Пропущено 1524 постов, 185 с картинками.
Какую из воюющих сторон посоветуешь? Или похуй, лишь бы людей хуярить?
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла Gemini 2.5 (gemini-2.5-pro-exp-03-25) - https://blog.google/technology/google-deepmind/gemini-model-thinking-updates-march-2025/
• Вышел новый снапшот DeepSeek V3 - https://huggingface.co/deepseek-ai/DeepSeek-V3-0324
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1111645 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1110226 (OP)
Пропущено 1378 постов, 192 с картинками.
Бля, теперь придётся рпшить, чтобы скинуть логи... зря согласился...))
Предыдущий тред: >>758561 (OP)
➤ Софт для обучения
https://github.com/kohya-ss/sd-scripts
Набор скриптов для тренировки, используется под капотом в большей части готовых GUI и прочих скриптах.
Для удобства запуска можно использовать дополнительные скрипты в целях передачи параметров, например: https://rentry.org/simple_kohya_ss
https://github.com/bghira/SimpleTuner
Линукс онли, бэк отличается от сд-скриптс
https://github.com/Nerogar/OneTrainer
Фич меньше, чем в сд-скриптс, бэк тоже свой
➤ GUI-обёртки для sd-scripts
https://github.com/bmaltais/kohya_ss
https://github.com/derrian-distro/LoRA_Easy_Training_Scripts
➤ Обучение SDXL
https://2ch-ai.gitgud.site/wiki/tech/sdxl/
➤ Flux
https://2ch-ai.gitgud.site/wiki/nai/models/flux/
➤ Гайды по обучению
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
✱ LoRA – "Low Rank Adaptation" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением. https://github.com/cloneofsimo/lora - изначальная имплементация алгоритма, пришедшая из мира архитектуры transformers, тренирует лишь attention слои, гайды по тренировкам:
https://rentry.co/waavd - гайд по подготовке датасета и обучению LoRA для неофитов
https://rentry.org/2chAI_hard_LoRA_guide - ещё один гайд по использованию и обучению LoRA
https://rentry.org/59xed3 - более углубленный гайд по лорам, содержит много инфы для уже разбирающихся (англ.)
✱ LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) - проект по созданию алгоритмов для обучения дополнительных частей модели. Ранее имел название LoCon и предлагал лишь тренировку дополнительных conv слоёв. В настоящий момент включает в себя алгоритмы LoCon, LoHa, LoKr, DyLoRA, IA3, а так же на последних dev ветках возможность тренировки всех (или не всех, в зависимости от конфига) частей сети на выбранном ранге:
https://github.com/KohakuBlueleaf/LyCORIS
Подробнее про алгоритмы в вики https://2ch-ai.gitgud.site/wiki/tech/lycoris/
✱ Dreambooth – для SD 1.5 обучение доступно начиная с 16 GB VRAM. Ни одна из потребительских карт не осилит тренировку будки для SDXL. Выдаёт отличные результаты. Генерирует полноразмерные модели:
https://rentry.co/lycoris-and-lora-from-dreambooth (англ.)
https://github.com/nitrosocke/dreambooth-training-guide (англ.)
https://rentry.org/lora-is-not-a-finetune (англ.)
✱ Текстуальная инверсия (Textual inversion), или же просто Embedding, может подойти, если сеть уже умеет рисовать что-то похожее, этот способ тренирует лишь текстовый энкодер модели, не затрагивая UNet:
https://rentry.org/textard (англ.)
➤ Тренировка YOLO-моделей для ADetailer:
YOLO-модели (You Only Look Once) могут быть обучены для поиска определённых объектов на изображении. В паре с ADetailer они могут быть использованы для автоматического инпеинта по найденной области.
Подробнее в вики: https://2ch-ai.gitgud.site/wiki/tech/yolo/
Не забываем про золотое правило GIGO ("Garbage in, garbage out"): какой датасет, такой и результат.
➤ Гугл колабы
﹡Текстуальная инверсия: https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/sd_textual_inversion_training.ipynb
﹡Dreambooth: https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
﹡LoRA https://colab.research.google.com/github/hollowstrawberry/kohya-colab/blob/main/Lora_Trainer.ipynb
➤ Полезное
Расширение для фикса CLIP модели, изменения её точности в один клик и более продвинутых вещей, по типу замены клипа на кастомный: https://github.com/arenasys/stable-diffusion-webui-model-toolkit
Гайд по блок мерджингу: https://rentry.org/BlockMergeExplained (англ.)
Гайд по ControlNet: https://stable-diffusion-art.com/controlnet (англ.)
Подборка мокрописек для датасетов от анона: https://rentry.org/te3oh
Группы тегов для бур: https://danbooru.donmai.us/wiki_pages/tag_groups (англ.)
NLP тэггер для кэпшенов T5: https://github.com/2dameneko/ide-cap-chan (gui), https://huggingface.co/Minthy/ToriiGate-v0.3 (модель), https://huggingface.co/2dameneko/ToriiGate-v0.3-nf4/tree/main (квант для врамлетов)
Оптимайзеры: https://2ch-ai.gitgud.site/wiki/tech/optimizers/
Визуализация работы разных оптимайзеров: https://github.com/kozistr/pytorch_optimizer/blob/main/docs/visualization.md
Гайды по апскейлу от анонов:
https://rentry.org/SD_upscale
https://rentry.org/sd__upscale
https://rentry.org/2ch_nai_guide#апскейл
https://rentry.org/UpscaleByControl
Старая коллекция лор от анонов: https://rentry.org/2chAI_LoRA
Гайды, эмбеды, хайпернетворки, лоры с форча:
https://rentry.org/sdg-link
https://rentry.org/hdgfaq
https://rentry.org/hdglorarepo
https://gitgud.io/badhands/makesomefuckingporn
https://rentry.org/ponyxl_loras_n_stuff - пони лоры
https://rentry.org/illustrious_loras_n_stuff - люстролоры
➤ Legacy ссылки на устаревшие технологии и гайды с дополнительной информацией
https://2ch-ai.gitgud.site/wiki/tech/legacy/
➤ Прошлые треды
https://2ch-ai.gitgud.site/wiki/tech/old_threads/
Шапка: https://2ch-ai.gitgud.site/wiki/tech/tech-shapka/
Пропущено 515 постов, 108 с картинками.
На картинки еще https://www.youtube.com/watch?v=tJRFWtgrIso&t=801s
>>1118663 (OP)
Перекат
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №116 /llama/
Аноним
21/03/25 Птн 21:55:47
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1103326 (OP)
>>1098615 (OP)
Пропущено 512 постов, 79 с картинками.
просто напомни об этом в authors note. если именно в карточке, то так и пиши, что об этом важно помнить, выдели в подраздел какой-нибудь
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
• Вышел Claude 3.7 Sonnet на Anthropic API, Amazon Bedrock и Google Vertex - https://www.anthropic.com/news/claude-3-7-sonnet
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1103326 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1107817 (OP)
Пропущено 1519 постов, 250 с картинками.
типо чтоб не забывали кто я такой и что шутки со мной плохи
Поиграться с моделью можно здесь, бесплатно и с регистрацией (можно регистрироваться по почте)
https://claude.ai/
Другие информационные ссылки
https://www.anthropic.com/index/introducing-claude
https://habr.com/ru/news/722626/
Пропущено 424 постов, 73 с картинками.
>Лучше бы опус, блядь, новый выпустили.
Дорого, не рентабельно.
Сделали бы лимиты, как попены на о1. Ведь он у них есть уже. Или через апи хотя бы.
>>1103975
Ну переведи текст этот с помощью 3.7, 3.5, опуса, ещё и через гемини прогони.
Сразу увидишь, как клод жидко срать стал. Раньше ему одной итерации хватало, чтобы качество показать. Сейчас уже боль.
The Doctor took his seat alone at a cross table forming the top of one of the two rows of tables, set with white cups and saucers, and plates well heaped with the square pieces of bread and butter, while Mrs. Grimstone with Dulcie and Tom, sat at the foot of the same row, behind two ugly urns of dull block-tin.
But when Mr. Bultitude, more hungry than he had felt for years, found his place at one of the tables, he was disgusted to find upon his plate—not, as he had confidently expected, a couple of plump poached eggs, with their appetising contrast of ruddy gold and silvery white, not a crisp and crackling sausage or a mottled omelette, not even the homely but luscious rasher, but a brace of chill forbidding sardines, lying grim and headless in bilious green oil!
It was a fish he positively loathed, nor could it be reasonably expected that the confidence necessary for a declaration was to be forgotten by so sepulchral a form of nutriment.
He roused himself, however, to swallow them, together with some of the thin and tin-flavoured coffee. But the meal as a whole was so different from the plentiful well-cooked breakfasts he had sat down before for years as a matter of course, that it made him feel extremely unwell.
No talking was allowed during the meal. The Doctor now and then looked up from his dish of kidneys on toast (at which envious glances were occasionally cast) to address a casual remark to his wife across the long row of plates and cups, but, as a rule, the dull champing sound of boys solemnly and steadily munching was all that broke the silence.
ИТТ обсуждаем опыт нейродроча в своих настоящих задачах. Это не тред "а вот через три года" - он тол
Аноним
24/12/22 Суб 16:39:19
№
Ответ
Мой опыт следующий (golang).
Отобрал десяток наиболее изолированных тикетов, закрыть которые можно, не зная о проекте ничего. Это весьма скромный процент от общего кол-ва задач, но я решил ограничится идеальными ситуациями. Например, "Проверить системные требования перед установкой".
Самостоятельно разбил эти тикеты на подзадачи. Например, "Проверить системные требования перед установкой" = "Проверить объем ОЗУ" + "Проверить место на диске" + ...
Ввел все эти подзадачи на английском (другие языки не пробовал по очевидной причине их хуевости) и тщательно следил за выводом.
Ответ убил🤭
Хотя одну из подзадач (найти кол-во ядер) нейронка решила верно, это была самая простая из них, буквально пример из мануала в одну строчку.
На остальных получалось хуже. Сильно хуже. Выдавая поначалу что-то нерабочее в принципе, после длительного чтения нотаций "There is an error: ..." получался код, который можно собрать, но лучше было бы нельзя. Он мог делать абсолютно что угодно, выводя какие-то типа осмысленные результаты.
Мой итог следующий.
На данном этапе нейрогенератор не способен заменить даже вкатуна со Скиллбокса, не говоря уж о джунах и, тем более, миддлах.
Даже в идеальных случаях ГПТ не помог в написании кода. Тот мизерный процент решенных подзадач не стоил труда, затраченного даже конкретно на них.
Но реальная польза уже есть! Чатик позволяет узнать о каких-то релевантных либах и методах, предупреждает о вероятных оказиях (например, что, узнавая кол-во ядер, надо помнить, что они бывают физическими и логическими).
И все же, хотелось бы узнать, есть ли аноны, добившиеся от сетки большего?
Пропущено 186 постов, 24 с картинками.
>Ни текстовые, ни картинки, ни кодовые, ни музыкальные, ни аналитические модели не проходят даже базовых тз
Это другой край пиздобольства. Много где нетребовательные арты больше делаются не художниками которые и так в массе имели копейки. Также, часто нужно править арты нейросети или многое вообще ей не объяснить, но всё равно арт существенно подешевел.
С текстами та же херня - например, переводы нейросети гавно, но рандомный переводчик с биржи по моему опыту ещё тупее и хуже выдаёт. Я уж не говорю цены на пруфридинг нэйтивом, нормальным, не индусом и не с зассаными от тонн текстов глазами. Характер ошибок разный - конечно, и нейросетевые сложнее выцеплять.
Ещё пример - всякую индюшатину вроде квестов уже реально может собирать один толковый человек + библиотеки + ИИ. Да, качество кал, но многие бизнесы заёбывают кожанных мешков так что ИИ реально дешевле и лучше чем всем-давно-похуй-продакшен.
Весь этот код я бы мог написать и сам.
Но если ты правильно и корректно ставишь задачу и поправляешь AI падавана, то на выходе можно получить всё тоже самое, но быстрее.
Короче говоря, это кодинг, программирование только на языке высокого уровня.
```
1. Ситуация в проекте. Если тоже прочитали это предложение голосом Коли Товеровского, ставьте класс. Пользователи регистрируются с именами, которые мы не очень хотели бы видеть у себя в продукте. Например, Чикатило, Гитлер или Филипп Киркоров. Собираем Базу Данных Стрёмных Имён (БДСИ). Она часто обновляется, поэтому хочется завернуть её в микро-сервис и дать другим сервисам АПИ, с помощью которого можно проверить имя на стрёмность. Приходит сеньор-техлид-алкоголик и запрещает выносить её в микро-сервис. Говорит, гонять хттп-запросы на каждый чих — ламерство. Говорит, будем держать локальные копии БДСИ и работать с ними. Джун, прошедший 20 курсов по вёрстке и сдавший добровольный квалификационный экзамен на веб-разработчика, пишет SQL-запрос, выгружает список стрёмных имён в JSON, git add, git commit и git push. В итоге, у нас в коде сервисов 10 копий текста из БДСИ. Что сделать. Во-первых, список и БДСИ — это данные, им не место в коде и репозитории. Во-вторых, если без локальной копии данных не обойтись, то нужно обязательно убедиться, что данные регулярно и автоматически обновляются из БДСИ. Даже если кажется, что список никогда не будет меняться, зашить его в код — плохая идея. Он 100% поменяется, вам 100% придётся писать модуль, который регулярно синхронизирует локальную версию с БДСИ. Поэтому такие задачи стоит всегда начинать с модуля, отвечающего за синхронизацию данных, а не с локальной копии, собранной вручную. Можно ли решить проблему с помощью AI и в условиях обычных серверов 8gb RAM 4-8 cores CPU? Например, написать функцию на Ruby, которая получает на вход имя, а возвращает ответ вида "bad: true, reason: 'пропаганда фашизма'". Под капотом функция Ruby обращается к своей нейронке, которая только это и умеет определять, но делает это хорошо.
2. Напиши ответ так, как будто я в чате или на форуме
3. Как сделать такую модель FastText или TF-IDF + Logistic Regression по теме моего вопроса?
4. Напиши код обучения модели на Ruby одним файлом с комментами.
5. После запуска скрипта обучающего модель, где будет хранится результат, чтобы я мог им воспользоваться другим скриптом, который получает запросы и обращается к обученной модели. Напиши такой скрипт в одном файле, чтобы после его запуска был на 0.0.0.0:3666 поднят простейший sinatra сервер с API, который бы принимал строки, обращался бы к сервису, который бы обращался бы к модели, чтобы вернуть ответ в упомянутом формате. Вместо sinatra можно взять любой другой быстрый маленький сервер.
6. Поправь только эту ошибку. А именно, при исполнении docker-compose run --rm name-classifier --train я получаю ошибку Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: error during container init: exec: "--train": executable file not found in $PATH: unknown
7. Добавь новый сервис, train, при запуске которого происходит тренировка модели. Команда должна быть docker-compose run --rm train. В результате я получаю model.yml. Команда для запуска сервера должна быть docker-compose up -d --build server. Переименуй сервис name-classifier в server для этого. Убери из Dockerfile упоминание Gemfile.lock. Используй версию ruby:latest. Вышли все исправленные упомянутые файлы.
8. Запустил сервер, получил ошибку name_classifier.rb:45:in '<main>': private method 'load' called for class Rumale::Pipeline::Pipeline (NoMethodError)
9. Пересмотри свой предыдущий ответ в контексте документации https://yoshoku.github.io/rumale/doc/Rumale/Pipeline/Pipeline.html. Ответь, получилось ли у тебя прочесть контент этой ссылки, заодно.
10. Marshal.dump это откуда?
11. Поправил запуск сервера. Теперь ошибка выглядит так после запуска Successfully built b458569f7d33 Successfully tagged bad_names_server:latest Starting bad_names_server_1 ... done Attaching to bad_names_server_1 server_1 | Switch to inspect mode. server_1 | bad_names_server_1 exited with code 0
12. Вышли весь код актуальный
13. Пришли код двух файлов - один из них train_model.rb, который содержит только код обучения модели. В исходном файле name_classifier.rb этот код удали.
14. При запуске кода обучения модели я получаю ошибку train_model.rb:13:in '<main>': uninitialized constant Rumale::Preprocessing::TfIdfTransformer (NameError)
15. Вот актуальная ссылка на https://yoshoku.github.io/rumale/doc/Rumale/FeatureExtraction.html Ознакомься и вышли исправленный код ruby, если потребуется после ознакомления с этой документацией.
16. Ты не ознакомился с документацией про трасформеры.
17. https://yoshoku.github.io/rumale/doc/Rumale/FeatureExtraction/TfidfTransformer.html - Did you mean? Rumale::FeatureExtraction::TfidfTransformer
18. Выпиши все мои вопросы тебе в этом чате списком.
19. Ты опять не ознакомился с документацией. tfidf_transformer.rb:49:in 'initialize': unknown keyword: :min_df (ArgumentError)
20. Выпиши все мои вопросы простым списком без каких либо обработок со своей стороны
```
claude сделал прогу на питоне которая переводи видео
- с озвучкой
- с сабами
- с подгонкой таймингов
единственный минус - слишком дохуя запросов = смэрть.
кодить не умею но от количества кода ахуел.
ну и от того что оно работает.
будущее наступило, чувак.
(хотя если честным быть то хули там, по сути он просто умеет - собирать нужные библитеки и лепить их на ходу за пару минут)
Прошлый тред: >>1099211 (OP) https://arhivach.hk/thread/1147879/
Схожие тематические треды
• SD-тред (не аниме): >>1085951 (OP)
• Технотред: >>974163 (OP)
• Фурри-тред: https://2ch.hk/fur/res/374311.html
FAQ
https://2ch-ai.gitgud.site/wiki/nai
Установка
• NVidia: https://rentry.co/2ch_nai_guide
• AMD: https://2ch-ai.gitgud.site/wiki/nai/install/amd
• Облака: https://2ch-ai.gitgud.site/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.gitgud.site/wiki/nai/interfaces
• Модели: https://2ch-ai.gitgud.site/wiki/nai/models
• Промпты: https://2ch-ai.gitgud.site/wiki/nai/prompts
• Апскейл: https://2ch-ai.gitgud.site/wiki/nai/upscale
• LoRA: https://2ch-ai.gitgud.site/wiki/nai/lora
• ControlNet: https://2ch-ai.gitgud.site/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 524 постов, 225 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
• Вышел Claude 3.7 Sonnet на Anthropic API, Amazon Bedrock и Google Vertex - https://www.anthropic.com/news/claude-3-7-sonnet
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1103326 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1105166 (OP)
Пропущено 1536 постов, 175 с картинками.
Кибернетика наука о контроле систем, как абстрактный метод не сможет сжиться с техническими решениями идеи и какое вообще отношение они имеют к вопросу? Конкретнее?
Сегодня зашел в гугл плеи и нарвался на новенький для себя жанр игр. Ролевые текстовые игры с ИИ. Одна по днд, другая графомания где твой герой часть рассказа на выбор.
Короче мне нужно MOAR. Есть у кого похожие игрушки или приложения на примете?
Пропущено 8 постов, 1 с картинками.
на телефон когда установил, то там русский был. Я не полиглот и ебал ее рука инглиш лангуаге херачить в формате текстовой игры-книги.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №115 /llama/
Аноним
18/03/25 Втр 19:19:18
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1098615 (OP)
>>1094772 (OP)
Пропущено 517 постов, 52 с картинками.
Определенно.
Всякие серверные, майнерские и другие экзотические варианты - это уже для тертых калачиков, а судя по вопросу ты не из них. Да как и я в принципе))) Так что либо наращиваем компетенции, либо пользуемся бу нвидией.
Расскажите какие сейчас есть актуальные модели и инструменты чтобы писали за меня код. Только давайте без очевидной чат-жопы и прочих чатботов которые способны лишь на простенькие скрипты. Нет, нейросеть должна сама уметь работать с IDE, загружать в контекст все необходимые классы проекта и при необходимости искать документацию в интернете.
Если конкретно, то мне надо писать игру под Unity на C# в Visual Studio. Какие есть интересные варианты сейчас кроме Copilot?
Пропущено 1 постов, 1 с картинками.
Все програмисты сидят тут: https://2ch.hk/ai/res/1105166.html
Я пробовал Copilot, Continue (плагин для VS Code) и недавно Cursor поставил.
https://www.builder.io/blog/cursor-vs-github-copilot
Если сравнивать конкретно курсор и копилот, то курсор сейчас выигрывает. Там хоть те же самые модели под капотом (gpt/claude), но у него более плотный уровень интеграции со средой разработки.
Копилот мне как-то не зашёл раньше - в нём надо было контекст каждый раз вручную задавать, что было крайне неудобно; а вот курсор сейчас может сам по всему проекту искать файлы и пачками их создавать/модифицировать в рамках одного запроса. Копилот тоже постепенно обрастает фичами, но пока находится в позиции догоняющих, хотя я сейчас не особо за ним слежу.
Continue может быть интересен только тем, что его можно к локальным LLM подключить, что может быть полезно, если у тебя хороший сетап по GPU. Но лично у меня не вышло из него что-то толковое получить, поскольку там совсем слабый уровень интеграции с IDE - от подписки в $20 на курсор толку будет на порядок больше, чем от конфига под запуск 100B-123B моделей локально. Как минимум, хотя бы из-за отсутствия толкового инструментария под локальные модели, поскольку все актуальные тулзы только в SaaS.
Я использую клод соннет на копайлоте для порно рп.
Ебало анальников с их кодом представили?
Прошлые треды:
https://2ch.hk/ai/res/877586.html
https://2ch.hk/ai/res/973010.html
https://2ch.hk/ai/res/1014050.html
https://2ch.hk/ai/res/1027441.html
https://2ch.hk/ai/res/1039034.html
https://2ch.hk/ai/res/1050699.html
https://2ch.hk/ai/res/1064460.html
Пропущено 502 постов, 97 с картинками.
А эти исследователи понимают, что если игнорировать китайские модели - от этого им легче не станет?
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
• Вышел Claude 3.7 Sonnet на Anthropic API, Amazon Bedrock и Google Vertex - https://www.anthropic.com/news/claude-3-7-sonnet
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1103326 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1102336 (OP)
Пропущено 1517 постов, 169 с картинками.
Обсуждение просмотров, подписок и заработка по AI артам №3 /subs/
Аноним
05/09/23 Втр 13:38:08
№
Ответ
Обсуждаем всё, что относится к публикации своих артов и способам их монетизации.
База треда:
https://www.pixiv.net
https://www.deviantart.com
https://www.artstation.com
https://www.patreon.com
Прошлый тред: >>172605 (OP)
Пропущено 541 постов, 62 с картинками.
>1. Патреон не монетизирует R18
ДАЛАДНА!?
Чел, ты из какой альтернативной реальности вылез?
>2. Субскрайбстар - удачи тебе с регистрацией))))
Ну, тут соглашусь. Пол-года ждал, не дождался. Но те, кто пробились, вполне его используют.
>3. Другие...
Это те, которые работают и проверены временем. И гарантированно не отвалятся из-за непонятной причины.
Если же ты хочешь продавать еблю собак и детей - ну, удачи. Главное, риски оцени, все-таки не в японии живешь.
Бля тебя таким образом на любой платформе пидорнуть могут.
Просто соблюдай правила, учитывай риски, старайся не постить гуро лоли, и тебя никто не тронет.
Cоседи
► Аниме-тред >>1084904 (OP) ► DALL-E + MidJourney + ImageFX + тд тп >>1042275 (OP) ► Техно-тред >>974163 (OP)
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/ (откуда, куда, как. Начинать со страницы SDXL)
→ Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/ (собрано со всего инета)
Промт должен быть кратким для SDXL и поэма длинная для Flux и SD3.5, негативы обычно вредны.
ЧТО НОВОГО АКТУАЛЬНОГО ЗА ГОД
• SDXL модели: Natvis Natural Vision v1.0, BigASP v1.0, Illustious (cyberillustrious/thrillustrious), NoobAI (noobReal). Все 4 NSFW;
• SD3.5 medium и large;
• Flux dev и schnell;
• Auraflow. Станет Pony Diffusion v7;
• ComfyUI + Krita = Krita-ai-diffusion;
• DARE Merge;
• Лора DMD2 для SDXL ускоряет в 2 раза. Пример: 10 шагов, семплер LCM, шедулер beta, 832x1216,
CFG 1-1.2 для обычных SDXL https://huggingface.co/tianweiy/DMD2/blob/main/dmd2_sdxl_4step_lora_fp16.safetensors,
CFG 3 для NoobAI https://huggingface.co/YOB-AI/DMD2MOD/blob/main/LYC-DMD2MOD%20(Dmo%2BTffnoi).safetensors,
Оффлайн модели для картинок: Stable Diffusion, Flux, OmniGen (Shitao), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana
Оффлайн модели для анимаций: HunyuanVideo, Lightrics (LTXV), Wan-Video, Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimationDIFF, Stable Video Diffusion
Приложения: ComfyUI, Fooocus, webui-reForge, Stability matrix, webui-Forge (мёртв), webui от A1111 (мёртв)
► Предыдущий тред >>1075827 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 530 постов, 160 с картинками.
Прошлый тред: >>1092607 (OP) https://arhivach.hk/thread/1146486/
Схожие тематические треды
• SD-тред (не аниме): >>1085951 (OP)
• Технотред: >>974163 (OP)
• Фурри-тред: https://2ch.hk/fur/res/374311.html
FAQ
https://2ch-ai.gitgud.site/wiki/nai
Установка
• NVidia: https://rentry.co/2ch_nai_guide
• AMD: https://2ch-ai.gitgud.site/wiki/nai/install/amd
• Облака: https://2ch-ai.gitgud.site/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.gitgud.site/wiki/nai/interfaces
• Модели: https://2ch-ai.gitgud.site/wiki/nai/models
• Промпты: https://2ch-ai.gitgud.site/wiki/nai/prompts
• Апскейл: https://2ch-ai.gitgud.site/wiki/nai/upscale
• LoRA: https://2ch-ai.gitgud.site/wiki/nai/lora
• ControlNet: https://2ch-ai.gitgud.site/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 521 постов, 181 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Релиз GPT 4.5 - https://openai.com/index/introducing-gpt-4-5/
• Вышел Claude 3.7 Sonnet на Anthropic API, Amazon Bedrock и Google Vertex - https://www.anthropic.com/news/claude-3-7-sonnet
• Вышел grok-3 (пока веб) - https://x.ai/blog/grok-3
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1094772 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1100044 (OP)
Пропущено 1536 постов, 142 с картинками.
