Создание проекта на облачном хостинге для обучения Saiga LLAMA 3 8b по методу LORA или QLORA
Задача
Требуется создать и проверить проект, который позволит выполнить обучение Saiga LLAMA 3 и других подобных моделей на специализированном облачном хостинге типа Huggingface для тренировки LLM моделей по методу LORA или QLORA.
1. Содержание работы:
1.1. Создание новой учетной записи и проекта под ней на подходящем хостинге (типа Huggingface, Google Colab и т.п.)
1.2. Составляет краткую инструкцию в текстовом или видеоформате с демонстрацией основных операций
1.3. Исполнитель самостоятельно кладёт минимальную сумму для 3 эпох обучения на 5 примерах (сумма компенсируется Заказчиком и согласовывается на этапе заключения сделки)
1.4. Кратко обосновывает выбор хостинга и аппаратной конфигурации.
2. Требования к хостингу:
2.1. Оплата только за время обучения
2.2. Оплата в рублях
2.3. Цена не выше рынка
2.4. Желательно наличие визуального интерфейса
3. Требования к проекту:
3.1. Результат обучения должен выгружаться в формате GGUF, 4b квантизации.
3.2. Должна быть возможность загрузки других моделей с...
Видеть полную информацию и оставлять заявки могут только авторизованные пользователи.
Здравствуйте!
С интересом ознакомился с вашим проектом. Меня заинтересовала возможность внести свой вклад в решение поставленной задачи. Уверен, что смогу предложить эффективное и качественное решение, соответствующее вашим требованиям и ожиданиям. Мой телеграм для связи - https://t.me/abogdanovec
Основная специализация: Веб-разработка и Продуктовый дизайн
Приветствую! Ознакомился с задачей по обучению Saiga LLAMA 3 8B на облачном хостинге с LORA/QLORA — готов реализовать, в разработке 7+ лет.
• Hugging Face / Google Colab Pro / Kaggle Notebooks • LoRA / QLoRA / GGUF 4bit / Transformers / bitsandbytes • Загрузка моделей с HuggingFace / Git + кастомные параметры обучения • Оценка точности / eval скрипты / инференс на тестовых данных • Jupyter-интерфейс / визуальный контроль / редактируемые конфиги • Поддержка длинных промптов до 2 КБ Стоимость: от 15 000 ?, зависит от выбранного тарифа и хостинга. интерфейс на русском, оплата в рублях. TG: @Alexuys.
Здравствуйте! Предлагаю обучить языковую модель сначала на собственном компьютере, а потом перенести результат на хостинг(Huggle Face), чтобы в случае неправильного обучения модели не было лишних затрат. Для обучения можно взять датасеты с Huggle Face
Вот мои работы:
https://github.com/Vladimir21512/Messenger-NestJS-MongoDB-ReactJS-WebSocket-
Создание проекта на облачном хостинге для обучения Saiga LLAMA 3 8b по методу LORA или QLORA
Реклама
Создание проекта на облачном хостинге для обучения Saiga LLAMA 3 8b по методу LORA или QLORA
Требуется создать и проверить проект, который позволит выполнить обучение Saiga LLAMA 3 и других подобных моделей на специализированном облачном хостинге типа Huggingface для тренировки LLM моделей по методу LORA или QLORA.
1. Содержание работы:
1.1. Создание новой учетной записи и проекта под ней на подходящем хостинге (типа Huggingface, Google Colab и т.п.)
1.2. Составляет краткую инструкцию в текстовом или видеоформате с демонстрацией основных операций
1.3. Исполнитель самостоятельно кладёт минимальную сумму для 3 эпох обучения на 5 примерах (сумма компенсируется Заказчиком и согласовывается на этапе заключения сделки)
1.4. Кратко обосновывает выбор хостинга и аппаратной конфигурации.
2. Требования к хостингу:
2.1. Оплата только за время обучения
2.2. Оплата в рублях
2.3. Цена не выше рынка
2.4. Желательно наличие визуального интерфейса
3. Требования к проекту:
3.1. Результат обучения должен выгружаться в формате GGUF, 4b квантизации.
3.2. Должна быть возможность загрузки других моделей с...