Нейрондық желілер Ollama сияқты құралдардың арқасында жергілікті түрде пайдалануға барған сайын қолжетімді болып келеді. Оның көмегімен бұлттық сервистерді пайдаланбай-ақ, үлкен тілдік модельдерді (LLM) компьютеріңізде іске қосуға болады. Бұл мақалада DeepSeek-R1 моделін орнату бойынша қадамдық нұсқаулықты, сондай-ақ модельді таңдау кезінде ескерілетін маңызды ерекшеліктерді қарастырамыз.
1. Ollama бағдарламасын орнату
DeepSeek-R1 моделін орнатуды бастамас бұрын, LLM модельдерін жергілікті компьютерде іске қосуға арналған Ollama құралын орнату қажет.
Ollama орнату қадамдары
- Ollama ресми сайтына өтіп, операциялық жүйеңізге (Windows, macOS немесе Linux) арналған орнату файлын жүктеп алыңыз.
- Жүктеп алған файлды іске қосып, орнату бағдарламасының нұсқауларын орындаңыз.
- Орнату аяқталғаннан кейін терминалда (немесе Windows жүйесіндегі командалық жолда) келесі пәрменді орындау арқылы Ollama бағдарламасының дұрыс орнатылғанын тексеріңіз:
ollama version
Егер Ollama дұрыс орнатылса, экранда оның нұсқасы туралы ақпарат пайда болады.
2. DeepSeek-R1 моделінің нұсқасын таңдау
DeepSeek-R1 нейрондық желісі көлемі бойынша ерекшеленетін бірнеше нұсқада қолжетімді:
- DeepSeek-R1-8B — 8 миллиард параметрі бар модель (кемінде 16 ГБ жедел жадты қажет етеді).
- DeepSeek-R1-14B — 14 миллиард параметрі бар модель (кемінде 24 ГБ жедел жад ұсынылады).
- DeepSeek-R1-67B — 67 миллиард параметрі бар толық нұсқа (көптеген жергілікті компьютерлерде іске қосылмайды, қуатты GPU бар серверді қажет етеді).
❗ Маңызды! DeepSeek-R1-67B моделінің толық нұсқасы ресурстарға қойылатын жоғары талаптарға байланысты жергілікті іске қосуға арналмаған. Жергілікті пайдалану үшін 8B немесе 14B модельдерін таңдаған жөн.
3. DeepSeek-R1 моделін орнату
Енді DeepSeek-R1 қолдайтын модельдердің бірін жүктеп алуға болады.
- Терминалды ашыңыз (Windows жүйесінде — Command Prompt, macOS/Linux жүйесінде — Terminal).
- Таңдалған модель нұсқасын жүктеп алу үшін мына пәрменді енгізіңіз:
ollama pull deepseek-r1:8b // Для 8B (8 миллиардов параметров)
ollama pull deepseek-r1:8b // Для 14B (14 миллиардов параметров)
- Модельдің жүктелуі аяқталғанша күтіңіз (интернет жылдамдығына байланысты бұл бірнеше минутқа созылуы мүмкін).
4. DeepSeek-R1 моделін іске қосу және командалық жол арқылы жұмыс істеу
Модель сәтті жүктелгеннен кейін оны іске қосып, сұрауларды жіберуге болады.
- Терминалда модельді іске қосыңыз: (8 немесе 14 миллиард параметрлі нұсқалар үшін)
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
- Іске қосылғаннан кейін мәтіндік сұрауларды енгізуге болады. Мысалы:
Что такое искусственный интеллект?
5. DeepSeek-R1 моделін кодта пайдалану мысалы
Егер модельмен бағдарламалық түрде өзара әрекеттескіңіз келсе, Python тілін пайдалануға болады.
Модельмен жұмыс істеуге арналған Python кодының мысалы:
import ollama
your_info = """Ты обработчик данных, твоя задача возвращать данные в формате
json"""
# Инициализируем список для хранения истории сообщений
history = [
{"role": "system", "content": your_info}
]
while True:
# Вводим новый запрос
prompt = input("Введите запрос: ")
# Добавляем запрос пользователя в историю
history.append({"role": "user", "content": prompt})
# Отправляем запрос в Ollama с историей
response = ollama.chat(
model="mistral:7b-instruct",
messages=history
)
# Получаем ответ от модели
model_response = response['message']['content']
# Выводим ответ модели
print(model_response)
# Добавляем ответ модели в историю
history.append({"role": "assistant", "content": model_response})
Қорытынды
Енді DeepSeek-R1 моделін жергілікті компьютерде қалай орнатып, пайдалануға болатынын білесіз. Ескеру қажет негізгі тұстар:
✅ 8B немесе 14B нұсқаларын пайдаланыңыз, себебі 67B нұсқасын жергілікті компьютерде іске қосу мүмкін емес.
✅ Жұмыс істеу үшін жергілікті LLM модельдерін іске қосуға арналған қуатты құрал — Ollama қажет.
✅ Модельді орнатқаннан кейін оны командалық жол арқылы іске қосуға немесе кодта пайдалануға болады.
🔗 Пайдалы сілтемелер:
🔥 Енді DeepSeek-R1 моделін компьютеріңізде пайдалануға дайынсыз! 🚀