Zennta

Qiita一覧

Zenn一覧

WikipediaデータからLlama 3.1用Q&Aデータセット生成ツールの解説（ Google Colabノートブック付）

Ollamaによるチャンクサイズとモデル精度の関係を検証

LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法

GPUサポートに挑戦！Ollamaの処理速度向上を目指すWindowsセットアップガイド

Unslothを使った高速なLlama 3.2ファインチューニング入門 (📒ノートブック付)

OllamaでローカルLLMを稼働させAPIサーバ化する

0から作るLLMーLlama

Llama3.2の使い方とファインチューニングの方法

llama.cpp の tokenizer でのユーザー定義 special_token の扱いのメモ

【Ollama】ローカル環境でLLMを選んでLangChainで実行する。

特許情報を用いたOllamaモデルの性能評価：llmとEmbeddingの違い

ローカルAI(Llama)でエラー文を自動で解説させてみた

llama.cpp GGUF での tokenizer 情報のメモ

Cloud Run が GPU に対応！ -Ollama サンプルアプリをデプロイしてみた-

Chta VectorでLlama-3.2-VisionにLlama-3.1をマージして日本語対応させる

Llama3.2をローカル環境(macOS)でサクッと動かしてみる

一気通貫で実現するLlama3.2: ローカルLLMとローカルEmbeddingの構築

初心者向け：Meta社の新AI「Llama 3.2」について

ローカルLLMの進化：Llama3.2で特許検索システムを再構築！

Copilot+PCでLlama3.2を動かしてみる！

LLama3.2 11B にて画像入力を試す

Llama3.2アップデート内容

【LLM】CPU環境でLlama-3-ELYZA-JP on gRPCを試してみた

Llama 3.1の周辺トピック ~ torchchatを使ってMacBook上でLlama 3.1を動かす etc.

iPhoneのメモリ制限を超えてllama.cppをローカル推論する（日本語モデル）

Tanuki-8BとOllamaとDifyを使って日本語ローカルRAG構築

Google CloudとRAG | LlamaIndex on Vertex AI編

LlamaとGitHubで実現するリポジトリQ&A機能

Cloud Run GPU + Ollama gemma2 のパフォーマンスを図ってみる

LlamaIndexとVertex AI Vector Searchで手を動かしながらRAGの全体像を理解する

「ELYZA-japanese-Llama-2-70b」開発における、大規模モデル学習ノウハウの解説

llama.cpp で gemma2 2B/9B を CPU で動かし日本語性能味見する

RustでOllamaにAPIを打つ

簡単にLlama3.1をFine Tuningする

LlamaIndexのReActAgentについての調査

DifyとOllamaをWSL2が利用できないWindows環境で動かす

MacでローカルLLMを使う：OllamaとVSCode設定

LlamaIndexのOpenAI Pydantic Program：構造化データ生成方法

LLMの効率化: Llama 3.1 8BからLlama-3.1-Minitron 4Bへのプルーニングと蒸留

【Python】Ollama 向けにAI Chat UIを作成してみた

PerplexityのAIモデルがアップデート！Sunar Huge(Llama3.1 405Bに基づいてPerplexityが訓練)

llama-agentsコードリーディング

ローカルLLMであるOllamaをminikube(kubernetes)で動かしGGUFをインストールする

Windows版GPUStack完全トラブルシューティングガイド：500エラーとllama-box問題の解決法

llama2 7Bの事後学習: LoRaを使ったexpertのマージ

事前学習編：Llama2 7B マルチノード/マルチGPU環境での事前学習

Apple Silicon MacでLlama 3.1 70Bを動かす

Dify 0.6.16 Llama 3.1 Support