Zennta

ログイン会員登録

検索後で読むお気に入りお気に入りグループ

履歴

履歴がありません

Qiita一覧

Zenn一覧

お問い合わせフォーム利用規約プライバシーポリシー

1

Rinna-3.6Bに子供の名前を考えてもらった

Rinna-3.6B のLoRAファインチューニングをWindows11上でやってみた

rinna-3.6bをiPhoneでも動かす

rinna-3.6bをmlc-llmを使ってMacで動かす

Rinna-3.6B を llama.cpp で CPU 動作のメモ

1

1
2
3
4

GenU のデプロイオプション詳細解説

N番煎じでRinna社のQwen2.5 Bakeneko 32B Instruct V2を試す

N番煎じでRinna社のQwQ-Bakeneko-32Bを試す

MLflow 2.20.2時点のChatAgentインターフェースでSGLangを使ったLLMのサービングをしてみる

Android上でTinySwallow-1.5Bを動作させる！

Ollamaで使用可能なembeddingモデルの比較　

ローカルLLM

LoRAとSFTを自前で実装してつくよみちゃんを作る

【Python】MacBookで日本語のローカルLLMを動かす

「進化的モデルマージ」論文

vLLMによるLLM推論速度の向上

N番煎じでGoogle Gemma-2 2B JPN-itとRinna社のGemma 2 Baku 2BをDatabricks Mosaic AI Model Servingで試す

【2024年7月版】ノートPCのGPUで動くローカルLLMまとめ

特定ドメイン/タスクのデータよりLLMをLora tuningするによって知識獲得に繋がっているか？

日本語生成AIの品詞付与「精度」をUD_Japanese-GSDで測る

ベンチマーク

クローズドネットワーク上でのRAG採用型LLM構築と、AOAI比較検証

AzureOpenAIService

日本語生成AIでのFew-Shot Promptingによる品詞付与

Tokenizerの比較

小規模なLLMのMerge(圧縮・強化)、GGUF化と量子化、Ollamaの使い方の注意点

最近（2024年4月）公開された LLM を ELYZA-tasks-100 で性能評価してみた

ELYZA-tasks-100

llama-3-youko-8bは『雪国』の冒頭をどうトークナイズするのか

トークナイズ

ローカル環境で大規模言語モデルをAPIサーバを動作させる text-generation-webui編

text-generation-webui

日本語トークナイザの「精度」をUD_Japanese-GSDとUD_Japanese-Modernのtestセットで測る

ベンチマーク

トークナイズ

SageMaker JumpStartの日本語モデルで利用できるインスタンスタイプ一覧

2023年 Python / データ分析関連の人気Qiita記事150選

データ分析

日本語LLMをPPOでファインチューニングする

自然言語処理

【Modal】ローカルの環境構築なしにローカルLLMに推論させたい！

サーバーレス

ELYZA-tasks-100 でLLM14個の日本語性能を横断評価してみた

ベンチマーク

ELYZA-tasks-100

LLMをローカル環境で動かすことは貴族の遊びなのか？

自然言語処理

LLM における強化学習と Direct Preference Optimization による安全性能への影響評価

自然言語処理

1
2
3
4