本文へ移動
技術を、自社の仕事に。
判断と実行を助けるメディア

記事を検索

llama.cpp 1.0.0 消えたAPIと組み込みの確認点

目次 · 6項目

社内の文書を外部に出さずに要約や検索をさせたいとき、llama.cppは有力な選択肢です。C/C++で書かれ、CPUだけでも動かせ、llama-server を立てればOpenAI互換のAPIとして社内のシステムから呼べます。その一方で、毎日のように出る番号付きのナイトリー(b12345 など)の番号からは、どの更新で互換性が崩れるのかが分かりませんでした。8月からは v0.1.0 のような版のタグも付くようになりましたが、1.0.0より前はMAJORの番号が0のままでした。

llama.cppのリポジトリには、2026年11月13日に v1.0.0 のタグが付きました。同じ日にGitHubのReleaseのページとHugging Faceのブログで告知され、ブログは「Moving forward, both llama.cpp and ggml will reflect API and ABI incompatibilities with major-version bumps.」と書いています。今後は、API(関数の呼び方)とABI(ビルド済みのプログラムとの互換性)の互換性のない変更を、MAJORの番号を上げて示すということです。版の番号の付け方の文書も、include/llama.h(公開しているCのAPI)の互換性のない変更でMAJORの番号を上げると定めています。1.0.0の直前には、非推奨だった関数をまとめて削除する変更が入りました。本記事では、リポジトリの差分とReleaseのページをもとに、組み込んでいる側が上げる前に確かめる点を整理します。

1.0.0で何が決まったか

版の番号を付ける仕組みは、8月12日のコミット(#26839)で導入されました。リポジトリの docs/release.md は、次のように定めています。

  • 公開しているCのAPI(include/llama.h)の互換性のない変更はMAJOR
  • 互換性のある機能の追加、モデルの対応、APIの追加はMINOR
  • APIを変えない不具合の修正はPATCH

docs/release.md は、正式な版を v1.0.0 のような注釈付きのgitのタグとし、「No GitHub Release object is created, the tag is the release artifact.」「Currently releases are not published to github releases, only nightly/development builds are available there.」と書いています。ただし実際には、v0.9.0 と v1.0.0 にはGitHubのReleaseのページがあり、v1.0.0 のページには変更点の一覧が載っています。このページにビルド済みのファイルはなく、対応するナイトリーとして b12359 を示しています。Releaseのページに並ぶ b で始まる版は、これまでどおり開発中のナイトリーのビルドです。タグからビルドして配る場合は -DLLAMA_BUILD_IS_DEV=OFF を付けないと、版の表示に -dev が付きます。

版の番号は、削除のコミットが入る前の最後のナイトリー b12345 では0.9.0で、v1.0.0 で1.0.0に上がりました(v0.9.0 のタグは11月4日)。内部で使う計算のライブラリ(ggml)も0.29から1.0に上がっています。

1.0.0の直前に削除されたもの

llama.cppを組み込む方法ごとの1.0.0での変化。CのAPIは非推奨の関数36個を削除し置き換え先へ移る。起動の引数はdefrag-thold(-dt)と環境変数LLAMA_ARG_DEFRAG_THOLDを削除。RPCはプロトコルの版が9から10になり新旧を混ぜると接続できない。共有ライブラリはSOVERSIONが版のMAJORに合わせて0から1になり、結び付けたプログラムは作り直しが要る見込み

非推奨だった関数36個(CのAPI)

11月12日のコミット(#30565)は「Drop the APIs marked DEPRECATED in llama.h」として、DEPRECATED の印が付いていた関数を削除しました。b12345 の llama.h で印が付いていた36個が、v1.0.0 の llama.h からすべてなくなっていることを確かめました。Releaseのページは、この削除を「remove llama_set_warmup, 35 deprecated functions」と数えています(合わせて36個)。置き換え先は、削除前の印に書かれていたとおりです。

削除された関数(例)置き換え先
llama_load_model_from_file・llama_free_modelllama_model_load_from_file・llama_model_free
llama_new_context_with_modelllama_init_from_model
llama_n_ctx_train・llama_n_embd・llama_n_layer・llama_n_headllama_model_n_ctx_train など llama_model_ で始まる名前
llama_n_vocabllama_vocab_n_tokens
llama_token_bos・llama_token_eos・llama_token_is_eog などトークン系llama_vocab_bos・llama_vocab_eos・llama_vocab_is_eog など
llama_get_state_size・llama_save_session_file など状態の保存llama_state_get_size・llama_state_save_file など
llama_set_warmup置き換えなし(ウォームアップは呼び出し側で行う)

モデルの読み込みや後片付けの関数が含まれるため、古いサンプルを元に書いたコードでは、ビルドが通らなくなる可能性が高い部分です。同じコミットでは、llama-ext.h にあった一部のAPIが llama.h へ移り、llama_set_embd_state_src が llama_set_ctx_state_src に改名されています。

--defrag-thold の起動の引数

同じコミットで、KVキャッシュの断片化の解消のしきい値を決める -dt / --defrag-thold と、対応する環境変数 LLAMA_ARG_DEFRAG_THOLD が削除されました。すでに非推奨と表示されていたものです。1.0.0の引数の処理には、知らない引数で「error: invalid argument」を出す処理があるため、起動のスクリプトやsystemdの設定にこの引数が残っていると、llama-server が起動しなくなると考えられます(本記事では実際の起動では確かめていません)。

RPCのプロトコルの版

複数の機械にモデルを分けて載せるRPCの機能では、プロトコルのMAJORの版が9から10になりました(v0.9.0 のタグの時点では8で、その後のナイトリーで9に上がっていました)。コミット(#29801)は、計算の種類を表す番号が通信で送られており、3つの種類を削除したことで後ろの番号がずれるため、「peers built before and after this change would misinterpret each other’s ops」と説明しています。接続時にMAJORの版が一致しないと「RPC server version mismatch」で接続を断るため、新旧の rpc-server を混ぜると動きません。すべての機械を同じ版にそろえる必要があります。

共有ライブラリの番号

libllama の共有ライブラリは、SOVERSION(ライブラリのファイル名に付く互換性の番号)に版のMAJORを使う設定です。0.9.0から1.0.0になったことで、この番号も0から1に変わる計算になります。libllama.so.0 に結び付けてビルドしたプログラムは、1.0.0のライブラリと入れ替えるだけでは動かず、作り直しが必要になると考えられます(ビルドしてファイル名を確かめてはいません)。

0.9.0から上げる場合のllama-serverの変更

v0.9.0 のタグから上げる場合は、11月11〜12日に入った llama-server の安全面の変更も影響します。b12345 にはすでに入っているため、上の差分には含まれません。Releaseのページの「Server changes」と各プルリクエストによると、次の動きが変わりました。

  • ツールやMCPを有効にし、ループバック以外のアドレス(--host)でAPIキーなしに起動すると、エラーで止まります。続けるには --allow-unauthenticated-tools で明示的に許可します(#32113)。
  • チャットの入力に渡す画像などのURLが、ローカルや社内のネットワークのアドレスを指す場合は、既定で拒否されます。社内のNASなどから渡すには --media-allow-private-urls が必要です(#32115)。
  • --cors-origins の扱いが直り、ポートまで照合するようになりました。許可していない送信元(Origin)からのブラウザーの要求は拒否されます(#32098・#32113)。

本記事では、これらを実際の起動では確かめていません。

上げる前に確かめる順番(編集部の提案)

  1. 組み込み方を確かめる。 CのAPIを直接呼んでいるのか、llama-server のHTTPのAPIだけを使っているのか、PythonなどのバインディングやOllamaのような製品を通しているのかで、影響が変わります。HTTPのAPIだけなら、主に起動の引数と、上の llama-server の安全面の変更の確認になります。
  2. 削除された関数を探す。 自社のコードで grep -rnE 'llama_(load_model_from_file|free_model|new_context_with_model|n_vocab|n_embd|token_(bos|eos|eot|is_eog|get_text|fim_[a-z]+))\(' src/ のように検索し、置き換え先へ書き換えます(例は一部の名前だけです。llama_token_to_piece は1.0.0でも残っているため、llama_token_ で始まる名前をまとめて探すと誤って拾います)。
  3. 起動の設定を探す。 シェルのスクリプト、systemdのユニット、コンテナの設定で --defrag-thold・-dt・LLAMA_ARG_DEFRAG_THOLD を探して外します。
  4. RPCの機械をそろえる。 分散させている場合は、すべての rpc-server を同じタグからビルドし直してから切り替えます。
  5. バインディングの版を確かめる。 PyPIのllama-cpp-pythonは11月15日に0.3.37を公開しました。CHANGELOGは、同梱のllama.cppを a956a852c(v1.0.0 より後のコミット)に更新したと書いています。この更新のプルリクエスト(#2414)は「Preserve deprecated Python entry points」として、Pythonの側の古い入口は残したと説明しています。バインディングは同梱するllama.cppの版を独自に決めるため、使っているバインディングの版と、同梱しているllama.cppのコミットを確かめてから上げます。

社内でローカルの言語モデルを動かす構成の考え方はGemma 4をローカルで動かす記事、OSに組み込む動きはUbuntuのローカルAIの記事で扱いました。

確認した範囲

2026年11月15日に、ggml-org/llama.cppのリポジトリをgitで取得し、タグ v1.0.0 と削除の前のナイトリー b12345 のヘッダー・ビルドの設定・引数の処理・RPCの処理・版の付け方の文書の差分と、関係するコミットのメッセージを確認しました(資料調査)。2026年11月20日に、GitHubのReleaseのページ(v1.0.0)、Hugging Faceのブログの告知、llama-server の安全面のプルリクエスト(#32098・#32113・#32115)、v0.9.0 のRPCの版、PyPIとllama-cpp-pythonのCHANGELOGを確認しました。ビルド、llama-server の起動、モデルの読み込み、RPCでの接続、バインディングでの動作は確かめていません。

社内のシステムにローカルの言語モデルを組み込む開発や、更新の確認の進め方は、グリームハブの開発・AIのご相談で承っています。構成によって確かめる場所が変わるため、お問い合わせからご相談ください。

参考資料

この記事を共有XFacebook
鈴木 翔

技術の可能性に魅了され、学生時代からプログラミングとデジタルアートの分野に深い関心を持つ

この記事のテーマを、自社の次の一歩へ

自社での進め方を、具体的に。

つくりたい仕組み、既存システム、運用の条件を整理し、実現に向けた次の一歩を考えます。

  • 実現したい仕組み
  • 既存環境との接続
  • 運用の条件
開発・運用の構想を相談する

構想段階からご相談いただけます。この記事の情報を相談フォームに引き継ぎます。

最新記事をメールで受け取る