本文へ移動
技術を、自社の仕事に。
判断と実行を助けるメディア

記事を検索

AIエージェント基盤を「作る」前に — 見積書に出てこない3つのコスト

目次 · 6項目

「エージェントを部署ごとに増やしていくなら、共通の基盤を先に作りましょう」。AI活用の相談をすると、この提案に行き着くことがよくあります。個別に作ると重複するので、認証やログ、ツール接続を共通化しておく。理屈としては正しく、実際そう進めた会社もあります。

ただ、1年後に話を聞くと、多くの会社が同じことを言います。「基盤は動いているが、それを守っている人が他のことをできていない」。

構築費用は見積書に載ります。載らないコストが3つあります。

1つ目:止まった開発案件のほうが高くつく

いちばん見落とされるのが、人を割いたことで手が回らなくなったものの価値です。

社内でAIエージェント基盤を作ると決めた時点で、その作業に充てられるのは、社内でいちばん事情を分かっているエンジニアです。当然そうなります。そして同じ人が、老朽化したデータパイプラインの刷新や、指摘されているセキュリティ課題の解消、急ぎの案件を抱えている。

基盤構築の3か月は、それらが3か月止まるという意味でもあります。この止まった分は見積書のどこにも書かれず、遅れとして別の場所に現れます。

判断材料として使えるのは、金額ではなく順番です。「いま止まっているものと、この基盤と、どちらを先に片付けるか」を並べて聞くと、答えが変わることがあります。並べずに基盤の話だけをしていると、必ず基盤が先になります。

2つ目:エージェントは1体ずつが小さな製品になる

もうひとつ、稼働してから効いてくるのが保守です。

開発プロセスに組み込んだエージェントは、それぞれが小さな製品として振る舞います。 呼び出しているツールのAPIが変わる。土台にしているフレームワークが更新される。組織再編で担当部署が変わる。そのたびに、どのエージェントに影響が出るかを調べ、直し、確認する作業が発生します。

10体作れば10体分です。しかも、作った本人が異動した後も動き続けます。

基盤の構築費用に対して、稼働後に継続的に発生する保守・規制対応・機会費用の関係を示した図

ここで効くのが、最初の設計でエージェントを増やしにくくしておくという逆向きの発想です。誰でも作れる状態にすると、半年後に誰も全体像を把握していない状況になります。社内向けエージェント基盤を作るときの構成を検討する段階で、作成の入口に承認を置くかどうかを決めておくと、後から絞るより痛みが小さくて済みます。

実行環境の分離と監査の設計も同じタイミングの話です。クラウド上でエージェントを動かすときのサンドボックスと監査は、後付けすると全エージェントの作り直しになりやすい部分です。

3つ目:規制対応は「稼働し続ける限り」続く

3つ目は、社外に出さない社内システムだから関係ない、と思われがちな部分です。

EU の AI 規制では、社内利用のAIシステムも規制の対象として扱われます。リスク区分を定め、必要な文書を整備し、そのシステムが稼働し続ける限り、監査に耐える証跡を示し続けることが求められます。日本企業でも、EU 域内へ製品やサービスを提供している場合には域外適用があり得るため、無関係とは言い切れません。

ここでのポイントは、規制対応が一度作って終わる作業ではないことです。構築時に文書を揃えても、エージェントを追加するたび、モデルを差し替えるたびに更新が必要になります。つまり保守コストと同じ性質で、基盤の寿命の分だけ続きます。

自社が対象になるかどうかは事業の範囲によるので、ここは法務を含めて確認する領域です。ただ、確認しないまま「社内システムだから」と進めるのは、後から効いてくる種類のリスクです。

作らないという選択肢を、同じ精度で比べる

3つを踏まえると、比較すべきは「作る費用」と「買う費用」ではなくなります。

比べる軸作る場合既存サービスに寄せる場合
初期の見積もり見積書に載る見積書に載る
エンジニアの拘束構築中も稼働後も続く設定と接続の期間に限られる
規制対応の証跡自社で整備し更新し続ける提供元の対応範囲を確認して差分だけ埋める

多くの会社にとって現実的なのは、全部作るか全部買うかではなく、社内固有のデータに触れる部分だけ自社で持ち、残りは既存の仕組みに寄せる形です。線をどこで引くかが設計の中身になります。

コストの見え方についても、作った後にまとめて把握しようとすると難しくなります。請求額は分かるが理由を説明できない状態は、エージェント基盤でも同じように起こります。使用量をエージェント単位で切って見られるかどうかは、稼働前に決めておく項目です。

次にやること

社内でAIエージェント基盤の話が出ているなら、提案を出した相手に「稼働後1年間、これを誰が何時間見ますか」と聞いてください。答えが「運用に乗れば手はかかりません」だった場合、上の2つ目のコストが見積もられていません。

あわせて、いま社内で止まっている開発案件を3つ書き出し、基盤構築と並べてください。並べた上でなお基盤が先に来るなら、その判断は妥当です。 並べないまま進めるのが危ないという話です。

AIエージェントの社内展開について、作る範囲と既存サービスに寄せる範囲の線引き、稼働後の保守体制の設計、コストの可視化までを含めたご相談は、グリームハブの開発・AI・自動化のご相談で承っています。現在の体制と扱うデータによって取れる構成が変わるため、お問い合わせから個別にご相談ください。

Sources

この記事を共有XFacebook
鈴木 翔

技術の可能性に魅了され、学生時代からプログラミングとデジタルアートの分野に深い関心を持つ

この記事のテーマを、自社の次の一歩へ

自社での進め方を、具体的に。

つくりたい仕組み、既存システム、運用の条件を整理し、実現に向けた次の一歩を考えます。

  • 実現したい仕組み
  • 既存環境との接続
  • 運用の条件
開発・運用の構想を相談する

構想段階からご相談いただけます。この記事の情報を相談フォームに引き継ぎます。

最新記事をメールで受け取る