自宅のGPUでAIモデルを動かす：RTX 5070 Tiの実測値と代償
このサイトのふたつのツールは、どちらも自宅の1台のパソコンで動いています。以下は実際に測った数字です：速度、消費電力、ボトルネックの位置、そして自前で持つのが割に合わない場合。
2026-08-20 作者 William Hsu
ハードウェアとモデル
- GPU NVIDIA GeForce RTX 5070 Ti、ビデオメモリ16GB
- システムメモリ 62GB
- モデル MiniMax H3、int8量子化版、turbo LoRAでサンプリングを4ステップに
- 実行環境 ComfyUIをWindowsで、サイト本体は同じマシンのDockerコンテナで
クラウドGPUを借りなかった理由は単純です。1時間借りる料金が、このマシンを丸一日つけておく電気代とだいたい同じで、 しかも写真を他人のマシンに送ることになります。カードはもう買ってあるので、1枚多く作っても増えるのは電気だけです。
40秒の内訳
「古い写真を動かす」は1本42〜45秒、age-meは1枚39〜42秒。生成しながら0.7秒ごとにGPUの消費電力を記録すると、 ふたつの山が谷を挟む形になります。
- 前半：写真と文字の指示を、モデルが読める形に変換する。20秒近くかかる最長の区間なのに、カードは半分程度の出力しか出していない
- 中盤：実際のサンプリング。たった4ステップで、いちばん短い
- 後半：結果を画面に戻すデコード。ここでもう一度フルロードまで上がる
サンプリングを6ステップから4ステップに落としても、浮いた時間はわずかでした。1枚60〜80秒から42〜45秒になったのは 3つの変更の合計（小さいテキストエンコーダに交換、サンプリング数を削減、使っていない音声デコードを外す）で、 効いたのは主にエンコードとデコードの区間です。
消費電力と電気代
実測：アイドル28〜32W、生成中の平均144W、ピーク276W（カードの上限は300W）。
GPUは1枚あたり約2Wh。CPU・マザーボード・電源のロスを1.8倍として、マシン全体で約4Wh。 台湾電力の1kWhあたり3.5〜5.8台湾ドルで計算すると、1枚の電気代は0.014〜0.023台湾ドルです。
お金が出ていくのはそこではありません。マシンを一日中つけておくと全体のアイドルが90〜120W、1日2.2〜2.9kWh、 1か月で320〜430台湾ドル。1か月の待機電力は、生成量に換算すると1万5千〜2万枚ぶんです。
だから無料枠は緩めにしています。どのみちカードは通電しているので。
ボトルネックは計算ではなくモデルの読み込み
16GBのビデオメモリに元のサイズが30GBあるモデルを収めているのがint8量子化です。量子化しても、 モデルの読み込みは工程全体でいちばん遅い単一ステップのままです。しばらく空いたあとの1枚目が後続の何倍も遅いのは、 モデルが追い出されていて運び戻す必要があるからです。
割を食うのは最初に来た人です。だから進捗の文言には「1枚目は遅い」とはっきり書いて、 動かないパーセンテージを眺めさせないようにしています。
順番待ち
ふたつのツールは同じGPUを共有しているので、待ち行列もひとつです。別々に並べると同じビデオメモリを奪い合って、 結局どちらも遅くなります。
画面に出る順番は本物の待ち行列から読んだ値で、タイマーのアニメーションではありません。
自前が割に合わない場合
1日に数千枚が必要なら、1枚のカードでは追いつかないのでクラウドを借りたほうが安いです。 自前が向くのは、量はそれほどでもないがファイルを外に出したくない場合。このサイトは後者で、 アップロードされるのはたいてい自分の家族の写真です。