資料
ダウンロード

Technology > 動画から3Dモデルをつくる — スマホ動画1本で点群・メッシュ・写実3Dを生成

動画から3Dモデルをつくる — スマホ動画1本で点群・メッシュ・写実3Dを生成

スマートフォンで対象のまわりをぐるっと一周撮る — たったそれだけの動画から、コンピュータの中に立体(3Dモデル)を起こせる。専用のスキャナも高価な機材もいらない、そんな手軽な3D再構成の仕組みを、社内で試した実例とともに紹介します。

できあがるのは3種類のデータです。点の集まりで形を表す 「点群」、面(ポリゴン)で構成した 「メッシュ」、そして本物そっくりの見た目で自由に視点を変えられる 「写実モデル」。3Dアセット制作や検査・計測、AR/VR、機械学習用のデータづくりなど、使いみちは広がっています。

動画から3Dモデルへ ― 全体の流れ

動画を入れてから3Dモデルが出てくるまで、内部では大きく8つの処理が順番に走ります。まずは全体像から見てみましょう。

動画から3Dモデルへ:処理の流れ(8ステップ)

今回のポイントは2つあります。ひとつは、従来よく使われてきた COLMAP という古典的な手法を使わず、HunyuanWorld-Mirror というAIモデルで正確なカメラの位置・向きを一気に求めること。もうひとつは、仕上げに最新の 2D Gaussian Splatting(2DGS) を使って見た目の品質を高めることです。

全体の雰囲気は、こちらの解説動画(約2分・音声なし)でもご覧いただけます。このあとは、各工程をひとつずつ追っていきます。

※ 「video2model — 動画から3D再構成」の解説動画(約2分・音声なし)

まずは対象を一周ぐるりと撮影する

出発点は、ごく普通の動画です。対象を中心に、カメラがまわりを一周するように撮影します。あとはこの動画から複数枚の静止画を切り出すだけ — 今回は25枚を使いました。いろいろな角度から同じ対象をとらえた写真群が、立体を起こすための材料になります。

対象物を一周しながら撮影した入力フレーム(25枚)
動画から切り出した入力フレーム。さまざまな角度から対象物をとらえています。

1枚ずつ「奥行き」と「面の向き」を読み取る

次に、AIが切り出した画像の1枚1枚から、ピクセルごとの “奥行き”(カメラからの距離=深度)と、“面の向き”(法線)を推定します。下の図は、左が元画像、中央が深度(暖色ほど手前)、右が法線を色で表したもの。この情報が、平面の写真を立体へと持ち上げるための手がかりになります。

入力画像・深度・法線の比較
左:元画像/中:深度(暖色ほど手前)/右:法線(面の向きを色で表現)

複数の視点を3Dにまとめて揃える

ここが処理の心臓部です。HunyuanWorld-Mirror は、各画像の深度や点群に加えて、それぞれの写真を撮った カメラの位置と向き(カメラ姿勢) までを、まとめて一括で推定してくれるAIモデルです。

従来はカメラ姿勢を求めるのに COLMAP という手法を使うのが定番でしたが、Mirror はそれより高速で頑健。姿勢が正確に出るぶん、後の工程がぐっと楽になります。こうして、バラバラだった多視点の情報が、ひとつの立体(点群)として立ち上がってきます。

複数視点から再構成された点群
複数の視点を揃えて再構成した点群。対象物の立体的な形が浮かび上がります。

余分な点を取り除いて、本体だけにする

再構成したばかりの点群には、背景や地面、ノイズの点が混ざっています。そこで、本体以外の点を取り除いていきます。

「点が減る」と聞くと劣化のように感じますが、実際はゴミを捨てて本体を濃くする作業です。ただし削りすぎると穴が空いてしまうので、さじ加減(パラメータの調整)が肝心。下の図は、削りすぎて穴が空いた例(左)と、調整して本体を保った例(右)の比較です。

点群クリーンアップの調整前後
左:除去しすぎて穴あき(旧設定)/右:パラメータ調整で本体を保持(新設定)

点をつないで「面」にする

点の集まりのままでは扱いにくいので、点と点をつないで面(ポリゴン)にし、メッシュ と呼ばれる3Dモデルにします。ここは手法によって品質が大きく変わるところです。

従来の Poisson という方法ではトゲや穴が出がちでしたが、新しい 2DGS による方法では、なめらかで形のはっきりしたメッシュが得られます。同じ対象でも、仕上がりの差は一目瞭然です。

Poissonと2DGSのメッシュ比較
左列:従来のPoisson(穴・トゲが多い)/右列:新手法 2DGS(なめらかで形が明瞭)

本物の質感を再現する(Gaussian Splatting)

最後は見た目の再現です。2D Gaussian Splatting は、無数の “平たい光の粒” を空間に並べて、本物に近い質感や色を描き出す手法。自由な視点から眺められ、しかも同じ最適化の過程からメッシュも取り出せるのが特長です。

学習も高速で、今回は RTX 4090 で約85秒(7,000回の最適化)で仕上がりました。

Gaussian Splattingによる写実描画
Gaussian Splatting による写実描画。最適化が進むほど、本物に近い見た目に近づきます。

できあがった3Dモデル

最終的に、撮影用のマット(地面)を取り除き、本体だけで約7万頂点のメッシュが得られました。ブレード・運転席・履帯(クローラー)といった細部まで、形がしっかりと再現できています。スマホ動画1本から、ここまで作れるわけです。

地面を除去した最終3Dメッシュ
地面を除去した最終3Dメッシュ(本体のみ・約7万頂点)。

まとめと今後

動画1本から、点群 → メッシュ → 写実3Dモデルまでを自動で生成できました。鍵になったのは、正確なカメラ姿勢を与える HunyuanWorld-Mirror と、高品質に仕上げる 2D Gaussian Splatting の組み合わせです。従来 Poisson で出ていた穴やトゲも解消し、形の明瞭なメッシュを実現しています。

今後は、最適化の反復回数を増やしたさらなる精細化、底面のクローズ処理、正解データ(GT)を用いた定量評価などに取り組んでいきます。

この技術や導入について、お気軽にご相談ください。

お問い合わせ・ご相談はこちら
一覧に戻る

CONTACT US

RECRUIT