OJT 2025-09:Photogrammetry Toolkit VRデモツールの開発

こんにちは。2025年9月入社のハンです。

2025年9月の新人グループ研修には、Pradipto(プラディプト)、Vitto JEVANO(ヴィト ジェヴァノ)、范 致遠(ハン チエン)の3名が参加し、「Photogrammetry Toolkit VRデモツール」の開発に取り組みました。今回は、2か月間にわたる研修の内容についてご報告します。


目次


  • 目次
  • 1. はじめに
  • 2. 技術基盤:3D Gaussian Splatting (3DGS)
  • 3. システム構成
  • 4. 最適化戦略:VR酔いを防ぐ「超軽量化」の実装
    • レンダリングの最適化(Snugbox & SH削減)
    • Speedy-splatによるPruning(枝刈り)
  • 5. VR UXの向上:床検出と移動システム
    • RANSACによる歩行可能領域の定義
    • 直感的なUI/UX
  • 6. 実行結果と開発環境の工夫
    • パフォーマンス比較
  • 7. まとめと今後の課題
  • 参考文献
  • 使用した素材

続きを読む

【IEEE TCI 掲載】RGB-MIS フュージョンによるモバイル向け広色域(Wide Color Gamut・WCG)撮影システムの開発

こんにちは、リサーチャーの長山です。このたび、同じくリサーチャーのMorpho Korea 所属の李とともに著者として名を連ねた論文が IEEE Transactions on Computational Imaging(TCI)に掲載されました。本記事では、そのプロジェクトの背景と取り組みをご紹介します。前半はプロジェクトの経緯を、後半は技術的な手法の概要を説明します。専門的な内容に入る前に読み終えていただいても、記事としての流れは完結するよう構成しています。


1. スマホで撮った写真の色は、なぜ「現実と違う」のか

スマートフォンのカメラが扱う色の範囲は、そのほとんどが sRGB という規格に最適化されています。sRGB は1990年代に標準化されたもので、当時のCRTモニターや Web での利用を前提に設計されました。問題は、人間の目が知覚できる色の範囲がこれよりもずっと広いことです。夕焼けや花の鮮やかさが「撮ったら何となくくすんでしまった」と感じるとき、その原因の一端はここにあります。

では、センサーの性能を上げ、より広い色域(たとえば映像業界が次世代標準として目指す BT.2020)に対応すれば解決するのかというと、話はそう単純ではありません。センサーが取得したデータは ISP(Image Signal Processor)で処理され、ディスプレイの色変換テーブルを経て初めて画面に映ります。この連鎖のどこかに不整合があれば、色の再現性はそこで損なわれます。さらに広色域化を進めると、ノイズやダイナミックレンジとのトレードオフが生じます。「見た通りの色を写す」は、構造的に難しい問題なのです。

私たちが向き合ったのも、まさにこの課題でした。アプローチとして選んだのは、RGB センサーにマルチスペクトルイメージングセンサー(MIS)を組み合わせるという方法です。センサーを増やすこと自体が目的ではなく、それぞれの得意領域を明確に分離し、空間構造と色再現を同時に最適化する。この考え方が、プロジェクト全体の出発点になりました。


2. プロジェクトの始まり SAITとの協業

きっかけは、社外の技術顧問との議論でした。顧問が示したロードマップは、私たちがそれまで手探りで進めていた方向性を整理し直すものでした。そのやり取りの中で、サムスン電子総合技術院(SAIT)との協業という可能性が具体的に見えてきました。

SAIT は基礎・先端技術の研究を担うサムスンの中枢機関であり、ハードウェア技術の蓄積は圧倒的です。一方、私たちが強みとするのは画像処理アルゴリズムの開発です。役割分担は自然に定まりました。SAIT がセンサーモジュールと実験環境を担い、私たちがアルゴリズム開発(特に位置合わせ・Registration と色融合・Fusion)を主導する形です。

テーマの選定にあたっては「実用性を軸にする」という共通指針がありました。学術的に新規性があるだけでなく、実際のモバイルカメラパイプラインに組み込める手法であることを、最初から意識して設計を進めました。


3. 3年間の道のり

段階 期間 主な出来事
初期設定 2022年12月 協業合意、評価用 MIS モジュールの調達と実験環境の立ち上げ
アルゴリズム開発 2023〜2024年 Demosaicing・Registration・Fusion のコアロジック実装と評価
論文投稿 2023年12月〜2024年9月 IEEE TCI 投稿、計5回のリビジョンと補足実験
最終掲載 2026年1月 IEEE Transactions on Computational Imaging(TCI)に採択・掲載

協業開始から掲載まで、およそ3年。長いようで、振り返ると密度の高い3年でした。

開発の中で特に時間を要したのが、データのやり取りです。SAIT が取得した実験データには厳格なセキュリティ要件が伴い、暗号化ルートでの受け渡しや移転審査のプロセスが発生しました。単純なファイル共有では済まない環境での開発は、それ自体が一つの設計課題でした。ただ、その過程で検証の精度が上がった側面もあり、結果として論文の再現性を高める助けになったと感じています。

論文投稿後も、査読を通じた5回のリビジョンは決して軽い作業ではありませんでした。再実験を求める指摘もあり、実装コストと再現性の両立をどう説明するかは、チーム全体で何度も議論しました。リビジョンのたびに論文の主張が整理され、最終的には当初より明快な形で成果をまとめることができたと思っています。

プロジェクト全体を通じて、隔週のミーティングと日常的なメールでのやり取りが、チームの熱量を維持する土台になりました。組織や国をまたいだ長期プロジェクトでは、技術と同じくらいコミュニケーション設計が開発の成否を左右すると、改めて実感しました。


4. 達成されたこと

この研究によって、RGB センサーと MIS を組み合わせた広色域(WCG)撮影システムの実現可能性を、実装レベルで示すことができました。単に色域を広げるだけでなく、既存の ISP パイプラインと共存できる設計であること。これが、学術的な新規性と実用上の意義を両立させた点です。

今後の展望としては、本稿で示した手法を実際のモバイルカメラパイプラインに統合するための設計、および BT.2020 カバレッジをさらに高める方向での検討を続けています。



5. システム設計の概要

本手法の基本的な考え方は、RGB と MIS の役割分担を明確にした上で統合するという点にあります。

  • RGB センサー:高解像度・高 SNR。空間構造(エッジや輝度の分布)の保持に優れる。
  • MIS(マルチスペクトルイメージングセンサー):スペクトル情報が豊富。色再現性に優れるが、解像度や SNR は RGB に劣る。

それぞれの長所を活かし短所を補う形で、処理は以下の4段階で構成されます。

  1. RGB および MIS 画像の取得と前処理(Spectral Aware Demosaicing)
  2. 共通色空間(XYZ)への変換
  3. 位置合わせ(Joint Registration)
  4. 色転送および融合(Cross-Sensor Fusion)

処理パイプライン全体像


6. Joint Registration 視差とフォーカス差の同時補正

RGB センサーと MIS は物理的に異なる位置に配置されているため、両画像の間には視差(parallax)とフォーカス差が存在します。このズレを補正せずに色統合を行うと、エッジ周辺に偽色(color fringing)が発生します。

本手法では以下を組み合わせて対応しました。

  • カメラパラメータに基づく幾何補正
  • Morpho 内製の Stereo Matching 技術を活用した視差推定
  • 推定した対応点を用いた MIS 画像の RGB 座標系へのワーピング

また、対応点が存在しないオクルージョン領域も同時に推定します。これは後段の融合処理において、どの画素を信頼するかを制御するために使用します。

Joint Registration 評価用ボード


7. Cross-Sensor Fusion 色転送と信頼度制御

位置合わせ後、MIS の色情報を RGB に転送します。色空間は CIELAB を用い、輝度と色成分を分離します。

  • 輝度(L):RGB の値をそのまま使用(空間構造を維持)
  • 色成分(a, b):MIS から転送(色再現性を MIS に委ねる)

色転送は、局所領域ごとの統計量(平均・標準偏差)を一致させる線形変換として定義されます。各画素  p に対して:

 \displaystyle
I^{\mathrm{fused}}_c(p) =
\frac{\sigma^{\mathrm{MIS}}_c(p)}{\sigma^{\mathrm{RGB}}_c(p)}
\left(I^{\mathrm{RGB}}_c(p) - \mu^{\mathrm{RGB}}_c(p)\right)
+ \mu^{\mathrm{MIS}}_c(p), \quad c \in \{a, b\}

ただし、位置ずれやノイズの影響で偽色が生じうる領域では、転送結果をそのまま使うのではなく、画素ごとの信頼度  \alpha(p) に基づいて元の RGB とブレンドします:

 \displaystyle
I^{\mathrm{out}}_c(p) =
\alpha(p)\, I^{\mathrm{RGB}}_c(p)
+ (1 - \alpha(p))\, I^{\mathrm{fused}}_c(p), \quad c \in \{a, b\}

信頼度は主に以下の条件で制御されます。

  • オクルージョン領域:MIS に対応情報がないため RGB を優先( \alpha \to 1
  • 高周波かつ色差が大きい領域:偽色リスクが高いため RGB 寄りに制御

この設計により、空間構造を損なわず、かつアーティファクトを抑制した広色域出力が得られます。


8. 実験・評価の概要

色再現の定量評価には ColorChecker を用い、光源・露光を統一した条件下で RGB 単体と RGB-MIS 融合の比較を行いました。

撮影リグ
ColorChecker シーン
測定 UI
測定詳細

照明・撮像距離・露光の組み合わせを体系的に変えながら、広色域カラーキャリブレーションと照度制御を両立できるセットアップを構築しました。

論文情報

  • W. -S. Kim et al., "Wide Color Gamut Imaging System Using a Multispectral Image Sensor for a Mobile Device," in IEEE Transactions on Computational Imaging, vol. 12, pp. 505-518, 2026, doi: 10.1109/TCI.2026.3663972.


9. おわりに

3年間のプロジェクトを通じて、私たちが得たのは論文掲載という成果だけではありません。異なる組織・文化・専門領域をまたいで一つの技術目標に向かうことの難しさと面白さを、身をもって経験しました。

今回築いたコミュニケーションの土台と技術的な知見は、モバイルカメラで「見た通りの色」を当たり前に撮れる世界に向けた、一つの確かな足がかりになったと思っています。技術パートで触れた手法の詳細については、掲載論文をご参照ください。

最後までお読みいただき、ありがとうございました。

インターンシップ 2025-2026:スマホ単体・完全ローカルで動く視線推定と次世代AF制御 (On-Device Gaze Estimation & AF Control)

はじめに

2025年10月から3月にかけて株式会社モルフォでインターン活動を行った、樽谷遼太郎です。

視線推定AF制御

視線推定(Gaze Estimation)とは赤外線やカメラなどのセンサを用いて眼球の回転角から視線ベクトルを求めるタスクです。本プロジェクトでは10万フレームを超える大規模な検証を行い、エッジデバイス上でのリアルタイム動作と、実用的な精度を両立させることができました。その手法について詳しくご紹介します。

眼球回転角と視線ベクトルの概念図[1]

続きを読む

インターンシップ 2025:AIを用いた自動手順書作成ツールの開発

はじめに 

 はじめまして。2025年の11月から三か月間株式会社モルフォでインターンをしておりました、東京大学精密工学科三年の高木悠貴哉と申します。 今回は「AIを用いた自動手順書作成ツールの開発」というテーマのもと、近年話題となっているLLMを用いて作業記録から手順書を作成するアプリ開発に取り組みました。 この記事ではインターンシップを通して私が作成した成果物を紹介していきたいと思います

背景

モルフォには、社員が自身の「やりたい(Will)」を起点として自律的に研究開発や業務改善に取り組むことを後押しする、「Will型開発」という独自の仕組みがあります。その一環として行われた「Will型アイデアハッカソン」にて、「画面録画による作業ログ探索」というテーマで試作された「Morpho Work Logger」というデモツールがあり、本テーマはそこから着想を得ました。

「Will型アイデアハッカソン」の開催レポートはこちら

techblog.morphoinc.com

続きを読む

OJT 2025:自然言語での画像レタッチング

こんにちは。 2025年度入社のリサーチャーの安達です。 今回は、弊社で実施している新人グループ研修について報告します。

目次

  • 目次
  • はじめに
  • システム構成
    • VisProg
  • レタッチ実行部
    • Gemma 3
    • ぼかし機能インタプリタ
  • 直面した課題
  • RAG
    • 類似度検索の手法
  • WebUI
    • フロントエンド
    • Webフレームワーク層(Flask)
    • バックエンド
  • 結果
    • 明確な命令の場合
    • 曖昧な命令の場合
    • 非常に曖昧な命令の場合
  • まとめ
  • 参考文献

はじめに

今年度の参加者は安達、周、ユガンダーの3名で、2か月間にわたりチーム開発を実施しました。 テーマは自然言語での画像レタッチングです。

続きを読む

JDLA主催「CVPR2025技術報告会」発表資料

先日、日本ディープラーニング協会主催(JDLA)の「CVPR2025技術報告会」にてモルフォの技術者が登壇いたしました。本記事では、当日の資料を共有するとともに、その発表内容をダイジェストでお届けします。

  • 発表内容のダイジェスト
    • 概要
    • トレンド分析
      • トレンド深堀り①3D再構成
      • トレンド深堀り②マルチモーダル
      • トレンド深堀り③動画の認識・生成
    • テクニカルディープダイブ①新世代のアーキテクチャMambaの動向
    • テクニカルディープダイブ②NTIRE 2025
  • 発表資料の共有
  • 引用

発表内容のダイジェスト

概要

CVPR(The IEEE / CVF Conference on Computer Vision and Pattern Recognition)は、コンピュータビジョン(画像認識技術)の分野で世界最高峰とされる国際学会です。昨年に引き続きまして、CVPRの重要性や、今年のトレンドの分析、モルフォの技術者が注目した分野や論文について詳しく解説しました。

続きを読む

OJT 202410/202411:プライバシー保護カメラ

こんにちは。2024年10月入社のカエンと、11月入社のスウです。今年度の新人グループ研修について報告します。

はじめに

弊社では2か月間のグループ研修を実施しています。今年度の参加者は陳 華炎(カエン)、鄒 宇傑(スウ)と趙 汝豪(ジョゴウ)の3名で、テーマは「Privacy-Preserving Camera(プライバシー保護カメラ)」です。

動機

スマートフォンの普及によって、写真を撮るチャンスが大幅に増えてきました。しかし、イベントや取材、日常のスナップショットなどで第三者の顔が映り、意図せず拡散されることは少なくないと思います。このような状況では、映ってしまった画像や動画は加工・修正する必要がありますが、手動では手間がかかります。そのため、手軽に写真・動画撮影の際のプライバシーを保護できるようなアプリを開発したいと考えました。

この研修では、リアルタイムで顔をぼかせる処理の実装を目標とし、特に利用者が多いスマートフォンに向けて開発しました。

続きを読む