あいんずのBLOG
ImageBindの確認
2024-05-14
個人的に注目している特徴量の構築する手法の1つであるImageBindのサンプルプログラムを動かしてみた。
はじめに
ImageBindは、画像/ビデオ、音声、テキスト、深度(3D)、熱(赤外線)、慣性測定単位(IMU:動きや位置を計算する)といったモダリティについて、単一の埋め込み(共有表現空間)を学習することで、これらのモダリティ間の関係を認識できる。また、色々と記事の情報を見た結果、前述のデータに関して同じ空間上でベクトルとして表現できるので同様の特徴として扱うことが出来るものだと思われる。そのため、個人的には趣味で持っているデータで学習モデルを作ってみるのは楽しいかもしれないと心の中で思っている。
動作確認
動かすだけであればGithubに記載の通りに実施すれば良いが、実際に動かしてみた際の知見を少しメモ書きしておく。
- ImageBindの学習モデルは実行時に学習済みモデルの使用のフラグをTrueにしておけば自動でダウンロードされる
- cpuでの実行は処理がちょっと遅いかもしれない(⇒ 実際に使う時に予測の処理が早ければ問題ないかも)
- ライブラリのインストール手順が書いてあるが、そのまま実行しても上手くいかないかも(ライブラリを確認して入れた方が安定してインストール出来るかも)
以下、サンプルプログラム
from imagebind import data
import torch
from imagebind.models import imagebind_model
from imagebind.models.imagebind_model import ModalityType
text_list=["A dog.", "A car", "A bird"]
image_paths=[".assets/dog_image.jpg", ".assets/car_image.jpg", ".assets/bird_image.jpg"]
audio_paths=[".assets/dog_audio.wav", ".assets/car_audio.wav", ".assets/bird_audio.wav"]
device = "cuda:0" if torch.cuda.is_available() else "cpu"
# Instantiate model
model = imagebind_model.imagebind_huge(pretrained=True)
model.eval()
model.to(device)
# Load data
inputs = {
ModalityType.TEXT: data.load_and_transform_text(text_list, device),
ModalityType.VISION: data.load_and_transform_vision_data(image_paths, device),
ModalityType.AUDIO: data.load_and_transform_audio_data(audio_paths, device),
}
with torch.no_grad():
embeddings = model(inputs)
print(
"Vision x Text: ",
torch.softmax(embeddings[ModalityType.VISION] @ embeddings[ModalityType.TEXT].T, dim=-1),
)
print(
"Audio x Text: ",
torch.softmax(embeddings[ModalityType.AUDIO] @ embeddings[ModalityType.TEXT].T, dim=-1),
)
print(
"Vision x Audio: ",
torch.softmax(embeddings[ModalityType.VISION] @ embeddings[ModalityType.AUDIO].T, dim=-1),
)
# Expected output:
#
# Vision x Text:
# tensor([[9.9761e-01, 2.3694e-03, 1.8612e-05],
# [3.3836e-05, 9.9994e-01, 2.4118e-05],
# [4.7997e-05, 1.3496e-02, 9.8646e-01]])
#
# Audio x Text:
# tensor([[1., 0., 0.],
# [0., 1., 0.],
# [0., 0., 1.]])
#
# Vision x Audio:
# tensor([[0.8070, 0.1088, 0.0842],
# [0.1036, 0.7884, 0.1079],
# [0.0018, 0.0022, 0.9960]])
参考
- ImageBind: One Embedding Space To Bind Them All
- Meta、6種類のデータを処理できるマルチモーダルAI「ImageBind」をオープンソースで公開
- マルチモーダルモデルImageBindに「AWSの構成図?Azureの構成図?」を判定させてみた