コンテンツにスキップ

Auto Classes

多くの場合、from_pretrained()メソッドに与えられた事前学習済みモデルの名前やパスから、使用したいアーキテクチャを推測することができます。自動クラスはこの仕事をあなたに代わって行うためにここにありますので、事前学習済みの重み/設定/語彙への名前/パスを与えると自動的に関連するモデルを取得できます。

AutoConfigAutoModelAutoTokenizerのいずれかをインスタンス化すると、関連するアーキテクチャのクラスが直接作成されます。例えば、

model = AutoModel.from_pretrained("google-bert/bert-base-cased")

これはBertModelのインスタンスであるモデルを作成します。

各タスクごと、そして各バックエンド(PyTorch、TensorFlow、またはFlax)ごとにAutoModelのクラスが存在します。

それぞれの自動クラスには、カスタムクラスで拡張するためのメソッドがあります。例えば、NewModelというモデルのカスタムクラスを定義した場合、NewModelConfigを確保しておけばこのようにして自動クラスに追加することができます:

from transformers import AutoConfig, AutoModel
AutoConfig.register("new-model", NewModelConfig)
AutoModel.register(NewModelConfig, NewModel)

その後、通常どおりauto classesを使用することができるようになります!

あなたのNewModelConfigPreTrainedConfigのサブクラスである場合、そのmodel_type属性がコンフィグを登録するときに使用するキー(ここでは"new-model")と同じに設定されていることを確認してください。

同様に、あなたのNewModelPreTrainedModelのサブクラスである場合、そのconfig_class属性がモデルを登録する際に使用するクラス(ここではNewModelConfig)と同じに設定されていることを確認してください。

[[autodoc]] AutoConfig

[[autodoc]] AutoTokenizer

[[autodoc]] AutoFeatureExtractor

[[autodoc]] AutoImageProcessor

[[autodoc]] AutoProcessor

以下の自動クラスは、特定のヘッドを持たないベースモデルクラスをインスタンス化するために利用可能です。

[[autodoc]] AutoModel

以下の自動クラスは、事前学習ヘッドを持つモデルをインスタンス化するために利用可能です。

[[autodoc]] AutoModelForPreTraining

以下の自動クラスは、次の自然言語処理タスクに利用可能です。

[[autodoc]] AutoModelForCausalLM

[[autodoc]] AutoModelForMaskedLM

[[autodoc]] AutoModelForMaskGeneration

[[autodoc]] AutoModelForSeq2SeqLM

[[autodoc]] AutoModelForSequenceClassification

[[autodoc]] AutoModelForMultipleChoice

[[autodoc]] AutoModelForNextSentencePrediction

[[autodoc]] AutoModelForTokenClassification

[[autodoc]] AutoModelForQuestionAnswering

[[autodoc]] AutoModelForTextEncoding

以下の自動クラスは、次のコンピュータービジョンタスクに利用可能です。

[[autodoc]] AutoModelForDepthEstimation

[[autodoc]] AutoModelForImageClassification

[[autodoc]] AutoModelForVideoClassification

[[autodoc]] AutoModelForMaskedImageModeling

[[autodoc]] AutoModelForObjectDetection

[[autodoc]] AutoModelForImageSegmentation

[[autodoc]] AutoModelForImageToImage

[[autodoc]] AutoModelForSemanticSegmentation

[[autodoc]] AutoModelForInstanceSegmentation

[[autodoc]] AutoModelForUniversalSegmentation

[[autodoc]] AutoModelForZeroShotImageClassification

[[autodoc]] AutoModelForZeroShotObjectDetection

以下の自動クラスは、次の音声タスクに利用可能です。

[[autodoc]] AutoModelForAudioClassification

[[autodoc]] AutoModelForAudioFrameClassification

[[autodoc]] AutoModelForCTC

[[autodoc]] AutoModelForSpeechSeq2Seq

[[autodoc]] AutoModelForAudioXVector

[[autodoc]] AutoModelForTextToSpectrogram

[[autodoc]] AutoModelForTextToWaveform

以下の自動クラスは、次のマルチモーダルタスクに利用可能です。

[[autodoc]] AutoModelForTableQuestionAnswering

[[autodoc]] AutoModelForDocumentQuestionAnswering

[[autodoc]] AutoModelForVisualQuestionAnswering

[[autodoc]] AutoModelForVision2Seq

[[autodoc]] AutoModelForImageTextToText

[[autodoc]] AutoModelForTimeSeriesPrediction