t_wの輪郭

GloVe

2024/2/25 4:58:00

Sentence EmbeddingはBERTよりGloVeの方が良い『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

Sentence EmbeddingはBERTよりGloVeの方が良い

2024/2/25 5:00:00

実験的にも、BERTの[CLS]トークン埋め込みや平均プーリング埋め込みを使うぐらいだったら、GloVe等の（もっと古い時代の）単語埋め込みを使った方がましということが知られている
── 『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

あれ E5でTwo-Towerモデルっぽいことができる JaColBERT GLuCoSE Sentence EmbeddingはBERTよりGloVeの方が良い GloVe NTT Com Node AI RAG E5

『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

2024/2/25 4:51:00

https://speakerdeck.com/nttcom/exploring-publicly-available-japanese-embedding-models

あれ