このページでは用語集の「自然言語処理」カテゴリに属する用語記事へのリンクを,階層的に示します.
目次
1. 分散表現
- ワード単位の分散表現(単語埋め込み)
- 単語埋め込み (word2vec)
- GloVe (Gloval Vectors)
- fastText
2. 統語解析 (Syntactic)
2.1 品詞解析
- 品詞タグ付け(Part-of-Speech Tagging)
- 係り受け解析(Dependency Parsing)
3. トークナイザ・形態素解析
3.1 トークナイゼーション(英語など,空白で文節を区切れる言語むけ)
- 古典的ななトークナイザ
- BPE
- サブワード分割も行うトークナイザ
- WordPiece
- SentencePiece
3.2 形態素解析(主に日本語向けのものについて)
- ディープ以前の日本語形態素解析モデル(公開ツール)
- Juman
- MeCab
- ディープ以降の形態素解析モデル