1. 基础概念与任务
- 自然语言处理（NLP）：构建人与机器之间沟通的桥梁，实现人机交流。
- 自然语言理解（NLU）：让计算机理解人类语言的意义和上下文。
- 自然语言生成（NLG）：使计算机能够生成符合语法和语义规则的自然语言文本。
- 分词（Tokenization/Segmentation）：将句子、段落分解为字词单位。
- 词性标注（Part-of-Speech Tagging）：判定句子中每个词的语法范畴并标注词性。
- 命名实体识别（Named Entity Recognition, NER）：识别文本中具有特定意义的实体，如人名、地名、机构名等。
- 句法分析（Syntax Parsing）：解析句子中各个成分的依赖关系，生成句法分析树。
- 语义分析：深入理解文本的含义，进行语义角色标注、指代消解等操作。
2. 高级技术与模型
- Attention 机制：从关注全部到关注重点，将有限的注意力集中在重点信息上。
- Encoder-Decoder：一类算法的统称，常用于解决序列到序列（Seq2Seq）的任务。
- Seq2Seq（Sequence-to-Sequence）：输入一个序列，输出另一个序列，输入和输出序列的长度可变。
- Transformer：使用自注意力（self-attention）机制的Seq2Seq模型，广泛应用于NLP任务。
- BERT（Bidirectional Encoder Representations from Transformers）：通过无监督预训练的Transformer模型，显著提升了NLP任务的性能。
- 词嵌入（Word Embeddings）：将词映射到高维实数向量空间，以便计算机处理。
- softmax：分类器，也可做归一化处理，常用于多分类问题的输出层。
3. 数据与评估
- 语料库（Corpus）：用于NLP研究的大量文本数据集合。
- 平衡语料：包含各种主题和领域的文本，以反映真实世界的语言使用情况。
- 量化评估：使用量化指标（如准确率、召回率、F1分数等）来评估NLP模型的性能。
4. 其他相关术语
- 正则化（Normalization）：对数据进行规范化处理，以减少模型过拟合的风险。
- 标准化（Scaling）：将特征缩放到同一尺度，有助于模型训练。
- 未登录词（Out-of-Vocabulary Words, OOV）：在语料库或词典中未出现的词，是NLP处理中的一个挑战。
- 多模态（Multi-modal）：结合多种信息模态（如文本、图像、音频）进行NLP任务。
- SOTA（State-of-the-Art）：技术发展最新水平，用于评估当前模型的性能是否达到领域内的顶尖水平。
43
发表回复