LAMA

LAMA: LAnguage Model Analysis LAMA 是用于分析预训练语言模型中包含的事实和常识知识的探针。

LAMA 探针的数据集可在 https://dl.fbaipublicfiles.com/LAMA/data.zip 中找到。

LAMA 含有一组连接器，用于连接到预训练语言模型。
LAMA 提供了一个透明且独特的接口，可用于：

• Transformer-XL (Dai 等人，2019)
  
• BERT (Devlin 等人，2018)
  
• ELMo (Peters 等人，2018)
  
• GPT (Radford 等人，2018)
  
• RoBERTa (Liu 等人，2019)
  实际上，LAMA 也是一只漂亮的动物。
  

参考文献：

…
```<br>
## LAMA 探针<br>
要重现我们的结果：

### 1. 创建 conda 环境并安装要求

此仓库还提供了一个脚本(`scripts/create_lama_uhn.py`)，用于创建 (Poerner 等人，2019) 中使用的数据。