bfloat16

权重原生为 bfloat16。与其将它们转换为浮点数，不如将它们保留为 bfloat16，并在转换浮点数和 bfloat16 时动态使用联合类型和位移。这样做将使 forward() 函数的性能提高一倍，因为它受内存带宽的限制。唯一的注意事项是，在从浮点数转换为 bfloat16 时，需要处理亚常数数值。