marsggbo commited on
Commit
5e6de1a
1 Parent(s): 30d33d6

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +1 -0
README.md CHANGED
@@ -41,3 +41,4 @@ decode_pattern = [ [ 37, 6 ], [ 121, 36 ], [ 56, 76 ], [ 82, 26 ], [ 75, 61 ], [
41
  decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
42
  decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
43
 
 
 
41
  decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
42
  decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
43
 
44
+ 类似地, predictor_pattern返回的是 top-k (k=3)的结果,维度是 (#layers, #experts, k)。例如 predictor_pattern[0][0]表示的是在第一层,第一个 token 选中的权重排名前三的 expert 的索引值。