Update README.md
Browse files
README.md
CHANGED
@@ -41,3 +41,4 @@ decode_pattern = [ [ 37, 6 ], [ 121, 36 ], [ 56, 76 ], [ 82, 26 ], [ 75, 61 ], [
|
|
41 |
decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
|
42 |
decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
|
43 |
|
|
|
|
41 |
decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
|
42 |
decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
|
43 |
|
44 |
+
类似地, predictor_pattern返回的是 top-k (k=3)的结果,维度是 (#layers, #experts, k)。例如 predictor_pattern[0][0]表示的是在第一层,第一个 token 选中的权重排名前三的 expert 的索引值。
|