Hugging Face's logo

OpenVINO
/
gpt-j-6b-int4-ov

Text Generation
Transformers
OpenVINO
gptj
Inference Endpoints
Model card Files Community
gpt-j-6b-int4-ov
File size: 4,328 Bytes 
bde0e55
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
 
{
  "<|extratoken_100|>": 50356,
  "<|extratoken_101|>": 50357,
  "<|extratoken_102|>": 50358,
  "<|extratoken_103|>": 50359,
  "<|extratoken_104|>": 50360,
  "<|extratoken_105|>": 50361,
  "<|extratoken_106|>": 50362,
  "<|extratoken_107|>": 50363,
  "<|extratoken_108|>": 50364,
  "<|extratoken_109|>": 50365,
  "<|extratoken_10|>": 50266,
  "<|extratoken_110|>": 50366,
  "<|extratoken_111|>": 50367,
  "<|extratoken_112|>": 50368,
  "<|extratoken_113|>": 50369,
  "<|extratoken_114|>": 50370,
  "<|extratoken_115|>": 50371,
  "<|extratoken_116|>": 50372,
  "<|extratoken_117|>": 50373,
  "<|extratoken_118|>": 50374,
  "<|extratoken_119|>": 50375,
  "<|extratoken_11|>": 50267,
  "<|extratoken_120|>": 50376,
  "<|extratoken_121|>": 50377,
  "<|extratoken_122|>": 50378,
  "<|extratoken_123|>": 50379,
  "<|extratoken_124|>": 50380,
  "<|extratoken_125|>": 50381,
  "<|extratoken_126|>": 50382,
  "<|extratoken_127|>": 50383,
  "<|extratoken_128|>": 50384,
  "<|extratoken_129|>": 50385,
  "<|extratoken_12|>": 50268,
  "<|extratoken_130|>": 50386,
  "<|extratoken_131|>": 50387,
  "<|extratoken_132|>": 50388,
  "<|extratoken_133|>": 50389,
  "<|extratoken_134|>": 50390,
  "<|extratoken_135|>": 50391,
  "<|extratoken_136|>": 50392,
  "<|extratoken_137|>": 50393,
  "<|extratoken_138|>": 50394,
  "<|extratoken_139|>": 50395,
  "<|extratoken_13|>": 50269,
  "<|extratoken_140|>": 50396,
  "<|extratoken_141|>": 50397,
  "<|extratoken_142|>": 50398,
  "<|extratoken_143|>": 50399,
  "<|extratoken_14|>": 50270,
  "<|extratoken_15|>": 50271,
  "<|extratoken_16|>": 50272,
  "<|extratoken_17|>": 50273,
  "<|extratoken_18|>": 50274,
  "<|extratoken_19|>": 50275,
  "<|extratoken_1|>": 50257,
  "<|extratoken_20|>": 50276,
  "<|extratoken_21|>": 50277,
  "<|extratoken_22|>": 50278,
  "<|extratoken_23|>": 50279,
  "<|extratoken_24|>": 50280,
  "<|extratoken_25|>": 50281,
  "<|extratoken_26|>": 50282,
  "<|extratoken_27|>": 50283,
  "<|extratoken_28|>": 50284,
  "<|extratoken_29|>": 50285,
  "<|extratoken_2|>": 50258,
  "<|extratoken_30|>": 50286,
  "<|extratoken_31|>": 50287,
  "<|extratoken_32|>": 50288,
  "<|extratoken_33|>": 50289,
  "<|extratoken_34|>": 50290,
  "<|extratoken_35|>": 50291,
  "<|extratoken_36|>": 50292,
  "<|extratoken_37|>": 50293,
  "<|extratoken_38|>": 50294,
  "<|extratoken_39|>": 50295,
  "<|extratoken_3|>": 50259,
  "<|extratoken_40|>": 50296,
  "<|extratoken_41|>": 50297,
  "<|extratoken_42|>": 50298,
  "<|extratoken_43|>": 50299,
  "<|extratoken_44|>": 50300,
  "<|extratoken_45|>": 50301,
  "<|extratoken_46|>": 50302,
  "<|extratoken_47|>": 50303,
  "<|extratoken_48|>": 50304,
  "<|extratoken_49|>": 50305,
  "<|extratoken_4|>": 50260,
  "<|extratoken_50|>": 50306,
  "<|extratoken_51|>": 50307,
  "<|extratoken_52|>": 50308,
  "<|extratoken_53|>": 50309,
  "<|extratoken_54|>": 50310,
  "<|extratoken_55|>": 50311,
  "<|extratoken_56|>": 50312,
  "<|extratoken_57|>": 50313,
  "<|extratoken_58|>": 50314,
  "<|extratoken_59|>": 50315,
  "<|extratoken_5|>": 50261,
  "<|extratoken_60|>": 50316,
  "<|extratoken_61|>": 50317,
  "<|extratoken_62|>": 50318,
  "<|extratoken_63|>": 50319,
  "<|extratoken_64|>": 50320,
  "<|extratoken_65|>": 50321,
  "<|extratoken_66|>": 50322,
  "<|extratoken_67|>": 50323,
  "<|extratoken_68|>": 50324,
  "<|extratoken_69|>": 50325,
  "<|extratoken_6|>": 50262,
  "<|extratoken_70|>": 50326,
  "<|extratoken_71|>": 50327,
  "<|extratoken_72|>": 50328,
  "<|extratoken_73|>": 50329,
  "<|extratoken_74|>": 50330,
  "<|extratoken_75|>": 50331,
  "<|extratoken_76|>": 50332,
  "<|extratoken_77|>": 50333,
  "<|extratoken_78|>": 50334,
  "<|extratoken_79|>": 50335,
  "<|extratoken_7|>": 50263,
  "<|extratoken_80|>": 50336,
  "<|extratoken_81|>": 50337,
  "<|extratoken_82|>": 50338,
  "<|extratoken_83|>": 50339,
  "<|extratoken_84|>": 50340,
  "<|extratoken_85|>": 50341,
  "<|extratoken_86|>": 50342,
  "<|extratoken_87|>": 50343,
  "<|extratoken_88|>": 50344,
  "<|extratoken_89|>": 50345,
  "<|extratoken_8|>": 50264,
  "<|extratoken_90|>": 50346,
  "<|extratoken_91|>": 50347,
  "<|extratoken_92|>": 50348,
  "<|extratoken_93|>": 50349,
  "<|extratoken_94|>": 50350,
  "<|extratoken_95|>": 50351,
  "<|extratoken_96|>": 50352,
  "<|extratoken_97|>": 50353,
  "<|extratoken_98|>": 50354,
  "<|extratoken_99|>": 50355,
  "<|extratoken_9|>": 50265
}