DewiBrynJones commited on
Commit
78692cf
1 Parent(s): deed93f

End of training

Browse files
README.md CHANGED
@@ -3,11 +3,24 @@ license: apache-2.0
3
  base_model: openai/whisper-large-v3
4
  tags:
5
  - generated_from_trainer
 
 
6
  metrics:
7
  - wer
8
  model-index:
9
  - name: whisper-large-v3-ft-btb-ccv-cy
10
- results: []
 
 
 
 
 
 
 
 
 
 
 
11
  ---
12
 
13
  <!-- This model card has been generated automatically according to the information the Trainer had access to. You
@@ -15,7 +28,7 @@ should probably proofread and complete it, then remove this comment. -->
15
 
16
  # whisper-large-v3-ft-btb-ccv-cy
17
 
18
- This model is a fine-tuned version of [openai/whisper-large-v3](https://huggingface.co/openai/whisper-large-v3) on an unknown dataset.
19
  It achieves the following results on the evaluation set:
20
  - Loss: 0.4191
21
  - Wer: 0.2911
 
3
  base_model: openai/whisper-large-v3
4
  tags:
5
  - generated_from_trainer
6
+ datasets:
7
+ - DewiBrynJones/banc-trawsgrifiadau-bangor-clean-with-ccv
8
  metrics:
9
  - wer
10
  model-index:
11
  - name: whisper-large-v3-ft-btb-ccv-cy
12
+ results:
13
+ - task:
14
+ name: Automatic Speech Recognition
15
+ type: automatic-speech-recognition
16
+ dataset:
17
+ name: DewiBrynJones/banc-trawsgrifiadau-bangor-clean-with-ccv default
18
+ type: DewiBrynJones/banc-trawsgrifiadau-bangor-clean-with-ccv
19
+ args: default
20
+ metrics:
21
+ - name: Wer
22
+ type: wer
23
+ value: 0.2910627217048187
24
  ---
25
 
26
  <!-- This model card has been generated automatically according to the information the Trainer had access to. You
 
28
 
29
  # whisper-large-v3-ft-btb-ccv-cy
30
 
31
+ This model is a fine-tuned version of [openai/whisper-large-v3](https://huggingface.co/openai/whisper-large-v3) on the DewiBrynJones/banc-trawsgrifiadau-bangor-clean-with-ccv default dataset.
32
  It achieves the following results on the evaluation set:
33
  - Loss: 0.4191
34
  - Wer: 0.2911
all_results.json CHANGED
@@ -1,15 +1,15 @@
1
  {
2
- "epoch": 3.861003861003861,
3
- "eval_loss": 0.447899729013443,
4
- "eval_runtime": 2897.5042,
5
  "eval_samples": 7022,
6
- "eval_samples_per_second": 2.423,
7
- "eval_steps_per_second": 0.152,
8
- "eval_wer": 0.29472481531011024,
9
- "total_flos": 5.435487665750016e+20,
10
- "train_loss": 0.2695653033494949,
11
- "train_runtime": 64824.1008,
12
- "train_samples": 41435,
13
- "train_samples_per_second": 2.468,
14
- "train_steps_per_second": 0.077
15
  }
 
1
  {
2
+ "epoch": 3.155569580309246,
3
+ "eval_loss": 0.4191373586654663,
4
+ "eval_runtime": 2975.4013,
5
  "eval_samples": 7022,
6
+ "eval_samples_per_second": 2.36,
7
+ "eval_steps_per_second": 0.148,
8
+ "eval_wer": 0.2910627217048187,
9
+ "total_flos": 5.4352838158516224e+20,
10
+ "train_loss": 0.2719093270301819,
11
+ "train_runtime": 63684.9216,
12
+ "train_samples": 50697,
13
+ "train_samples_per_second": 2.512,
14
+ "train_steps_per_second": 0.079
15
  }
eval_results.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
- "epoch": 3.861003861003861,
3
- "eval_loss": 0.447899729013443,
4
- "eval_runtime": 2897.5042,
5
  "eval_samples": 7022,
6
- "eval_samples_per_second": 2.423,
7
- "eval_steps_per_second": 0.152,
8
- "eval_wer": 0.29472481531011024
9
  }
 
1
  {
2
+ "epoch": 3.155569580309246,
3
+ "eval_loss": 0.4191373586654663,
4
+ "eval_runtime": 2975.4013,
5
  "eval_samples": 7022,
6
+ "eval_samples_per_second": 2.36,
7
+ "eval_steps_per_second": 0.148,
8
+ "eval_wer": 0.2910627217048187
9
  }
runs/Aug28_14-17-48_4dbbe0fe04c6/events.out.tfevents.1724918851.4dbbe0fe04c6.130.1 ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:27ab8e7b24d69be31189ea213647422b9c10b95fc98b94e4e4aed03fb1e10954
3
+ size 406
train_results.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
- "epoch": 3.861003861003861,
3
- "total_flos": 5.435487665750016e+20,
4
- "train_loss": 0.2695653033494949,
5
- "train_runtime": 64824.1008,
6
- "train_samples": 41435,
7
- "train_samples_per_second": 2.468,
8
- "train_steps_per_second": 0.077
9
  }
 
1
  {
2
+ "epoch": 3.155569580309246,
3
+ "total_flos": 5.4352838158516224e+20,
4
+ "train_loss": 0.2719093270301819,
5
+ "train_runtime": 63684.9216,
6
+ "train_samples": 50697,
7
+ "train_samples_per_second": 2.512,
8
+ "train_steps_per_second": 0.079
9
  }
trainer_state.json CHANGED
@@ -1,7 +1,7 @@
1
  {
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
- "epoch": 3.861003861003861,
5
  "eval_steps": 1000,
6
  "global_step": 5000,
7
  "is_hyper_param_search": false,
@@ -9,1458 +9,1458 @@
9
  "is_world_process_zero": true,
10
  "log_history": [
11
  {
12
- "epoch": 0.019305019305019305,
13
- "grad_norm": 7.365023136138916,
14
  "learning_rate": 5.000000000000001e-07,
15
- "loss": 1.4936,
16
  "step": 25
17
  },
18
  {
19
- "epoch": 0.03861003861003861,
20
- "grad_norm": 5.869426727294922,
21
  "learning_rate": 1.0000000000000002e-06,
22
- "loss": 1.2163,
23
  "step": 50
24
  },
25
  {
26
- "epoch": 0.05791505791505792,
27
- "grad_norm": 5.041717052459717,
28
  "learning_rate": 1.5e-06,
29
- "loss": 0.866,
30
  "step": 75
31
  },
32
  {
33
- "epoch": 0.07722007722007722,
34
- "grad_norm": 4.53203010559082,
35
  "learning_rate": 2.0000000000000003e-06,
36
- "loss": 0.7562,
37
  "step": 100
38
  },
39
  {
40
- "epoch": 0.09652509652509653,
41
- "grad_norm": 5.75096321105957,
42
  "learning_rate": 2.5e-06,
43
- "loss": 0.6816,
44
  "step": 125
45
  },
46
  {
47
- "epoch": 0.11583011583011583,
48
- "grad_norm": 5.387002944946289,
49
  "learning_rate": 3e-06,
50
- "loss": 0.7012,
51
  "step": 150
52
  },
53
  {
54
- "epoch": 0.13513513513513514,
55
- "grad_norm": 5.036501884460449,
56
  "learning_rate": 3.5e-06,
57
- "loss": 0.6297,
58
  "step": 175
59
  },
60
  {
61
- "epoch": 0.15444015444015444,
62
- "grad_norm": 4.358458042144775,
63
  "learning_rate": 4.000000000000001e-06,
64
- "loss": 0.6081,
65
  "step": 200
66
  },
67
  {
68
- "epoch": 0.17374517374517376,
69
- "grad_norm": 4.636687278747559,
70
  "learning_rate": 4.5e-06,
71
- "loss": 0.6034,
72
  "step": 225
73
  },
74
  {
75
- "epoch": 0.19305019305019305,
76
- "grad_norm": 4.5222554206848145,
77
  "learning_rate": 5e-06,
78
- "loss": 0.5915,
79
  "step": 250
80
  },
81
  {
82
- "epoch": 0.21235521235521235,
83
- "grad_norm": 4.840209007263184,
84
  "learning_rate": 5.500000000000001e-06,
85
- "loss": 0.6055,
86
  "step": 275
87
  },
88
  {
89
- "epoch": 0.23166023166023167,
90
- "grad_norm": 4.3733673095703125,
91
  "learning_rate": 6e-06,
92
- "loss": 0.565,
93
  "step": 300
94
  },
95
  {
96
- "epoch": 0.25096525096525096,
97
- "grad_norm": 3.8710694313049316,
98
  "learning_rate": 6.5000000000000004e-06,
99
- "loss": 0.5128,
100
  "step": 325
101
  },
102
  {
103
- "epoch": 0.2702702702702703,
104
- "grad_norm": 4.533177375793457,
105
  "learning_rate": 7e-06,
106
- "loss": 0.5532,
107
  "step": 350
108
  },
109
  {
110
- "epoch": 0.28957528957528955,
111
- "grad_norm": 4.626265048980713,
112
  "learning_rate": 7.500000000000001e-06,
113
- "loss": 0.5708,
114
  "step": 375
115
  },
116
  {
117
- "epoch": 0.3088803088803089,
118
- "grad_norm": 5.235887050628662,
119
  "learning_rate": 8.000000000000001e-06,
120
- "loss": 0.5413,
121
  "step": 400
122
  },
123
  {
124
- "epoch": 0.3281853281853282,
125
- "grad_norm": 4.232483386993408,
126
  "learning_rate": 8.5e-06,
127
- "loss": 0.5326,
128
  "step": 425
129
  },
130
  {
131
- "epoch": 0.3474903474903475,
132
- "grad_norm": 4.374448776245117,
133
  "learning_rate": 9e-06,
134
- "loss": 0.5205,
135
  "step": 450
136
  },
137
  {
138
- "epoch": 0.3667953667953668,
139
- "grad_norm": 4.335531711578369,
140
  "learning_rate": 9.5e-06,
141
- "loss": 0.5347,
142
  "step": 475
143
  },
144
  {
145
- "epoch": 0.3861003861003861,
146
- "grad_norm": 4.169550895690918,
147
  "learning_rate": 1e-05,
148
- "loss": 0.5148,
149
  "step": 500
150
  },
151
  {
152
- "epoch": 0.40540540540540543,
153
- "grad_norm": 3.5508618354797363,
154
  "learning_rate": 9.944444444444445e-06,
155
- "loss": 0.5227,
156
  "step": 525
157
  },
158
  {
159
- "epoch": 0.4247104247104247,
160
- "grad_norm": 3.7011241912841797,
161
  "learning_rate": 9.88888888888889e-06,
162
- "loss": 0.4989,
163
  "step": 550
164
  },
165
  {
166
- "epoch": 0.444015444015444,
167
- "grad_norm": 3.37355899810791,
168
  "learning_rate": 9.833333333333333e-06,
169
- "loss": 0.5067,
170
  "step": 575
171
  },
172
  {
173
- "epoch": 0.46332046332046334,
174
- "grad_norm": 4.071038246154785,
175
  "learning_rate": 9.777777777777779e-06,
176
- "loss": 0.4884,
177
  "step": 600
178
  },
179
  {
180
- "epoch": 0.4826254826254826,
181
- "grad_norm": 3.6045796871185303,
182
  "learning_rate": 9.722222222222223e-06,
183
- "loss": 0.4752,
184
  "step": 625
185
  },
186
  {
187
- "epoch": 0.5019305019305019,
188
- "grad_norm": 3.414005994796753,
189
  "learning_rate": 9.666666666666667e-06,
190
- "loss": 0.4784,
191
  "step": 650
192
  },
193
  {
194
- "epoch": 0.5212355212355212,
195
- "grad_norm": 3.203928232192993,
196
  "learning_rate": 9.611111111111112e-06,
197
- "loss": 0.4915,
198
  "step": 675
199
  },
200
  {
201
- "epoch": 0.5405405405405406,
202
- "grad_norm": 4.148367404937744,
203
  "learning_rate": 9.555555555555556e-06,
204
- "loss": 0.4861,
205
  "step": 700
206
  },
207
  {
208
- "epoch": 0.5598455598455598,
209
- "grad_norm": 3.9569835662841797,
210
  "learning_rate": 9.5e-06,
211
- "loss": 0.4744,
212
  "step": 725
213
  },
214
  {
215
- "epoch": 0.5791505791505791,
216
- "grad_norm": 3.682847261428833,
217
  "learning_rate": 9.444444444444445e-06,
218
- "loss": 0.4662,
219
  "step": 750
220
  },
221
  {
222
- "epoch": 0.5984555984555985,
223
- "grad_norm": 3.498784303665161,
224
  "learning_rate": 9.38888888888889e-06,
225
- "loss": 0.4479,
226
  "step": 775
227
  },
228
  {
229
- "epoch": 0.6177606177606177,
230
- "grad_norm": 3.3415608406066895,
231
  "learning_rate": 9.333333333333334e-06,
232
- "loss": 0.4422,
233
  "step": 800
234
  },
235
  {
236
- "epoch": 0.637065637065637,
237
- "grad_norm": 3.7531261444091797,
238
  "learning_rate": 9.277777777777778e-06,
239
- "loss": 0.4639,
240
  "step": 825
241
  },
242
  {
243
- "epoch": 0.6563706563706564,
244
- "grad_norm": 3.1370999813079834,
245
  "learning_rate": 9.222222222222224e-06,
246
- "loss": 0.4286,
247
  "step": 850
248
  },
249
  {
250
- "epoch": 0.6756756756756757,
251
- "grad_norm": 3.474857807159424,
252
  "learning_rate": 9.166666666666666e-06,
253
- "loss": 0.4461,
254
  "step": 875
255
  },
256
  {
257
- "epoch": 0.694980694980695,
258
- "grad_norm": 3.5445330142974854,
259
  "learning_rate": 9.111111111111112e-06,
260
- "loss": 0.4364,
261
  "step": 900
262
  },
263
  {
264
- "epoch": 0.7142857142857143,
265
- "grad_norm": 3.309083938598633,
266
  "learning_rate": 9.055555555555556e-06,
267
- "loss": 0.4274,
268
  "step": 925
269
  },
270
  {
271
- "epoch": 0.7335907335907336,
272
- "grad_norm": 3.169285297393799,
273
  "learning_rate": 9e-06,
274
- "loss": 0.4244,
275
  "step": 950
276
  },
277
  {
278
- "epoch": 0.752895752895753,
279
- "grad_norm": 3.5987651348114014,
280
  "learning_rate": 8.944444444444446e-06,
281
- "loss": 0.4189,
282
  "step": 975
283
  },
284
  {
285
- "epoch": 0.7722007722007722,
286
- "grad_norm": 3.622044563293457,
287
  "learning_rate": 8.888888888888888e-06,
288
- "loss": 0.4118,
289
  "step": 1000
290
  },
291
  {
292
- "epoch": 0.7722007722007722,
293
- "eval_loss": 0.48980528116226196,
294
- "eval_runtime": 2996.853,
295
- "eval_samples_per_second": 2.343,
296
  "eval_steps_per_second": 0.146,
297
- "eval_wer": 0.3626803079679568,
298
  "step": 1000
299
  },
300
  {
301
- "epoch": 0.7915057915057915,
302
- "grad_norm": 3.3155651092529297,
303
  "learning_rate": 8.833333333333334e-06,
304
- "loss": 0.4394,
305
  "step": 1025
306
  },
307
  {
308
- "epoch": 0.8108108108108109,
309
- "grad_norm": 2.6345057487487793,
310
  "learning_rate": 8.777777777777778e-06,
311
- "loss": 0.4143,
312
  "step": 1050
313
  },
314
  {
315
- "epoch": 0.8301158301158301,
316
- "grad_norm": 3.3825740814208984,
317
  "learning_rate": 8.722222222222224e-06,
318
- "loss": 0.399,
319
  "step": 1075
320
  },
321
  {
322
- "epoch": 0.8494208494208494,
323
- "grad_norm": 3.439831256866455,
324
  "learning_rate": 8.666666666666668e-06,
325
- "loss": 0.4269,
326
  "step": 1100
327
  },
328
  {
329
- "epoch": 0.8687258687258688,
330
- "grad_norm": 2.9175798892974854,
331
  "learning_rate": 8.611111111111112e-06,
332
- "loss": 0.46,
333
  "step": 1125
334
  },
335
  {
336
- "epoch": 0.888030888030888,
337
- "grad_norm": 3.6642494201660156,
338
  "learning_rate": 8.555555555555556e-06,
339
- "loss": 0.4038,
340
  "step": 1150
341
  },
342
  {
343
- "epoch": 0.9073359073359073,
344
- "grad_norm": 3.3490536212921143,
345
  "learning_rate": 8.5e-06,
346
- "loss": 0.3989,
347
  "step": 1175
348
  },
349
  {
350
- "epoch": 0.9266409266409267,
351
- "grad_norm": 3.563148021697998,
352
  "learning_rate": 8.444444444444446e-06,
353
- "loss": 0.4221,
354
  "step": 1200
355
  },
356
  {
357
- "epoch": 0.9459459459459459,
358
- "grad_norm": 3.2811503410339355,
359
  "learning_rate": 8.38888888888889e-06,
360
- "loss": 0.3959,
361
  "step": 1225
362
  },
363
  {
364
- "epoch": 0.9652509652509652,
365
- "grad_norm": 4.630711078643799,
366
  "learning_rate": 8.333333333333334e-06,
367
- "loss": 0.3992,
368
  "step": 1250
369
  },
370
  {
371
- "epoch": 0.9845559845559846,
372
- "grad_norm": 2.9398629665374756,
373
  "learning_rate": 8.277777777777778e-06,
374
- "loss": 0.4075,
375
  "step": 1275
376
  },
377
  {
378
- "epoch": 1.0038610038610039,
379
- "grad_norm": 2.4827306270599365,
380
  "learning_rate": 8.222222222222222e-06,
381
- "loss": 0.3593,
382
  "step": 1300
383
  },
384
  {
385
- "epoch": 1.0231660231660231,
386
- "grad_norm": 2.922198534011841,
387
  "learning_rate": 8.166666666666668e-06,
388
- "loss": 0.2864,
389
  "step": 1325
390
  },
391
  {
392
- "epoch": 1.0424710424710424,
393
- "grad_norm": 2.595409393310547,
394
  "learning_rate": 8.111111111111112e-06,
395
- "loss": 0.2928,
396
  "step": 1350
397
  },
398
  {
399
- "epoch": 1.0617760617760619,
400
- "grad_norm": 2.6854002475738525,
401
  "learning_rate": 8.055555555555557e-06,
402
- "loss": 0.2773,
403
  "step": 1375
404
  },
405
  {
406
- "epoch": 1.0810810810810811,
407
- "grad_norm": 2.5066304206848145,
408
  "learning_rate": 8.000000000000001e-06,
409
- "loss": 0.2864,
410
  "step": 1400
411
  },
412
  {
413
- "epoch": 1.1003861003861004,
414
- "grad_norm": 2.477524518966675,
415
  "learning_rate": 7.944444444444445e-06,
416
- "loss": 0.2815,
417
  "step": 1425
418
  },
419
  {
420
- "epoch": 1.1196911196911197,
421
- "grad_norm": 2.947479724884033,
422
  "learning_rate": 7.88888888888889e-06,
423
- "loss": 0.2814,
424
  "step": 1450
425
  },
426
  {
427
- "epoch": 1.138996138996139,
428
- "grad_norm": 2.497398853302002,
429
  "learning_rate": 7.833333333333333e-06,
430
- "loss": 0.27,
431
  "step": 1475
432
  },
433
  {
434
- "epoch": 1.1583011583011582,
435
- "grad_norm": 2.5605263710021973,
436
  "learning_rate": 7.77777777777778e-06,
437
- "loss": 0.2778,
438
  "step": 1500
439
  },
440
  {
441
- "epoch": 1.1776061776061777,
442
- "grad_norm": 2.8643362522125244,
443
  "learning_rate": 7.722222222222223e-06,
444
- "loss": 0.2625,
445
  "step": 1525
446
  },
447
  {
448
- "epoch": 1.196911196911197,
449
- "grad_norm": 2.8837692737579346,
450
  "learning_rate": 7.666666666666667e-06,
451
- "loss": 0.2732,
452
  "step": 1550
453
  },
454
  {
455
- "epoch": 1.2162162162162162,
456
- "grad_norm": 2.499385118484497,
457
  "learning_rate": 7.611111111111111e-06,
458
- "loss": 0.2898,
459
  "step": 1575
460
  },
461
  {
462
- "epoch": 1.2355212355212355,
463
- "grad_norm": 3.035726547241211,
464
  "learning_rate": 7.555555555555556e-06,
465
- "loss": 0.279,
466
  "step": 1600
467
  },
468
  {
469
- "epoch": 1.2548262548262548,
470
- "grad_norm": 2.872089385986328,
471
  "learning_rate": 7.500000000000001e-06,
472
- "loss": 0.3005,
473
  "step": 1625
474
  },
475
  {
476
- "epoch": 1.2741312741312742,
477
- "grad_norm": 2.8907766342163086,
478
  "learning_rate": 7.444444444444445e-06,
479
- "loss": 0.2941,
480
  "step": 1650
481
  },
482
  {
483
- "epoch": 1.2934362934362935,
484
- "grad_norm": 2.8525350093841553,
485
  "learning_rate": 7.38888888888889e-06,
486
- "loss": 0.2644,
487
  "step": 1675
488
  },
489
  {
490
- "epoch": 1.3127413127413128,
491
- "grad_norm": 2.7391347885131836,
492
  "learning_rate": 7.333333333333333e-06,
493
- "loss": 0.2811,
494
  "step": 1700
495
  },
496
  {
497
- "epoch": 1.332046332046332,
498
- "grad_norm": 2.4943618774414062,
499
  "learning_rate": 7.277777777777778e-06,
500
- "loss": 0.2786,
501
  "step": 1725
502
  },
503
  {
504
- "epoch": 1.3513513513513513,
505
- "grad_norm": 3.009016752243042,
506
  "learning_rate": 7.222222222222223e-06,
507
- "loss": 0.2928,
508
  "step": 1750
509
  },
510
  {
511
- "epoch": 1.3706563706563706,
512
- "grad_norm": 3.0978188514709473,
513
  "learning_rate": 7.166666666666667e-06,
514
- "loss": 0.298,
515
  "step": 1775
516
  },
517
  {
518
- "epoch": 1.3899613899613898,
519
- "grad_norm": 2.746687412261963,
520
  "learning_rate": 7.111111111111112e-06,
521
- "loss": 0.2848,
522
  "step": 1800
523
  },
524
  {
525
- "epoch": 1.4092664092664093,
526
- "grad_norm": 2.6545677185058594,
527
  "learning_rate": 7.055555555555557e-06,
528
- "loss": 0.2755,
529
  "step": 1825
530
  },
531
  {
532
- "epoch": 1.4285714285714286,
533
- "grad_norm": 3.196070671081543,
534
  "learning_rate": 7e-06,
535
- "loss": 0.2733,
536
  "step": 1850
537
  },
538
  {
539
- "epoch": 1.4478764478764479,
540
- "grad_norm": 2.5609796047210693,
541
  "learning_rate": 6.944444444444445e-06,
542
- "loss": 0.2659,
543
  "step": 1875
544
  },
545
  {
546
- "epoch": 1.4671814671814671,
547
- "grad_norm": 2.339729070663452,
548
  "learning_rate": 6.88888888888889e-06,
549
- "loss": 0.2924,
550
  "step": 1900
551
  },
552
  {
553
- "epoch": 1.4864864864864864,
554
- "grad_norm": 2.7920401096343994,
555
  "learning_rate": 6.833333333333334e-06,
556
- "loss": 0.2628,
557
  "step": 1925
558
  },
559
  {
560
- "epoch": 1.505791505791506,
561
- "grad_norm": 2.2347285747528076,
562
  "learning_rate": 6.777777777777779e-06,
563
- "loss": 0.2816,
564
  "step": 1950
565
  },
566
  {
567
- "epoch": 1.525096525096525,
568
- "grad_norm": 2.6325347423553467,
569
  "learning_rate": 6.7222222222222235e-06,
570
- "loss": 0.2664,
571
  "step": 1975
572
  },
573
  {
574
- "epoch": 1.5444015444015444,
575
- "grad_norm": 3.093266248703003,
576
  "learning_rate": 6.666666666666667e-06,
577
- "loss": 0.2629,
578
  "step": 2000
579
  },
580
  {
581
- "epoch": 1.5444015444015444,
582
- "eval_loss": 0.4272039532661438,
583
- "eval_runtime": 2939.2445,
584
- "eval_samples_per_second": 2.389,
585
- "eval_steps_per_second": 0.149,
586
- "eval_wer": 0.3144726762830916,
587
  "step": 2000
588
  },
589
  {
590
- "epoch": 1.5637065637065637,
591
- "grad_norm": 2.7231810092926025,
592
  "learning_rate": 6.6111111111111115e-06,
593
- "loss": 0.2671,
594
  "step": 2025
595
  },
596
  {
597
- "epoch": 1.583011583011583,
598
- "grad_norm": 2.4896557331085205,
599
  "learning_rate": 6.555555555555556e-06,
600
- "loss": 0.291,
601
  "step": 2050
602
  },
603
  {
604
- "epoch": 1.6023166023166024,
605
- "grad_norm": 2.549482583999634,
606
  "learning_rate": 6.5000000000000004e-06,
607
- "loss": 0.2697,
608
  "step": 2075
609
  },
610
  {
611
- "epoch": 1.6216216216216215,
612
- "grad_norm": 3.055518627166748,
613
  "learning_rate": 6.444444444444445e-06,
614
- "loss": 0.2612,
615
  "step": 2100
616
  },
617
  {
618
- "epoch": 1.640926640926641,
619
- "grad_norm": 2.8023324012756348,
620
  "learning_rate": 6.3888888888888885e-06,
621
- "loss": 0.2612,
622
  "step": 2125
623
  },
624
  {
625
- "epoch": 1.6602316602316602,
626
- "grad_norm": 2.5764496326446533,
627
  "learning_rate": 6.333333333333333e-06,
628
- "loss": 0.2718,
629
  "step": 2150
630
  },
631
  {
632
- "epoch": 1.6795366795366795,
633
- "grad_norm": 3.0034117698669434,
634
  "learning_rate": 6.277777777777778e-06,
635
- "loss": 0.2836,
636
  "step": 2175
637
  },
638
  {
639
- "epoch": 1.698841698841699,
640
- "grad_norm": 3.285400629043579,
641
  "learning_rate": 6.222222222222223e-06,
642
- "loss": 0.267,
643
  "step": 2200
644
  },
645
  {
646
- "epoch": 1.718146718146718,
647
- "grad_norm": 2.8904147148132324,
648
  "learning_rate": 6.166666666666667e-06,
649
- "loss": 0.2844,
650
  "step": 2225
651
  },
652
  {
653
- "epoch": 1.7374517374517375,
654
- "grad_norm": 2.7520534992218018,
655
  "learning_rate": 6.111111111111112e-06,
656
- "loss": 0.2641,
657
  "step": 2250
658
  },
659
  {
660
- "epoch": 1.7567567567567568,
661
- "grad_norm": 2.262890338897705,
662
  "learning_rate": 6.055555555555555e-06,
663
- "loss": 0.2636,
664
  "step": 2275
665
  },
666
  {
667
- "epoch": 1.776061776061776,
668
- "grad_norm": 2.410085439682007,
669
  "learning_rate": 6e-06,
670
- "loss": 0.2753,
671
  "step": 2300
672
  },
673
  {
674
- "epoch": 1.7953667953667953,
675
- "grad_norm": 2.5720226764678955,
676
  "learning_rate": 5.944444444444445e-06,
677
- "loss": 0.2702,
678
  "step": 2325
679
  },
680
  {
681
- "epoch": 1.8146718146718146,
682
- "grad_norm": 2.999687433242798,
683
  "learning_rate": 5.88888888888889e-06,
684
- "loss": 0.2998,
685
  "step": 2350
686
  },
687
  {
688
- "epoch": 1.833976833976834,
689
- "grad_norm": 2.5406405925750732,
690
  "learning_rate": 5.833333333333334e-06,
691
- "loss": 0.2444,
692
  "step": 2375
693
  },
694
  {
695
- "epoch": 1.8532818532818531,
696
- "grad_norm": 2.314110517501831,
697
  "learning_rate": 5.777777777777778e-06,
698
- "loss": 0.2664,
699
  "step": 2400
700
  },
701
  {
702
- "epoch": 1.8725868725868726,
703
- "grad_norm": 2.745534896850586,
704
  "learning_rate": 5.722222222222222e-06,
705
- "loss": 0.2676,
706
  "step": 2425
707
  },
708
  {
709
- "epoch": 1.8918918918918919,
710
- "grad_norm": 3.1628456115722656,
711
  "learning_rate": 5.666666666666667e-06,
712
- "loss": 0.2475,
713
  "step": 2450
714
  },
715
  {
716
- "epoch": 1.9111969111969112,
717
- "grad_norm": 2.6415674686431885,
718
  "learning_rate": 5.611111111111112e-06,
719
- "loss": 0.2565,
720
  "step": 2475
721
  },
722
  {
723
- "epoch": 1.9305019305019306,
724
- "grad_norm": 2.4771909713745117,
725
  "learning_rate": 5.555555555555557e-06,
726
- "loss": 0.2621,
727
  "step": 2500
728
  },
729
  {
730
- "epoch": 1.9498069498069497,
731
- "grad_norm": 2.7251639366149902,
732
  "learning_rate": 5.500000000000001e-06,
733
- "loss": 0.2703,
734
  "step": 2525
735
  },
736
  {
737
- "epoch": 1.9691119691119692,
738
- "grad_norm": 2.73382830619812,
739
  "learning_rate": 5.444444444444445e-06,
740
- "loss": 0.2728,
741
  "step": 2550
742
  },
743
  {
744
- "epoch": 1.9884169884169884,
745
- "grad_norm": 3.0017306804656982,
746
  "learning_rate": 5.388888888888889e-06,
747
- "loss": 0.2521,
748
  "step": 2575
749
  },
750
  {
751
- "epoch": 2.0077220077220077,
752
- "grad_norm": 1.9712167978286743,
753
  "learning_rate": 5.333333333333334e-06,
754
- "loss": 0.2352,
755
  "step": 2600
756
  },
757
  {
758
- "epoch": 2.027027027027027,
759
- "grad_norm": 1.8378448486328125,
760
  "learning_rate": 5.2777777777777785e-06,
761
- "loss": 0.1696,
762
  "step": 2625
763
  },
764
  {
765
- "epoch": 2.0463320463320462,
766
- "grad_norm": 2.419578790664673,
767
  "learning_rate": 5.2222222222222226e-06,
768
- "loss": 0.1592,
769
  "step": 2650
770
  },
771
  {
772
- "epoch": 2.0656370656370657,
773
- "grad_norm": 2.145256757736206,
774
  "learning_rate": 5.1666666666666675e-06,
775
- "loss": 0.1719,
776
  "step": 2675
777
  },
778
  {
779
- "epoch": 2.0849420849420848,
780
- "grad_norm": 2.147104024887085,
781
  "learning_rate": 5.1111111111111115e-06,
782
- "loss": 0.1487,
783
  "step": 2700
784
  },
785
  {
786
- "epoch": 2.1042471042471043,
787
- "grad_norm": 2.280949592590332,
788
  "learning_rate": 5.0555555555555555e-06,
789
- "loss": 0.1785,
790
  "step": 2725
791
  },
792
  {
793
- "epoch": 2.1235521235521237,
794
- "grad_norm": 2.359393835067749,
795
  "learning_rate": 5e-06,
796
- "loss": 0.1656,
797
  "step": 2750
798
  },
799
  {
800
- "epoch": 2.142857142857143,
801
- "grad_norm": 2.4849932193756104,
802
  "learning_rate": 4.944444444444445e-06,
803
- "loss": 0.1697,
804
  "step": 2775
805
  },
806
  {
807
- "epoch": 2.1621621621621623,
808
- "grad_norm": 2.478525400161743,
809
  "learning_rate": 4.888888888888889e-06,
810
- "loss": 0.1586,
811
  "step": 2800
812
  },
813
  {
814
- "epoch": 2.1814671814671813,
815
- "grad_norm": 2.258152723312378,
816
  "learning_rate": 4.833333333333333e-06,
817
- "loss": 0.1677,
818
  "step": 2825
819
  },
820
  {
821
- "epoch": 2.200772200772201,
822
- "grad_norm": 2.2826361656188965,
823
  "learning_rate": 4.777777777777778e-06,
824
- "loss": 0.1603,
825
  "step": 2850
826
  },
827
  {
828
- "epoch": 2.2200772200772203,
829
- "grad_norm": 2.3771138191223145,
830
  "learning_rate": 4.722222222222222e-06,
831
- "loss": 0.159,
832
  "step": 2875
833
  },
834
  {
835
- "epoch": 2.2393822393822393,
836
- "grad_norm": 2.353187322616577,
837
  "learning_rate": 4.666666666666667e-06,
838
- "loss": 0.1617,
839
  "step": 2900
840
  },
841
  {
842
- "epoch": 2.258687258687259,
843
- "grad_norm": 2.2030959129333496,
844
  "learning_rate": 4.611111111111112e-06,
845
- "loss": 0.17,
846
  "step": 2925
847
  },
848
  {
849
- "epoch": 2.277992277992278,
850
- "grad_norm": 2.1587460041046143,
851
  "learning_rate": 4.555555555555556e-06,
852
- "loss": 0.1618,
853
  "step": 2950
854
  },
855
  {
856
- "epoch": 2.2972972972972974,
857
- "grad_norm": 2.918156623840332,
858
  "learning_rate": 4.5e-06,
859
- "loss": 0.1545,
860
  "step": 2975
861
  },
862
  {
863
- "epoch": 2.3166023166023164,
864
- "grad_norm": 2.4041364192962646,
865
  "learning_rate": 4.444444444444444e-06,
866
- "loss": 0.1677,
867
  "step": 3000
868
  },
869
  {
870
- "epoch": 2.3166023166023164,
871
- "eval_loss": 0.42425960302352905,
872
- "eval_runtime": 2930.947,
873
- "eval_samples_per_second": 2.396,
874
- "eval_steps_per_second": 0.15,
875
- "eval_wer": 0.3038651796263357,
876
  "step": 3000
877
  },
878
  {
879
- "epoch": 2.335907335907336,
880
- "grad_norm": 1.8374619483947754,
881
  "learning_rate": 4.388888888888889e-06,
882
- "loss": 0.1505,
883
  "step": 3025
884
  },
885
  {
886
- "epoch": 2.3552123552123554,
887
- "grad_norm": 2.2818222045898438,
888
  "learning_rate": 4.333333333333334e-06,
889
- "loss": 0.1635,
890
  "step": 3050
891
  },
892
  {
893
- "epoch": 2.3745173745173744,
894
- "grad_norm": 2.3476946353912354,
895
  "learning_rate": 4.277777777777778e-06,
896
- "loss": 0.1572,
897
  "step": 3075
898
  },
899
  {
900
- "epoch": 2.393822393822394,
901
- "grad_norm": 2.727679491043091,
902
  "learning_rate": 4.222222222222223e-06,
903
- "loss": 0.1567,
904
  "step": 3100
905
  },
906
  {
907
- "epoch": 2.413127413127413,
908
- "grad_norm": 2.148946523666382,
909
  "learning_rate": 4.166666666666667e-06,
910
- "loss": 0.1629,
911
  "step": 3125
912
  },
913
  {
914
- "epoch": 2.4324324324324325,
915
- "grad_norm": 2.3598289489746094,
916
  "learning_rate": 4.111111111111111e-06,
917
- "loss": 0.1537,
918
  "step": 3150
919
  },
920
  {
921
- "epoch": 2.4517374517374515,
922
- "grad_norm": 2.627530813217163,
923
  "learning_rate": 4.055555555555556e-06,
924
- "loss": 0.1617,
925
  "step": 3175
926
  },
927
  {
928
- "epoch": 2.471042471042471,
929
- "grad_norm": 2.1012682914733887,
930
  "learning_rate": 4.000000000000001e-06,
931
- "loss": 0.1541,
932
  "step": 3200
933
  },
934
  {
935
- "epoch": 2.4903474903474905,
936
- "grad_norm": 2.719054937362671,
937
  "learning_rate": 3.944444444444445e-06,
938
- "loss": 0.1479,
939
  "step": 3225
940
  },
941
  {
942
- "epoch": 2.5096525096525095,
943
- "grad_norm": 1.9170578718185425,
944
  "learning_rate": 3.88888888888889e-06,
945
- "loss": 0.1558,
946
  "step": 3250
947
  },
948
  {
949
- "epoch": 2.528957528957529,
950
- "grad_norm": 2.209770917892456,
951
  "learning_rate": 3.833333333333334e-06,
952
- "loss": 0.1494,
953
  "step": 3275
954
  },
955
  {
956
- "epoch": 2.5482625482625485,
957
- "grad_norm": 2.3125557899475098,
958
  "learning_rate": 3.777777777777778e-06,
959
- "loss": 0.1549,
960
  "step": 3300
961
  },
962
  {
963
- "epoch": 2.5675675675675675,
964
- "grad_norm": 2.2932839393615723,
965
  "learning_rate": 3.7222222222222225e-06,
966
- "loss": 0.1529,
967
  "step": 3325
968
  },
969
  {
970
- "epoch": 2.586872586872587,
971
- "grad_norm": 2.347710371017456,
972
  "learning_rate": 3.6666666666666666e-06,
973
- "loss": 0.1637,
974
  "step": 3350
975
  },
976
  {
977
- "epoch": 2.606177606177606,
978
- "grad_norm": 2.479405641555786,
979
  "learning_rate": 3.6111111111111115e-06,
980
- "loss": 0.162,
981
  "step": 3375
982
  },
983
  {
984
- "epoch": 2.6254826254826256,
985
- "grad_norm": 2.7078042030334473,
986
  "learning_rate": 3.555555555555556e-06,
987
- "loss": 0.1606,
988
  "step": 3400
989
  },
990
  {
991
- "epoch": 2.6447876447876446,
992
- "grad_norm": 2.097592830657959,
993
  "learning_rate": 3.5e-06,
994
- "loss": 0.1554,
995
  "step": 3425
996
  },
997
  {
998
- "epoch": 2.664092664092664,
999
- "grad_norm": 2.405099630355835,
1000
  "learning_rate": 3.444444444444445e-06,
1001
- "loss": 0.1611,
1002
  "step": 3450
1003
  },
1004
  {
1005
- "epoch": 2.6833976833976836,
1006
- "grad_norm": 2.120976686477661,
1007
  "learning_rate": 3.3888888888888893e-06,
1008
- "loss": 0.1537,
1009
  "step": 3475
1010
  },
1011
  {
1012
- "epoch": 2.7027027027027026,
1013
- "grad_norm": 2.165222406387329,
1014
  "learning_rate": 3.3333333333333333e-06,
1015
- "loss": 0.156,
1016
  "step": 3500
1017
  },
1018
  {
1019
- "epoch": 2.722007722007722,
1020
- "grad_norm": 2.3541574478149414,
1021
  "learning_rate": 3.277777777777778e-06,
1022
- "loss": 0.1571,
1023
  "step": 3525
1024
  },
1025
  {
1026
- "epoch": 2.741312741312741,
1027
- "grad_norm": 2.5069708824157715,
1028
  "learning_rate": 3.2222222222222227e-06,
1029
- "loss": 0.1467,
1030
  "step": 3550
1031
  },
1032
  {
1033
- "epoch": 2.7606177606177607,
1034
- "grad_norm": 1.9154902696609497,
1035
  "learning_rate": 3.1666666666666667e-06,
1036
- "loss": 0.1556,
1037
  "step": 3575
1038
  },
1039
  {
1040
- "epoch": 2.7799227799227797,
1041
- "grad_norm": 1.964211106300354,
1042
  "learning_rate": 3.1111111111111116e-06,
1043
- "loss": 0.1534,
1044
  "step": 3600
1045
  },
1046
  {
1047
- "epoch": 2.799227799227799,
1048
- "grad_norm": 2.3793370723724365,
1049
  "learning_rate": 3.055555555555556e-06,
1050
- "loss": 0.1578,
1051
  "step": 3625
1052
  },
1053
  {
1054
- "epoch": 2.8185328185328187,
1055
- "grad_norm": 2.7694272994995117,
1056
  "learning_rate": 3e-06,
1057
- "loss": 0.1518,
1058
  "step": 3650
1059
  },
1060
  {
1061
- "epoch": 2.8378378378378377,
1062
- "grad_norm": 2.1063687801361084,
1063
  "learning_rate": 2.944444444444445e-06,
1064
- "loss": 0.1534,
1065
  "step": 3675
1066
  },
1067
  {
1068
- "epoch": 2.857142857142857,
1069
- "grad_norm": 2.708767890930176,
1070
  "learning_rate": 2.888888888888889e-06,
1071
- "loss": 0.153,
1072
  "step": 3700
1073
  },
1074
  {
1075
- "epoch": 2.8764478764478767,
1076
- "grad_norm": 1.7426552772521973,
1077
  "learning_rate": 2.8333333333333335e-06,
1078
- "loss": 0.1501,
1079
  "step": 3725
1080
  },
1081
  {
1082
- "epoch": 2.8957528957528957,
1083
- "grad_norm": 2.721165180206299,
1084
  "learning_rate": 2.7777777777777783e-06,
1085
- "loss": 0.1613,
1086
  "step": 3750
1087
  },
1088
  {
1089
- "epoch": 2.915057915057915,
1090
- "grad_norm": 2.525545358657837,
1091
  "learning_rate": 2.7222222222222224e-06,
1092
- "loss": 0.1534,
1093
  "step": 3775
1094
  },
1095
  {
1096
- "epoch": 2.9343629343629343,
1097
- "grad_norm": 2.6334362030029297,
1098
  "learning_rate": 2.666666666666667e-06,
1099
- "loss": 0.158,
1100
  "step": 3800
1101
  },
1102
  {
1103
- "epoch": 2.9536679536679538,
1104
- "grad_norm": 2.1491916179656982,
1105
  "learning_rate": 2.6111111111111113e-06,
1106
- "loss": 0.15,
1107
  "step": 3825
1108
  },
1109
  {
1110
- "epoch": 2.972972972972973,
1111
- "grad_norm": 2.0909786224365234,
1112
  "learning_rate": 2.5555555555555557e-06,
1113
- "loss": 0.147,
1114
  "step": 3850
1115
  },
1116
  {
1117
- "epoch": 2.9922779922779923,
1118
- "grad_norm": 2.8027398586273193,
1119
  "learning_rate": 2.5e-06,
1120
- "loss": 0.1642,
1121
  "step": 3875
1122
  },
1123
  {
1124
- "epoch": 3.011583011583012,
1125
- "grad_norm": 1.8371341228485107,
1126
  "learning_rate": 2.4444444444444447e-06,
1127
- "loss": 0.1176,
1128
  "step": 3900
1129
  },
1130
  {
1131
- "epoch": 3.030888030888031,
1132
- "grad_norm": 2.1273913383483887,
1133
  "learning_rate": 2.388888888888889e-06,
1134
- "loss": 0.0937,
1135
  "step": 3925
1136
  },
1137
  {
1138
- "epoch": 3.0501930501930503,
1139
- "grad_norm": 1.8209782838821411,
1140
  "learning_rate": 2.3333333333333336e-06,
1141
- "loss": 0.089,
1142
  "step": 3950
1143
  },
1144
  {
1145
- "epoch": 3.0694980694980694,
1146
- "grad_norm": 2.118212938308716,
1147
  "learning_rate": 2.277777777777778e-06,
1148
- "loss": 0.0888,
1149
  "step": 3975
1150
  },
1151
  {
1152
- "epoch": 3.088803088803089,
1153
- "grad_norm": 1.675663709640503,
1154
  "learning_rate": 2.222222222222222e-06,
1155
- "loss": 0.0841,
1156
  "step": 4000
1157
  },
1158
  {
1159
- "epoch": 3.088803088803089,
1160
- "eval_loss": 0.4492855668067932,
1161
- "eval_runtime": 2954.4178,
1162
- "eval_samples_per_second": 2.377,
1163
  "eval_steps_per_second": 0.149,
1164
- "eval_wer": 0.2968411212526454,
1165
  "step": 4000
1166
  },
1167
  {
1168
- "epoch": 3.108108108108108,
1169
- "grad_norm": 2.0060861110687256,
1170
  "learning_rate": 2.166666666666667e-06,
1171
- "loss": 0.084,
1172
  "step": 4025
1173
  },
1174
  {
1175
- "epoch": 3.1274131274131274,
1176
- "grad_norm": 1.8335351943969727,
1177
  "learning_rate": 2.1111111111111114e-06,
1178
- "loss": 0.0871,
1179
  "step": 4050
1180
  },
1181
  {
1182
- "epoch": 3.146718146718147,
1183
- "grad_norm": 2.165919303894043,
1184
  "learning_rate": 2.0555555555555555e-06,
1185
- "loss": 0.0892,
1186
  "step": 4075
1187
  },
1188
  {
1189
- "epoch": 3.166023166023166,
1190
- "grad_norm": 1.5656211376190186,
1191
  "learning_rate": 2.0000000000000003e-06,
1192
- "loss": 0.0869,
1193
  "step": 4100
1194
  },
1195
  {
1196
- "epoch": 3.1853281853281854,
1197
- "grad_norm": 1.9687210321426392,
1198
  "learning_rate": 1.944444444444445e-06,
1199
- "loss": 0.0878,
1200
  "step": 4125
1201
  },
1202
  {
1203
- "epoch": 3.2046332046332044,
1204
- "grad_norm": 2.017395496368408,
1205
  "learning_rate": 1.888888888888889e-06,
1206
- "loss": 0.0823,
1207
  "step": 4150
1208
  },
1209
  {
1210
- "epoch": 3.223938223938224,
1211
- "grad_norm": 2.3069615364074707,
1212
- "learning_rate": 1.8333333333333333e-06,
1213
- "loss": 0.0894,
1214
  "step": 4175
1215
  },
1216
  {
1217
- "epoch": 3.2432432432432434,
1218
- "grad_norm": 1.8950186967849731,
1219
- "learning_rate": 1.777777777777778e-06,
1220
- "loss": 0.0889,
1221
  "step": 4200
1222
  },
1223
  {
1224
- "epoch": 3.2625482625482625,
1225
- "grad_norm": 1.9198052883148193,
1226
- "learning_rate": 1.7222222222222224e-06,
1227
- "loss": 0.081,
1228
  "step": 4225
1229
  },
1230
  {
1231
- "epoch": 3.281853281853282,
1232
- "grad_norm": 2.25732421875,
1233
- "learning_rate": 1.6666666666666667e-06,
1234
- "loss": 0.0872,
1235
  "step": 4250
1236
  },
1237
  {
1238
- "epoch": 3.301158301158301,
1239
- "grad_norm": 1.6695570945739746,
1240
- "learning_rate": 1.6111111111111113e-06,
1241
- "loss": 0.0827,
1242
  "step": 4275
1243
  },
1244
  {
1245
- "epoch": 3.3204633204633205,
1246
- "grad_norm": 2.1860039234161377,
1247
- "learning_rate": 1.5555555555555558e-06,
1248
- "loss": 0.0864,
1249
  "step": 4300
1250
  },
1251
  {
1252
- "epoch": 3.33976833976834,
1253
- "grad_norm": 2.0618574619293213,
1254
- "learning_rate": 1.5e-06,
1255
- "loss": 0.0843,
1256
  "step": 4325
1257
  },
1258
  {
1259
- "epoch": 3.359073359073359,
1260
- "grad_norm": 1.952563762664795,
1261
- "learning_rate": 1.4444444444444445e-06,
1262
- "loss": 0.0822,
1263
  "step": 4350
1264
  },
1265
  {
1266
- "epoch": 3.3783783783783785,
1267
- "grad_norm": 2.2584211826324463,
1268
- "learning_rate": 1.3888888888888892e-06,
1269
- "loss": 0.087,
1270
  "step": 4375
1271
  },
1272
  {
1273
- "epoch": 3.3976833976833976,
1274
- "grad_norm": 1.7842656373977661,
1275
- "learning_rate": 1.3333333333333334e-06,
1276
- "loss": 0.0856,
1277
  "step": 4400
1278
  },
1279
  {
1280
- "epoch": 3.416988416988417,
1281
- "grad_norm": 2.130709409713745,
1282
- "learning_rate": 1.2777777777777779e-06,
1283
- "loss": 0.0886,
1284
  "step": 4425
1285
  },
1286
  {
1287
- "epoch": 3.436293436293436,
1288
- "grad_norm": 1.505071759223938,
1289
- "learning_rate": 1.2222222222222223e-06,
1290
- "loss": 0.0795,
1291
  "step": 4450
1292
  },
1293
  {
1294
- "epoch": 3.4555984555984556,
1295
- "grad_norm": 2.2736964225769043,
1296
- "learning_rate": 1.1666666666666668e-06,
1297
- "loss": 0.0802,
1298
  "step": 4475
1299
  },
1300
  {
1301
- "epoch": 3.474903474903475,
1302
- "grad_norm": 1.685120940208435,
1303
- "learning_rate": 1.111111111111111e-06,
1304
- "loss": 0.085,
1305
  "step": 4500
1306
  },
1307
  {
1308
- "epoch": 3.494208494208494,
1309
- "grad_norm": 1.8761180639266968,
1310
- "learning_rate": 1.0555555555555557e-06,
1311
- "loss": 0.0732,
1312
  "step": 4525
1313
  },
1314
  {
1315
- "epoch": 3.5135135135135136,
1316
- "grad_norm": 1.7968302965164185,
1317
- "learning_rate": 1.0000000000000002e-06,
1318
- "loss": 0.0868,
1319
  "step": 4550
1320
  },
1321
  {
1322
- "epoch": 3.532818532818533,
1323
- "grad_norm": 1.6335569620132446,
1324
- "learning_rate": 9.444444444444445e-07,
1325
- "loss": 0.0787,
1326
  "step": 4575
1327
  },
1328
  {
1329
- "epoch": 3.552123552123552,
1330
- "grad_norm": 1.402917742729187,
1331
- "learning_rate": 8.88888888888889e-07,
1332
- "loss": 0.0779,
1333
  "step": 4600
1334
  },
1335
  {
1336
- "epoch": 3.571428571428571,
1337
- "grad_norm": 1.4878441095352173,
1338
- "learning_rate": 8.333333333333333e-07,
1339
- "loss": 0.0795,
1340
  "step": 4625
1341
  },
1342
  {
1343
- "epoch": 3.5907335907335907,
1344
- "grad_norm": 1.846757411956787,
1345
- "learning_rate": 7.777777777777779e-07,
1346
- "loss": 0.0868,
1347
  "step": 4650
1348
  },
1349
  {
1350
- "epoch": 3.61003861003861,
1351
- "grad_norm": 1.496010422706604,
1352
- "learning_rate": 7.222222222222222e-07,
1353
- "loss": 0.0836,
1354
  "step": 4675
1355
  },
1356
  {
1357
- "epoch": 3.629343629343629,
1358
- "grad_norm": 2.0897486209869385,
1359
- "learning_rate": 6.666666666666667e-07,
1360
- "loss": 0.0839,
1361
  "step": 4700
1362
  },
1363
  {
1364
- "epoch": 3.6486486486486487,
1365
- "grad_norm": 1.6161247491836548,
1366
- "learning_rate": 6.111111111111112e-07,
1367
- "loss": 0.0858,
1368
  "step": 4725
1369
  },
1370
  {
1371
- "epoch": 3.667953667953668,
1372
- "grad_norm": 1.9887114763259888,
1373
- "learning_rate": 5.555555555555555e-07,
1374
- "loss": 0.0864,
1375
  "step": 4750
1376
  },
1377
  {
1378
- "epoch": 3.687258687258687,
1379
- "grad_norm": 2.271867513656616,
1380
- "learning_rate": 5.000000000000001e-07,
1381
- "loss": 0.0815,
1382
  "step": 4775
1383
  },
1384
  {
1385
- "epoch": 3.7065637065637067,
1386
- "grad_norm": 1.9788146018981934,
1387
- "learning_rate": 4.444444444444445e-07,
1388
- "loss": 0.0821,
1389
  "step": 4800
1390
  },
1391
  {
1392
- "epoch": 3.7258687258687258,
1393
- "grad_norm": 1.8956130743026733,
1394
- "learning_rate": 3.8888888888888895e-07,
1395
- "loss": 0.0789,
1396
  "step": 4825
1397
  },
1398
  {
1399
- "epoch": 3.7451737451737452,
1400
- "grad_norm": 2.4207746982574463,
1401
- "learning_rate": 3.3333333333333335e-07,
1402
- "loss": 0.1009,
1403
  "step": 4850
1404
  },
1405
  {
1406
- "epoch": 3.7644787644787643,
1407
- "grad_norm": 1.7667814493179321,
1408
- "learning_rate": 2.7777777777777776e-07,
1409
- "loss": 0.0836,
1410
  "step": 4875
1411
  },
1412
  {
1413
- "epoch": 3.7837837837837838,
1414
- "grad_norm": 2.118232488632202,
1415
- "learning_rate": 2.2222222222222224e-07,
1416
- "loss": 0.0824,
1417
  "step": 4900
1418
  },
1419
  {
1420
- "epoch": 3.8030888030888033,
1421
- "grad_norm": 1.5285857915878296,
1422
- "learning_rate": 1.6666666666666668e-07,
1423
- "loss": 0.0836,
1424
  "step": 4925
1425
  },
1426
  {
1427
- "epoch": 3.8223938223938223,
1428
- "grad_norm": 2.041189670562744,
1429
- "learning_rate": 1.1111111111111112e-07,
1430
- "loss": 0.0838,
1431
  "step": 4950
1432
  },
1433
  {
1434
- "epoch": 3.841698841698842,
1435
- "grad_norm": 2.062230110168457,
1436
- "learning_rate": 5.555555555555556e-08,
1437
- "loss": 0.0804,
1438
  "step": 4975
1439
  },
1440
  {
1441
- "epoch": 3.861003861003861,
1442
- "grad_norm": 1.9036461114883423,
1443
- "learning_rate": 0.0,
1444
- "loss": 0.0845,
1445
  "step": 5000
1446
  },
1447
  {
1448
- "epoch": 3.861003861003861,
1449
- "eval_loss": 0.447899729013443,
1450
- "eval_runtime": 2978.0577,
1451
- "eval_samples_per_second": 2.358,
1452
  "eval_steps_per_second": 0.147,
1453
- "eval_wer": 0.29472481531011024,
1454
  "step": 5000
1455
  },
1456
  {
1457
- "epoch": 3.861003861003861,
1458
  "step": 5000,
1459
- "total_flos": 5.435487665750016e+20,
1460
- "train_loss": 0.2695653033494949,
1461
- "train_runtime": 64824.1008,
1462
- "train_samples_per_second": 2.468,
1463
- "train_steps_per_second": 0.077
1464
  }
1465
  ],
1466
  "logging_steps": 25,
@@ -1480,7 +1480,7 @@
1480
  "attributes": {}
1481
  }
1482
  },
1483
- "total_flos": 5.435487665750016e+20,
1484
  "train_batch_size": 16,
1485
  "trial_name": null,
1486
  "trial_params": null
 
1
  {
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
+ "epoch": 3.155569580309246,
5
  "eval_steps": 1000,
6
  "global_step": 5000,
7
  "is_hyper_param_search": false,
 
9
  "is_world_process_zero": true,
10
  "log_history": [
11
  {
12
+ "epoch": 0.015777847901546228,
13
+ "grad_norm": 7.437136650085449,
14
  "learning_rate": 5.000000000000001e-07,
15
+ "loss": 1.3977,
16
  "step": 25
17
  },
18
  {
19
+ "epoch": 0.031555695803092455,
20
+ "grad_norm": 6.577849864959717,
21
  "learning_rate": 1.0000000000000002e-06,
22
+ "loss": 1.1112,
23
  "step": 50
24
  },
25
  {
26
+ "epoch": 0.047333543704638686,
27
+ "grad_norm": 5.520799160003662,
28
  "learning_rate": 1.5e-06,
29
+ "loss": 0.8031,
30
  "step": 75
31
  },
32
  {
33
+ "epoch": 0.06311139160618491,
34
+ "grad_norm": 5.328930854797363,
35
  "learning_rate": 2.0000000000000003e-06,
36
+ "loss": 0.7451,
37
  "step": 100
38
  },
39
  {
40
+ "epoch": 0.07888923950773115,
41
+ "grad_norm": 5.012049674987793,
42
  "learning_rate": 2.5e-06,
43
+ "loss": 0.682,
44
  "step": 125
45
  },
46
  {
47
+ "epoch": 0.09466708740927737,
48
+ "grad_norm": 4.783524036407471,
49
  "learning_rate": 3e-06,
50
+ "loss": 0.6447,
51
  "step": 150
52
  },
53
  {
54
+ "epoch": 0.1104449353108236,
55
+ "grad_norm": 4.749491214752197,
56
  "learning_rate": 3.5e-06,
57
+ "loss": 0.6121,
58
  "step": 175
59
  },
60
  {
61
+ "epoch": 0.12622278321236982,
62
+ "grad_norm": 4.470991134643555,
63
  "learning_rate": 4.000000000000001e-06,
64
+ "loss": 0.6126,
65
  "step": 200
66
  },
67
  {
68
+ "epoch": 0.14200063111391606,
69
+ "grad_norm": 4.39013147354126,
70
  "learning_rate": 4.5e-06,
71
+ "loss": 0.5958,
72
  "step": 225
73
  },
74
  {
75
+ "epoch": 0.1577784790154623,
76
+ "grad_norm": 4.321168422698975,
77
  "learning_rate": 5e-06,
78
+ "loss": 0.5697,
79
  "step": 250
80
  },
81
  {
82
+ "epoch": 0.1735563269170085,
83
+ "grad_norm": 4.567933082580566,
84
  "learning_rate": 5.500000000000001e-06,
85
+ "loss": 0.5554,
86
  "step": 275
87
  },
88
  {
89
+ "epoch": 0.18933417481855475,
90
+ "grad_norm": 4.7674150466918945,
91
  "learning_rate": 6e-06,
92
+ "loss": 0.5646,
93
  "step": 300
94
  },
95
  {
96
+ "epoch": 0.20511202272010098,
97
+ "grad_norm": 4.203701496124268,
98
  "learning_rate": 6.5000000000000004e-06,
99
+ "loss": 0.5316,
100
  "step": 325
101
  },
102
  {
103
+ "epoch": 0.2208898706216472,
104
+ "grad_norm": 4.289330005645752,
105
  "learning_rate": 7e-06,
106
+ "loss": 0.527,
107
  "step": 350
108
  },
109
  {
110
+ "epoch": 0.23666771852319343,
111
+ "grad_norm": 4.419729232788086,
112
  "learning_rate": 7.500000000000001e-06,
113
+ "loss": 0.533,
114
  "step": 375
115
  },
116
  {
117
+ "epoch": 0.25244556642473964,
118
+ "grad_norm": 3.873534917831421,
119
  "learning_rate": 8.000000000000001e-06,
120
+ "loss": 0.5164,
121
  "step": 400
122
  },
123
  {
124
+ "epoch": 0.2682234143262859,
125
+ "grad_norm": 3.9782721996307373,
126
  "learning_rate": 8.5e-06,
127
+ "loss": 0.4957,
128
  "step": 425
129
  },
130
  {
131
+ "epoch": 0.2840012622278321,
132
+ "grad_norm": 4.02784538269043,
133
  "learning_rate": 9e-06,
134
+ "loss": 0.5142,
135
  "step": 450
136
  },
137
  {
138
+ "epoch": 0.29977911012937836,
139
+ "grad_norm": 4.09860372543335,
140
  "learning_rate": 9.5e-06,
141
+ "loss": 0.4987,
142
  "step": 475
143
  },
144
  {
145
+ "epoch": 0.3155569580309246,
146
+ "grad_norm": 3.7876222133636475,
147
  "learning_rate": 1e-05,
148
+ "loss": 0.5076,
149
  "step": 500
150
  },
151
  {
152
+ "epoch": 0.33133480593247083,
153
+ "grad_norm": 4.0808916091918945,
154
  "learning_rate": 9.944444444444445e-06,
155
+ "loss": 0.4824,
156
  "step": 525
157
  },
158
  {
159
+ "epoch": 0.347112653834017,
160
+ "grad_norm": 3.7431557178497314,
161
  "learning_rate": 9.88888888888889e-06,
162
+ "loss": 0.4829,
163
  "step": 550
164
  },
165
  {
166
+ "epoch": 0.36289050173556325,
167
+ "grad_norm": 4.337482452392578,
168
  "learning_rate": 9.833333333333333e-06,
169
+ "loss": 0.5014,
170
  "step": 575
171
  },
172
  {
173
+ "epoch": 0.3786683496371095,
174
+ "grad_norm": 4.180824279785156,
175
  "learning_rate": 9.777777777777779e-06,
176
+ "loss": 0.4592,
177
  "step": 600
178
  },
179
  {
180
+ "epoch": 0.39444619753865573,
181
+ "grad_norm": 4.251559257507324,
182
  "learning_rate": 9.722222222222223e-06,
183
+ "loss": 0.4665,
184
  "step": 625
185
  },
186
  {
187
+ "epoch": 0.41022404544020197,
188
+ "grad_norm": 3.684410333633423,
189
  "learning_rate": 9.666666666666667e-06,
190
+ "loss": 0.4652,
191
  "step": 650
192
  },
193
  {
194
+ "epoch": 0.4260018933417482,
195
+ "grad_norm": 3.8727266788482666,
196
  "learning_rate": 9.611111111111112e-06,
197
+ "loss": 0.44,
198
  "step": 675
199
  },
200
  {
201
+ "epoch": 0.4417797412432944,
202
+ "grad_norm": 3.3472304344177246,
203
  "learning_rate": 9.555555555555556e-06,
204
+ "loss": 0.4557,
205
  "step": 700
206
  },
207
  {
208
+ "epoch": 0.4575575891448406,
209
+ "grad_norm": 3.535940170288086,
210
  "learning_rate": 9.5e-06,
211
+ "loss": 0.4449,
212
  "step": 725
213
  },
214
  {
215
+ "epoch": 0.47333543704638686,
216
+ "grad_norm": 4.009454250335693,
217
  "learning_rate": 9.444444444444445e-06,
218
+ "loss": 0.431,
219
  "step": 750
220
  },
221
  {
222
+ "epoch": 0.4891132849479331,
223
+ "grad_norm": 3.5649003982543945,
224
  "learning_rate": 9.38888888888889e-06,
225
+ "loss": 0.4506,
226
  "step": 775
227
  },
228
  {
229
+ "epoch": 0.5048911328494793,
230
+ "grad_norm": 3.044846296310425,
231
  "learning_rate": 9.333333333333334e-06,
232
+ "loss": 0.427,
233
  "step": 800
234
  },
235
  {
236
+ "epoch": 0.5206689807510255,
237
+ "grad_norm": 3.3232269287109375,
238
  "learning_rate": 9.277777777777778e-06,
239
+ "loss": 0.4009,
240
  "step": 825
241
  },
242
  {
243
+ "epoch": 0.5364468286525718,
244
+ "grad_norm": 3.964977741241455,
245
  "learning_rate": 9.222222222222224e-06,
246
+ "loss": 0.4319,
247
  "step": 850
248
  },
249
  {
250
+ "epoch": 0.552224676554118,
251
+ "grad_norm": 3.00532865524292,
252
  "learning_rate": 9.166666666666666e-06,
253
+ "loss": 0.4082,
254
  "step": 875
255
  },
256
  {
257
+ "epoch": 0.5680025244556642,
258
+ "grad_norm": 3.6661252975463867,
259
  "learning_rate": 9.111111111111112e-06,
260
+ "loss": 0.4171,
261
  "step": 900
262
  },
263
  {
264
+ "epoch": 0.5837803723572105,
265
+ "grad_norm": 2.911687135696411,
266
  "learning_rate": 9.055555555555556e-06,
267
+ "loss": 0.405,
268
  "step": 925
269
  },
270
  {
271
+ "epoch": 0.5995582202587567,
272
+ "grad_norm": 3.7377912998199463,
273
  "learning_rate": 9e-06,
274
+ "loss": 0.4032,
275
  "step": 950
276
  },
277
  {
278
+ "epoch": 0.615336068160303,
279
+ "grad_norm": 3.389277696609497,
280
  "learning_rate": 8.944444444444446e-06,
281
+ "loss": 0.3968,
282
  "step": 975
283
  },
284
  {
285
+ "epoch": 0.6311139160618492,
286
+ "grad_norm": 3.2546145915985107,
287
  "learning_rate": 8.888888888888888e-06,
288
+ "loss": 0.408,
289
  "step": 1000
290
  },
291
  {
292
+ "epoch": 0.6311139160618492,
293
+ "eval_loss": 0.5,
294
+ "eval_runtime": 3003.1872,
295
+ "eval_samples_per_second": 2.338,
296
  "eval_steps_per_second": 0.146,
297
+ "eval_wer": 0.3734339502318352,
298
  "step": 1000
299
  },
300
  {
301
+ "epoch": 0.6468917639633954,
302
+ "grad_norm": 3.6185717582702637,
303
  "learning_rate": 8.833333333333334e-06,
304
+ "loss": 0.4092,
305
  "step": 1025
306
  },
307
  {
308
+ "epoch": 0.6626696118649417,
309
+ "grad_norm": 3.227266788482666,
310
  "learning_rate": 8.777777777777778e-06,
311
+ "loss": 0.3839,
312
  "step": 1050
313
  },
314
  {
315
+ "epoch": 0.6784474597664879,
316
+ "grad_norm": 3.281687021255493,
317
  "learning_rate": 8.722222222222224e-06,
318
+ "loss": 0.3954,
319
  "step": 1075
320
  },
321
  {
322
+ "epoch": 0.694225307668034,
323
+ "grad_norm": 3.359879732131958,
324
  "learning_rate": 8.666666666666668e-06,
325
+ "loss": 0.4051,
326
  "step": 1100
327
  },
328
  {
329
+ "epoch": 0.7100031555695803,
330
+ "grad_norm": 2.7654247283935547,
331
  "learning_rate": 8.611111111111112e-06,
332
+ "loss": 0.3979,
333
  "step": 1125
334
  },
335
  {
336
+ "epoch": 0.7257810034711265,
337
+ "grad_norm": 2.9193856716156006,
338
  "learning_rate": 8.555555555555556e-06,
339
+ "loss": 0.4075,
340
  "step": 1150
341
  },
342
  {
343
+ "epoch": 0.7415588513726727,
344
+ "grad_norm": 3.3058297634124756,
345
  "learning_rate": 8.5e-06,
346
+ "loss": 0.4176,
347
  "step": 1175
348
  },
349
  {
350
+ "epoch": 0.757336699274219,
351
+ "grad_norm": 3.126009941101074,
352
  "learning_rate": 8.444444444444446e-06,
353
+ "loss": 0.3928,
354
  "step": 1200
355
  },
356
  {
357
+ "epoch": 0.7731145471757652,
358
+ "grad_norm": 2.937455415725708,
359
  "learning_rate": 8.38888888888889e-06,
360
+ "loss": 0.3772,
361
  "step": 1225
362
  },
363
  {
364
+ "epoch": 0.7888923950773115,
365
+ "grad_norm": 2.8536481857299805,
366
  "learning_rate": 8.333333333333334e-06,
367
+ "loss": 0.3968,
368
  "step": 1250
369
  },
370
  {
371
+ "epoch": 0.8046702429788577,
372
+ "grad_norm": 3.651503086090088,
373
  "learning_rate": 8.277777777777778e-06,
374
+ "loss": 0.3758,
375
  "step": 1275
376
  },
377
  {
378
+ "epoch": 0.8204480908804039,
379
+ "grad_norm": 2.8864688873291016,
380
  "learning_rate": 8.222222222222222e-06,
381
+ "loss": 0.3784,
382
  "step": 1300
383
  },
384
  {
385
+ "epoch": 0.8362259387819502,
386
+ "grad_norm": 3.2489211559295654,
387
  "learning_rate": 8.166666666666668e-06,
388
+ "loss": 0.3632,
389
  "step": 1325
390
  },
391
  {
392
+ "epoch": 0.8520037866834964,
393
+ "grad_norm": 3.0353879928588867,
394
  "learning_rate": 8.111111111111112e-06,
395
+ "loss": 0.3564,
396
  "step": 1350
397
  },
398
  {
399
+ "epoch": 0.8677816345850426,
400
+ "grad_norm": 3.2296388149261475,
401
  "learning_rate": 8.055555555555557e-06,
402
+ "loss": 0.3546,
403
  "step": 1375
404
  },
405
  {
406
+ "epoch": 0.8835594824865888,
407
+ "grad_norm": 3.0037214756011963,
408
  "learning_rate": 8.000000000000001e-06,
409
+ "loss": 0.3453,
410
  "step": 1400
411
  },
412
  {
413
+ "epoch": 0.899337330388135,
414
+ "grad_norm": 3.308013439178467,
415
  "learning_rate": 7.944444444444445e-06,
416
+ "loss": 0.3578,
417
  "step": 1425
418
  },
419
  {
420
+ "epoch": 0.9151151782896813,
421
+ "grad_norm": 3.3210103511810303,
422
  "learning_rate": 7.88888888888889e-06,
423
+ "loss": 0.3382,
424
  "step": 1450
425
  },
426
  {
427
+ "epoch": 0.9308930261912275,
428
+ "grad_norm": 3.2565624713897705,
429
  "learning_rate": 7.833333333333333e-06,
430
+ "loss": 0.3718,
431
  "step": 1475
432
  },
433
  {
434
+ "epoch": 0.9466708740927737,
435
+ "grad_norm": 3.0643301010131836,
436
  "learning_rate": 7.77777777777778e-06,
437
+ "loss": 0.3478,
438
  "step": 1500
439
  },
440
  {
441
+ "epoch": 0.96244872199432,
442
+ "grad_norm": 2.628441333770752,
443
  "learning_rate": 7.722222222222223e-06,
444
+ "loss": 0.3654,
445
  "step": 1525
446
  },
447
  {
448
+ "epoch": 0.9782265698958662,
449
+ "grad_norm": 2.842191457748413,
450
  "learning_rate": 7.666666666666667e-06,
451
+ "loss": 0.3727,
452
  "step": 1550
453
  },
454
  {
455
+ "epoch": 0.9940044177974124,
456
+ "grad_norm": 2.23713755607605,
457
  "learning_rate": 7.611111111111111e-06,
458
+ "loss": 0.3369,
459
  "step": 1575
460
  },
461
  {
462
+ "epoch": 1.0097822656989586,
463
+ "grad_norm": 2.4432640075683594,
464
  "learning_rate": 7.555555555555556e-06,
465
+ "loss": 0.2744,
466
  "step": 1600
467
  },
468
  {
469
+ "epoch": 1.0255601136005048,
470
+ "grad_norm": 2.3971242904663086,
471
  "learning_rate": 7.500000000000001e-06,
472
+ "loss": 0.2449,
473
  "step": 1625
474
  },
475
  {
476
+ "epoch": 1.041337961502051,
477
+ "grad_norm": 2.4431796073913574,
478
  "learning_rate": 7.444444444444445e-06,
479
+ "loss": 0.2499,
480
  "step": 1650
481
  },
482
  {
483
+ "epoch": 1.0571158094035973,
484
+ "grad_norm": 2.3628671169281006,
485
  "learning_rate": 7.38888888888889e-06,
486
+ "loss": 0.2698,
487
  "step": 1675
488
  },
489
  {
490
+ "epoch": 1.0728936573051435,
491
+ "grad_norm": 2.0304720401763916,
492
  "learning_rate": 7.333333333333333e-06,
493
+ "loss": 0.2418,
494
  "step": 1700
495
  },
496
  {
497
+ "epoch": 1.0886715052066898,
498
+ "grad_norm": 2.804999828338623,
499
  "learning_rate": 7.277777777777778e-06,
500
+ "loss": 0.2506,
501
  "step": 1725
502
  },
503
  {
504
+ "epoch": 1.104449353108236,
505
+ "grad_norm": 3.027466297149658,
506
  "learning_rate": 7.222222222222223e-06,
507
+ "loss": 0.2568,
508
  "step": 1750
509
  },
510
  {
511
+ "epoch": 1.1202272010097822,
512
+ "grad_norm": 2.6216728687286377,
513
  "learning_rate": 7.166666666666667e-06,
514
+ "loss": 0.2417,
515
  "step": 1775
516
  },
517
  {
518
+ "epoch": 1.1360050489113285,
519
+ "grad_norm": 2.6749463081359863,
520
  "learning_rate": 7.111111111111112e-06,
521
+ "loss": 0.2479,
522
  "step": 1800
523
  },
524
  {
525
+ "epoch": 1.1517828968128747,
526
+ "grad_norm": 2.4260010719299316,
527
  "learning_rate": 7.055555555555557e-06,
528
+ "loss": 0.2385,
529
  "step": 1825
530
  },
531
  {
532
+ "epoch": 1.167560744714421,
533
+ "grad_norm": 2.3928089141845703,
534
  "learning_rate": 7e-06,
535
+ "loss": 0.2321,
536
  "step": 1850
537
  },
538
  {
539
+ "epoch": 1.1833385926159672,
540
+ "grad_norm": 2.639481782913208,
541
  "learning_rate": 6.944444444444445e-06,
542
+ "loss": 0.2429,
543
  "step": 1875
544
  },
545
  {
546
+ "epoch": 1.1991164405175134,
547
+ "grad_norm": 3.0133748054504395,
548
  "learning_rate": 6.88888888888889e-06,
549
+ "loss": 0.252,
550
  "step": 1900
551
  },
552
  {
553
+ "epoch": 1.2148942884190597,
554
+ "grad_norm": 2.657839059829712,
555
  "learning_rate": 6.833333333333334e-06,
556
+ "loss": 0.2453,
557
  "step": 1925
558
  },
559
  {
560
+ "epoch": 1.230672136320606,
561
+ "grad_norm": 2.745032787322998,
562
  "learning_rate": 6.777777777777779e-06,
563
+ "loss": 0.2454,
564
  "step": 1950
565
  },
566
  {
567
+ "epoch": 1.2464499842221521,
568
+ "grad_norm": 2.7123420238494873,
569
  "learning_rate": 6.7222222222222235e-06,
570
+ "loss": 0.2672,
571
  "step": 1975
572
  },
573
  {
574
+ "epoch": 1.2622278321236984,
575
+ "grad_norm": 2.789599657058716,
576
  "learning_rate": 6.666666666666667e-06,
577
+ "loss": 0.2455,
578
  "step": 2000
579
  },
580
  {
581
+ "epoch": 1.2622278321236984,
582
+ "eval_loss": 0.4339774549007416,
583
+ "eval_runtime": 2958.2023,
584
+ "eval_samples_per_second": 2.374,
585
+ "eval_steps_per_second": 0.148,
586
+ "eval_wer": 0.32330707196853953,
587
  "step": 2000
588
  },
589
  {
590
+ "epoch": 1.2780056800252446,
591
+ "grad_norm": 3.1237881183624268,
592
  "learning_rate": 6.6111111111111115e-06,
593
+ "loss": 0.2584,
594
  "step": 2025
595
  },
596
  {
597
+ "epoch": 1.2937835279267909,
598
+ "grad_norm": 2.1236650943756104,
599
  "learning_rate": 6.555555555555556e-06,
600
+ "loss": 0.2289,
601
  "step": 2050
602
  },
603
  {
604
+ "epoch": 1.309561375828337,
605
+ "grad_norm": 3.098536968231201,
606
  "learning_rate": 6.5000000000000004e-06,
607
+ "loss": 0.2392,
608
  "step": 2075
609
  },
610
  {
611
+ "epoch": 1.325339223729883,
612
+ "grad_norm": 2.5509822368621826,
613
  "learning_rate": 6.444444444444445e-06,
614
+ "loss": 0.2298,
615
  "step": 2100
616
  },
617
  {
618
+ "epoch": 1.3411170716314293,
619
+ "grad_norm": 2.699902296066284,
620
  "learning_rate": 6.3888888888888885e-06,
621
+ "loss": 0.2425,
622
  "step": 2125
623
  },
624
  {
625
+ "epoch": 1.3568949195329756,
626
+ "grad_norm": 2.5050745010375977,
627
  "learning_rate": 6.333333333333333e-06,
628
+ "loss": 0.2377,
629
  "step": 2150
630
  },
631
  {
632
+ "epoch": 1.3726727674345218,
633
+ "grad_norm": 2.2431986331939697,
634
  "learning_rate": 6.277777777777778e-06,
635
+ "loss": 0.225,
636
  "step": 2175
637
  },
638
  {
639
+ "epoch": 1.388450615336068,
640
+ "grad_norm": 2.3476831912994385,
641
  "learning_rate": 6.222222222222223e-06,
642
+ "loss": 0.2458,
643
  "step": 2200
644
  },
645
  {
646
+ "epoch": 1.4042284632376143,
647
+ "grad_norm": 2.1803078651428223,
648
  "learning_rate": 6.166666666666667e-06,
649
+ "loss": 0.2459,
650
  "step": 2225
651
  },
652
  {
653
+ "epoch": 1.4200063111391605,
654
+ "grad_norm": 2.475566864013672,
655
  "learning_rate": 6.111111111111112e-06,
656
+ "loss": 0.2349,
657
  "step": 2250
658
  },
659
  {
660
+ "epoch": 1.4357841590407068,
661
+ "grad_norm": 2.735623598098755,
662
  "learning_rate": 6.055555555555555e-06,
663
+ "loss": 0.2295,
664
  "step": 2275
665
  },
666
  {
667
+ "epoch": 1.451562006942253,
668
+ "grad_norm": 2.5407278537750244,
669
  "learning_rate": 6e-06,
670
+ "loss": 0.2367,
671
  "step": 2300
672
  },
673
  {
674
+ "epoch": 1.4673398548437993,
675
+ "grad_norm": 2.189357042312622,
676
  "learning_rate": 5.944444444444445e-06,
677
+ "loss": 0.2367,
678
  "step": 2325
679
  },
680
  {
681
+ "epoch": 1.4831177027453455,
682
+ "grad_norm": 2.2761070728302,
683
  "learning_rate": 5.88888888888889e-06,
684
+ "loss": 0.2331,
685
  "step": 2350
686
  },
687
  {
688
+ "epoch": 1.4988955506468917,
689
+ "grad_norm": 2.657602071762085,
690
  "learning_rate": 5.833333333333334e-06,
691
+ "loss": 0.2346,
692
  "step": 2375
693
  },
694
  {
695
+ "epoch": 1.514673398548438,
696
+ "grad_norm": 2.7713756561279297,
697
  "learning_rate": 5.777777777777778e-06,
698
+ "loss": 0.2336,
699
  "step": 2400
700
  },
701
  {
702
+ "epoch": 1.5304512464499842,
703
+ "grad_norm": 2.4739747047424316,
704
  "learning_rate": 5.722222222222222e-06,
705
+ "loss": 0.2314,
706
  "step": 2425
707
  },
708
  {
709
+ "epoch": 1.5462290943515304,
710
+ "grad_norm": 2.275024175643921,
711
  "learning_rate": 5.666666666666667e-06,
712
+ "loss": 0.2384,
713
  "step": 2450
714
  },
715
  {
716
+ "epoch": 1.5620069422530767,
717
+ "grad_norm": 8.249900817871094,
718
  "learning_rate": 5.611111111111112e-06,
719
+ "loss": 0.2137,
720
  "step": 2475
721
  },
722
  {
723
+ "epoch": 1.577784790154623,
724
+ "grad_norm": 2.453125,
725
  "learning_rate": 5.555555555555557e-06,
726
+ "loss": 0.2445,
727
  "step": 2500
728
  },
729
  {
730
+ "epoch": 1.5935626380561692,
731
+ "grad_norm": 2.3670058250427246,
732
  "learning_rate": 5.500000000000001e-06,
733
+ "loss": 0.2418,
734
  "step": 2525
735
  },
736
  {
737
+ "epoch": 1.6093404859577154,
738
+ "grad_norm": 2.700669527053833,
739
  "learning_rate": 5.444444444444445e-06,
740
+ "loss": 0.2356,
741
  "step": 2550
742
  },
743
  {
744
+ "epoch": 1.6251183338592616,
745
+ "grad_norm": 2.0962114334106445,
746
  "learning_rate": 5.388888888888889e-06,
747
+ "loss": 0.2268,
748
  "step": 2575
749
  },
750
  {
751
+ "epoch": 1.6408961817608079,
752
+ "grad_norm": 2.2385094165802,
753
  "learning_rate": 5.333333333333334e-06,
754
+ "loss": 0.2292,
755
  "step": 2600
756
  },
757
  {
758
+ "epoch": 1.656674029662354,
759
+ "grad_norm": 2.2060489654541016,
760
  "learning_rate": 5.2777777777777785e-06,
761
+ "loss": 0.2255,
762
  "step": 2625
763
  },
764
  {
765
+ "epoch": 1.6724518775639003,
766
+ "grad_norm": 2.859130859375,
767
  "learning_rate": 5.2222222222222226e-06,
768
+ "loss": 0.2304,
769
  "step": 2650
770
  },
771
  {
772
+ "epoch": 1.6882297254654466,
773
+ "grad_norm": 2.400465250015259,
774
  "learning_rate": 5.1666666666666675e-06,
775
+ "loss": 0.2375,
776
  "step": 2675
777
  },
778
  {
779
+ "epoch": 1.7040075733669928,
780
+ "grad_norm": 2.382413387298584,
781
  "learning_rate": 5.1111111111111115e-06,
782
+ "loss": 0.2212,
783
  "step": 2700
784
  },
785
  {
786
+ "epoch": 1.719785421268539,
787
+ "grad_norm": 2.3223814964294434,
788
  "learning_rate": 5.0555555555555555e-06,
789
+ "loss": 0.2274,
790
  "step": 2725
791
  },
792
  {
793
+ "epoch": 1.7355632691700853,
794
+ "grad_norm": 2.5504796504974365,
795
  "learning_rate": 5e-06,
796
+ "loss": 0.2224,
797
  "step": 2750
798
  },
799
  {
800
+ "epoch": 1.7513411170716315,
801
+ "grad_norm": 1.8646706342697144,
802
  "learning_rate": 4.944444444444445e-06,
803
+ "loss": 0.2109,
804
  "step": 2775
805
  },
806
  {
807
+ "epoch": 1.7671189649731778,
808
+ "grad_norm": 2.2399260997772217,
809
  "learning_rate": 4.888888888888889e-06,
810
+ "loss": 0.2253,
811
  "step": 2800
812
  },
813
  {
814
+ "epoch": 1.782896812874724,
815
+ "grad_norm": 2.5138754844665527,
816
  "learning_rate": 4.833333333333333e-06,
817
+ "loss": 0.2226,
818
  "step": 2825
819
  },
820
  {
821
+ "epoch": 1.7986746607762703,
822
+ "grad_norm": 2.8491804599761963,
823
  "learning_rate": 4.777777777777778e-06,
824
+ "loss": 0.2281,
825
  "step": 2850
826
  },
827
  {
828
+ "epoch": 1.8144525086778165,
829
+ "grad_norm": 2.52425217628479,
830
  "learning_rate": 4.722222222222222e-06,
831
+ "loss": 0.222,
832
  "step": 2875
833
  },
834
  {
835
+ "epoch": 1.8302303565793627,
836
+ "grad_norm": 2.4254088401794434,
837
  "learning_rate": 4.666666666666667e-06,
838
+ "loss": 0.216,
839
  "step": 2900
840
  },
841
  {
842
+ "epoch": 1.846008204480909,
843
+ "grad_norm": 2.4229941368103027,
844
  "learning_rate": 4.611111111111112e-06,
845
+ "loss": 0.2178,
846
  "step": 2925
847
  },
848
  {
849
+ "epoch": 1.861786052382455,
850
+ "grad_norm": 2.6721200942993164,
851
  "learning_rate": 4.555555555555556e-06,
852
+ "loss": 0.2241,
853
  "step": 2950
854
  },
855
  {
856
+ "epoch": 1.8775639002840012,
857
+ "grad_norm": 2.3381521701812744,
858
  "learning_rate": 4.5e-06,
859
+ "loss": 0.2255,
860
  "step": 2975
861
  },
862
  {
863
+ "epoch": 1.8933417481855475,
864
+ "grad_norm": 2.385972023010254,
865
  "learning_rate": 4.444444444444444e-06,
866
+ "loss": 0.216,
867
  "step": 3000
868
  },
869
  {
870
+ "epoch": 1.8933417481855475,
871
+ "eval_loss": 0.40097150206565857,
872
+ "eval_runtime": 2940.5315,
873
+ "eval_samples_per_second": 2.388,
874
+ "eval_steps_per_second": 0.149,
875
+ "eval_wer": 0.3000305570686471,
876
  "step": 3000
877
  },
878
  {
879
+ "epoch": 1.9091195960870937,
880
+ "grad_norm": 2.507140636444092,
881
  "learning_rate": 4.388888888888889e-06,
882
+ "loss": 0.2279,
883
  "step": 3025
884
  },
885
  {
886
+ "epoch": 1.92489744398864,
887
+ "grad_norm": 2.303067922592163,
888
  "learning_rate": 4.333333333333334e-06,
889
+ "loss": 0.2158,
890
  "step": 3050
891
  },
892
  {
893
+ "epoch": 1.9406752918901862,
894
+ "grad_norm": 2.6614551544189453,
895
  "learning_rate": 4.277777777777778e-06,
896
+ "loss": 0.21,
897
  "step": 3075
898
  },
899
  {
900
+ "epoch": 1.9564531397917324,
901
+ "grad_norm": 2.401498794555664,
902
  "learning_rate": 4.222222222222223e-06,
903
+ "loss": 0.2301,
904
  "step": 3100
905
  },
906
  {
907
+ "epoch": 1.9722309876932786,
908
+ "grad_norm": 2.147493839263916,
909
  "learning_rate": 4.166666666666667e-06,
910
+ "loss": 0.2281,
911
  "step": 3125
912
  },
913
  {
914
+ "epoch": 1.9880088355948249,
915
+ "grad_norm": 2.534454584121704,
916
  "learning_rate": 4.111111111111111e-06,
917
+ "loss": 0.2176,
918
  "step": 3150
919
  },
920
  {
921
+ "epoch": 2.003786683496371,
922
+ "grad_norm": 1.805999994277954,
923
  "learning_rate": 4.055555555555556e-06,
924
+ "loss": 0.2052,
925
  "step": 3175
926
  },
927
  {
928
+ "epoch": 2.019564531397917,
929
+ "grad_norm": 2.5037739276885986,
930
  "learning_rate": 4.000000000000001e-06,
931
+ "loss": 0.1369,
932
  "step": 3200
933
  },
934
  {
935
+ "epoch": 2.0353423792994634,
936
+ "grad_norm": 2.1041407585144043,
937
  "learning_rate": 3.944444444444445e-06,
938
+ "loss": 0.1223,
939
  "step": 3225
940
  },
941
  {
942
+ "epoch": 2.0511202272010096,
943
+ "grad_norm": 1.7618393898010254,
944
  "learning_rate": 3.88888888888889e-06,
945
+ "loss": 0.1321,
946
  "step": 3250
947
  },
948
  {
949
+ "epoch": 2.066898075102556,
950
+ "grad_norm": 2.2356462478637695,
951
  "learning_rate": 3.833333333333334e-06,
952
+ "loss": 0.1309,
953
  "step": 3275
954
  },
955
  {
956
+ "epoch": 2.082675923004102,
957
+ "grad_norm": 1.9169081449508667,
958
  "learning_rate": 3.777777777777778e-06,
959
+ "loss": 0.1248,
960
  "step": 3300
961
  },
962
  {
963
+ "epoch": 2.0984537709056483,
964
+ "grad_norm": 2.0058977603912354,
965
  "learning_rate": 3.7222222222222225e-06,
966
+ "loss": 0.1295,
967
  "step": 3325
968
  },
969
  {
970
+ "epoch": 2.1142316188071946,
971
+ "grad_norm": 1.9169594049453735,
972
  "learning_rate": 3.6666666666666666e-06,
973
+ "loss": 0.1307,
974
  "step": 3350
975
  },
976
  {
977
+ "epoch": 2.130009466708741,
978
+ "grad_norm": 1.9053386449813843,
979
  "learning_rate": 3.6111111111111115e-06,
980
+ "loss": 0.1171,
981
  "step": 3375
982
  },
983
  {
984
+ "epoch": 2.145787314610287,
985
+ "grad_norm": 2.123209238052368,
986
  "learning_rate": 3.555555555555556e-06,
987
+ "loss": 0.1501,
988
  "step": 3400
989
  },
990
  {
991
+ "epoch": 2.1615651625118333,
992
+ "grad_norm": 2.103135347366333,
993
  "learning_rate": 3.5e-06,
994
+ "loss": 0.1286,
995
  "step": 3425
996
  },
997
  {
998
+ "epoch": 2.1773430104133795,
999
+ "grad_norm": 1.901191234588623,
1000
  "learning_rate": 3.444444444444445e-06,
1001
+ "loss": 0.1328,
1002
  "step": 3450
1003
  },
1004
  {
1005
+ "epoch": 2.1931208583149258,
1006
+ "grad_norm": 1.752928376197815,
1007
  "learning_rate": 3.3888888888888893e-06,
1008
+ "loss": 0.1476,
1009
  "step": 3475
1010
  },
1011
  {
1012
+ "epoch": 2.208898706216472,
1013
+ "grad_norm": 2.233229160308838,
1014
  "learning_rate": 3.3333333333333333e-06,
1015
+ "loss": 0.133,
1016
  "step": 3500
1017
  },
1018
  {
1019
+ "epoch": 2.2246765541180182,
1020
+ "grad_norm": 1.8100041151046753,
1021
  "learning_rate": 3.277777777777778e-06,
1022
+ "loss": 0.1401,
1023
  "step": 3525
1024
  },
1025
  {
1026
+ "epoch": 2.2404544020195645,
1027
+ "grad_norm": 2.2920119762420654,
1028
  "learning_rate": 3.2222222222222227e-06,
1029
+ "loss": 0.1339,
1030
  "step": 3550
1031
  },
1032
  {
1033
+ "epoch": 2.2562322499211107,
1034
+ "grad_norm": 2.502577543258667,
1035
  "learning_rate": 3.1666666666666667e-06,
1036
+ "loss": 0.1431,
1037
  "step": 3575
1038
  },
1039
  {
1040
+ "epoch": 2.272010097822657,
1041
+ "grad_norm": 2.1777825355529785,
1042
  "learning_rate": 3.1111111111111116e-06,
1043
+ "loss": 0.1287,
1044
  "step": 3600
1045
  },
1046
  {
1047
+ "epoch": 2.287787945724203,
1048
+ "grad_norm": 2.158822536468506,
1049
  "learning_rate": 3.055555555555556e-06,
1050
+ "loss": 0.1427,
1051
  "step": 3625
1052
  },
1053
  {
1054
+ "epoch": 2.3035657936257494,
1055
+ "grad_norm": 2.028738260269165,
1056
  "learning_rate": 3e-06,
1057
+ "loss": 0.1307,
1058
  "step": 3650
1059
  },
1060
  {
1061
+ "epoch": 2.3193436415272957,
1062
+ "grad_norm": 2.283491849899292,
1063
  "learning_rate": 2.944444444444445e-06,
1064
+ "loss": 0.1284,
1065
  "step": 3675
1066
  },
1067
  {
1068
+ "epoch": 2.335121489428842,
1069
+ "grad_norm": 2.0819170475006104,
1070
  "learning_rate": 2.888888888888889e-06,
1071
+ "loss": 0.1341,
1072
  "step": 3700
1073
  },
1074
  {
1075
+ "epoch": 2.350899337330388,
1076
+ "grad_norm": 2.2217302322387695,
1077
  "learning_rate": 2.8333333333333335e-06,
1078
+ "loss": 0.1398,
1079
  "step": 3725
1080
  },
1081
  {
1082
+ "epoch": 2.3666771852319344,
1083
+ "grad_norm": 1.7553716897964478,
1084
  "learning_rate": 2.7777777777777783e-06,
1085
+ "loss": 0.1284,
1086
  "step": 3750
1087
  },
1088
  {
1089
+ "epoch": 2.3824550331334806,
1090
+ "grad_norm": 2.2240195274353027,
1091
  "learning_rate": 2.7222222222222224e-06,
1092
+ "loss": 0.1282,
1093
  "step": 3775
1094
  },
1095
  {
1096
+ "epoch": 2.398232881035027,
1097
+ "grad_norm": 1.973368525505066,
1098
  "learning_rate": 2.666666666666667e-06,
1099
+ "loss": 0.1261,
1100
  "step": 3800
1101
  },
1102
  {
1103
+ "epoch": 2.414010728936573,
1104
+ "grad_norm": 2.7670340538024902,
1105
  "learning_rate": 2.6111111111111113e-06,
1106
+ "loss": 0.1249,
1107
  "step": 3825
1108
  },
1109
  {
1110
+ "epoch": 2.4297885768381193,
1111
+ "grad_norm": 1.904808759689331,
1112
  "learning_rate": 2.5555555555555557e-06,
1113
+ "loss": 0.1219,
1114
  "step": 3850
1115
  },
1116
  {
1117
+ "epoch": 2.4455664247396656,
1118
+ "grad_norm": 2.0226497650146484,
1119
  "learning_rate": 2.5e-06,
1120
+ "loss": 0.1282,
1121
  "step": 3875
1122
  },
1123
  {
1124
+ "epoch": 2.461344272641212,
1125
+ "grad_norm": 2.153346300125122,
1126
  "learning_rate": 2.4444444444444447e-06,
1127
+ "loss": 0.1274,
1128
  "step": 3900
1129
  },
1130
  {
1131
+ "epoch": 2.477122120542758,
1132
+ "grad_norm": 2.0116922855377197,
1133
  "learning_rate": 2.388888888888889e-06,
1134
+ "loss": 0.1342,
1135
  "step": 3925
1136
  },
1137
  {
1138
+ "epoch": 2.4928999684443043,
1139
+ "grad_norm": 1.9735043048858643,
1140
  "learning_rate": 2.3333333333333336e-06,
1141
+ "loss": 0.1328,
1142
  "step": 3950
1143
  },
1144
  {
1145
+ "epoch": 2.5086778163458505,
1146
+ "grad_norm": 1.958715796470642,
1147
  "learning_rate": 2.277777777777778e-06,
1148
+ "loss": 0.1175,
1149
  "step": 3975
1150
  },
1151
  {
1152
+ "epoch": 2.5244556642473968,
1153
+ "grad_norm": 2.146303176879883,
1154
  "learning_rate": 2.222222222222222e-06,
1155
+ "loss": 0.1308,
1156
  "step": 4000
1157
  },
1158
  {
1159
+ "epoch": 2.5244556642473968,
1160
+ "eval_loss": 0.406938761472702,
1161
+ "eval_runtime": 2943.6463,
1162
+ "eval_samples_per_second": 2.385,
1163
  "eval_steps_per_second": 0.149,
1164
+ "eval_wer": 0.2964035658770543,
1165
  "step": 4000
1166
  },
1167
  {
1168
+ "epoch": 2.540233512148943,
1169
+ "grad_norm": 2.378037452697754,
1170
  "learning_rate": 2.166666666666667e-06,
1171
+ "loss": 0.1315,
1172
  "step": 4025
1173
  },
1174
  {
1175
+ "epoch": 2.5560113600504892,
1176
+ "grad_norm": 1.4860683679580688,
1177
  "learning_rate": 2.1111111111111114e-06,
1178
+ "loss": 0.1256,
1179
  "step": 4050
1180
  },
1181
  {
1182
+ "epoch": 2.5717892079520355,
1183
+ "grad_norm": 2.182999849319458,
1184
  "learning_rate": 2.0555555555555555e-06,
1185
+ "loss": 0.1245,
1186
  "step": 4075
1187
  },
1188
  {
1189
+ "epoch": 2.5875670558535817,
1190
+ "grad_norm": 2.181810140609741,
1191
  "learning_rate": 2.0000000000000003e-06,
1192
+ "loss": 0.1309,
1193
  "step": 4100
1194
  },
1195
  {
1196
+ "epoch": 2.603344903755128,
1197
+ "grad_norm": 2.1204681396484375,
1198
  "learning_rate": 1.944444444444445e-06,
1199
+ "loss": 0.1308,
1200
  "step": 4125
1201
  },
1202
  {
1203
+ "epoch": 2.619122751656674,
1204
+ "grad_norm": 2.2567408084869385,
1205
  "learning_rate": 1.888888888888889e-06,
1206
+ "loss": 0.1292,
1207
  "step": 4150
1208
  },
1209
  {
1210
+ "epoch": 2.6349005995582204,
1211
+ "grad_norm": 2.3920841217041016,
1212
+ "learning_rate": 1.8355555555555557e-06,
1213
+ "loss": 0.1257,
1214
  "step": 4175
1215
  },
1216
  {
1217
+ "epoch": 2.650678447459766,
1218
+ "grad_norm": 2.260571241378784,
1219
+ "learning_rate": 1.7800000000000001e-06,
1220
+ "loss": 0.1342,
1221
  "step": 4200
1222
  },
1223
  {
1224
+ "epoch": 2.6664562953613125,
1225
+ "grad_norm": 2.4567618370056152,
1226
+ "learning_rate": 1.7244444444444448e-06,
1227
+ "loss": 0.1279,
1228
  "step": 4225
1229
  },
1230
  {
1231
+ "epoch": 2.6822341432628587,
1232
+ "grad_norm": 2.1594390869140625,
1233
+ "learning_rate": 1.668888888888889e-06,
1234
+ "loss": 0.1253,
1235
  "step": 4250
1236
  },
1237
  {
1238
+ "epoch": 2.698011991164405,
1239
+ "grad_norm": 2.029165267944336,
1240
+ "learning_rate": 1.6133333333333335e-06,
1241
+ "loss": 0.128,
1242
  "step": 4275
1243
  },
1244
  {
1245
+ "epoch": 2.713789839065951,
1246
+ "grad_norm": 2.011826515197754,
1247
+ "learning_rate": 1.5577777777777777e-06,
1248
+ "loss": 0.1177,
1249
  "step": 4300
1250
  },
1251
  {
1252
+ "epoch": 2.7295676869674974,
1253
+ "grad_norm": 2.081116199493408,
1254
+ "learning_rate": 1.5022222222222224e-06,
1255
+ "loss": 0.1322,
1256
  "step": 4325
1257
  },
1258
  {
1259
+ "epoch": 2.7453455348690436,
1260
+ "grad_norm": 1.9539333581924438,
1261
+ "learning_rate": 1.4466666666666669e-06,
1262
+ "loss": 0.1225,
1263
  "step": 4350
1264
  },
1265
  {
1266
+ "epoch": 2.76112338277059,
1267
+ "grad_norm": 1.83766770362854,
1268
+ "learning_rate": 1.3911111111111111e-06,
1269
+ "loss": 0.1218,
1270
  "step": 4375
1271
  },
1272
  {
1273
+ "epoch": 2.776901230672136,
1274
+ "grad_norm": 1.8542882204055786,
1275
+ "learning_rate": 1.3355555555555558e-06,
1276
+ "loss": 0.1215,
1277
  "step": 4400
1278
  },
1279
  {
1280
+ "epoch": 2.7926790785736824,
1281
+ "grad_norm": 1.944549798965454,
1282
+ "learning_rate": 1.28e-06,
1283
+ "loss": 0.1333,
1284
  "step": 4425
1285
  },
1286
  {
1287
+ "epoch": 2.8084569264752286,
1288
+ "grad_norm": 1.9153203964233398,
1289
+ "learning_rate": 1.2244444444444445e-06,
1290
+ "loss": 0.1312,
1291
  "step": 4450
1292
  },
1293
  {
1294
+ "epoch": 2.824234774376775,
1295
+ "grad_norm": 1.7963358163833618,
1296
+ "learning_rate": 1.168888888888889e-06,
1297
+ "loss": 0.1202,
1298
  "step": 4475
1299
  },
1300
  {
1301
+ "epoch": 2.840012622278321,
1302
+ "grad_norm": 2.115541696548462,
1303
+ "learning_rate": 1.1133333333333334e-06,
1304
+ "loss": 0.1234,
1305
  "step": 4500
1306
  },
1307
  {
1308
+ "epoch": 2.8557904701798673,
1309
+ "grad_norm": 2.2020208835601807,
1310
+ "learning_rate": 1.0577777777777779e-06,
1311
+ "loss": 0.1281,
1312
  "step": 4525
1313
  },
1314
  {
1315
+ "epoch": 2.8715683180814136,
1316
+ "grad_norm": 2.03625226020813,
1317
+ "learning_rate": 1.0022222222222223e-06,
1318
+ "loss": 0.1216,
1319
  "step": 4550
1320
  },
1321
  {
1322
+ "epoch": 2.88734616598296,
1323
+ "grad_norm": 2.0224132537841797,
1324
+ "learning_rate": 9.466666666666667e-07,
1325
+ "loss": 0.1163,
1326
  "step": 4575
1327
  },
1328
  {
1329
+ "epoch": 2.903124013884506,
1330
+ "grad_norm": 2.030674695968628,
1331
+ "learning_rate": 8.911111111111112e-07,
1332
+ "loss": 0.1297,
1333
  "step": 4600
1334
  },
1335
  {
1336
+ "epoch": 2.9189018617860523,
1337
+ "grad_norm": 1.9184988737106323,
1338
+ "learning_rate": 8.355555555555556e-07,
1339
+ "loss": 0.1243,
1340
  "step": 4625
1341
  },
1342
  {
1343
+ "epoch": 2.9346797096875985,
1344
+ "grad_norm": 1.922864556312561,
1345
+ "learning_rate": 7.8e-07,
1346
+ "loss": 0.1175,
1347
  "step": 4650
1348
  },
1349
  {
1350
+ "epoch": 2.9504575575891447,
1351
+ "grad_norm": 2.3562278747558594,
1352
+ "learning_rate": 7.244444444444446e-07,
1353
+ "loss": 0.1352,
1354
  "step": 4675
1355
  },
1356
  {
1357
+ "epoch": 2.966235405490691,
1358
+ "grad_norm": 1.826926589012146,
1359
+ "learning_rate": 6.68888888888889e-07,
1360
+ "loss": 0.129,
1361
  "step": 4700
1362
  },
1363
  {
1364
+ "epoch": 2.982013253392237,
1365
+ "grad_norm": 1.7427453994750977,
1366
+ "learning_rate": 6.133333333333333e-07,
1367
+ "loss": 0.1231,
1368
  "step": 4725
1369
  },
1370
  {
1371
+ "epoch": 2.9977911012937835,
1372
+ "grad_norm": 1.7461098432540894,
1373
+ "learning_rate": 5.577777777777779e-07,
1374
+ "loss": 0.1175,
1375
  "step": 4750
1376
  },
1377
  {
1378
+ "epoch": 3.0135689491953297,
1379
+ "grad_norm": 1.2887001037597656,
1380
+ "learning_rate": 5.022222222222222e-07,
1381
+ "loss": 0.0873,
1382
  "step": 4775
1383
  },
1384
  {
1385
+ "epoch": 3.029346797096876,
1386
+ "grad_norm": 1.7019718885421753,
1387
+ "learning_rate": 4.466666666666667e-07,
1388
+ "loss": 0.0826,
1389
  "step": 4800
1390
  },
1391
  {
1392
+ "epoch": 3.045124644998422,
1393
+ "grad_norm": 1.7305608987808228,
1394
+ "learning_rate": 3.9111111111111115e-07,
1395
+ "loss": 0.0788,
1396
  "step": 4825
1397
  },
1398
  {
1399
+ "epoch": 3.0609024928999684,
1400
+ "grad_norm": 1.4667015075683594,
1401
+ "learning_rate": 3.3555555555555556e-07,
1402
+ "loss": 0.0775,
1403
  "step": 4850
1404
  },
1405
  {
1406
+ "epoch": 3.0766803408015146,
1407
+ "grad_norm": 2.291264057159424,
1408
+ "learning_rate": 2.8e-07,
1409
+ "loss": 0.0802,
1410
  "step": 4875
1411
  },
1412
  {
1413
+ "epoch": 3.092458188703061,
1414
+ "grad_norm": 1.8721388578414917,
1415
+ "learning_rate": 2.2444444444444445e-07,
1416
+ "loss": 0.0789,
1417
  "step": 4900
1418
  },
1419
  {
1420
+ "epoch": 3.108236036604607,
1421
+ "grad_norm": 1.4734169244766235,
1422
+ "learning_rate": 1.6888888888888888e-07,
1423
+ "loss": 0.0919,
1424
  "step": 4925
1425
  },
1426
  {
1427
+ "epoch": 3.1240138845061534,
1428
+ "grad_norm": 1.3516019582748413,
1429
+ "learning_rate": 1.1333333333333336e-07,
1430
+ "loss": 0.0775,
1431
  "step": 4950
1432
  },
1433
  {
1434
+ "epoch": 3.1397917324076996,
1435
+ "grad_norm": 1.5201116800308228,
1436
+ "learning_rate": 5.777777777777778e-08,
1437
+ "loss": 0.0776,
1438
  "step": 4975
1439
  },
1440
  {
1441
+ "epoch": 3.155569580309246,
1442
+ "grad_norm": 1.4460948705673218,
1443
+ "learning_rate": 2.2222222222222225e-09,
1444
+ "loss": 0.0804,
1445
  "step": 5000
1446
  },
1447
  {
1448
+ "epoch": 3.155569580309246,
1449
+ "eval_loss": 0.4191373586654663,
1450
+ "eval_runtime": 2987.8843,
1451
+ "eval_samples_per_second": 2.35,
1452
  "eval_steps_per_second": 0.147,
1453
+ "eval_wer": 0.2910627217048187,
1454
  "step": 5000
1455
  },
1456
  {
1457
+ "epoch": 3.155569580309246,
1458
  "step": 5000,
1459
+ "total_flos": 5.4352838158516224e+20,
1460
+ "train_loss": 0.2719093270301819,
1461
+ "train_runtime": 63684.9216,
1462
+ "train_samples_per_second": 2.512,
1463
+ "train_steps_per_second": 0.079
1464
  }
1465
  ],
1466
  "logging_steps": 25,
 
1480
  "attributes": {}
1481
  }
1482
  },
1483
+ "total_flos": 5.4352838158516224e+20,
1484
  "train_batch_size": 16,
1485
  "trial_name": null,
1486
  "trial_params": null