File size: 236,097 Bytes
368dfb3
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
967
968
969
970
971
972
973
974
975
976
977
978
979
980
981
982
983
984
985
986
987
988
989
990
991
992
993
994
995
996
997
998
999
1000
1001
1002
1003
1004
1005
1006
1007
1008
1009
1010
1011
1012
1013
1014
1015
1016
1017
1018
1019
1020
1021
1022
1023
1024
1025
1026
1027
1028
1029
1030
1031
1032
1033
1034
1035
1036
1037
1038
1039
1040
1041
1042
1043
1044
1045
1046
1047
1048
1049
1050
1051
1052
1053
1054
1055
1056
1057
1058
1059
1060
1061
1062
1063
1064
1065
1066
1067
1068
1069
1070
1071
1072
1073
1074
1075
1076
1077
1078
1079
1080
1081
1082
1083
1084
1085
1086
1087
1088
1089
1090
1091
1092
1093
1094
1095
1096
1097
1098
1099
1100
1101
1102
1103
1104
1105
1106
1107
1108
1109
1110
1111
1112
1113
1114
1115
1116
1117
1118
1119
1120
1121
1122
1123
1124
1125
1126
1127
1128
1129
1130
1131
1132
1133
1134
1135
1136
1137
1138
1139
1140
1141
1142
1143
1144
1145
1146
1147
1148
1149
1150
1151
1152
1153
1154
1155
1156
1157
1158
1159
1160
1161
1162
1163
1164
1165
1166
1167
1168
1169
1170
1171
1172
1173
1174
1175
1176
1177
1178
1179
1180
1181
1182
1183
1184
1185
1186
1187
1188
1189
1190
1191
1192
1193
1194
1195
1196
1197
1198
1199
1200
1201
1202
1203
1204
1205
1206
1207
1208
1209
1210
1211
1212
1213
1214
1215
1216
1217
1218
1219
1220
1221
1222
1223
1224
1225
1226
1227
1228
1229
1230
1231
1232
1233
1234
1235
1236
1237
1238
1239
1240
1241
1242
1243
1244
1245
1246
1247
1248
1249
1250
1251
1252
1253
1254
1255
1256
1257
1258
1259
1260
1261
1262
1263
1264
1265
1266
1267
1268
1269
1270
1271
1272
1273
1274
1275
1276
1277
1278
1279
1280
1281
1282
1283
1284
1285
1286
1287
1288
1289
1290
1291
1292
1293
1294
1295
1296
1297
1298
1299
1300
1301
1302
1303
1304
1305
1306
1307
1308
1309
1310
1311
1312
1313
1314
1315
1316
1317
1318
1319
1320
1321
1322
1323
1324
1325
1326
1327
1328
1329
1330
1331
1332
1333
1334
1335
1336
1337
1338
1339
1340
1341
1342
1343
1344
1345
1346
1347
1348
1349
1350
1351
1352
1353
1354
1355
1356
1357
1358
1359
1360
1361
1362
1363
1364
1365
1366
1367
1368
1369
1370
1371
1372
1373
1374
1375
1376
1377
1378
1379
1380
1381
1382
1383
1384
1385
1386
1387
1388
1389
1390
1391
1392
1393
1394
1395
1396
1397
1398
1399
1400
1401
1402
1403
1404
1405
1406
1407
1408
1409
1410
1411
1412
1413
1414
1415
1416
1417
1418
1419
1420
1421
1422
1423
1424
1425
1426
1427
1428
1429
1430
1431
1432
1433
1434
1435
1436
1437
1438
1439
1440
1441
1442
1443
1444
1445
1446
1447
1448
1449
1450
1451
1452
1453
1454
1455
1456
1457
1458
1459
1460
1461
1462
1463
1464
1465
1466
1467
1468
1469
1470
1471
1472
1473
1474
1475
1476
1477
1478
1479
1480
1481
1482
1483
1484
1485
1486
1487
1488
1489
1490
1491
1492
1493
1494
1495
1496
1497
1498
1499
1500
1501
1502
1503
1504
1505
1506
1507
1508
1509
1510
1511
1512
1513
1514
1515
1516
1517
1518
1519
1520
1521
1522
1523
1524
1525
1526
1527
1528
1529
1530
1531
1532
1533
1534
1535
1536
1537
1538
1539
1540
1541
1542
1543
1544
1545
1546
1547
1548
1549
1550
1551
1552
1553
1554
1555
1556
1557
1558
1559
1560
1561
1562
1563
1564
1565
1566
1567
1568
1569
1570
1571
1572
1573
1574
1575
1576
1577
1578
1579
1580
1581
1582
1583
1584
1585
1586
1587
1588
1589
1590
1591
1592
1593
1594
1595
1596
1597
1598
1599
1600
1601
1602
1603
1604
1605
1606
1607
1608
1609
1610
1611
1612
1613
1614
1615
1616
1617
1618
1619
1620
1621
1622
1623
1624
1625
1626
1627
1628
1629
1630
1631
1632
1633
1634
1635
1636
1637
1638
1639
1640
1641
1642
1643
1644
1645
1646
1647
1648
1649
1650
1651
1652
1653
1654
1655
1656
1657
1658
1659
1660
1661
1662
1663
1664
1665
1666
1667
1668
1669
1670
1671
1672
1673
1674
1675
1676
1677
1678
1679
1680
1681
1682
1683
1684
1685
1686
1687
1688
1689
1690
1691
1692
1693
1694
1695
1696
1697
1698
1699
1700
1701
1702
1703
1704
1705
1706
1707
1708
1709
1710
1711
1712
1713
1714
1715
1716
1717
1718
1719
1720
1721
1722
1723
1724
1725
1726
1727
1728
1729
1730
1731
1732
1733
1734
1735
1736
1737
1738
1739
1740
1741
1742
1743
1744
1745
1746
1747
1748
1749
1750
1751
1752
1753
1754
1755
1756
1757
1758
1759
1760
1761
1762
1763
1764
1765
1766
1767
1768
1769
1770
1771
1772
1773
1774
1775
1776
1777
1778
1779
1780
1781
1782
1783
1784
1785
1786
1787
1788
1789
1790
1791
1792
1793
1794
1795
1796
1797
1798
1799
1800
1801
1802
1803
1804
1805
1806
1807
1808
{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": 23,
   "id": "bbb5d7a3-c47a-4b2e-9ee0-5cf0b0cfd808",
   "metadata": {},
   "outputs": [],
   "source": [
    "import re\n",
    "from typing import Union\n",
    "\n",
    "import aiohttp\n",
    "from bs4 import BeautifulSoup\n",
    "from pydantic import BaseModel\n",
    "from tqdm.asyncio import tqdm\n",
    "from tenacity import retry, stop_after_attempt, wait_exponential\n",
    "\n",
    "# from wikiquote_tv.constants import idxurls, timeout, wikiquote_url\n",
    "wikiquote_url = \"https://en.wikiquote.org\"\n",
    "\n",
    "a_through_h = f\"{wikiquote_url}/wiki/List_of_television_shows_(A%E2%80%93H)\"\n",
    "i_through_p = f\"{wikiquote_url}/wiki/List_of_television_shows_(I%E2%80%93P)\"\n",
    "q_through_z = f\"{wikiquote_url}/wiki/List_of_television_shows_(Q%E2%80%93Z)\"\n",
    "\n",
    "idxurls = [\n",
    "    a_through_h,\n",
    "    i_through_p,\n",
    "    q_through_z,\n",
    "]\n",
    "\n",
    "timeout = 10\n",
    "\n",
    "\n",
    "class Action(BaseModel):\n",
    "    text: str\n",
    "\n",
    "    def __str__(self):\n",
    "        return self.text\n",
    "\n",
    "\n",
    "class Quote(BaseModel):\n",
    "    speaker: str\n",
    "    text: str\n",
    "\n",
    "    def __str__(self):\n",
    "        return f\"{self.speaker}: {self.text}\"\n",
    "\n",
    "\n",
    "class Conversation(BaseModel):\n",
    "    quotes: list[Union[Quote, Action]]\n",
    "\n",
    "    def __str__(self):\n",
    "        return \"\\n\".join(str(quote) for quote in self.quotes)\n",
    "\n",
    "    def format_example(self) -> dict:\n",
    "        input_text = (\n",
    "            \"\\n\".join(str(quote) for quote in self.quotes[:-1])\n",
    "            + \"\\n\"\n",
    "            + self.quotes[-1].speaker\n",
    "            + \": \"\n",
    "        )\n",
    "        target_text = self.quotes[-1].text\n",
    "        return {\"input_text\": input_text, \"target_text\": target_text}\n",
    "\n",
    "\n",
    "def parse_quote(quote):\n",
    "    try:\n",
    "        speaker = quote.find(\"b\").text\n",
    "    except AttributeError:\n",
    "        return Action(text=quote.text)\n",
    "    text = quote.text.replace(speaker, \"\").strip(\": \")\n",
    "    return Quote(text=text, speaker=speaker)\n",
    "\n",
    "\n",
    "@retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=4, max=10))\n",
    "async def get_shows(session: aiohttp.ClientSession) -> dict[str, str]:\n",
    "    def get_links(soup) -> dict[str, str]:\n",
    "        def _gen():\n",
    "            h2_tags = soup.find_all(\"h2\")\n",
    "\n",
    "            start = h2_tags[0]  # includes existing and requested\n",
    "            end = h2_tags[2]  # Notes\n",
    "\n",
    "            existing = \"\"\n",
    "            for elem in start.next_siblings:\n",
    "                if elem == end:\n",
    "                    break\n",
    "                existing += str(elem)\n",
    "            new_soup = BeautifulSoup(existing, \"html.parser\")\n",
    "            for link in new_soup.find_all(\"li\"):\n",
    "                if link.a:\n",
    "                    relative_path = link.a[\"href\"].strip(\"/\")\n",
    "                    link_url = f\"{wikiquote_url}/{relative_path}\"\n",
    "                    try:\n",
    "                        name = link.a[\"title\"]\n",
    "                    except KeyError:\n",
    "                        continue\n",
    "                    if name.endswith(\"(page does not exist)\"):\n",
    "                        continue\n",
    "                    yield name, link_url\n",
    "\n",
    "        return dict(_gen())\n",
    "\n",
    "    result = {}\n",
    "    async for url in tqdm(idxurls):\n",
    "        resp = await session.get(url, timeout=timeout)\n",
    "        content = await resp.text()\n",
    "        soup = BeautifulSoup(content)\n",
    "        links = get_links(soup)\n",
    "        result.update(links)\n",
    "    return result\n",
    "\n",
    "\n",
    "def season_links(soup: BeautifulSoup) -> Union[set, None]:\n",
    "    pattern = re.compile(r\"\\(season_\\d+\\)$\")\n",
    "    return {\n",
    "        f\"{wikiquote_url}/{a['href'].strip('/')}\"\n",
    "        for a in soup.find_all(\"a\", href=lambda x: x and pattern.search(x))\n",
    "    } or None\n",
    "\n",
    "\n",
    "def show_season(soup: BeautifulSoup) -> dict[str, str]:\n",
    "    show_season_pat = re.compile(r\"^(?P<show>.*?)(?: \\(season (?P<season>\\d+)\\))?$\")\n",
    "    show_season_text = soup.find(\"h1\").text\n",
    "    show_season_match = show_season_pat.match(show_season_text)\n",
    "    if show_season_match is None:\n",
    "        raise ValueError(\n",
    "            f\"Could not parse show and season from {show_season_text}\",\n",
    "        )\n",
    "    return show_season_match.groupdict()\n",
    "\n",
    "\n",
    "def episode_objects(soup: BeautifulSoup) -> list[tuple[str, str, Conversation]]:\n",
    "    # Assuming `soup` is your BeautifulSoup object\n",
    "    contents = soup.find_all([\"h3\", \"dl\", \"p\", \"hr\"])  # Include 'h3' in the search\n",
    "\n",
    "    merged_dls = []\n",
    "    temp_content = \"\"\n",
    "    inside_dl = False\n",
    "    current_title = None\n",
    "    next_title = None\n",
    "\n",
    "    show_name = show_season(soup)[\"show\"]\n",
    "\n",
    "    for content in contents:\n",
    "        if content.name == \"h3\":\n",
    "            # If inside a <dl>, close it before starting a new section\n",
    "            if inside_dl:\n",
    "                merged_dls.append((current_title, temp_content))\n",
    "                temp_content = \"\"\n",
    "                inside_dl = False\n",
    "\n",
    "            # Store the next title\n",
    "            next_title = content.get_text()\n",
    "\n",
    "        elif content.name == \"dl\":\n",
    "            if not inside_dl:\n",
    "                # Start of a new <dl> section, update the current title\n",
    "                current_title = next_title\n",
    "                temp_content = str(content)\n",
    "                inside_dl = True\n",
    "            else:\n",
    "                # Continue the current <dl> section\n",
    "                temp_content += str(content)\n",
    "\n",
    "        elif content.name == \"p\" and inside_dl:\n",
    "            # Part of a split <dl> section\n",
    "            temp_content += str(content)\n",
    "\n",
    "        elif content.name == \"hr\":\n",
    "            # <hr> tag encountered, end current <dl> if within one\n",
    "            if inside_dl:\n",
    "                merged_dls.append((current_title, temp_content))\n",
    "                temp_content = \"\"\n",
    "                inside_dl = False\n",
    "\n",
    "    # Add the last <dl> section if the loop ends while inside a <dl>\n",
    "    if inside_dl:\n",
    "        merged_dls.append((current_title, temp_content))\n",
    "\n",
    "    editpat = re.compile(r\"\\[edit]$\")\n",
    "\n",
    "    def _gen():\n",
    "        for title, dl in merged_dls:\n",
    "            if isinstance(title, str):\n",
    "                title = editpat.sub(\"\", title)\n",
    "                dlsoup = BeautifulSoup(dl, \"html.parser\")\n",
    "                conversation = Conversation(\n",
    "                    quotes=[parse_quote(quote) for quote in dlsoup.find_all(\"dd\")],\n",
    "                )\n",
    "                yield show_name, title, conversation\n",
    "\n",
    "    return list(_gen())\n",
    "\n",
    "\n",
    "@retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=4, max=10))\n",
    "async def longurllist(test: bool = False) -> list[tuple[str, str, Conversation]]:\n",
    "    async with aiohttp.ClientSession() as session:\n",
    "\n",
    "        async def _gen():\n",
    "            shows = await get_shows(session)\n",
    "            show_items = shows.items() if not test else list(shows.items())[:3]\n",
    "            async for show, url in tqdm(show_items):\n",
    "                show_resp = await session.get(url, timeout=timeout)\n",
    "                show_text = await show_resp.text()\n",
    "                show_soup = BeautifulSoup(show_text)\n",
    "                show_season_links = season_links(show_soup)\n",
    "                if show_season_links is None:\n",
    "                    for ep_obj in episode_objects(show_soup):\n",
    "                        yield ep_obj\n",
    "\n",
    "                else:\n",
    "                    async for season_url in tqdm(show_season_links):\n",
    "                        season_resp = await session.get(season_url, timeout=timeout)\n",
    "                        season_text = await season_resp.text()\n",
    "                        season_soup = BeautifulSoup(season_text)\n",
    "                        for ep_obj in episode_objects(season_soup):\n",
    "                            yield ep_obj\n",
    "\n",
    "        return [ep_obj async for ep_obj in _gen()]\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 8,
   "id": "7df36e4b-0712-4040-907e-17740aa78f20",
   "metadata": {},
   "outputs": [],
   "source": [
    "import asyncio\n",
    "import nest_asyncio\n",
    "\n",
    "nest_asyncio.apply()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 24,
   "id": "2a35e6ff-ac01-4343-ac48-0dcd4edd843a",
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  3.61it/s]\n",
      "  0%|▎                                                                                | 5/1147 [00:00<03:38,  5.22it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00, 17.61it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00, 10.62it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  9.16it/s]\u001b[A\n",
      "  1%|▊                                                                               | 12/1147 [00:02<03:11,  5.94it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 18%|███████████████                                                                    | 2/11 [00:00<00:00, 10.51it/s]\u001b[A\n",
      " 36%|██████████████████████████████▏                                                    | 4/11 [00:00<00:00,  8.42it/s]\u001b[A\n",
      " 45%|█████████████████████████████████████▋                                             | 5/11 [00:00<00:00,  7.74it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:00<00:00,  8.24it/s]\u001b[A\n",
      " 64%|████████████████████████████████████████████████████▊                              | 7/11 [00:00<00:00,  7.86it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:00<00:00,  7.87it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  9.43it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  7.03it/s]\u001b[A\n",
      "  2%|█▋                                                                              | 24/1147 [00:05<02:38,  7.11it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00,  9.18it/s]\u001b[A\n",
      " 30%|████████████████████████▉                                                          | 3/10 [00:00<00:00,  8.95it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00,  7.40it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 5/10 [00:00<00:00,  7.42it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00,  7.69it/s]\u001b[A\n",
      " 70%|██████████████████████████████████████████████████████████                         | 7/10 [00:00<00:00,  7.59it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:01<00:00,  8.18it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  7.43it/s]\u001b[A\n",
      "  3%|██▎                                                                             | 33/1147 [00:08<05:27,  3.41it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00, 19.82it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  4.39it/s]\u001b[A\n",
      "  3%|██▌                                                                             | 36/1147 [00:10<06:58,  2.65it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00,  6.87it/s]\u001b[A\n",
      "  4%|███▎                                                                            | 47/1147 [00:12<03:52,  4.74it/s]\n",
      "  0%|                                                                                           | 0/19 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|████████▋                                                                          | 2/19 [00:00<00:02,  7.11it/s]\u001b[A\n",
      " 16%|█████████████                                                                      | 3/19 [00:00<00:02,  7.67it/s]\u001b[A\n",
      " 21%|█████████████████▍                                                                 | 4/19 [00:00<00:02,  6.39it/s]\u001b[A\n",
      " 26%|█████████████████████▊                                                             | 5/19 [00:00<00:02,  5.74it/s]\u001b[A\n",
      " 32%|██████████████████████████▏                                                        | 6/19 [00:00<00:02,  5.69it/s]\u001b[A\n",
      " 37%|██████████████████████████████▌                                                    | 7/19 [00:01<00:02,  4.86it/s]\u001b[A\n",
      " 42%|██████████████████████████████████▉                                                | 8/19 [00:01<00:01,  5.63it/s]\u001b[A\n",
      " 47%|███████████████████████████████████████▎                                           | 9/19 [00:01<00:02,  4.64it/s]\u001b[A\n",
      " 58%|███████████████████████████████████████████████▍                                  | 11/19 [00:01<00:01,  5.42it/s]\u001b[A\n",
      " 63%|███████████████████████████████████████████████████▊                              | 12/19 [00:02<00:01,  5.02it/s]\u001b[A\n",
      " 68%|████████████████████████████████████████████████████████                          | 13/19 [00:02<00:01,  4.93it/s]\u001b[A\n",
      " 74%|████████████████████████████████████████████████████████████▍                     | 14/19 [00:02<00:01,  4.45it/s]\u001b[A\n",
      " 79%|████████████████████████████████████████████████████████████████▋                 | 15/19 [00:02<00:00,  4.11it/s]\u001b[A\n",
      " 84%|█████████████████████████████████████████████████████████████████████             | 16/19 [00:03<00:00,  3.88it/s]\u001b[A\n",
      " 89%|█████████████████████████████████████████████████████████████████████████▎        | 17/19 [00:03<00:00,  4.60it/s]\u001b[A\n",
      " 95%|█████████████████████████████████████████████████████████████████████████████▋    | 18/19 [00:03<00:00,  5.31it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 19/19 [00:04<00:00,  4.64it/s]\u001b[A\n",
      "  4%|███▍                                                                            | 49/1147 [00:16<17:36,  1.04it/s]\n",
      "  0%|                                                                                           | 0/16 [00:00<?, ?it/s]\u001b[A\n",
      " 19%|███████████████▌                                                                   | 3/16 [00:00<00:00, 16.37it/s]\u001b[A\n",
      " 31%|█████████████████████████▉                                                         | 5/16 [00:00<00:00, 11.31it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▎                                              | 7/16 [00:00<00:00,  9.42it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 8/16 [00:00<00:00,  8.73it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                    | 9/16 [00:00<00:00,  8.66it/s]\u001b[A\n",
      " 69%|████████████████████████████████████████████████████████▍                         | 11/16 [00:01<00:00,  9.17it/s]\u001b[A\n",
      " 81%|██████████████████████████████████████████████████████████████████▋               | 13/16 [00:01<00:00, 10.20it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 16/16 [00:01<00:00,  8.98it/s]\u001b[A\n",
      "  5%|████                                                                            | 58/1147 [00:19<04:03,  4.47it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00,  8.61it/s]\u001b[A\n",
      " 60%|██████████████████████████████████████████████████▍                                 | 3/5 [00:00<00:00,  6.20it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  4.35it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  3.79it/s]\u001b[A\n",
      "  6%|████▍                                                                           | 64/1147 [00:21<03:55,  4.61it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:01,  2.94it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  4.81it/s]\u001b[A\n",
      "  6%|████▊                                                                           | 69/1147 [00:23<04:56,  3.64it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  8.54it/s]\u001b[A\n",
      "  6%|████▉                                                                           | 70/1147 [00:23<06:16,  2.86it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00, 18.21it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:00<00:00, 13.93it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:00<00:00,  9.48it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00,  9.23it/s]\u001b[A\n",
      "  7%|█████▎                                                                          | 77/1147 [00:27<09:57,  1.79it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00, 17.22it/s]\u001b[A\n",
      "  7%|█████▉                                                                          | 85/1147 [00:29<04:04,  4.34it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 13.17it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  8.37it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00,  8.05it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  6.15it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  6.35it/s]\u001b[A\n",
      "  8%|██████▎                                                                         | 90/1147 [00:30<03:53,  4.52it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 17.76it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  9.36it/s]\u001b[A\n",
      " 10%|███████▌                                                                       | 110/1147 [00:35<03:47,  4.55it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 15.92it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00,  8.10it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00,  8.76it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00, 10.04it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  8.53it/s]\u001b[A\n",
      " 10%|████████                                                                       | 117/1147 [00:37<03:36,  4.76it/s]\n",
      "  0%|                                                                                           | 0/18 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|█████████▏                                                                         | 2/18 [00:00<00:03,  4.59it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 3/18 [00:00<00:03,  4.41it/s]\u001b[A\n",
      " 22%|██████████████████▍                                                                | 4/18 [00:00<00:03,  4.19it/s]\u001b[A\n",
      " 28%|███████████████████████                                                            | 5/18 [00:01<00:02,  4.71it/s]\u001b[A\n",
      " 33%|███████████████████████████▋                                                       | 6/18 [00:01<00:02,  5.60it/s]\u001b[A\n",
      " 39%|████████████████████████████████▎                                                  | 7/18 [00:01<00:01,  6.17it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▉                                              | 8/18 [00:01<00:01,  6.44it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 9/18 [00:01<00:01,  4.85it/s]\u001b[A\n",
      " 56%|█████████████████████████████████████████████▌                                    | 10/18 [00:01<00:01,  5.58it/s]\u001b[A\n",
      " 61%|██████████████████████████████████████████████████                                | 11/18 [00:02<00:01,  4.63it/s]\u001b[A\n",
      " 72%|███████████████████████████████████████████████████████████▏                      | 13/18 [00:02<00:01,  4.26it/s]\u001b[A\n",
      " 78%|███████████████████████████████████████████████████████████████▊                  | 14/18 [00:02<00:00,  4.31it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 15/18 [00:03<00:00,  4.49it/s]\u001b[A\n",
      " 89%|████████████████████████████████████████████████████████████████████████▉         | 16/18 [00:03<00:00,  5.13it/s]\u001b[A\n",
      " 94%|█████████████████████████████████████████████████████████████████████████████▍    | 17/18 [00:03<00:00,  4.70it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 18/18 [00:03<00:00,  4.82it/s]\u001b[A\n",
      " 10%|████████▏                                                                      | 118/1147 [00:41<17:12,  1.00s/it]\n",
      "  0%|                                                                                           | 0/18 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|█████████▏                                                                         | 2/18 [00:00<00:03,  4.64it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 3/18 [00:00<00:02,  5.82it/s]\u001b[A\n",
      " 22%|██████████████████▍                                                                | 4/18 [00:00<00:02,  5.09it/s]\u001b[A\n",
      " 28%|███████████████████████                                                            | 5/18 [00:00<00:02,  5.76it/s]\u001b[A\n",
      " 33%|███████████████████████████▋                                                       | 6/18 [00:01<00:02,  5.04it/s]\u001b[A\n",
      " 39%|████████████████████████████████▎                                                  | 7/18 [00:01<00:01,  5.76it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▉                                              | 8/18 [00:01<00:01,  6.22it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 9/18 [00:01<00:01,  4.83it/s]\u001b[A\n",
      " 56%|█████████████████████████████████████████████▌                                    | 10/18 [00:01<00:01,  5.52it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 12/18 [00:02<00:00,  6.80it/s]\u001b[A\n",
      " 72%|███████████████████████████████████████████████████████████▏                      | 13/18 [00:02<00:01,  4.22it/s]\u001b[A\n",
      " 78%|███████████████████████████████████████████████████████████████▊                  | 14/18 [00:02<00:00,  4.37it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 15/18 [00:02<00:00,  4.44it/s]\u001b[A\n",
      " 89%|████████████████████████████████████████████████████████████████████████▉         | 16/18 [00:03<00:00,  5.08it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 18/18 [00:03<00:00,  5.28it/s]\u001b[A\n",
      " 10%|████████▏                                                                      | 119/1147 [00:45<27:23,  1.60s/it]\n",
      "  0%|                                                                                           | 0/18 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|█████████▏                                                                         | 2/18 [00:00<00:04,  3.73it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 3/18 [00:00<00:03,  4.84it/s]\u001b[A\n",
      " 22%|██████████████████▍                                                                | 4/18 [00:00<00:03,  4.38it/s]\u001b[A\n",
      " 28%|███████████████████████                                                            | 5/18 [00:01<00:02,  5.18it/s]\u001b[A\n",
      " 39%|████████████████████████████████▎                                                  | 7/18 [00:01<00:01,  6.64it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▉                                              | 8/18 [00:01<00:01,  6.86it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 9/18 [00:01<00:01,  5.40it/s]\u001b[A\n",
      " 56%|█████████████████████████████████████████████▌                                    | 10/18 [00:01<00:01,  6.07it/s]\u001b[A\n",
      " 61%|██████████████████████████████████████████████████                                | 11/18 [00:01<00:01,  6.79it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 12/18 [00:02<00:01,  5.57it/s]\u001b[A\n",
      " 72%|███████████████████████████████████████████████████████████▏                      | 13/18 [00:02<00:01,  4.00it/s]\u001b[A\n",
      " 78%|███████████████████████████████████████████████████████████████▊                  | 14/18 [00:02<00:00,  4.17it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 15/18 [00:02<00:00,  4.42it/s]\u001b[A\n",
      " 89%|████████████████████████████████████████████████████████████████████████▉         | 16/18 [00:03<00:00,  5.19it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 18/18 [00:03<00:00,  5.31it/s]\u001b[A\n",
      " 10%|████████▎                                                                      | 120/1147 [00:48<35:35,  2.08s/it]\n",
      "  0%|                                                                                           | 0/18 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|█████████▏                                                                         | 2/18 [00:00<00:04,  3.61it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 3/18 [00:00<00:03,  4.88it/s]\u001b[A\n",
      " 22%|██████████████████▍                                                                | 4/18 [00:00<00:03,  4.46it/s]\u001b[A\n",
      " 28%|███████████████████████                                                            | 5/18 [00:01<00:02,  5.29it/s]\u001b[A\n",
      " 39%|████████████████████████████████▎                                                  | 7/18 [00:01<00:01,  6.74it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▉                                              | 8/18 [00:01<00:01,  7.05it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 9/18 [00:01<00:02,  4.39it/s]\u001b[A\n",
      " 56%|█████████████████████████████████████████████▌                                    | 10/18 [00:01<00:01,  5.11it/s]\u001b[A\n",
      " 61%|██████████████████████████████████████████████████                                | 11/18 [00:02<00:01,  5.71it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 12/18 [00:02<00:00,  6.36it/s]\u001b[A\n",
      " 72%|███████████████████████████████████████████████████████████▏                      | 13/18 [00:02<00:01,  4.48it/s]\u001b[A\n",
      " 78%|███████████████████████████████████████████████████████████████▊                  | 14/18 [00:02<00:00,  4.62it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 15/18 [00:02<00:00,  4.72it/s]\u001b[A\n",
      " 89%|████████████████████████████████████████████████████████████████████████▉         | 16/18 [00:03<00:00,  5.27it/s]\u001b[A\n",
      " 94%|█████████████████████████████████████████████████████████████████████████████▍    | 17/18 [00:03<00:00,  6.06it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 18/18 [00:03<00:00,  5.01it/s]\u001b[A\n",
      " 11%|████████▎                                                                      | 121/1147 [00:52<42:51,  2.51s/it]\n",
      "  0%|                                                                                           | 0/18 [00:00<?, ?it/s]\u001b[A\n",
      " 11%|█████████▏                                                                         | 2/18 [00:00<00:03,  4.97it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 3/18 [00:00<00:02,  6.24it/s]\u001b[A\n",
      " 22%|██████████████████▍                                                                | 4/18 [00:00<00:02,  5.00it/s]\u001b[A\n",
      " 28%|███████████████████████                                                            | 5/18 [00:00<00:02,  5.74it/s]\u001b[A\n",
      " 33%|███████████████████████████▋                                                       | 6/18 [00:01<00:01,  6.66it/s]\u001b[A\n",
      " 39%|████████████████████████████████▎                                                  | 7/18 [00:01<00:01,  6.94it/s]\u001b[A\n",
      " 44%|████████████████████████████████████▉                                              | 8/18 [00:01<00:01,  7.11it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 9/18 [00:01<00:02,  4.10it/s]\u001b[A\n",
      " 56%|█████████████████████████████████████████████▌                                    | 10/18 [00:01<00:01,  4.91it/s]\u001b[A\n",
      " 61%|██████████████████████████████████████████████████                                | 11/18 [00:01<00:01,  5.70it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 12/18 [00:02<00:00,  6.52it/s]\u001b[A\n",
      " 72%|███████████████████████████████████████████████████████████▏                      | 13/18 [00:02<00:01,  4.44it/s]\u001b[A\n",
      " 78%|███████████████████████████████████████████████████████████████▊                  | 14/18 [00:02<00:00,  4.44it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 15/18 [00:02<00:00,  4.50it/s]\u001b[A\n",
      " 89%|████████████████████████████████████████████████████████████████████████▉         | 16/18 [00:03<00:00,  5.19it/s]\u001b[A\n",
      " 94%|█████████████████████████████████████████████████████████████████████████████▍    | 17/18 [00:03<00:00,  6.04it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 18/18 [00:03<00:00,  5.14it/s]\u001b[A\n",
      " 11%|████████▍                                                                      | 123/1147 [00:56<35:01,  2.05s/it]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  7.27it/s]\u001b[A\n",
      " 11%|████████▌                                                                      | 125/1147 [00:56<20:00,  1.17s/it]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00,  8.49it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00,  5.99it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  5.19it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:01<00:00,  3.68it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:01<00:00,  3.45it/s]\u001b[A\n",
      " 11%|████████▉                                                                      | 129/1147 [00:59<09:57,  1.70it/s]\n",
      "  0%|                                                                                           | 0/12 [00:00<?, ?it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 2/12 [00:00<00:00, 17.38it/s]\u001b[A\n",
      " 33%|███████████████████████████▋                                                       | 4/12 [00:00<00:01,  6.52it/s]\u001b[A\n",
      " 42%|██████████████████████████████████▌                                                | 5/12 [00:00<00:01,  6.60it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 6/12 [00:00<00:00,  6.09it/s]\u001b[A\n",
      " 58%|████████████████████████████████████████████████▍                                  | 7/12 [00:01<00:00,  6.59it/s]\u001b[A\n",
      " 67%|███████████████████████████████████████████████████████▎                           | 8/12 [00:01<00:00,  6.55it/s]\u001b[A\n",
      " 75%|██████████████████████████████████████████████████████████████▎                    | 9/12 [00:01<00:00,  6.92it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 10/12 [00:01<00:00,  6.94it/s]\u001b[A\n",
      " 92%|███████████████████████████████████████████████████████████████████████████▏      | 11/12 [00:01<00:00,  7.08it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:01<00:00,  6.36it/s]\u001b[A\n",
      " 13%|██████████▍                                                                    | 152/1147 [01:05<04:56,  3.35it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00,  9.55it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:00,  6.49it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:00<00:00,  5.93it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:00<00:00,  5.47it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:01<00:00,  5.41it/s]\u001b[A\n",
      " 88%|█████████████████████████████████████████████████████████████████████████▌          | 7/8 [00:01<00:00,  5.32it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:01<00:00,  4.85it/s]\u001b[A\n",
      " 14%|██████████▋                                                                    | 156/1147 [01:07<07:01,  2.35it/s]\n",
      "  0%|                                                                                           | 0/12 [00:00<?, ?it/s]\u001b[A\n",
      " 17%|█████████████▊                                                                     | 2/12 [00:00<00:00, 12.08it/s]\u001b[A\n",
      " 33%|███████████████████████████▋                                                       | 4/12 [00:00<00:02,  3.93it/s]\u001b[A\n",
      " 42%|██████████████████████████████████▌                                                | 5/12 [00:01<00:01,  4.77it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 6/12 [00:01<00:01,  4.73it/s]\u001b[A\n",
      " 58%|████████████████████████████████████████████████▍                                  | 7/12 [00:01<00:01,  4.72it/s]\u001b[A\n",
      " 67%|███████████████████████████████████████████████████████▎                           | 8/12 [00:01<00:00,  5.37it/s]\u001b[A\n",
      " 75%|██████████████████████████████████████████████████████████████▎                    | 9/12 [00:01<00:00,  5.98it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 10/12 [00:01<00:00,  5.60it/s]\u001b[A\n",
      " 92%|███████████████████████████████████████████████████████████████████████████▏      | 11/12 [00:02<00:00,  5.46it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:02<00:00,  4.85it/s]\u001b[A\n",
      " 14%|██████████▊                                                                    | 157/1147 [01:10<14:39,  1.13it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 2/3 [00:00<00:00,  9.32it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  3.75it/s]\u001b[A\n",
      " 14%|███████████▏                                                                   | 163/1147 [01:12<06:46,  2.42it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 19.51it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  6.39it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  6.94it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  6.56it/s]\u001b[A\n",
      " 15%|███████████▌                                                                   | 168/1147 [01:14<04:46,  3.41it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 10.78it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  7.48it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  4.11it/s]\u001b[A\n",
      " 15%|███████████▊                                                                   | 172/1147 [01:15<04:58,  3.27it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 12.82it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  7.67it/s]\u001b[A\n",
      " 17%|█████████████▏                                                                 | 191/1147 [01:20<02:52,  5.54it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00, 13.11it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:00<00:00,  9.11it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:00<00:00,  6.95it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:00<00:00,  7.10it/s]\u001b[A\n",
      " 88%|█████████████████████████████████████████████████████████████████████████▌          | 7/8 [00:00<00:00,  6.54it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:01<00:00,  5.71it/s]\u001b[A\n",
      " 18%|█████████████▊                                                                 | 201/1147 [01:25<07:20,  2.15it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 18%|███████████████                                                                    | 2/11 [00:00<00:00, 17.64it/s]\u001b[A\n",
      " 36%|██████████████████████████████▏                                                    | 4/11 [00:00<00:00, 10.80it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:00<00:00,  9.91it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:00<00:00,  9.12it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:00<00:00,  9.28it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  9.01it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  8.45it/s]\u001b[A\n",
      " 19%|███████████████▏                                                               | 220/1147 [01:30<03:48,  4.06it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 19.03it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 11.70it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  9.15it/s]\u001b[A\n",
      " 19%|███████████████▎                                                               | 222/1147 [01:31<05:24,  2.85it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 2/2 [00:00<00:00, 17.02it/s]\u001b[A\n",
      " 20%|███████████████▊                                                               | 229/1147 [01:33<04:04,  3.75it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00, 16.47it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:00<00:00, 11.23it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:00<00:00, 10.41it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:00<00:00,  9.59it/s]\u001b[A\n",
      " 21%|████████████████▌                                                              | 241/1147 [01:35<01:48,  8.35it/s]\n",
      "  0%|                                                                                           | 0/15 [00:00<?, ?it/s]\u001b[A\n",
      " 13%|███████████                                                                        | 2/15 [00:00<00:02,  5.11it/s]\u001b[A\n",
      " 27%|██████████████████████▏                                                            | 4/15 [00:00<00:01,  7.44it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 6/15 [00:00<00:01,  7.54it/s]\u001b[A\n",
      " 47%|██████████████████████████████████████▋                                            | 7/15 [00:00<00:00,  8.02it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 9/15 [00:01<00:00,  9.34it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▏                     | 11/15 [00:01<00:00,  8.39it/s]\u001b[A\n",
      " 80%|█████████████████████████████████████████████████████████████████▌                | 12/15 [00:01<00:00,  7.73it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 15/15 [00:01<00:00,  7.86it/s]\u001b[A\n",
      " 21%|████████████████▋                                                              | 243/1147 [01:37<06:58,  2.16it/s]\n",
      "  0%|                                                                                           | 0/15 [00:00<?, ?it/s]\u001b[A\n",
      " 13%|███████████                                                                        | 2/15 [00:00<00:00, 18.34it/s]\u001b[A\n",
      " 27%|██████████████████████▏                                                            | 4/15 [00:00<00:00, 13.43it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 6/15 [00:00<00:00, 11.01it/s]\u001b[A\n",
      " 53%|████████████████████████████████████████████▎                                      | 8/15 [00:00<00:00, 10.42it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 10/15 [00:01<00:00,  5.79it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▏                     | 11/15 [00:01<00:00,  5.69it/s]\u001b[A\n",
      " 80%|█████████████████████████████████████████████████████████████████▌                | 12/15 [00:01<00:00,  6.00it/s]\u001b[A\n",
      " 87%|███████████████████████████████████████████████████████████████████████           | 13/15 [00:01<00:00,  6.37it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████████▌     | 14/15 [00:01<00:00,  6.65it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 15/15 [00:02<00:00,  6.35it/s]\u001b[A\n",
      " 21%|████████████████▊                                                              | 245/1147 [01:40<12:03,  1.25it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 14.84it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00,  9.15it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00,  9.38it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00,  7.92it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  7.83it/s]\u001b[A\n",
      " 21%|████████████████▉                                                              | 246/1147 [01:41<13:57,  1.08it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 22%|██████████████████▋                                                                 | 2/9 [00:00<00:00, 11.51it/s]\u001b[A\n",
      " 44%|█████████████████████████████████████▎                                              | 4/9 [00:00<00:01,  3.60it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:01<00:00,  4.14it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:01<00:00,  4.47it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:01<00:00,  4.98it/s]\u001b[A\n",
      " 89%|██████████████████████████████████████████████████████████████████████████▋         | 8/9 [00:01<00:00,  4.99it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:02<00:00,  4.36it/s]\u001b[A\n",
      " 22%|█████████████████                                                              | 247/1147 [01:43<18:27,  1.23s/it]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00, 18.28it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:00<00:00, 13.51it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:00<00:00, 11.08it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 10.45it/s]\u001b[A\n",
      " 22%|█████████████████▋                                                             | 257/1147 [01:46<03:47,  3.91it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 60%|██████████████████████████████████████████████████▍                                 | 3/5 [00:00<00:00, 15.63it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00, 10.42it/s]\u001b[A\n",
      " 23%|██████████████████▏                                                            | 264/1147 [01:48<03:54,  3.77it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00,  8.38it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00,  6.21it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  4.68it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:01<00:00,  4.23it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:01<00:00,  3.75it/s]\u001b[A\n",
      " 24%|██████████████████▋                                                            | 272/1147 [01:51<02:43,  5.34it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 19.78it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 11.36it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  6.72it/s]\u001b[A\n",
      " 24%|██████████████████▊                                                            | 274/1147 [01:52<05:21,  2.72it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00, 18.97it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:00<00:00, 11.29it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:00<00:00,  9.97it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:00<00:00,  8.78it/s]\u001b[A\n",
      " 28%|█████████████████████▉                                                         | 318/1147 [02:00<02:38,  5.23it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 22%|██████████████████▋                                                                 | 2/9 [00:00<00:00, 13.55it/s]\u001b[A\n",
      " 44%|█████████████████████████████████████▎                                              | 4/9 [00:00<00:00, 13.11it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:00<00:00, 12.95it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 11.81it/s]\u001b[A\n",
      " 30%|███████████████████████▌                                                       | 342/1147 [02:06<03:14,  4.15it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 22.43it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  9.56it/s]\u001b[A\n",
      " 30%|███████████████████████▋                                                       | 344/1147 [02:07<03:56,  3.40it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 18%|███████████████                                                                    | 2/11 [00:00<00:00, 17.96it/s]\u001b[A\n",
      " 36%|██████████████████████████████▏                                                    | 4/11 [00:00<00:00, 11.23it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:00<00:00,  9.99it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:00<00:00,  9.23it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:00<00:00,  9.07it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  8.85it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  8.43it/s]\u001b[A\n",
      " 30%|███████████████████████▉                                                       | 348/1147 [02:09<05:26,  2.45it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00, 15.39it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00, 10.11it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  8.41it/s]\u001b[A\n",
      " 31%|████████████████████████▏                                                      | 351/1147 [02:10<05:10,  2.56it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 15.19it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00, 10.36it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00,  9.57it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00,  8.93it/s]\u001b[A\n",
      " 90%|██████████████████████████████████████████████████████████████████████████▋        | 9/10 [00:00<00:00,  9.07it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  8.63it/s]\u001b[A\n",
      " 33%|██████████████████████████▎                                                    | 382/1147 [02:17<03:36,  3.54it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 11.12it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  6.15it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00,  5.57it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:01<00:00,  5.41it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  5.12it/s]\u001b[A\n",
      " 34%|██████████████████████████▉                                                    | 391/1147 [02:20<02:49,  4.46it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:01,  2.74it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  4.96it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:01<00:00,  5.71it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:01<00:00,  4.60it/s]\u001b[A\n",
      " 34%|██████████████████████████▉                                                    | 392/1147 [02:21<07:00,  1.80it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 11.61it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  7.25it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  6.05it/s]\u001b[A\n",
      " 36%|████████████████████████████▏                                                  | 410/1147 [02:26<02:56,  4.19it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00,  7.92it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  5.47it/s]\u001b[A\n",
      " 37%|████████████████████████████▊                                                  | 419/1147 [02:28<02:14,  5.42it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 10.68it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00,  7.75it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  4.28it/s]\u001b[A\n",
      " 37%|█████████████████████████████▌                                                 | 430/1147 [02:32<02:53,  4.13it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 13.62it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  7.45it/s]\u001b[A\n",
      " 39%|███████████████████████████████▏                                               | 453/1147 [02:37<01:20,  8.66it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 22%|██████████████████▋                                                                 | 2/9 [00:00<00:00, 15.36it/s]\u001b[A\n",
      " 44%|█████████████████████████████████████▎                                              | 4/9 [00:00<00:00,  9.97it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:00<00:00,  8.16it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:00<00:00,  7.93it/s]\u001b[A\n",
      " 89%|██████████████████████████████████████████████████████████████████████████▋         | 8/9 [00:01<00:00,  3.78it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:01<00:00,  5.16it/s]\u001b[A\n",
      " 40%|███████████████████████████████▉                                               | 463/1147 [02:39<01:31,  7.52it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 10.50it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00, 11.72it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  8.87it/s]\u001b[A\n",
      " 42%|█████████████████████████████████                                              | 480/1147 [02:42<01:19,  8.38it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00,  3.79it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  4.51it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:01<00:00,  4.89it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:01<00:00,  4.18it/s]\u001b[A\n",
      " 42%|█████████████████████████████████▎                                             | 483/1147 [02:44<03:44,  2.96it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 18.65it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  7.54it/s]\u001b[A\n",
      " 42%|█████████████████████████████████▍                                             | 485/1147 [02:45<03:55,  2.81it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00, 12.46it/s]\u001b[A\n",
      " 43%|██████████████████████████████████▏                                            | 496/1147 [02:48<02:31,  4.30it/s]\n",
      "  0%|                                                                                           | 0/14 [00:00<?, ?it/s]\u001b[A\n",
      " 14%|███████████▊                                                                       | 2/14 [00:00<00:01,  8.70it/s]\u001b[A\n",
      " 21%|█████████████████▊                                                                 | 3/14 [00:00<00:01,  8.93it/s]\u001b[A\n",
      " 29%|███████████████████████▋                                                           | 4/14 [00:00<00:01,  6.13it/s]\u001b[A\n",
      " 36%|█████████████████████████████▋                                                     | 5/14 [00:00<00:01,  6.00it/s]\u001b[A\n",
      " 43%|███████████████████████████████████▌                                               | 6/14 [00:00<00:01,  5.33it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████▌                                         | 7/14 [00:01<00:01,  5.10it/s]\u001b[A\n",
      " 57%|███████████████████████████████████████████████▍                                   | 8/14 [00:01<00:01,  5.26it/s]\u001b[A\n",
      " 64%|█████████████████████████████████████████████████████▎                             | 9/14 [00:01<00:01,  4.83it/s]\u001b[A\n",
      " 71%|██████████████████████████████████████████████████████████▌                       | 10/14 [00:01<00:00,  5.01it/s]\u001b[A\n",
      " 79%|████████████████████████████████████████████████████████████████▍                 | 11/14 [00:02<00:00,  4.90it/s]\u001b[A\n",
      " 86%|██████████████████████████████████████████████████████████████████████▎           | 12/14 [00:02<00:00,  5.03it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████████▏     | 13/14 [00:02<00:00,  5.20it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 14/14 [00:02<00:00,  5.10it/s]\u001b[A\n",
      " 44%|██████████████████████████████████▎                                            | 499/1147 [02:52<06:40,  1.62it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 19.32it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00, 15.21it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00, 11.71it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00, 11.20it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:00<00:00, 10.78it/s]\u001b[A\n",
      " 45%|███████████████████████████████████▌                                           | 516/1147 [02:56<01:27,  7.19it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 15.47it/s]\u001b[A\n",
      " 47%|████████████████████████████████████▉                                          | 537/1147 [03:00<02:20,  4.35it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00, 22.25it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:00<00:00, 16.14it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 14.30it/s]\u001b[A\n",
      " 47%|█████████████████████████████████████                                          | 539/1147 [03:01<02:58,  3.40it/s]\n",
      "  0%|                                                                                           | 0/13 [00:00<?, ?it/s]\u001b[A\n",
      " 23%|███████████████████▏                                                               | 3/13 [00:00<00:00, 17.15it/s]\u001b[A\n",
      " 38%|███████████████████████████████▉                                                   | 5/13 [00:00<00:00, 12.47it/s]\u001b[A\n",
      " 54%|████████████████████████████████████████████▋                                      | 7/13 [00:00<00:00, 10.32it/s]\u001b[A\n",
      " 69%|█████████████████████████████████████████████████████████▍                         | 9/13 [00:00<00:00, 10.40it/s]\u001b[A\n",
      " 85%|█████████████████████████████████████████████████████████████████████▍            | 11/13 [00:01<00:00,  9.20it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 13/13 [00:01<00:00,  9.46it/s]\u001b[A\n",
      " 49%|██████████████████████████████████████▋                                        | 561/1147 [03:07<01:24,  6.92it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00,  6.39it/s]\u001b[A\n",
      " 49%|██████████████████████████████████████▊                                        | 564/1147 [03:08<02:25,  4.01it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:01,  2.87it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:01,  3.61it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:01<00:00,  4.49it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:01<00:00,  4.98it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:01<00:00,  5.33it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  4.36it/s]\u001b[A\n",
      " 50%|███████████████████████████████████████▏                                       | 569/1147 [03:10<02:58,  3.24it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00,  8.99it/s]\u001b[A\n",
      " 60%|██████████████████████████████████████████████████▍                                 | 3/5 [00:00<00:00,  4.39it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  4.75it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  3.89it/s]\u001b[A\n",
      " 51%|████████████████████████████████████████                                       | 581/1147 [03:14<02:26,  3.86it/s]\n",
      "  0%|                                                                                            | 0/2 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 2/2 [00:00<00:00,  3.48it/s]\u001b[A\n",
      " 52%|████████████████████████████████████████▉                                      | 594/1147 [03:16<01:14,  7.42it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 11.43it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00, 12.39it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  9.47it/s]\u001b[A\n",
      " 52%|█████████████████████████████████████████▏                                     | 598/1147 [03:17<01:44,  5.28it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00, 13.24it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  8.13it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:00<00:00,  7.58it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  6.69it/s]\u001b[A\n",
      " 53%|█████████████████████████████████████████▉                                     | 608/1147 [03:20<01:46,  5.05it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 19.36it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 12.20it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  9.56it/s]\u001b[A\n",
      " 53%|██████████████████████████████████████████▏                                    | 612/1147 [03:21<01:53,  4.71it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:00, 17.81it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:00<00:00, 14.30it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:00<00:00, 11.18it/s]\u001b[A\n",
      " 54%|██████████████████████████████████████████▊                                    | 621/1147 [03:23<01:33,  5.60it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 27%|██████████████████████▋                                                            | 3/11 [00:00<00:00, 15.89it/s]\u001b[A\n",
      " 45%|█████████████████████████████████████▋                                             | 5/11 [00:00<00:00, 11.65it/s]\u001b[A\n",
      " 64%|████████████████████████████████████████████████████▊                              | 7/11 [00:01<00:00,  4.53it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:01<00:00,  5.16it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:01<00:00,  5.57it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  6.07it/s]\u001b[A\n",
      " 55%|███████████████████████████████████████████                                    | 626/1147 [03:26<02:23,  3.64it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 18%|███████████████                                                                    | 2/11 [00:00<00:00, 17.99it/s]\u001b[A\n",
      " 36%|██████████████████████████████▏                                                    | 4/11 [00:00<00:00, 10.50it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:00<00:00,  9.28it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:00<00:00,  8.99it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:00<00:00,  8.36it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  8.01it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  8.05it/s]\u001b[A\n",
      " 55%|███████████████████████████████████████████▋                                   | 635/1147 [03:28<01:37,  5.26it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00, 12.84it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  6.18it/s]\u001b[A\n",
      " 83%|██████████████████████████████████████████████████████████████████████              | 5/6 [00:00<00:00,  6.23it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:01<00:00,  5.60it/s]\u001b[A\n",
      " 55%|███████████████████████████████████████████▊                                   | 636/1147 [03:29<03:31,  2.42it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00,  2.48it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 3/4 [00:01<00:00,  2.88it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:01<00:00,  2.59it/s]\u001b[A\n",
      " 57%|█████████████████████████████████████████████▏                                 | 656/1147 [03:33<01:12,  6.79it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  8.82it/s]\u001b[A\n",
      " 57%|█████████████████████████████████████████████▍                                 | 659/1147 [03:34<01:25,  5.68it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00,  8.59it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:00,  7.05it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:01<00:01,  2.33it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:01<00:01,  2.94it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:01<00:00,  3.56it/s]\u001b[A\n",
      " 88%|█████████████████████████████████████████████████████████████████████████▌          | 7/8 [00:01<00:00,  3.87it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:02<00:00,  3.55it/s]\u001b[A\n",
      " 59%|██████████████████████████████████████████████▍                                | 674/1147 [03:38<01:22,  5.75it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 16.68it/s]\u001b[A\n",
      " 59%|██████████████████████████████████████████████▋                                | 677/1147 [03:39<01:15,  6.21it/s]\n",
      "  0%|                                                                                           | 0/12 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|████████████████████▊                                                              | 3/12 [00:00<00:00, 18.01it/s]\u001b[A\n",
      " 42%|██████████████████████████████████▌                                                | 5/12 [00:00<00:00, 12.18it/s]\u001b[A\n",
      " 58%|████████████████████████████████████████████████▍                                  | 7/12 [00:00<00:00,  7.83it/s]\u001b[A\n",
      " 75%|██████████████████████████████████████████████████████████████▎                    | 9/12 [00:00<00:00,  8.36it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:01<00:00,  9.17it/s]\u001b[A\n",
      " 60%|███████████████████████████████████████████████▎                               | 687/1147 [03:44<02:21,  3.26it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 22%|██████████████████▋                                                                 | 2/9 [00:00<00:00,  7.42it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00,  7.68it/s]\u001b[A\n",
      " 44%|█████████████████████████████████████▎                                              | 4/9 [00:00<00:00,  7.91it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:01<00:01,  2.92it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:01<00:00,  3.54it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:01<00:00,  4.06it/s]\u001b[A\n",
      " 89%|██████████████████████████████████████████████████████████████████████████▋         | 8/9 [00:01<00:00,  4.96it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:02<00:00,  4.50it/s]\u001b[A\n",
      " 60%|███████████████████████████████████████████████▌                               | 691/1147 [03:47<03:36,  2.11it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 2/6 [00:00<00:00, 15.19it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 4/6 [00:00<00:00,  9.56it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  7.88it/s]\u001b[A\n",
      " 61%|███████████████████████████████████████████████▊                               | 694/1147 [03:48<02:53,  2.60it/s]\n",
      "  0%|                                                                                           | 0/30 [00:00<?, ?it/s]\u001b[A\n",
      "  7%|█████▌                                                                             | 2/30 [00:00<00:01, 15.69it/s]\u001b[A\n",
      " 13%|███████████                                                                        | 4/30 [00:00<00:02,  9.23it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 6/30 [00:00<00:02,  9.99it/s]\u001b[A\n",
      " 27%|██████████████████████▏                                                            | 8/30 [00:00<00:02, 10.19it/s]\u001b[A\n",
      " 33%|███████████████████████████▎                                                      | 10/30 [00:00<00:02,  9.98it/s]\u001b[A\n",
      " 40%|████████████████████████████████▊                                                 | 12/30 [00:01<00:01, 10.60it/s]\u001b[A\n",
      " 47%|██████████████████████████████████████▎                                           | 14/30 [00:02<00:03,  4.20it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████                                         | 15/30 [00:02<00:03,  4.59it/s]\u001b[A\n",
      " 57%|██████████████████████████████████████████████▍                                   | 17/30 [00:02<00:02,  5.39it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▏                                | 18/30 [00:02<00:02,  5.91it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 20/30 [00:02<00:01,  6.63it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▏                     | 22/30 [00:03<00:01,  7.67it/s]\u001b[A\n",
      " 77%|██████████████████████████████████████████████████████████████▊                   | 23/30 [00:03<00:00,  7.00it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 25/30 [00:03<00:00,  7.26it/s]\u001b[A\n",
      " 87%|███████████████████████████████████████████████████████████████████████           | 26/30 [00:03<00:00,  6.81it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████████▌     | 28/30 [00:03<00:00,  7.38it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 30/30 [00:04<00:00,  6.97it/s]\u001b[A\n",
      " 61%|███████████████████████████████████████████████▊                               | 695/1147 [03:53<11:52,  1.58s/it]\n",
      "  0%|                                                                                           | 0/30 [00:00<?, ?it/s]\u001b[A\n",
      "  7%|█████▌                                                                             | 2/30 [00:00<00:01, 15.41it/s]\u001b[A\n",
      " 13%|███████████                                                                        | 4/30 [00:00<00:02,  9.18it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 6/30 [00:00<00:02,  9.97it/s]\u001b[A\n",
      " 27%|██████████████████████▏                                                            | 8/30 [00:00<00:02, 10.19it/s]\u001b[A\n",
      " 33%|███████████████████████████▎                                                      | 10/30 [00:00<00:02,  9.78it/s]\u001b[A\n",
      " 40%|████████████████████████████████▊                                                 | 12/30 [00:01<00:01, 10.23it/s]\u001b[A\n",
      " 47%|██████████████████████████████████████▎                                           | 14/30 [00:01<00:02,  7.27it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████                                         | 15/30 [00:01<00:02,  7.27it/s]\u001b[A\n",
      " 57%|██████████████████████████████████████████████▍                                   | 17/30 [00:02<00:03,  4.17it/s]\u001b[A\n",
      " 63%|███████████████████████████████████████████████████▉                              | 19/30 [00:02<00:02,  5.17it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 20/30 [00:02<00:01,  5.48it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▏                     | 22/30 [00:03<00:01,  6.66it/s]\u001b[A\n",
      " 77%|██████████████████████████████████████████████████████████████▊                   | 23/30 [00:03<00:01,  6.31it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 25/30 [00:03<00:00,  6.80it/s]\u001b[A\n",
      " 87%|███████████████████████████████████████████████████████████████████████           | 26/30 [00:03<00:00,  6.54it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████████▌     | 28/30 [00:03<00:00,  7.16it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 30/30 [00:04<00:00,  6.96it/s]\u001b[A\n",
      " 61%|███████████████████████████████████████████████▉                               | 696/1147 [03:57<18:09,  2.41s/it]\n",
      "  0%|                                                                                           | 0/30 [00:00<?, ?it/s]\u001b[A\n",
      "  7%|█████▌                                                                             | 2/30 [00:00<00:01, 14.35it/s]\u001b[A\n",
      " 13%|███████████                                                                        | 4/30 [00:00<00:02,  8.96it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 6/30 [00:00<00:02,  9.87it/s]\u001b[A\n",
      " 27%|██████████████████████▏                                                            | 8/30 [00:00<00:02, 10.11it/s]\u001b[A\n",
      " 33%|███████████████████████████▎                                                      | 10/30 [00:01<00:02,  9.83it/s]\u001b[A\n",
      " 40%|████████████████████████████████▊                                                 | 12/30 [00:01<00:01, 10.48it/s]\u001b[A\n",
      " 47%|██████████████████████████████████████▎                                           | 14/30 [00:01<00:02,  7.64it/s]\u001b[A\n",
      " 50%|█████████████████████████████████████████                                         | 15/30 [00:01<00:01,  7.73it/s]\u001b[A\n",
      " 57%|██████████████████████████████████████████████▍                                   | 17/30 [00:01<00:01,  7.99it/s]\u001b[A\n",
      " 63%|███████████████████████████████████████████████████▉                              | 19/30 [00:02<00:01,  8.68it/s]\u001b[A\n",
      " 67%|██████████████████████████████████████████████████████▋                           | 20/30 [00:02<00:01,  8.38it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▏                     | 22/30 [00:02<00:00,  9.13it/s]\u001b[A\n",
      " 77%|██████████████████████████████████████████████████████████████▊                   | 23/30 [00:03<00:01,  3.82it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 25/30 [00:03<00:01,  4.57it/s]\u001b[A\n",
      " 87%|███████████████████████████████████████████████████████████████████████           | 26/30 [00:03<00:00,  4.79it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████████▌     | 28/30 [00:03<00:00,  5.80it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 30/30 [00:04<00:00,  6.94it/s]\u001b[A\n",
      " 61%|████████████████████████████████████████████████▌                              | 705/1147 [04:03<03:48,  1.93it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 19.09it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  9.59it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████▋                              | 707/1147 [04:04<03:21,  2.18it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 18.99it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 12.07it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  9.61it/s]\u001b[A\n",
      " 62%|█████████████████████████████████████████████████▏                             | 715/1147 [04:07<02:00,  3.59it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 2/2 [00:00<00:00, 12.01it/s]\u001b[A\n",
      " 63%|█████████████████████████████████████████████████▊                             | 723/1147 [04:08<01:05,  6.51it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00, 16.19it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:00<00:00, 11.63it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:00<00:00, 10.03it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00,  9.47it/s]\u001b[A\n",
      " 65%|███████████████████████████████████████████████████▍                           | 746/1147 [04:14<01:01,  6.48it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 18.68it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  6.88it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  6.34it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  6.11it/s]\u001b[A\n",
      " 66%|████████████████████████████████████████████████████▏                          | 758/1147 [04:17<00:54,  7.16it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 19.30it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:01<00:00,  3.42it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  3.93it/s]\u001b[A\n",
      " 66%|████████████████████████████████████████████████████▍                          | 762/1147 [04:19<01:47,  3.57it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00,  9.40it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 3/4 [00:00<00:00,  8.56it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  5.47it/s]\u001b[A\n",
      " 67%|█████████████████████████████████████████████████████                          | 770/1147 [04:21<01:21,  4.64it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  7.71it/s]\u001b[A\n",
      " 67%|█████████████████████████████████████████████████████▏                         | 773/1147 [04:21<01:25,  4.36it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 17.02it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00,  9.65it/s]\u001b[A\n",
      " 70%|███████████████████████████████████████████████████████▎                       | 803/1147 [04:28<01:13,  4.65it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 16.46it/s]\u001b[A\n",
      " 70%|███████████████████████████████████████████████████████▌                       | 807/1147 [04:29<00:58,  5.78it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 2/3 [00:01<00:00,  1.70it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:02<00:00,  1.37it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████▏                      | 815/1147 [04:32<01:19,  4.20it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 11.56it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00, 12.58it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  9.79it/s]\u001b[A\n",
      " 72%|████████████████████████████████████████████████████████▌                      | 821/1147 [04:35<02:06,  2.59it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00, 13.46it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:00<00:00,  7.88it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:00<00:00,  7.63it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:01<00:00,  2.77it/s]\u001b[A\n",
      " 88%|█████████████████████████████████████████████████████████████████████████▌          | 7/8 [00:01<00:00,  3.36it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:02<00:00,  3.94it/s]\u001b[A\n",
      " 72%|█████████████████████████████████████████████████████████                      | 829/1147 [04:38<01:13,  4.33it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 15.46it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00,  8.91it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  7.68it/s]\u001b[A\n",
      " 73%|█████████████████████████████████████████████████████████▍                     | 834/1147 [04:39<01:09,  4.50it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 14.98it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 10.04it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  8.97it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  8.35it/s]\u001b[A\n",
      " 73%|█████████████████████████████████████████████████████████▉                     | 841/1147 [04:41<01:40,  3.05it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 11.77it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  6.74it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00,  6.45it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  6.17it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:02<00:00,  3.46it/s]\u001b[A\n",
      " 74%|██████████████████████████████████████████████████████████▌                    | 851/1147 [04:45<00:54,  5.46it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 25.22it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00, 16.62it/s]\u001b[A\n",
      " 74%|██████████████████████████████████████████████████████████▋                    | 852/1147 [04:45<01:13,  4.02it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 16.26it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00, 10.97it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00, 10.17it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00,  8.92it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  8.64it/s]\u001b[A\n",
      " 76%|███████████████████████████████████████████████████████████▋                   | 867/1147 [04:49<01:06,  4.21it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 60%|██████████████████████████████████████████████████▍                                 | 3/5 [00:00<00:00, 14.78it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  3.70it/s]\u001b[A\n",
      " 76%|████████████████████████████████████████████████████████████▏                  | 874/1147 [04:51<01:21,  3.37it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:00<00:00, 15.89it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:00<00:00, 12.75it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00, 10.72it/s]\u001b[A\n",
      " 77%|████████████████████████████████████████████████████████████▉                  | 885/1147 [04:54<00:36,  7.13it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00, 16.20it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████▎                 | 891/1147 [04:55<00:35,  7.22it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 22%|██████████████████▋                                                                 | 2/9 [00:00<00:00, 14.82it/s]\u001b[A\n",
      " 44%|█████████████████████████████████████▎                                              | 4/9 [00:00<00:00,  9.82it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 6/9 [00:00<00:00, 10.22it/s]\u001b[A\n",
      " 89%|██████████████████████████████████████████████████████████████████████████▋         | 8/9 [00:00<00:00,  9.38it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:01<00:00,  8.46it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████▊                | 912/1147 [05:00<00:41,  5.73it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00, 16.82it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████▉                | 914/1147 [05:00<00:43,  5.30it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 18.69it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00,  9.61it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00,  8.89it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00,  7.79it/s]\u001b[A\n",
      " 90%|██████████████████████████████████████████████████████████████████████████▋        | 9/10 [00:01<00:00,  7.27it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:01<00:00,  6.77it/s]\u001b[A\n",
      " 82%|█████████████████████████████████████████████████████████████████▏             | 946/1147 [05:09<01:43,  1.95it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:01<00:02,  1.87it/s]\u001b[A\n",
      " 43%|████████████████████████████████████                                                | 3/7 [00:01<00:01,  2.74it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:01<00:00,  3.67it/s]\u001b[A\n",
      " 71%|████████████████████████████████████████████████████████████                        | 5/7 [00:01<00:00,  4.05it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:01<00:00,  3.54it/s]\u001b[A\n",
      " 83%|█████████████████████████████████████████████████████████████████▌             | 952/1147 [05:12<00:58,  3.33it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 10.97it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  5.32it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:01<00:00,  4.34it/s]\u001b[A\n",
      " 84%|██████████████████████████████████████████████████████████████████▎            | 963/1147 [05:15<00:32,  5.60it/s]\n",
      "  0%|                                                                                            | 0/3 [00:00<?, ?it/s]\u001b[A\n",
      " 67%|████████████████████████████████████████████████████████                            | 2/3 [00:00<00:00,  6.66it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00,  3.17it/s]\u001b[A\n",
      " 84%|██████████████████████████████████████████████████████████████████▌            | 966/1147 [05:16<00:53,  3.39it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 20.88it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00, 12.64it/s]\u001b[A\n",
      " 85%|███████████████████████████████████████████████████████████████████            | 973/1147 [05:18<00:57,  3.03it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 27%|██████████████████████▋                                                            | 3/11 [00:00<00:00, 14.47it/s]\u001b[A\n",
      " 45%|█████████████████████████████████████▋                                             | 5/11 [00:00<00:00,  9.80it/s]\u001b[A\n",
      " 64%|████████████████████████████████████████████████████▊                              | 7/11 [00:00<00:00,  8.64it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:00<00:00,  8.07it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:01<00:00,  8.31it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  7.71it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:01<00:00,  7.47it/s]\u001b[A\n",
      " 86%|███████████████████████████████████████████████████████████████████▊           | 984/1147 [05:21<00:25,  6.30it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 11.92it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████           | 988/1147 [05:21<00:18,  8.42it/s]\n",
      "  0%|                                                                                           | 0/10 [00:00<?, ?it/s]\u001b[A\n",
      " 20%|████████████████▌                                                                  | 2/10 [00:00<00:00, 17.94it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▏                                                 | 4/10 [00:00<00:00, 14.30it/s]\u001b[A\n",
      " 60%|█████████████████████████████████████████████████▊                                 | 6/10 [00:00<00:00, 11.91it/s]\u001b[A\n",
      " 80%|██████████████████████████████████████████████████████████████████▍                | 8/10 [00:00<00:00, 11.29it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 10/10 [00:00<00:00, 10.79it/s]\u001b[A\n",
      "\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00, 16.04it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  8.67it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████▏          | 990/1147 [05:23<00:51,  3.03it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 16.02it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  7.03it/s]\u001b[A\n",
      " 87%|████████████████████████████████████████████████████████████████████▊          | 999/1147 [05:25<00:28,  5.15it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:00,  8.46it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:00,  5.68it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:01<00:02,  1.95it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:01<00:01,  2.28it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:02<00:00,  2.69it/s]\u001b[A\n",
      " 88%|█████████████████████████████████████████████████████████████████████████▌          | 7/8 [00:02<00:00,  3.05it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:02<00:00,  2.84it/s]\u001b[A\n",
      " 87%|████████████████████████████████████████████████████████████████████          | 1000/1147 [05:28<02:03,  1.19it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00,  8.50it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 3/4 [00:00<00:00,  6.24it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  4.44it/s]\u001b[A\n",
      " 90%|█████████████████████████████████████████████████████████████████████▊        | 1027/1147 [05:34<00:18,  6.47it/s]\n",
      "  0%|                                                                                            | 0/9 [00:00<?, ?it/s]\u001b[A\n",
      " 33%|████████████████████████████                                                        | 3/9 [00:00<00:00, 19.39it/s]\u001b[A\n",
      " 56%|██████████████████████████████████████████████▋                                     | 5/9 [00:00<00:00, 15.48it/s]\u001b[A\n",
      " 78%|█████████████████████████████████████████████████████████████████▎                  | 7/9 [00:00<00:00, 12.38it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 11.40it/s]\u001b[A\n",
      " 90%|██████████████████████████████████████████████████████████████████████▌       | 1037/1147 [05:37<00:21,  5.22it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 16.86it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  7.75it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  8.32it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████▉       | 1044/1147 [05:39<00:22,  4.57it/s]\n",
      "  0%|                                                                                           | 0/12 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|████████████████████▊                                                              | 3/12 [00:00<00:00, 16.16it/s]\u001b[A\n",
      " 42%|██████████████████████████████████▌                                                | 5/12 [00:00<00:00,  7.28it/s]\u001b[A\n",
      " 58%|████████████████████████████████████████████████▍                                  | 7/12 [00:00<00:00,  7.15it/s]\u001b[A\n",
      " 67%|███████████████████████████████████████████████████████▎                           | 8/12 [00:01<00:00,  6.80it/s]\u001b[A\n",
      " 83%|████████████████████████████████████████████████████████████████████▎             | 10/12 [00:01<00:00,  7.21it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:01<00:00,  7.24it/s]\u001b[A\n",
      " 92%|████████████████████████████████████████████████████████████████████████      | 1059/1147 [05:43<00:16,  5.41it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 25%|█████████████████████                                                               | 2/8 [00:00<00:01,  5.99it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:01,  4.51it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 4/8 [00:01<00:01,  3.61it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:01<00:00,  3.82it/s]\u001b[A\n",
      " 75%|███████████████████████████████████████████████████████████████                     | 6/8 [00:01<00:00,  4.43it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:01<00:00,  4.33it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████▏     | 1061/1147 [05:45<00:42,  2.03it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 15.92it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00, 11.05it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  8.73it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████▎     | 1063/1147 [05:46<00:40,  2.10it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00,  9.67it/s]\u001b[A\n",
      " 60%|██████████████████████████████████████████████████▍                                 | 3/5 [00:00<00:00,  6.50it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  5.43it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  5.37it/s]\u001b[A\n",
      " 93%|████████████████████████████████████████████████████████████████████████▌     | 1067/1147 [05:47<00:28,  2.79it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00, 10.51it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  6.33it/s]\u001b[A\n",
      " 94%|█████████████████████████████████████████████████████████████████████████     | 1075/1147 [05:50<00:28,  2.52it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 17.13it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00, 10.63it/s]\u001b[A\n",
      " 95%|█████████████████████████████████████████████████████████████████████████▉    | 1087/1147 [05:52<00:09,  6.66it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00, 12.75it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  5.99it/s]\u001b[A\n",
      " 96%|███████████████████████████████████████████████████████████████████████████   | 1104/1147 [05:58<00:11,  3.73it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 18%|███████████████                                                                    | 2/11 [00:00<00:00,  9.66it/s]\u001b[A\n",
      " 27%|██████████████████████▋                                                            | 3/11 [00:00<00:01,  6.94it/s]\u001b[A\n",
      " 36%|██████████████████████████████▏                                                    | 4/11 [00:00<00:01,  6.06it/s]\u001b[A\n",
      " 45%|█████████████████████████████████████▋                                             | 5/11 [00:00<00:01,  5.56it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:01<00:00,  5.42it/s]\u001b[A\n",
      " 64%|████████████████████████████████████████████████████▊                              | 7/11 [00:01<00:00,  5.17it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:01<00:00,  4.97it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:01<00:00,  5.76it/s]\u001b[A\n",
      " 91%|██████████████████████████████████████████████████████████████████████████▌       | 10/11 [00:01<00:00,  5.54it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:02<00:00,  5.02it/s]\u001b[A\n",
      " 96%|███████████████████████████████████████████████████████████████████████████▏  | 1106/1147 [06:00<00:25,  1.58it/s]\n",
      "  0%|                                                                                            | 0/7 [00:00<?, ?it/s]\u001b[A\n",
      " 29%|████████████████████████                                                            | 2/7 [00:00<00:00, 14.69it/s]\u001b[A\n",
      " 57%|████████████████████████████████████████████████                                    | 4/7 [00:00<00:00,  9.97it/s]\u001b[A\n",
      " 86%|████████████████████████████████████████████████████████████████████████            | 6/7 [00:00<00:00,  8.46it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:00<00:00,  7.63it/s]\u001b[A\n",
      " 97%|███████████████████████████████████████████████████████████████████████████▎  | 1107/1147 [06:01<00:28,  1.41it/s]\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 16.39it/s]\u001b[A\n",
      " 97%|███████████████████████████████████████████████████████████████████████████▍  | 1110/1147 [06:02<00:15,  2.44it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 2/4 [00:00<00:00, 12.97it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  7.67it/s]\u001b[A\n",
      " 97%|███████████████████████████████████████████████████████████████████████████▌  | 1112/1147 [06:02<00:13,  2.53it/s]\n",
      "  0%|                                                                                            | 0/6 [00:00<?, ?it/s]\u001b[A\n",
      " 50%|██████████████████████████████████████████                                          | 3/6 [00:00<00:00, 18.92it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 6/6 [00:00<00:00, 11.39it/s]\u001b[A\n",
      " 97%|███████████████████████████████████████████████████████████████████████████▊  | 1115/1147 [06:03<00:10,  3.14it/s]\n",
      "  0%|                                                                                            | 0/8 [00:00<?, ?it/s]\u001b[A\n",
      " 38%|███████████████████████████████▌                                                    | 3/8 [00:00<00:00, 18.59it/s]\u001b[A\n",
      " 62%|████████████████████████████████████████████████████▌                               | 5/8 [00:00<00:00, 15.07it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:00<00:00, 11.82it/s]\u001b[A\n",
      " 98%|████████████████████████████████████████████████████████████████████████████▎ | 1122/1147 [06:05<00:06,  3.66it/s]\n",
      "  0%|                                                                                           | 0/11 [00:00<?, ?it/s]\u001b[A\n",
      " 27%|██████████████████████▋                                                            | 3/11 [00:00<00:00, 14.28it/s]\u001b[A\n",
      " 45%|█████████████████████████████████████▋                                             | 5/11 [00:01<00:02,  2.85it/s]\u001b[A\n",
      " 55%|█████████████████████████████████████████████▎                                     | 6/11 [00:01<00:01,  3.25it/s]\u001b[A\n",
      " 64%|████████████████████████████████████████████████████▊                              | 7/11 [00:01<00:01,  3.81it/s]\u001b[A\n",
      " 73%|████████████████████████████████████████████████████████████▎                      | 8/11 [00:01<00:00,  4.53it/s]\u001b[A\n",
      " 82%|███████████████████████████████████████████████████████████████████▉               | 9/11 [00:02<00:00,  4.82it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████████| 11/11 [00:02<00:00,  4.25it/s]\u001b[A\n",
      " 99%|█████████████████████████████████████████████████████████████████████████████▍| 1138/1147 [06:12<00:02,  3.74it/s]\n",
      "  0%|                                                                                            | 0/5 [00:00<?, ?it/s]\u001b[A\n",
      " 40%|█████████████████████████████████▌                                                  | 2/5 [00:00<00:00, 14.82it/s]\u001b[A\n",
      " 80%|███████████████████████████████████████████████████████████████████▏                | 4/5 [00:00<00:00,  6.01it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 5/5 [00:00<00:00,  5.08it/s]\u001b[A\n",
      " 99%|█████████████████████████████████████████████████████████████████████████████▌| 1140/1147 [06:13<00:03,  2.33it/s]\n",
      "  0%|                                                                                            | 0/4 [00:00<?, ?it/s]\u001b[A\n",
      "100%|████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00,  9.09it/s]\u001b[A\n",
      "100%|██████████████████████████████████████████████████████████████████████████████| 1147/1147 [06:16<00:00,  3.04it/s]"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Wall time: 6min 17s\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "\n"
     ]
    }
   ],
   "source": [
    "%%time\n",
    "\n",
    "results = asyncio.run(longurllist(test=False))"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 26,
   "id": "e2d761b8-9a37-43fe-b0d4-e7379461e897",
   "metadata": {},
   "outputs": [],
   "source": [
    "import pandas as pd\n",
    "\n",
    "df = pd.DataFrame(results, columns=['show', 'episode', 'conversation'])"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 32,
   "id": "30590a87-ef08-4bf4-bbd8-fefff8256582",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/html": [
       "<div>\n",
       "<style scoped>\n",
       "    .dataframe tbody tr th:only-of-type {\n",
       "        vertical-align: middle;\n",
       "    }\n",
       "\n",
       "    .dataframe tbody tr th {\n",
       "        vertical-align: top;\n",
       "    }\n",
       "\n",
       "    .dataframe thead th {\n",
       "        text-align: right;\n",
       "    }\n",
       "</style>\n",
       "<table border=\"1\" class=\"dataframe\">\n",
       "  <thead>\n",
       "    <tr style=\"text-align: right;\">\n",
       "      <th></th>\n",
       "      <th>show</th>\n",
       "      <th>episode</th>\n",
       "      <th>conversation</th>\n",
       "    </tr>\n",
       "  </thead>\n",
       "  <tbody>\n",
       "    <tr>\n",
       "      <th>0</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Bianca: How do I look?\\nKat: Shallow.\\nBianca:...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>1</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Kat: What do you want?\\nPatrick: What you mean...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>2</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Bianca: [to Kat] You've ruined my chances of b...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>3</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Kat: [to Patrick] Why are people scared of you...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>4</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Chastity: My neck is sore.\\nKat: That's probab...</td>\n",
       "    </tr>\n",
       "  </tbody>\n",
       "</table>\n",
       "</div>"
      ],
      "text/plain": [
       "                                     show       episode  \\\n",
       "0  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "1  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "2  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "3  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "4  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "\n",
       "                                        conversation  \n",
       "0  Bianca: How do I look?\\nKat: Shallow.\\nBianca:...  \n",
       "1  Kat: What do you want?\\nPatrick: What you mean...  \n",
       "2  Bianca: [to Kat] You've ruined my chances of b...  \n",
       "3  Kat: [to Patrick] Why are people scared of you...  \n",
       "4  Chastity: My neck is sore.\\nKat: That's probab...  "
      ]
     },
     "execution_count": 32,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "df.head()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 33,
   "id": "fc5ad237-db2e-4df8-8f0c-a4351f247792",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "Conversation(quotes=[Quote(speaker='Bianca', text='How do I look?'), Quote(speaker='Kat', text='Shallow.'), Quote(speaker='Bianca', text='(happy) Thank you!')])"
      ]
     },
     "execution_count": 33,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "df['conversation'][0]"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 93,
   "id": "4a40281b-d690-48da-8825-64eba0da66a8",
   "metadata": {},
   "outputs": [],
   "source": [
    "import unicodedata\n",
    "\n",
    "def format_example_2(convo: Conversation) -> dict:\n",
    "    input_text = \"\\n\".join(str(quote) for quote in convo.quotes[:-1])\n",
    "    try:\n",
    "        target_text = convo.quotes[-1].text\n",
    "    except IndexError:\n",
    "        print(convo)\n",
    "        return None\n",
    "    try:\n",
    "        return {\n",
    "            k: unicodedata.normalize('NFKD', v).encode('ASCII', 'ignore').decode()\n",
    "            for k, v in {\"input_text\": input_text, \"speaker\": convo.quotes[-1].speaker, \"target_text\": target_text}.items()\n",
    "        }\n",
    "    except AttributeError:\n",
    "        return None"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 94,
   "id": "cba32c14-4e87-4475-8f22-61faa74cbaa5",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Wall time: 128 ms\n"
     ]
    }
   ],
   "source": [
    "%%time\n",
    "\n",
    "df = df.assign(turns=df['conversation'].apply(lambda c: len(c.quotes)))"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 95,
   "id": "529f3ac5-2960-406f-91b2-84cb1807d2d9",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "\n",
      "\n",
      "\n",
      "\n"
     ]
    }
   ],
   "source": [
    "df['tgtdict'] = df['conversation'].apply(format_example_2)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 96,
   "id": "8b35bb30-ebab-4d50-8ac3-fecba5579290",
   "metadata": {},
   "outputs": [],
   "source": [
    "train_df = df.dropna(subset=['tgtdict'])"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 97,
   "id": "d0e0909d-3b31-43bb-ac46-3ff261d30864",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "(145354, 139823)"
      ]
     },
     "execution_count": 97,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "len(df), len(train_df)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 98,
   "id": "2c78e569-8338-450e-b52b-9396cf292cbd",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Wall time: 23.2 s\n"
     ]
    }
   ],
   "source": [
    "%%time\n",
    "\n",
    "train_df = train_df.join(train_df['tgtdict'].apply(pd.Series))"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 99,
   "id": "ef00e42c-3bdc-4f9b-9a98-09fc35d86724",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/html": [
       "<div>\n",
       "<style scoped>\n",
       "    .dataframe tbody tr th:only-of-type {\n",
       "        vertical-align: middle;\n",
       "    }\n",
       "\n",
       "    .dataframe tbody tr th {\n",
       "        vertical-align: top;\n",
       "    }\n",
       "\n",
       "    .dataframe thead th {\n",
       "        text-align: right;\n",
       "    }\n",
       "</style>\n",
       "<table border=\"1\" class=\"dataframe\">\n",
       "  <thead>\n",
       "    <tr style=\"text-align: right;\">\n",
       "      <th></th>\n",
       "      <th>show</th>\n",
       "      <th>episode</th>\n",
       "      <th>conversation</th>\n",
       "      <th>tgtdict</th>\n",
       "      <th>turns</th>\n",
       "      <th>input_text</th>\n",
       "      <th>speaker</th>\n",
       "      <th>target_text</th>\n",
       "    </tr>\n",
       "  </thead>\n",
       "  <tbody>\n",
       "    <tr>\n",
       "      <th>0</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Bianca: How do I look?\\nKat: Shallow.\\nBianca:...</td>\n",
       "      <td>{'input_text': 'Bianca: How do I look?\n",
       "Kat: Sh...</td>\n",
       "      <td>3</td>\n",
       "      <td>Bianca: How do I look?\\nKat: Shallow.</td>\n",
       "      <td>Bianca</td>\n",
       "      <td>(happy) Thank you!</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>1</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Kat: What do you want?\\nPatrick: What you mean...</td>\n",
       "      <td>{'input_text': 'Kat: What do you want?\n",
       "Patrick...</td>\n",
       "      <td>6</td>\n",
       "      <td>Kat: What do you want?\\nPatrick: What you mean...</td>\n",
       "      <td>Patrick</td>\n",
       "      <td>[smiling] : Sure they are. That's why I find y...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>2</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Bianca: [to Kat] You've ruined my chances of b...</td>\n",
       "      <td>{'input_text': 'Bianca: [to Kat] You've ruined...</td>\n",
       "      <td>4</td>\n",
       "      <td>Bianca: [to Kat] You've ruined my chances of b...</td>\n",
       "      <td>Kat</td>\n",
       "      <td>Kim Jong II, the dictator of North Korea!</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>3</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Kat: [to Patrick] Why are people scared of you...</td>\n",
       "      <td>{'input_text': 'Kat: [to Patrick] Why are peop...</td>\n",
       "      <td>4</td>\n",
       "      <td>Kat: [to Patrick] Why are people scared of you...</td>\n",
       "      <td>Patrick</td>\n",
       "      <td>Sure they are. That's why I find you interesting.</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>4</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>Chastity: My neck is sore.\\nKat: That's probab...</td>\n",
       "      <td>{'input_text': 'Chastity: My neck is sore.\n",
       "Kat...</td>\n",
       "      <td>5</td>\n",
       "      <td>Chastity: My neck is sore.\\nKat: That's probab...</td>\n",
       "      <td>Kat and Bianca</td>\n",
       "      <td>Dad!</td>\n",
       "    </tr>\n",
       "  </tbody>\n",
       "</table>\n",
       "</div>"
      ],
      "text/plain": [
       "                                     show       episode  \\\n",
       "0  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "1  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "2  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "3  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "4  10 Things I Hate About You (TV series)  Pilot [1.01]   \n",
       "\n",
       "                                        conversation  \\\n",
       "0  Bianca: How do I look?\\nKat: Shallow.\\nBianca:...   \n",
       "1  Kat: What do you want?\\nPatrick: What you mean...   \n",
       "2  Bianca: [to Kat] You've ruined my chances of b...   \n",
       "3  Kat: [to Patrick] Why are people scared of you...   \n",
       "4  Chastity: My neck is sore.\\nKat: That's probab...   \n",
       "\n",
       "                                             tgtdict  turns  \\\n",
       "0  {'input_text': 'Bianca: How do I look?\n",
       "Kat: Sh...      3   \n",
       "1  {'input_text': 'Kat: What do you want?\n",
       "Patrick...      6   \n",
       "2  {'input_text': 'Bianca: [to Kat] You've ruined...      4   \n",
       "3  {'input_text': 'Kat: [to Patrick] Why are peop...      4   \n",
       "4  {'input_text': 'Chastity: My neck is sore.\n",
       "Kat...      5   \n",
       "\n",
       "                                          input_text         speaker  \\\n",
       "0              Bianca: How do I look?\\nKat: Shallow.          Bianca   \n",
       "1  Kat: What do you want?\\nPatrick: What you mean...         Patrick   \n",
       "2  Bianca: [to Kat] You've ruined my chances of b...             Kat   \n",
       "3  Kat: [to Patrick] Why are people scared of you...         Patrick   \n",
       "4  Chastity: My neck is sore.\\nKat: That's probab...  Kat and Bianca   \n",
       "\n",
       "                                         target_text  \n",
       "0                                 (happy) Thank you!  \n",
       "1  [smiling] : Sure they are. That's why I find y...  \n",
       "2          Kim Jong II, the dictator of North Korea!  \n",
       "3  Sure they are. That's why I find you interesting.  \n",
       "4                                               Dad!  "
      ]
     },
     "execution_count": 99,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "train_df.head()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 100,
   "id": "2519de2e-91a3-413c-9a0a-0705b90cca2a",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "139823"
      ]
     },
     "execution_count": 100,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "len(train_df)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 101,
   "id": "5d9f4f6e-b6a2-422d-9b65-e13fe84a68c1",
   "metadata": {},
   "outputs": [],
   "source": [
    "train_df_dropna = train_df.drop(columns=['conversation', 'tgtdict']).dropna(axis=0, how='any').dropna(axis=1, how='any')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 102,
   "id": "38920915-ac9b-4221-84f5-76e1e780806e",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "139823"
      ]
     },
     "execution_count": 102,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "len(train_df_dropna)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 103,
   "id": "3105ae82-4193-4c05-8101-649252809184",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/html": [
       "<div>\n",
       "<style scoped>\n",
       "    .dataframe tbody tr th:only-of-type {\n",
       "        vertical-align: middle;\n",
       "    }\n",
       "\n",
       "    .dataframe tbody tr th {\n",
       "        vertical-align: top;\n",
       "    }\n",
       "\n",
       "    .dataframe thead th {\n",
       "        text-align: right;\n",
       "    }\n",
       "</style>\n",
       "<table border=\"1\" class=\"dataframe\">\n",
       "  <thead>\n",
       "    <tr style=\"text-align: right;\">\n",
       "      <th></th>\n",
       "      <th>show</th>\n",
       "      <th>episode</th>\n",
       "      <th>turns</th>\n",
       "      <th>input_text</th>\n",
       "      <th>speaker</th>\n",
       "      <th>target_text</th>\n",
       "    </tr>\n",
       "  </thead>\n",
       "  <tbody>\n",
       "    <tr>\n",
       "      <th>0</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>3</td>\n",
       "      <td>Bianca: How do I look?\\nKat: Shallow.</td>\n",
       "      <td>Bianca</td>\n",
       "      <td>(happy) Thank you!</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>1</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>6</td>\n",
       "      <td>Kat: What do you want?\\nPatrick: What you mean...</td>\n",
       "      <td>Patrick</td>\n",
       "      <td>[smiling] : Sure they are. That's why I find y...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>2</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>4</td>\n",
       "      <td>Bianca: [to Kat] You've ruined my chances of b...</td>\n",
       "      <td>Kat</td>\n",
       "      <td>Kim Jong II, the dictator of North Korea!</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>3</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>4</td>\n",
       "      <td>Kat: [to Patrick] Why are people scared of you...</td>\n",
       "      <td>Patrick</td>\n",
       "      <td>Sure they are. That's why I find you interesting.</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>4</th>\n",
       "      <td>10 Things I Hate About You (TV series)</td>\n",
       "      <td>Pilot [1.01]</td>\n",
       "      <td>5</td>\n",
       "      <td>Chastity: My neck is sore.\\nKat: That's probab...</td>\n",
       "      <td>Kat and Bianca</td>\n",
       "      <td>Dad!</td>\n",
       "    </tr>\n",
       "  </tbody>\n",
       "</table>\n",
       "</div>"
      ],
      "text/plain": [
       "                                     show       episode  turns  \\\n",
       "0  10 Things I Hate About You (TV series)  Pilot [1.01]      3   \n",
       "1  10 Things I Hate About You (TV series)  Pilot [1.01]      6   \n",
       "2  10 Things I Hate About You (TV series)  Pilot [1.01]      4   \n",
       "3  10 Things I Hate About You (TV series)  Pilot [1.01]      4   \n",
       "4  10 Things I Hate About You (TV series)  Pilot [1.01]      5   \n",
       "\n",
       "                                          input_text         speaker  \\\n",
       "0              Bianca: How do I look?\\nKat: Shallow.          Bianca   \n",
       "1  Kat: What do you want?\\nPatrick: What you mean...         Patrick   \n",
       "2  Bianca: [to Kat] You've ruined my chances of b...             Kat   \n",
       "3  Kat: [to Patrick] Why are people scared of you...         Patrick   \n",
       "4  Chastity: My neck is sore.\\nKat: That's probab...  Kat and Bianca   \n",
       "\n",
       "                                         target_text  \n",
       "0                                 (happy) Thank you!  \n",
       "1  [smiling] : Sure they are. That's why I find y...  \n",
       "2          Kim Jong II, the dictator of North Korea!  \n",
       "3  Sure they are. That's why I find you interesting.  \n",
       "4                                               Dad!  "
      ]
     },
     "execution_count": 103,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "train_df_dropna.head()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 104,
   "id": "b38f8372-c7cc-4422-b30a-8fd457bd1c2b",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "\"[smiling] : Sure they are. That's why I find you interesting [he goes away in his motorcycle]\""
      ]
     },
     "execution_count": 104,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "str(train_df_dropna.iloc[1]['target_text'])"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 111,
   "id": "7d210526-ec54-40aa-9661-906d00fd5462",
   "metadata": {},
   "outputs": [],
   "source": [
    "more_than_one_turn = train_df_dropna.loc[train_df_dropna['turns'] > 1]"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 114,
   "id": "20cfd23b-27c1-4853-840b-2266a0ff7422",
   "metadata": {},
   "outputs": [],
   "source": [
    "more_than_one_turn.to_parquet(\"wikiquote_tv.parquet\", index=False)"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.9.16"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}