Upload folder using huggingface_hub

README.md

@@ -0,0 +1,72 @@
+---
+license: apache-2.0
+base_model: jackaduma/SecBERT
+tags:
+- generated_from_trainer
+metrics:
+- precision
+- recall
+- f1
+- accuracy
+model-index:
+- name: cyner_secbert
+  results: []
+---
+
+<!-- This model card has been generated automatically according to the information the Trainer had access to. You
+should probably proofread and complete it, then remove this comment. -->
+
+# cyner_secbert
+
+This model is a fine-tuned version of [jackaduma/SecBERT](https://huggingface.co/jackaduma/SecBERT) on an unknown dataset.
+It achieves the following results on the evaluation set:
+- Loss: 0.1212
+- Precision: 0.7047
+- Recall: 0.5517
+- F1: 0.6189
+- Accuracy: 0.9723
+
+## Model description
+
+More information needed
+
+## Intended uses & limitations
+
+More information needed
+
+## Training and evaluation data
+
+More information needed
+
+## Training procedure
+
+### Training hyperparameters
+
+The following hyperparameters were used during training:
+- learning_rate: 2e-05
+- train_batch_size: 8
+- eval_batch_size: 8
+- seed: 42
+- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
+- lr_scheduler_type: linear
+- num_epochs: 10.0
+
+### Training results
+
+| Training Loss | Epoch | Step | Validation Loss | Precision | Recall | F1     | Accuracy |
+|:-------------:|:-----:|:----:|:---------------:|:---------:|:------:|:------:|:--------:|
+| 0.165         | 1.42  | 500  | 0.1212          | 0.7047    | 0.5517 | 0.6189 | 0.9723   |
+| 0.04          | 2.84  | 1000 | 0.1647          | 0.6924    | 0.5147 | 0.5905 | 0.9705   |
+| 0.0156        | 4.26  | 1500 | 0.1803          | 0.6769    | 0.5351 | 0.5977 | 0.9714   |
+| 0.0087        | 5.68  | 2000 | 0.1866          | 0.6574    | 0.5415 | 0.5938 | 0.9713   |
+| 0.0036        | 7.1   | 2500 | 0.2020          | 0.6740    | 0.5492 | 0.6052 | 0.9719   |
+| 0.0024        | 8.52  | 3000 | 0.2036          | 0.6697    | 0.5568 | 0.6081 | 0.9720   |
+| 0.0018        | 9.94  | 3500 | 0.2084          | 0.6682    | 0.5504 | 0.6036 | 0.9715   |
+
+
+### Framework versions
+
+- Transformers 4.36.0.dev0
+- Pytorch 2.1.0+cu118
+- Datasets 2.14.6
+- Tokenizers 0.14.1

all_results.json

@@ -0,0 +1,25 @@
+{
+    "epoch": 10.0,
+    "eval_accuracy": 0.9723376956633307,
+    "eval_f1": 0.6189111747851002,
+    "eval_loss": 0.12117183208465576,
+    "eval_precision": 0.7047308319738989,
+    "eval_recall": 0.5517241379310345,
+    "eval_runtime": 2.6123,
+    "eval_samples": 812,
+    "eval_samples_per_second": 310.842,
+    "eval_steps_per_second": 39.047,
+    "predict_accuracy": 0.9617721913468031,
+    "predict_f1": 0.5771144278606966,
+    "predict_loss": 0.1366947442293167,
+    "predict_precision": 0.5979381443298969,
+    "predict_recall": 0.5576923076923077,
+    "predict_runtime": 2.4211,
+    "predict_samples_per_second": 308.536,
+    "predict_steps_per_second": 38.825,
+    "train_loss": 0.03371541356159882,
+    "train_runtime": 327.9315,
+    "train_samples": 2810,
+    "train_samples_per_second": 85.689,
+    "train_steps_per_second": 10.734
+}

config.json

@@ -0,0 +1,53 @@
+{
+  "_name_or_path": "jackaduma/SecBERT",
+  "architectures": [
+    "BertForTokenClassification"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "classifier_dropout": null,
+  "finetuning_task": "ner",
+  "gradient_checkpointing": false,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "id2label": {
+    "0": "B-Indicator",
+    "1": "B-Malware",
+    "2": "B-Organization",
+    "3": "B-System",
+    "4": "B-Vulnerability",
+    "5": "I-Indicator",
+    "6": "I-Malware",
+    "7": "I-Organization",
+    "8": "I-System",
+    "9": "I-Vulnerability",
+    "10": "O"
+  },
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "label2id": {
+    "B-Indicator": 0,
+    "B-Malware": 1,
+    "B-Organization": 2,
+    "B-System": 3,
+    "B-Vulnerability": 4,
+    "I-Indicator": 5,
+    "I-Malware": 6,
+    "I-Organization": 7,
+    "I-System": 8,
+    "I-Vulnerability": 9,
+    "O": 10
+  },
+  "layer_norm_eps": 1e-12,
+  "max_position_embeddings": 514,
+  "model_type": "bert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 6,
+  "pad_token_id": 0,
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.36.0.dev0",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 52000
+}

eval_results.json

@@ -0,0 +1,12 @@
+{
+    "epoch": 10.0,
+    "eval_accuracy": 0.9723376956633307,
+    "eval_f1": 0.6189111747851002,
+    "eval_loss": 0.12117183208465576,
+    "eval_precision": 0.7047308319738989,
+    "eval_recall": 0.5517241379310345,
+    "eval_runtime": 2.6123,
+    "eval_samples": 812,
+    "eval_samples_per_second": 310.842,
+    "eval_steps_per_second": 39.047
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2ae6ffbfc107a6cc1c92b020194295b5bd4d088268cdbf85cf0b981bb0e31db2
+size 331487012

predict_results.json

@@ -0,0 +1,10 @@
+{
+    "predict_accuracy": 0.9617721913468031,
+    "predict_f1": 0.5771144278606966,
+    "predict_loss": 0.1366947442293167,
+    "predict_precision": 0.5979381443298969,
+    "predict_recall": 0.5576923076923077,
+    "predict_runtime": 2.4211,
+    "predict_samples_per_second": 308.536,
+    "predict_steps_per_second": 38.825
+}

predictions.txt

@@ -0,0 +1,747 @@
+O O O O O O O O
+O O
+O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-System O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-System O O O O O O O O O O B-Organization O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O B-Malware O O O B-Organization B-Organization O O O O O O B-Organization I-Organization O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O
+B-Organization O O O B-Organization O O O O B-Organization O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-Organization O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O B-System O O O O O O
+O O O O O B-Organization O B-Organization O O O O O O O O O O O O O O O O O B-Organization O O
+O B-Organization O B-System I-System O O O O O O O O O O O O O O O O O O B-Organization O O O O O O
+O O O O O B-Organization O O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O
+O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O B-Malware O O O O B-Organization O B-System O B-Organization O
+O O O O O O B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O B-System O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Organization O O O O O O O O O O O O O
+O O B-System O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O B-System O O B-Indicator O O B-Indicator O O B-Indicator O O O O O O O O O O O O O O O O O O B-System O O O O B-Indicator O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O
+O
+O O B-System I-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O O B-System O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Organization O O
+O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O B-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O O B-System O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-Indicator O B-Indicator O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O I-Indicator O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O B-Organization O
+O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O B-Indicator O O O O O O B-Indicator O O O O O O O O O O O O O B-Indicator O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O I-Vulnerability O B-Vulnerability B-Vulnerability B-Vulnerability B-Vulnerability O O I-Indicator B-Malware O B-Vulnerability O O O O O O O O O O O O O O O O O O O O O B-System O
+O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O
+B-Malware O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O B-System O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O B-System O O O O O O O O O O O O O O O B-Indicator O O O O O O B-Indicator B-System B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-Organization O
+O O O O O O O O O O B-Indicator I-Indicator I-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O B-System O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O B-System I-System O O O O O O O O O
+O O O O B-System I-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-System O O O O O O O O O O O O O B-System O O
+O O O B-Indicator B-Indicator O O O O B-Indicator B-Indicator B-Indicator O O O B-Indicator B-Indicator O O O O O B-Indicator B-Indicator B-Indicator B-Indicator
+B-Indicator O O B-Indicator B-Indicator O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O O O O O
+B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Indicator I-Indicator
+O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O I-Indicator O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O O O O B-Indicator O O O O O O O B-Indicator O O O O O O O O O O O B-Indicator O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-Indicator O I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator O I-Indicator O I-Indicator O I-Indicator O I-Indicator O I-Indicator O O O O O B-Indicator O I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator O I-Indicator O O O I-Indicator O I-Indicator O I-Indicator O O O O B-Indicator O I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator I-Indicator O I-Indicator
+O I-Indicator O O O O O O O O O B-Indicator O I-Indicator I-Indicator I-Indicator O I-Indicator O I-Indicator O O O O O O O O O O O B-Indicator O I-Indicator I-Indicator I-Indicator O I-Indicator I-Indicator I-Indicator B-Indicator B-Indicator O O O O O O O O O O O O
+O O O B-Indicator O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator O B-Indicator O O O O O O O O O O O O O O O I-Indicator O B-Indicator O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O B-Indicator O O
+B-Indicator O O O O O O O O O O O O O O O O O B-System O O O O O O
+B-Indicator I-Indicator I-Indicator O O O O O O O O O O O O O O O O O
+B-Indicator O O O O O O O O O O O O O O O O O O O
+B-Indicator O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O
+O O O O B-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator I-Indicator O O O B-Indicator I-Indicator I-Indicator O O B-Indicator I-Indicator I-Indicator O B-Indicator O O B-Indicator I-Indicator I-Indicator
+O O O O B-Indicator I-Indicator I-Indicator O B-Indicator B-Indicator I-Indicator I-Indicator O O B-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+O B-Indicator O O B-Indicator I-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator B-Indicator B-Indicator O O B-Indicator I-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+O O B-Indicator I-Indicator I-Indicator O O O O O O O O O O O O O O O B-Indicator O O O O O B-Indicator O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-Malware O B-Indicator O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O B-Malware O O O O O O O O O B-System O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O B-Malware B-System O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O B-Malware O
+B-Malware O O O O O O O O O O O O O O O I-Organization O O O O B-System O O O O O B-Malware O O O O O O O B-System O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O B-System O B-System O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-System I-System O B-Malware O O O O O O O O O O I-System O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Organization O O O B-Malware O O O O O O B-System B-System O O B-Organization O
+O O O O O O O O O O O O B-Malware O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O
+O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O B-System O B-Indicator O B-System O O B-System I-System O
+O O O O B-Malware O O O O O O O O O O O O B-Malware O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O
+O O O O O O B-System I-System O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O O O O O B-Organization O O O B-System I-System O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System I-System O O O O O O O O O
+O B-Malware O O O O O O O O O B-Malware O O
+O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O B-Malware O O O O O O O O O O O
+O O O O I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O B-Malware O O O O I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O B-System O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O B-Malware O O O O O O O O O O O B-System O O O O O O O O O O O O O O
+O O O O O O O O O O O O O B-Indicator O O O B-Indicator O O O O O O B-Indicator O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O B-Malware O O O O O O O O I-Indicator I-Indicator
+I-Indicator I-Indicator O O B-Malware O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Malware O O B-Malware O O O O O B-Malware O O O O O O O O O O O O O O O O O O O B-System O O O O O O O
+O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O
+O O O O O B-Malware O O O B-Malware O O O O O O B-Malware O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O
+O O O O O O O O O O B-Malware O O O O B-System I-System O O O O O O O O O O O O O O B-Malware I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O B-System I-System O O O O O O O O B-Malware O O O B-Malware O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O B-System I-System O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-Indicator O O B-System O O O O O O O O O O O O B-Indicator O O
+O O O B-Malware O O O O O I-Malware O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O
+O O O O O O B-Malware O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O B-Indicator O O
+O O O O O O O O O B-Malware O O O O O O O B-Malware O
+B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O B-Organization O O
+O O O O O O O O O O
+O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O B-Malware O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O B-Indicator O O B-System O O O O O O O O O
+O O O O O B-Indicator B-Indicator B-Indicator O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-Organization O O O B-Organization O O O O B-System O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O B-System O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O I-Indicator O O O I-Indicator
+B-Malware O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-Malware O O O B-Indicator O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-Indicator O O O O O O O O O
+B-Indicator O O O O O O O O O O
+B-Indicator O O O O O O O O O O O O
+B-Indicator O O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O
+B-Indicator O O O B-Malware O O O O O O O
+B-Indicator B-Indicator O O O O O O O O
+B-Indicator O O O O O O O O O O O O O O O O
+O B-System O O O O O O O O O O O O O O O O O O O O O O O O O B-System O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O
+O O O O O O O O O O O O O O O O B-Indicator O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O B-Malware O O O O O B-System O O O O O O B-System I-System O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O
+O O B-System O O O O O O O O O O O O O O O O
+O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O O O O O O O O B-Malware O O
+O O O O O O O O O O O O O O O O O B-Malware O O O O B-Malware O
+O O O O O O O O O O O O O O O O O O O
+O O B-Malware O O O O O O O O O O O O O O O O O O O O B-Indicator O O B-Indicator O B-Indicator O O B-Indicator O O O O B-Indicator O O
+O O O O O O O O O O O O O O O O O B-Malware O B-Malware O O O O O O O I-Indicator O O
+O O O B-Malware O O O O O O O O O
+O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O B-Indicator B-Indicator B-Indicator O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O
+O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O
+O O O O B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O O O O O B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator O O O O O O O B-Indicator
+B-System O O O O O O O O O O O O O O O B-System I-System O O O B-Indicator O O O O O O O O O O
+O O O O O O O O O B-Indicator O O O O O O
+O O O O O O O O O O B-Malware O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O B-System O O O O O B-System O B-Indicator O O O O B-Indicator O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O I-Organization O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O B-Indicator O B-Indicator O O O I-Organization O O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O
+O O O B-Organization I-Organization O O O O O O O O O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O O O O
+B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator B-Indicator I-Indicator
+I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O I-Organization O O O O O O O B-Malware O O O O O O O O O O O O O O B-Organization I-System O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O
+O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O
+O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O O O O O O O O O O O B-Organization I-Organization O O O O
+O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O O O O B-Organization I-Organization O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Organization I-Organization O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-Organization I-Organization O O O O O O O O O O O O O O O O
+O O O O O O B-Malware I-Organization O O O O O I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O B-Indicator I-Indicator I-Indicator
+I-Indicator I-Indicator O O O O O O O O
+O O O O O O O O O O O O B-Malware I-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O I-System O O O O O O O O O O O O O O O O O
+O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O B-Organization O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-Malware O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-Organization O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Organization I-Organization O O O O O O O O O O O O B-System O O O O O O B-Malware O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O B-System O O O O O O B-System I-System O O O O O O
+O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O B-Indicator O
+O O O O O O O O O B-Malware O O O O O O O O O O
+O O O O O O O O O O O B-Indicator O
+O O O O O O B-Indicator O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O B-System O O O O B-Indicator O
+O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-System O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-System O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-Organization O O O O O O O O O B-Organization O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O I-System O O O O O O O O O O O O O O O O O O O
+B-System I-System I-System I-System O O O O O I-System I-System O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O I-System O O O O B-System O I-System I-System O B-Malware O O O B-System I-System O O O O O O O O O
+B-Malware O O O O O O O O O O O B-System I-System O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator B-Indicator I-Indicator I-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator
+B-Indicator O O O O O B-Indicator O O O O O O O O O O O O O O O B-Organization O O O O B-System O O O O B-Malware O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O B-Organization O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-System O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O
+O B-System O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O
+O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O B-Malware O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-System I-System O B-Organization O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-System O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O B-Indicator O B-Indicator B-Indicator B-Indicator O B-Indicator B-Indicator
+B-Indicator O B-Indicator B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator O B-Indicator
+B-Indicator B-Indicator I-System B-Indicator B-Indicator O O O O O O O O O O O B-Malware O O O O O O O O
+O O O O O O O O O O O B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O B-Indicator O O O O B-Indicator O O O B-Indicator O B-Indicator B-Indicator O O O O O B-Indicator O O O
+B-Indicator O B-Indicator O B-Indicator B-Indicator B-Indicator O B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O O O B-Indicator B-Indicator B-Indicator
+O O O B-Indicator O B-Indicator O O O O O B-Indicator O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O B-Indicator O O O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O O O O
+O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Organization O O O O O B-System O O O B-Malware O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-Organization O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O B-Indicator O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O I-Indicator I-Indicator O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O B-Indicator B-Indicator O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O B-System O B-System O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O
+O O O B-Organization I-Organization O O O O O O O O O O O O O O O O O B-Malware O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O B-Malware O O O
+O O O O O O
+O O O O O O O O O O O O B-System O O B-System I-System O
+O O O O O O O O O O B-System O O
+O O O O O O O O O O O B-System O O B-System I-System O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-System O O
+O O O O O O O O O O O O O O O O
+O O O B-System O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-Malware O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O
+O O O O O O B-System O O O B-Indicator O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O B-Organization O O B-System I-System O O O O O O O O O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O B-System O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O I-Malware O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-System O O
+O O O O O O O B-System I-System I-System O B-System I-System B-System O B-Indicator B-System B-Indicator B-System I-System B-Organization B-Indicator O O B-Malware O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-System O O O O O O O B-System O
+O O O O O O B-System O O O O O O O O O B-System O O
+O O O O B-Organization I-Organization O O O O O O B-System O O O O O O O O O O B-System O O O O O O O
+O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O B-Organization I-Organization O O O O O O O B-Malware O O B-System O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Organization O O O O O O O O O B-Malware O O O O O O O B-Indicator I-Malware O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Malware O O O O O O O O O O O O O O O O B-Malware O O O O
+O B-Malware O O O O B-Malware O O O O O O O O O O B-Organization O O O O O O O B-System O O B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O B-Malware O O O O O O O O O O O B-Indicator I-Malware O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O B-System O O O O O O
+O O O B-Malware O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-Malware O O O O O O O B-Indicator O
+O O O
+O O O O O O O O O O O O O O O O O O O
+O O O O O O B-Organization O O O O O O B-Malware O O O O O O O O B-Organization O O
+O O O O O O O O O O O O O O O O O B-Malware O O O
+O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O
+O B-Malware O O O O O O O O
+O O B-Malware O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Organization O O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O
+B-Organization O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O B-Organization O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-System O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+B-Malware O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O B-Indicator O O O O O O O O B-Indicator O O O O O B-Indicator O O
+O O O O O O O O O O B-Indicator O O O O O O O O O
+O O O O
+O O O O O O O O O B-Indicator O O O O O B-Indicator O O O O O O O O O O O O O O O O O O O
+O O O O O O O
+O B-Malware O O O O B-Indicator O O O O O O B-Indicator O O O O O O O O O O O O O O O O O O
+O O O B-Malware O B-Indicator O O O O O B-Indicator O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O O
+O O O B-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O B-System O O O O O O
+O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O B-System I-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Malware O O O
+O O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O B-Indicator O
+O O O O O O O O O O O O O O O
+B-Malware O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O I-Indicator O O O O O O O O O O O O O O O O O O O O
+O O B-Malware O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O
+O O O O O O O O O O O O O O O O B-Malware O O B-Malware I-System O O O O O O O O O O O O
+B-Malware O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O
+O O O O O O O O O O O O O O O B-Malware O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Indicator O O O O O O
+O O O O O O O B-Malware O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O
+O O O O B-Malware O O O O O O O O B-Malware O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O B-Indicator O O O O
+O O O O O O O O O O O O O O B-Malware O
+O O O O O B-Malware O O O O O O
+O O O B-Malware O O O O O
+O B-Organization I-Organization O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O B-Indicator I-Malware O O
+B-Malware I-Malware O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O B-System O O O O B-System O O O O O O O O O O O O O
+O O O O O O O B-Malware O O O O O O O O O O O O O O I-Indicator I-Indicator I-Indicator I-Indicator O O O O O O O O O O O O O O
+O O O O O O O O B-Indicator B-Indicator O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-Organization I-Organization O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O B-Malware O O O O O B-Malware I-Malware O O
+O O O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O B-System O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O B-Malware O O O O O O O B-Malware I-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O B-Organization B-System O O O O B-Organization O B-System O O O O O O O O O O O
+O O O O O O O O O O O O O O O O
+O O O O O B-System O O O O O O O O O O O O O
+O O O O O O O O O
+O O O O O O B-Organization O O O O B-System O O O O O O O O O B-System O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O B-Organization O O O O O O O
+O O O O O O O O O O O O O O O O O B-Organization O O O O O
+O O B-Organization O O O O O O O O O O O O O O B-System O O O O B-Organization O O O O O O O O O O O O O O B-System O O O O B-Organization O O O B-Organization O O O O O O O O
+O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O B-System O O B-Organization O O O O O O O O O O O O O O O O O
+B-System O O O O O O O O O O O O O O O O O O O O O O O B-Organization O O O O O O O O B-Malware O O O B-Organization O O O O O B-Organization O
+O O O O O O O O O O O O O O O O O O B-System O O O B-System O O O O O O O B-Organization O O O O
+O O O B-Malware O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O B-Malware O O O O O O O O O O O O O O O O O
+O O O O
+O O O O O O O O O O O O O O O O O O O O O B-Indicator B-Indicator B-Indicator O B-System O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-System O O O O O O B-Organization O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System I-System O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O
+O O O O O O O O O O B-System I-System O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O B-Malware O O O O B-System O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O B-System O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O B-System I-System O O O O O O O O O O O O O
+O O O O B-Organization O O O O O O O O O O O O O O O O O O O B-System I-System O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Organization O
+O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O B-Malware I-Malware O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O B-Malware O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O
+O O O O O O O O B-Malware O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O O O
+O O O O O O O B-Malware O O O O O O O O O
+O O O O O O O O O O O O O
+O O O O O O O O O O O O O O
+O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
+O O O O O O O O O O O O O O O O O O
+O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-System I-System I-System O O
+O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-Malware O O O O
+O O O O O O O O O O O O O O O O O O O O O O O O O O B-System I-System I-System O
+O O O O O O O O O O O O B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator B-Indicator O O O O O O O O O O O O O O O
+O O O O O O O O B-System I-System O
+O O O O O O O O O O O
+O O O O O O O O O O O O
+O O O O O O O O O O O O O O O
+O O O O O O O O O

runs/Nov09_20-19-16_937df8eb1e51/events.out.tfevents.1699561168.937df8eb1e51.51960.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:36a0fc5ee868cccc1d10eb2c49fcff59d432032f27487e357a45162e8b2dbde3
+size 9575

runs/Nov09_20-19-16_937df8eb1e51/events.out.tfevents.1699561500.937df8eb1e51.51960.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:72d99473900243422c7c90a8bbc48023ab6e57e71c15d3261aed248f6116b38a
+size 560

special_tokens_map.json

@@ -0,0 +1,7 @@
+{
+  "cls_token": "[CLS]",
+  "mask_token": "[MASK]",
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "unk_token": "[UNK]"
+}

tokenizer_config.json

@@ -0,0 +1,57 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "[PAD]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "[UNK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "[CLS]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "[SEP]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "4": {
+      "content": "[MASK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "[CLS]",
+  "do_basic_tokenize": true,
+  "do_lower_case": true,
+  "mask_token": "[MASK]",
+  "model_max_length": 1000000000000000019884624838656,
+  "never_split": null,
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "strip_accents": null,
+  "tokenize_chinese_chars": true,
+  "tokenizer_class": "BertTokenizer",
+  "unk_token": "[UNK]"
+}

train_results.json

@@ -0,0 +1,8 @@
+{
+    "epoch": 10.0,
+    "train_loss": 0.03371541356159882,
+    "train_runtime": 327.9315,
+    "train_samples": 2810,
+    "train_samples_per_second": 85.689,
+    "train_steps_per_second": 10.734
+}

trainer_state.json

@@ -0,0 +1,154 @@
+{
+  "best_metric": 0.12117183208465576,
+  "best_model_checkpoint": "/content/cyner_secbert/checkpoint-500",
+  "epoch": 10.0,
+  "eval_steps": 500,
+  "global_step": 3520,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.42,
+      "learning_rate": 1.715909090909091e-05,
+      "loss": 0.165,
+      "step": 500
+    },
+    {
+      "epoch": 1.42,
+      "eval_accuracy": 0.9723376956633307,
+      "eval_f1": 0.6189111747851002,
+      "eval_loss": 0.12117183208465576,
+      "eval_precision": 0.7047308319738989,
+      "eval_recall": 0.5517241379310345,
+      "eval_runtime": 2.5587,
+      "eval_samples_per_second": 317.348,
+      "eval_steps_per_second": 39.864,
+      "step": 500
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 1.431818181818182e-05,
+      "loss": 0.04,
+      "step": 1000
+    },
+    {
+      "epoch": 2.84,
+      "eval_accuracy": 0.970490120605594,
+      "eval_f1": 0.5904761904761905,
+      "eval_loss": 0.16471919417381287,
+      "eval_precision": 0.6924398625429553,
+      "eval_recall": 0.5146871008939975,
+      "eval_runtime": 1.9792,
+      "eval_samples_per_second": 410.273,
+      "eval_steps_per_second": 51.537,
+      "step": 1000
+    },
+    {
+      "epoch": 4.26,
+      "learning_rate": 1.1477272727272729e-05,
+      "loss": 0.0156,
+      "step": 1500
+    },
+    {
+      "epoch": 4.26,
+      "eval_accuracy": 0.9713625866050808,
+      "eval_f1": 0.5977175463623395,
+      "eval_loss": 0.18028192222118378,
+      "eval_precision": 0.6768982229402262,
+      "eval_recall": 0.5351213282247765,
+      "eval_runtime": 2.4993,
+      "eval_samples_per_second": 324.895,
+      "eval_steps_per_second": 40.812,
+      "step": 1500
+    },
+    {
+      "epoch": 5.68,
+      "learning_rate": 8.636363636363637e-06,
+      "loss": 0.0087,
+      "step": 2000
+    },
+    {
+      "epoch": 5.68,
+      "eval_accuracy": 0.9713112650756992,
+      "eval_f1": 0.5938375350140056,
+      "eval_loss": 0.1866268515586853,
+      "eval_precision": 0.6573643410852713,
+      "eval_recall": 0.541507024265645,
+      "eval_runtime": 2.0145,
+      "eval_samples_per_second": 403.074,
+      "eval_steps_per_second": 50.632,
+      "step": 2000
+    },
+    {
+      "epoch": 7.1,
+      "learning_rate": 5.795454545454546e-06,
+      "loss": 0.0036,
+      "step": 2500
+    },
+    {
+      "epoch": 7.1,
+      "eval_accuracy": 0.9719271234282781,
+      "eval_f1": 0.6052076002814919,
+      "eval_loss": 0.20198111236095428,
+      "eval_precision": 0.6739811912225705,
+      "eval_recall": 0.5491698595146871,
+      "eval_runtime": 2.4675,
+      "eval_samples_per_second": 329.073,
+      "eval_steps_per_second": 41.337,
+      "step": 2500
+    },
+    {
+      "epoch": 8.52,
+      "learning_rate": 2.954545454545455e-06,
+      "loss": 0.0024,
+      "step": 3000
+    },
+    {
+      "epoch": 8.52,
+      "eval_accuracy": 0.9720297664870413,
+      "eval_f1": 0.6080892608089261,
+      "eval_loss": 0.20356133580207825,
+      "eval_precision": 0.6697388632872504,
+      "eval_recall": 0.5568326947637292,
+      "eval_runtime": 2.5877,
+      "eval_samples_per_second": 313.797,
+      "eval_steps_per_second": 39.418,
+      "step": 3000
+    },
+    {
+      "epoch": 9.94,
+      "learning_rate": 1.1363636363636364e-07,
+      "loss": 0.0018,
+      "step": 3500
+    },
+    {
+      "epoch": 9.94,
+      "eval_accuracy": 0.971465229663844,
+      "eval_f1": 0.6036414565826329,
+      "eval_loss": 0.20842024683952332,
+      "eval_precision": 0.6682170542635659,
+      "eval_recall": 0.5504469987228607,
+      "eval_runtime": 1.9903,
+      "eval_samples_per_second": 407.98,
+      "eval_steps_per_second": 51.249,
+      "step": 3500
+    },
+    {
+      "epoch": 10.0,
+      "step": 3520,
+      "total_flos": 507181396306572.0,
+      "train_loss": 0.03371541356159882,
+      "train_runtime": 327.9315,
+      "train_samples_per_second": 85.689,
+      "train_steps_per_second": 10.734
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 3520,
+  "num_train_epochs": 10,
+  "save_steps": 500,
+  "total_flos": 507181396306572.0,
+  "trial_name": null,
+  "trial_params": null
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0f1203d9ce728dc57a91a50f3561223221e2fa512f233ccb3cbad42d4dc61b4c
+size 4600