beomi commited on
Commit
1c6f046
β€’
1 Parent(s): 667e155

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +97 -0
README.md ADDED
@@ -0,0 +1,97 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - en
4
+ - ko
5
+ pipeline_tag: text-generation
6
+ tags:
7
+ - facebook
8
+ - meta
9
+ - pytorch
10
+ - llama
11
+ - llama-3
12
+ - llama-3-ko
13
+ license: other
14
+ license_name: llama3
15
+ license_link: LICENSE
16
+ ---
17
+
18
+ ## Llama-3-Open-Ko-8B-Instruct-preview
19
+
20
+ **Sample usage**
21
+
22
+ ```python
23
+ from transformers import AutoTokenizer, AutoModelForCausalLM
24
+ import torch
25
+
26
+ model_id = "beomi/Llama-3-Open-Ko-8B-Instruct-preview"
27
+
28
+ tokenizer = AutoTokenizer.from_pretrained(model_id)
29
+ model = AutoModelForCausalLM.from_pretrained(
30
+ model_id,
31
+ torch_dtype="auto",
32
+ device_map="auto",
33
+ )
34
+
35
+ messages = [
36
+ {"role": "system", "content": "μΉœμ ˆν•œ μ±—λ΄‡μœΌλ‘œμ„œ μƒλŒ€λ°©μ˜ μš”μ²­μ— μ΅œλŒ€ν•œ μžμ„Έν•˜κ³  μΉœμ ˆν•˜κ²Œ λ‹΅ν•˜μž. λͺ¨λ“  λŒ€λ‹΅μ€ ν•œκ΅­μ–΄(Korean)으둜 λŒ€λ‹΅ν•΄μ€˜."},
37
+ {"role": "user", "content": "ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ΄ 뭐야? 그리고 ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ— λŒ€ν•΄ 파이썬 μ½”λ“œλ₯Ό 짜쀘볼래?"},
38
+ ]
39
+
40
+ input_ids = tokenizer.apply_chat_template(
41
+ messages,
42
+ add_generation_prompt=True,
43
+ return_tensors="pt"
44
+ ).to(model.device)
45
+
46
+ terminators = [
47
+ tokenizer.eos_token_id,
48
+ tokenizer.convert_tokens_to_ids("<|eot_id|>")
49
+ ]
50
+
51
+ outputs = model.generate(
52
+ input_ids,
53
+ max_new_tokens=512,
54
+ eos_token_id=terminators,
55
+ do_sample=True,
56
+ temperature=1,
57
+ top_p=0.9,
58
+ )
59
+ response = outputs[0][input_ids.shape[-1]:]
60
+ print(tokenizer.decode(response, skip_special_tokens=True))
61
+ ```
62
+
63
+ **Sample Output**
64
+
65
+ ```
66
+ μ—¬λŸ¬λΆ„κ»˜μ„œλŠ” λ¬Όλ‘  μ•„μ‹œλŠ”μ§€λΌλ„ μ„€λͺ…을 λ“œλ¦¬κ² μŠ΅λ‹ˆλ‹€! ν”Όλ³΄λ‚˜μΉ˜(Piconacci) μˆ˜μ—΄μ€ λ‹€μŒκ³Ό 같은 μˆ˜μ—΄μ„ λ§ν•©λ‹ˆλ‹€: 0, 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, 144, 233,.... μ΄λ ‡κ²Œ κ³„μ†λ˜κ³  μžˆμŠ΅λ‹ˆλ‹€. 이 μˆ˜μ—΄μ€ μΌλ°˜μ μœΌλ‘œλŠ” μˆ˜ν•™μ—μ„œ λ¬΄ν•œνžˆ μ§€μ†λ©λ‹ˆλ‹€. 각 μˆ˜λŠ” 이전 수의 두 λ°°κ°€ λ˜λŠ” μˆ˜μ—΄μž…λ‹ˆλ‹€.
67
+
68
+ 이 μˆ˜μ—΄μ„ 파이썬(Python)으둜 κ΅¬ν˜„ν•˜κ³ μž ν•˜μ‹ λ‹€λ©΄ λ‹€μŒκ³Ό 같은 μ½”λ“œλ₯Ό μž‘μ„±ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
69
+ ```python
70
+ def fibonacci(n):
71
+ if n == 0:
72
+ return 0
73
+ elif n == 1:
74
+ return 1
75
+ else:
76
+ return fibonacci(n-1) + fibonacci(n-2)
77
+ ```
78
+ 이 μ½”λ“œμ—μ„œλŠ” `n`이 μž…λ ₯받은 수λ₯Ό λ‚˜νƒ€λ‚΄λŠ” λ³€μˆ˜λ‘œ, ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ„ κ΅¬ν˜„ν•©λ‹ˆλ‹€. 이 μ½”λ“œλ₯Ό μ‹€ν–‰μ‹œν‚€λ©΄ μž…λ ₯받은 μˆ˜μ— 따라 ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ˜ ν•΄λ‹Ή 항을 λ°˜ν™˜ν•©λ‹ˆλ‹€. 예λ₯Ό λ“€μ–΄, `fibonacci(10)` ν•˜λ©΄ 55λ₯Ό λ°˜ν™˜ν•©λ‹ˆλ‹€.
79
+
80
+ 이 μ½”λ“œλŠ” μž¬κ·€μ  ν•¨μˆ˜μ΄κΈ° λ•Œλ¬Έμ— λ©”λͺ¨λ¦¬ μ‚¬μš©μ΄ 쀄어듀 수 μžˆμŠ΅λ‹ˆλ‹€. κ·ΈλŸ¬λ‚˜ μž¬κ·€μ  ν•¨μˆ˜λŠ” λ©”λͺ¨λ¦¬ μ‚¬μš©λŸ‰μ΄ λ§Žμ•„μ§ˆ 수 μžˆμŠ΅λ‹ˆλ‹€. 이λ₯Ό 쀄이기 μœ„ν•΄ μ΄ν„°λ ˆμ΄ν‹°λΈŒ ν•¨μˆ˜λ‘œ κ΅¬ν˜„ν•  μˆ˜λ„ μžˆμŠ΅λ‹ˆλ‹€.
81
+ ```python
82
+ a, b = 0, 1
83
+ for i in range(n):
84
+ a, b = b, a + b
85
+ ```
86
+ 이 μ½”λ“œμ—μ„œλŠ” μ΄ν„°λ ˆμ΄ν‹°λΈŒ ν•¨μˆ˜λ‘œ ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ„ κ΅¬ν˜„ν•©λ‹ˆλ‹€. 이 μ½”λ“œλ₯Ό μ‹€ν–‰μ‹œν‚€λ©΄ μž…λ ₯받은 μˆ˜μ— 따라 ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ˜ ν•΄λ‹Ή 항을 λ°˜ν™˜ν•©λ‹ˆλ‹€. 이 μ½”λ“œλŠ” λ©”λͺ¨λ¦¬ μ‚¬μš©λŸ‰μ„ μ€„μž…λ‹ˆλ‹€. λ‹€λ§Œ, 이 μ½”λ“œλŠ” 더 λ³΅μž‘ν•©λ‹ˆλ‹€. 이 μ½”λ“œλ₯Ό 더 κ°„λ‹¨ν•˜κ²Œ ν•˜λ €λ©΄ μ΄ν„°λ ˆμ΄ν‹°λΈŒ ν•¨μˆ˜λ₯Ό 더 잘 κ΅¬ν˜„ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
87
+ ```python
88
+ a, b = 0, 1
89
+ while True:
90
+ if n == 1:
91
+ return a
92
+ a, b = b, a + b
93
+ n -= 1
94
+ ```
95
+ 이 μ½”λ“œμ—μ„œλŠ” μž…λ ₯받은 μˆ˜μ— 따라 ν”Όλ³΄λ‚˜μΉ˜ μˆ˜μ—΄μ˜...
96
+ ```
97
+