koziev ilya
commited on
Commit
•
aef7293
1
Parent(s):
6ef8f14
Первый черновой вариант описания модели
Browse files
README.md
CHANGED
@@ -1,3 +1,77 @@
|
|
1 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
license: unlicense
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
---
|
2 |
+
pipeline_tag: text-generation
|
3 |
+
tags:
|
4 |
+
- PyTorch
|
5 |
+
- Transformers
|
6 |
+
- gpt2
|
7 |
+
|
8 |
license: unlicense
|
9 |
+
|
10 |
+
language: ru
|
11 |
+
|
12 |
+
widget:
|
13 |
+
- text: "- У Джульетты было 7 пончиков, а потом она 3 съела. Сколько у нее осталось пончиков? -"
|
14 |
+
- text: "- Аристотель был греческим ученым. Все греческие ученые были черноволосыми. Какой вывод можно сделать про внешность Аристотеля? -"
|
15 |
---
|
16 |
+
|
17 |
+
## Russian Chit-chat with common sence reasoning
|
18 |
+
|
19 |
+
Модель является ядром прототипа [диалоговой системы](https://github.com/Koziev/chatbot). У нее есть 2 основные функции.
|
20 |
+
|
21 |
+
Первая функция - генерация реплик чит-чата. В качестве затравки подается история диалога (предшествующие несколько реплик, до 10).
|
22 |
+
|
23 |
+
```
|
24 |
+
- Привет, как дела?
|
25 |
+
- Привет, так себе.
|
26 |
+
- <<< эту реплику ожидаем от модели >>>
|
27 |
+
```
|
28 |
+
|
29 |
+
Вторая функция модели - вывод ответа на заданный вопрос, опираясь на дополнительные факты. Предполагается, что релевантные факты извлекаются
|
30 |
+
из стороннего хранилища (базы знаний) с помощью другой модели, которую мы здесь пока не рассматриваем. Используя указанный
|
31 |
+
факт и текст вопроса, модель построит грамматичный и максимально краткий ответ, как это сделал бы человек в подобной коммуникативной ситуации. Релевантные факты
|
32 |
+
следует указывать перед текстом заданного вопроса так, будто сам собеседник сказал их:
|
33 |
+
|
34 |
+
|
35 |
+
```
|
36 |
+
- Сегодня 15 сентября. Какой сейчас у нас месяц?
|
37 |
+
- Сентябрь
|
38 |
+
```
|
39 |
+
|
40 |
+
Модель не ожидает, что все найденные и добавленные в контекст диалога факты действительно имеют отношение к заданному вопросу. Поэтому
|
41 |
+
модель, извлекающая из базы знаний информацию, может жертвовать точностью в пользу полноте и добавлять что-то лишнее. Модель читчата
|
42 |
+
в этом случае сама выберет среди добавленных в контекст фактов необходимую фактуру и проигнорирует лишнее. Текущая версия модели
|
43 |
+
допускает до 5 фактов перед вопросом.
|
44 |
+
|
45 |
+
В некоторых случаях модель может выполнять силлогический вывод ответа, опираясь на 2 предпосылки:
|
46 |
+
|
47 |
+
```
|
48 |
+
- Смертен ли Аристофан, если он был греческим философом, а все философы смертны?
|
49 |
+
- Да
|
50 |
+
```
|
51 |
+
|
52 |
+
Как можно видеть из приведенных примеров, формат подаваемой на вход модели фактической информации для выполнения вывода предельно естественный и свободный.
|
53 |
+
|
54 |
+
Кроме логического вывода, модель также умеет делать решать простые арифметические задачи в рамках 1-2 классов начальной школы, с двумя числовыми аргументами:
|
55 |
+
|
56 |
+
```
|
57 |
+
- Чему равно 2+8?
|
58 |
+
- 10
|
59 |
+
```
|
60 |
+
|
61 |
+
|
62 |
+
### Контакты
|
63 |
+
|
64 |
+
Если у Вас есть какие-то вопросы по использованию этой модели, или предложения по ее улучшению - пишите мне mentalcomputing@gmail.com
|
65 |
+
|
66 |
+
|
67 |
+
### Citation:
|
68 |
+
|
69 |
+
```
|
70 |
+
@MISC{rugpt_interpreter,
|
71 |
+
author = {Ilya Koziev},
|
72 |
+
title = {Russian Chit-chat with common sence reasoning},
|
73 |
+
url = {https://huggingface.co/inkoziev/rugpt_npqa},
|
74 |
+
year = 2022
|
75 |
+
}
|
76 |
+
```
|
77 |
+
|