koziev ilya commited on
Commit
aef7293
1 Parent(s): 6ef8f14

Первый черновой вариант описания модели

Browse files
Files changed (1) hide show
  1. README.md +74 -0
README.md CHANGED
@@ -1,3 +1,77 @@
1
  ---
 
 
 
 
 
 
2
  license: unlicense
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ pipeline_tag: text-generation
3
+ tags:
4
+ - PyTorch
5
+ - Transformers
6
+ - gpt2
7
+
8
  license: unlicense
9
+
10
+ language: ru
11
+
12
+ widget:
13
+ - text: "- У Джульетты было 7 пончиков, а потом она 3 съела. Сколько у нее осталось пончиков? -"
14
+ - text: "- Аристотель был греческим ученым. Все греческие ученые были черноволосыми. Какой вывод можно сделать про внешность Аристотеля? -"
15
  ---
16
+
17
+ ## Russian Chit-chat with common sence reasoning
18
+
19
+ Модель является ядром прототипа [диалоговой системы](https://github.com/Koziev/chatbot). У нее есть 2 основные функции.
20
+
21
+ Первая функция - генерация реплик чит-чата. В качестве затравки подается история диалога (предшествующие несколько реплик, до 10).
22
+
23
+ ```
24
+ - Привет, как дела?
25
+ - Привет, так себе.
26
+ - <<< эту реплику ожидаем от модели >>>
27
+ ```
28
+
29
+ Вторая функция модели - вывод ответа на заданный вопрос, опираясь на дополнительные факты. Предполагается, что релевантные факты извлекаются
30
+ из стороннего хранилища (базы знаний) с помощью другой модели, которую мы здесь пока не рассматриваем. Используя указанный
31
+ факт и текст вопроса, модель построит грамматичный и максимально краткий ответ, как это сделал бы человек в подобной коммуникативной ситуации. Релевантные факты
32
+ следует указывать перед текстом заданного вопроса так, будто сам собеседник сказал их:
33
+
34
+
35
+ ```
36
+ - Сегодня 15 сентября. Какой сейчас у нас месяц?
37
+ - Сентябрь
38
+ ```
39
+
40
+ Модель не ожидает, что все найденные и добавленные в контекст диалога факты действительно имеют отношение к заданному вопросу. Поэтому
41
+ модель, извлекающая из базы знаний информацию, может жертвовать точностью в пользу полноте и добавлять что-то лишнее. Модель читчата
42
+ в этом случае сама выберет среди добавленных в контекст фактов необходимую фактуру и проигнорирует лишнее. Текущая версия модели
43
+ допускает до 5 фактов перед вопросом.
44
+
45
+ В некоторых случаях модель может выполнять силлогический вывод ответа, опираясь на 2 предпосылки:
46
+
47
+ ```
48
+ - Смертен ли Аристофан, если он был греческим философом, а все философы смертны?
49
+ - Да
50
+ ```
51
+
52
+ Как можно видеть из приведенных примеров, формат подаваемой на вход модели фактической информации для выполнения вывода предельно естественный и свободный.
53
+
54
+ Кроме логического вывода, модель также умеет делать решать простые арифметические задачи в рамках 1-2 классов начальной школы, с двумя числовыми аргументами:
55
+
56
+ ```
57
+ - Чему равно 2+8?
58
+ - 10
59
+ ```
60
+
61
+
62
+ ### Контакты
63
+
64
+ Если у Вас есть какие-то вопросы по использованию этой модели, или предложения по ее улучшению - пишите мне mentalcomputing@gmail.com
65
+
66
+
67
+ ### Citation:
68
+
69
+ ```
70
+ @MISC{rugpt_interpreter,
71
+ author = {Ilya Koziev},
72
+ title = {Russian Chit-chat with common sence reasoning},
73
+ url = {https://huggingface.co/inkoziev/rugpt_npqa},
74
+ year = 2022
75
+ }
76
+ ```
77
+