DewiBrynJones commited on
Commit
e2db22f
1 Parent(s): 015a100

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +386 -29
README.md CHANGED
@@ -1,31 +1,388 @@
1
  ---
2
- dataset_info:
3
- features:
4
- - name: sentence
5
- dtype: string
6
- - name: audio
7
- dtype:
8
- audio:
9
- sampling_rate: 16000
10
- splits:
11
- - name: train
12
- num_bytes: 650711993.2890044
13
- num_examples: 28086
14
- - name: test
15
- num_bytes: 87947290.392
16
- num_examples: 3901
17
- - name: validation
18
- num_bytes: 162120800.59899557
19
- num_examples: 7022
20
- download_size: 888615833
21
- dataset_size: 900780084.28
22
- configs:
23
- - config_name: default
24
- data_files:
25
- - split: train
26
- path: data/train-*
27
- - split: test
28
- path: data/test-*
29
- - split: validation
30
- path: data/validation-*
31
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ language:
3
+ - cy
4
+ - en
5
+ license: cc0-1.0
6
+ size_categories:
7
+ - 10K<n<100K
8
+ pretty_name: Banc Trawsgrifiadau Bangor
9
+ tags:
10
+ - verbatim transcriptions
11
+ - speech recognition
12
+ - speech to translated text
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
13
  ---
14
+
15
+ [See below for English](#bangor-transcription-bank)
16
+
17
+ # Banc Trawsgrifiadau Bangor
18
+
19
+ Dyma fanc o 40 awr a 46 eiliad o segmentau o leferydd naturiol dros hanner cant o gyfranwyr ar ffurf ffeiliau mp3, ynghyd â thrawsgrifiadau 'verbatim' cyfatebol o’r lleferydd ar ffurf ffeil .tsv. Mae'r mwyafrif o'r lleferydd yn leferydd digymell, naturiol. Dosbarthwn y deunydd hwn o dan drwydded agored CC0.
20
+
21
+ ## Pwrpas
22
+ Pwrpas y trawsgrifiadau hyn yw gweithredu fel data hyfforddi ar gyfer modelau adnabod lleferydd, gan gynnwys [ein modelau wav2vec](https://github.com/techiaith/docker-wav2vec2-cy). Ar gyfer y diben hwnnw, mae gofyn am drawsgrifiadau mwy verbatim o'r hyn a ddywedwyd na'r hyn a welir mewn trawsgrifiadau traddodiadol ac mewn isdeitlau, felly datblygwyd confensiwn arbennig ar gyfer y gwaith trawsgrifio ([gweler isod](#confensiynau_trawsgrifio)). Gydag ein modelau wav2vec, caiff cydran ychwnaegol, sef 'model iaith' ei defnyddio ar ôl y model adnabod lleferydd i safoni mwy ar allbwn y model iaith i fod yn debycach i drawsgrifiadau traddodiadol ac isdeitlau.
23
+
24
+ Rydyn ni wedi darparu 3 ffeil .tsv, sef clips.tsv, train.tsv a test.tsv. Mae clips.tsv yn cynnwys ein trawsgrifiadau i gyd. Crëwyd train.tsv a test.tsv er mewn darparu setiau 'safonol' sy'n caniatáu i ddefnyddwyr allu gymharu modelau gan wahanol hyfforddwyr yn deg,hynny yw fe'u crëwyd at bwrpas meincnodi. Mae train.tsv yn cynnwys 80% o'n trawsgrifiadau, a test.tsv yn cynnwys y 20% sy'n weddill.
25
+
26
+
27
+ Dyma enghraifft o gynnwys y data:
28
+
29
+ ```
30
+ audio_filename audio_filesize transcript duration
31
+ f86a046fd0964e0386d8c1363907183d.mp3 898272 *post industrial* yym a gyda yy dwi'n ca'l deud 5092
32
+ f0c2310fdca34faaa83beca5fa7ed212.mp3 809720 sut i ymdopio felly, wedyn erbyn hyn mae o nôl yn y cartra 4590
33
+ 3eec3feefe254c9790739c22dd63c089.mp3 1335392 Felly ma' hon hefyd yn ddogfen fydd yn trosglwyddo gyda'r plant bobol ifanc o un cam i'r llall ac hefyd erbyn hyn i'r coleg 'lly. 7570
34
+ ```
35
+ Ceir pedair colofn yn y ffeiliau .tsv. Y cyntaf yw enw’r ffeil sain. Maint y ffeil sain yw’r ail. Y trawsgrifiad ei hun sydd yn y drydedd golofn. Hyd y clip sain sydd yn yr olaf.
36
+ Dyma'r wybodaeth am y colofnau.
37
+ | Maes| Esboniad |
38
+ | ------ | ------ |
39
+ | `audio_filename`| Enw'r ffeil sain o fewn y ffolder 'clips'|
40
+ | `audio_filesize` | Maint y ffeil|
41
+ | `transcript` | Trawsgrifiad |
42
+ | `duration` | Hyd amser y clip mewn milliseconds. |
43
+
44
+ ## Cyfieithu Is-set
45
+
46
+ Rydyn ni hefyd wedi cyfieithu 500 o'n trawsgrifiadau i'r Saesneg a chyhoeddi'r cyfieithiadau gyda'u trawsgrifiadau gwreiddiol yn y ffeil translations.tsv.
47
+
48
+ Dyma enghraifft o gynnwys y data:
49
+
50
+ ```
51
+ mp3_filename Original Translation
52
+ 8d6b7347cae6092930aa9b436045e33d.mp3 fel oedden ni odd yym <anadlu> odd pob pennod yn troi mewn i Ben-Hur rywfaint ag yn yy, odd hi'n eitha anodd as we were um <breath> every episode turned into Ben-Hur, somewhat, and was er, it was quite difficult
53
+ ce526eaf61557b8e3eb53eb1a2f55076.mp3 pan ddechreuon ni'r podlediad yma y bwriad odd i ga'l un pennod bob bythefnos <anadlu> ond yy, wrth i ni fynd ymlaen when we started this podcast the intention was to have one episode every two weeks <breath> but er, as we go on
54
+ ```
55
+ Ceir tair colofn yn y ffeil translation.tsv. Y cyntaf yw enw’r ffeil sain. Y trawsgrifiad Cymraeg sydd yn yr ail golofn. Y cyfieithiad Saesneg sydd yn yr olaf.
56
+ Dyma'r wybodaeth am y colofnau.
57
+ | Maes| Esboniad |
58
+ | ------ | ------ |
59
+ | `mp3_filename`| Enw'r ffeil sain o fewn y ffolder 'clips'|
60
+ | `Original` | Y trawsgrifiad Cymraeg|
61
+ | `Translation` | Y cyfieithiad Saesneg|
62
+
63
+
64
+ ## Y Broses o Greu’r Adnodd
65
+
66
+ Casglwyd y ffeiliau sain yn bennaf o bodlediadau Cymraeg gyda chaniatâd eu perchnogion yn ogystal â'r cyfranwyr unigol. Rydym yn ddiolchgar tu hwnt i’r bobl yna. Yn ogystal, crewyd rhywfaint o sgriptiau ar batrwm eitemau newyddion ac erthyglau a'u darllen gan ymchwilwyr yr Uned Technolegau Iaith er mwyn sicrhau bod cynnwys o'r math hwnnw yn y banc.
67
+
68
+ Gyrrwyd y ffeiliau sain trwy ein trawsgrifiwr awtomataidd mewnol i segmentu’r sain a chreu trawsgrifiadau amrwd. Defnyddiwyd pecyn trawsgrifio Elan 6.4 (ar gael o https://archive.mpi.nl/tla/elan) gan drawsgrifwyr profiadol i wrando ar a chywiro’r trawsgrifiad amrwd.
69
+
70
+ ## Nodyn Ynghylch Anonymeiddio’r Cynnwys
71
+ Er tegwch i’r cyfranwyr, rydyn ni wedi anonymeiddio’r trawsgrifiadau. Penderfynwyd anonymeiddio nid yn unig enwau pobl unigol, ond hefyd unrhyw Wybodaeth Bersonol Adnabyddadwy (PII) gan gynnwys, ond nid yn gyfunedig i:
72
+
73
+ * Rhif ffôn
74
+ * Teitlau swyddi/galwedigaethau
75
+ * Gweithleoedd
76
+ * Enwau mannau cyhoeddus
77
+ * Lleoliad daearyddol
78
+ * Dyddiadau/amseroedd
79
+
80
+ Wrth drawsgrifio marciwyd pob segment oedd yn cynnwys PII gyda’r tag \<PII>, yna wnaethom hidlo allan pob segment oedd yn cynnwys tag \<PII> er mwyn sicrhau nad oedd unrhyw wybodaeth bersonol yn cael eu cyhoeddi fel rhan o’r adnodd hwn.
81
+
82
+ Rydym hefyd wedi newid trefn trawsgrifiadau i fod ar hap, felly nid ydynt wedi'u cyhoeddi yn y drefn y maent yn eu ymddangos yn y ffeiliau sain gwreiddiol.
83
+
84
+ <a name="confensiynau_trawsgrifio"></a>
85
+ ## Confensiynau Trawsgrifio
86
+ Datblygwyd y confensiynau trawsgrifio hyn er mwyn sicrhau fod y trawsgrifiadau nid yn unig yn verbatim ond hefyd yn gyson. Fe’u datblygwyd trwy gyfeirio at gonfensiynau a ddefnyddir gan yr Uned yn y gorffennol, confensiynau eraill megis y rhai a defnyddiwyd yng nghorpora CorCenCC, Siarad, CIG1 a CIG2, a hefyd trwy broses o ddatblygu parhaol wrth i’r tîm ymgymryd â’r dasg o drawsgrifio.
87
+
88
+ **NODWCH** - gan ein bod wedi datblygu’r egwyddorion trawsgrifio yn rhannol wrth ymgymryd â’r dasg o drawsgrifio nid yw’r trawsgrifiadau cynnar o reidrwydd yn dilyn yr egwyddorion cant y cant. Bwriadwn wirio’r trawsgrifiadau wedi i ni fireinio’r confensiynau.
89
+
90
+ ### Collnodau
91
+ Ni ddefnyddiwyd collnodau i marcio pob un llythyren a hepgorwyd gan siaradwyr. Er enghraifft, _gwitho_ (sef ynganiad o _gweithio_) sy’n gywir, nid _gw’ith’o_
92
+
93
+ Yn hytrach, defnyddiwyd collnodau i wahaniaethu rhwng gwahanol eiriau oedd yn cael eu sillafu'r union yr un fath fel arall. Er enghraifft rydym yn defnyddio collnod o flaen _’ma_ (sef _yma_) i wahaniaethu rhyngddo â _ma’_ (sef _mae_), _gor’o’_ i wahaniaethu rhwng _gorfod_ a ffurf trydydd person unigol amser dibynnol presennol _gori_, a _pwysa’_ i wahaniaethu rhwng ffurf luosog _pwys_ a nifer o ffurfiau berfol posib _pwyso_.
94
+
95
+ Fodd bynnag, ceir eithriad i’r rheol hon, a hynny pan fo sillafu gair heb gollnod yn newid sŵn y llythyren cyn neu ar ôl y collnod, ac felly _Cymra’g_ sy’n gywir, nid _Cymrag_.
96
+
97
+ ### Tagiau
98
+ Wrth drawsgrifio, defnyddiwyd y tagiau hyn i recordio elfennau oedd y tu hwnt i leferydd yr unigolion:
99
+
100
+ * \<anadlu>
101
+ * \<anadlu i mewn yn sydyn>
102
+ * \<aneglur>
103
+ * \<cerddoriaeth>
104
+ * \<chwerthin>
105
+ * \<chwibanu>
106
+ * \<chwythu allan>
107
+ * \<clapio>
108
+ * \<clirio gwddf>
109
+ * \<cusanu>
110
+ * \<distawrwydd>
111
+ * \<ochneidio>
112
+ * \<PII>
113
+ * \<peswch>
114
+ * \<sniffian>
115
+ * \<twtian>
116
+
117
+ Rhagwelwn y bydd y rhestr hon yn chwyddo wrth i ni drawsgrifio mwy o leferydd ac wrth i ni daro ar draws mwy o elfennau sydd y tu hwnt i leferydd unigolion.
118
+
119
+ ### Synau nad ydynt yn eiriol
120
+ Ymdrechwyd i drawsgrifio synau nad ydynt yn eiriol yn gyson. Er enghraifft, defnyddiwyd _yy_ bob tro (yn hytrach nag _yrr_, _yr_ neu _err_ neu gymysgedd o’r rheiny) i gynrychioli neu adlewyrchu’r sŵn a wnaethpwyd pan oedd siaradwr yn ceisio meddwl neu oedi wrth siarad.
121
+
122
+ Defnyddiwyd y canlynol wrth drawsgrifio:
123
+
124
+ * yy
125
+ * yym
126
+ * hmm
127
+ * m-hm
128
+
129
+ Eto, rhagwelwn y bydd y rhestr hon yn chwyddo wrth i ni drawsgrifio mwy o leferydd ac wrth i ni daro ar draws mwy o synau nad ydynt yn eiriol.
130
+
131
+ ### Geiriau Saesneg
132
+ Rydym wedi amgylchynu bob gair neu ymadrodd Saesneg gyda sêr, er enghraifft:
133
+
134
+ > Dwi’n deall **\*sort of\***.
135
+
136
+ ### Cymreigio berfenwau
137
+ Pan fo siaradwyr yn defnyddio geiriau Saesneg fel berfenwau (trwy ychwanegu _io_ ar ddiwedd y gair er enghraifft) rydym wedi ymdrechu i sillafu’r gair gan ddefnyddio confensiynau sillafu Cymreig yn hytrach nag ychwanegu _io_ at sillafiad Saesneg o’r gair. Er enghraifft rydym wedi trawsgrifio _heitio_ yn hytrach na _hateio_, a _lyfio_ yn hytrach na _loveio_.
138
+
139
+ ### Cywiro cam-siarad
140
+ I sicrhau ein bod ni’n glynu at egwyddorion trawsgrifio verbatim penderfynwyd na ddylem gywiro cam-siarad neu gam-ynganu siaradwyr. Er enghraifft, yn y frawddeg ganlynol:
141
+
142
+ > enfawr fel y diffyg o fwyd yym **efallu** cam-drin
143
+
144
+ mae'n amlwg mai’r gair _efallai_ sydd dan sylw mewn gwirionedd, ond fe’i trawsgrifiwyd fel ei glywir.
145
+
146
+ ### Atalnodi
147
+ Defnyddiwyd atalnodau llawn, marciau cwestiwn ac ebychnodau wrth drawsgrifio’r lleferydd.
148
+
149
+ Rydym wedi amgylchynu bob gair neu ymadrodd sydd wedi ei dyfynnu gyda _”_, er enghraifft:
150
+
151
+ > Dywedodd hi **”Dwi’n mynd”** ond aeth hi ddim.
152
+
153
+ ### Nodyn ynghylch ein defnydd o gomas
154
+ Gan mai confensiwn ysgrifenedig yw coma yn y bôn, ni ddefnyddiwyd comas cymaint wrth drawsgrifio. Byddai defnyddio coma lle y disgwylir i’w weld mewn testun ysgrifenedig ddim o reidrwydd wedi adlewyrchu lleferydd yr unigolyn. Dylid cadw hynny mewn cof wrth ddarllen y trawsgrifiadau.
155
+
156
+ ### Sillafu llythrennau
157
+ Sillafwyd llythrennau unigol yn hytrach na thrawsgrifio’r llythrennau unigol yn unig.
158
+
159
+ Hynny yw, hyn sy’n gywir:
160
+
161
+ > Roedd ganddo **ow si di**
162
+
163
+ **ac nid:**
164
+
165
+ > Roedd ganddo **O C D**
166
+
167
+ **na chwaith:**
168
+
169
+ > Roedd ganddo **OCD**
170
+
171
+
172
+ ### Rhifau
173
+ Trawsgrifiwyd rhifau fel geiriau yn hytrach na digidau, hynny yw hyn sy’n gywir:
174
+ > Y flwyddyn dwy fil ac ugain
175
+
176
+ **ac nid:**
177
+
178
+ > Y flwyddyn 2020
179
+
180
+ ### Gorffen gair ar ei hanner
181
+ Marciwyd gair oedd wedi ei orffen ar ei hanner gyda `-`. Er enghraifft:
182
+ > Ma’n rhaid i mi **ca-** cael diod.
183
+
184
+ ### Gorffen brawddeg ar ei hanner/ailddechrau brawddeg
185
+ Marciwyd brawddeg oedd wedi ei gorffen ar ei hanner gyda `...`. Er enghraifft:
186
+ > Ma’n rhaid i mi ca’l... Ma’ rhaid i mi brynu diod.
187
+
188
+ ### Siaradwr yn torri ar draws siaradwr arall
189
+ Ceir yn y data llawer o enghreifftiau o siaradwr yn torri ar draws y prif leferydd gan ddefnyddio synau nad ydynt yn eiriol, geiriau neu ymadroddion (megis _m-hm_, _ie_, _ydi_, _yn union_ ac ati). Pan oedd y ddau siaradwr i'w clywed yn glir ag ar wahân, rhoddwyd `...` ar ddiwedd rhan gyntaf y lleferydd toredig, a `...` arall ar ddechrau ail ran y lleferydd toredig, fel yn yr enghraifft ganlynol:
190
+ > Ond y peth yw... M-hm. ...mae’r ddau yn wir
191
+
192
+ Pan nad oedd y ddau siaradwyr i'w clywed yn glir ag ar wahân, fe hepgorwyd y lleferydd o’r data.
193
+
194
+ ### Rhegfeydd
195
+ Dylid nodi ein bod ni heb hepgor rhegfeydd wrth drawsgrifio.
196
+
197
+ ## Y Dyfodol
198
+ Wrth ddefnyddio’r banc trawsgrifiadau dylid cadw mewn cof mai fersiwn cychwynnol ydyw. Bwriadwn fireinio a chysoni ein trawsgrifiadau ymhellach, ac ychwanegu mwy fyth o drawsgrifiadau i’r banc yn rheolaidd dros y flwyddyn nesaf
199
+
200
+ ## Cyfyngiadau
201
+ Er mwyn parchu'r cyfrannwyr, wrth lwytho'r data hwn i lawr rydych yn cytuno i beidio â cheisio adnabod y siaradwyr yn y data.
202
+
203
+ ## Diolchiadau
204
+ Diolchwn i'r cyfrannwyr am eu caniatâd i ddefnyddio'u lleferydd. Rydym hefyd yn ddiolchgar i Lywodraeth Cymru am ariannu’r gwaith hwn fel rhan o broject Technoleg Testun, Lleferydd a Chyfieithu ar gyfer yr Iaith Gymraeg.
205
+
206
+ ---
207
+
208
+ # Bangor Transcription Bank
209
+
210
+ This resource is a bank of 40 hours and 46 seconds of segments of natural speech from over 50 contributors in mp3 file format, together with corresponding 'verbatim' transcripts of the speech in .tsv file format. The majority of the speech is spontaneous, natural speech. We distribute this material under a CC0 open license.
211
+
212
+ ## Purpose
213
+ The purpose of these transcripts is to act as training data for speech recognition models, including [our wav2vec models](https://github.com/techiaith/docker-wav2vec2-cy). For that purpose, transcriptions are more verbatim than what is seen in traditional transcriptions and than what is required for subtitling purposes, thus a bespoke set of conventions has been developed for the transcription work ([see below](#transcription_conventions) ). Our wav2vec models use an auxiliary component, namely a 'language model', to further standardize the speech recognition model’s output in order that it be more similar to traditional transcriptions and subtitles.
214
+
215
+ We have provided 3 .tsv files, namely clips.tsv, train.tsv and test.tsv. clips.tsv contains all of our transcripts. train.tsv and test.tsv were created to provide 'standard' sets that allow users to compare models trained by different trainers fairly, i.e. they were created as a 'benchmark'. train.tsv contains 80% of our transcripts, and test.tsv contains the remaining 20%.
216
+
217
+ Here is an example of the data content:
218
+ ```
219
+ audio_filename audio_filesize transcript duration
220
+ f86a046fd0964e0386d8c1363907183d.mp3 898272 *post industrial* yym a gyda yy dwi'n ca'l deud 5092
221
+ f0c2310fdca34faaa83beca5fa7ed212.mp3 809720 sut i ymdopio felly, wedyn erbyn hyn mae o nôl yn y cartra 4590
222
+ 3eec3feefe254c9790739c22dd63c089.mp3 1335392 Felly ma' hon hefyd yn ddogfen fydd yn trosglwyddo gyda'r plant bobol ifanc o un cam i'r llall ac hefyd erbyn hyn i'r coleg 'lly. 7570
223
+ ```
224
+ There are four columns in the .tsv files. The first is the name of the audio file. The second is the size of the audio file. The transcript itself appears in the third column. The length of the audio clip appears in the last.
225
+
226
+ Here is the information about the columns.
227
+ | Field| Explanation |
228
+ | ------ | ------ |
229
+ | `audio_filename`| The name of the audio file within the 'clips' folder|
230
+ | `audio_filesize` | The size of the file |
231
+ | `transcript` | Transcript |
232
+ | `duration` | Duration of the clip in milliseconds. |
233
+
234
+ ### Translation of a Sub-set
235
+
236
+ We have also translated 500 of our transcripts into English and published the translations together with their original transcripts in the translations.tsv file.
237
+
238
+ Here is an example of the data content:
239
+
240
+ ```
241
+ mp3_filename Original Translation
242
+ 8d6b7347cae6092930aa9b436045e33d.mp3 fel oedden ni odd yym <anadlu> odd pob pennod yn troi mewn i Ben-Hur rywfaint ag yn yy, odd hi'n eitha anodd as we were um <breath> every episode turned into Ben-Hur, somewhat, and was er, it was quite difficult
243
+ ce526eaf61557b8e3eb53eb1a2f55076.mp3 pan ddechreuon ni'r podlediad yma y bwriad odd i ga'l un pennod bob bythefnos <anadlu> ond yy, wrth i ni fynd ymlaen when we started this podcast the intention was to have one episode every two weeks <breath> but er, as we go on
244
+
245
+ ```
246
+ There are three columns in the translation.tsv file. The first is the name of the audio file. The Welsh transcription is in the second column. The English translation is in the last.
247
+ Here is the information about the columns.
248
+ | Field| Explanation |
249
+ | ------ | ------ |
250
+ | `mp3_filename`| The name of the audio file within the 'clips' folder|
251
+ | `Original` | The Welsh transcription|
252
+ | `Translation` | The English translation|
253
+
254
+ ## The Process of Creating the Resource
255
+
256
+ The audio files were mainly collected from Welsh podcasts, after having gained the consent of the podcast owners and individual contributors to do so. We are extremely grateful to those people. In addition, some scripts were created which mimicked the pattern of news items and articles. These scripts were then read by Language Technologies Unit researchers in order to ensure that content of that type was included in the bank.
257
+ The audio files were run through our in-house automated transcriber to segment the audio and create raw transcripts. Using Elan 6.4 (available from https://archive.mpi.nl/tla/elan), experienced transcribers listened to and corrected the raw transcript.
258
+
259
+ ## A Note About Content Anonymization
260
+ Out of respect to the contributors, we have anonymised all transcripts. It was decided to anonymize not only the names of individual people, but also any other Personally Identifiable Information (PII) including, but not limited to:
261
+ * Phone number
262
+ * Job titles/occupations
263
+ * Workplaces
264
+ * Names of public places
265
+ * Geographical location
266
+ * Dates/times
267
+ When transcribing, all segments containing PII were marked with the \<PII> tag, we then filtered out all segments containing a \<PII> tag to ensure no personal information was published as part of this resource.
268
+
269
+ We have also randomized the order of the segments so that they are not published in the order they appeared in the original audio files.
270
+
271
+ <a name="transcription_conventions"></a>
272
+
273
+ ## Transcription Conventions
274
+ These transcription conventions were developed to ensure that the transcriptions were not only verbatim but also consistent. They were developed by referring to conventions used by the Unit in the past, conventions such as those used in the CorCenCC, Siarad, CIG1 and CIG2 corpora, and also through a process of ongoing development as the team undertook the task of transcription.
275
+ **NOTE** - as we have partially developed the conventions at the same time as undertaking the task of transcription the early transcriptions may not follow the latest principles faithfully. We intend to check the transcripts after we have refined the conventions.
276
+
277
+ ### Apostrophes
278
+ Apostrophes were not used to mark every single letter omitted by speakers. For example, _gwitho_ (which is a pronunciation of _gweithio_) is correct, not _gw’ith'o_.
279
+
280
+ Rather, apostrophes were used to distinguish between different words that were otherwise spelled identically. For example we use an apostrophe in front of _'ma_ (a pronunciation of _yma_) to distinguish it from _ma'_ (a pronunciation of _mae_), _gor'o'_ to distinguish between _gorfod_ and the third person singular form of the present dependent tense _gori_, and _pwysa'_ to distinguish between the plural form of _pwys_ and a number of possible verb forms of _pwyso_.
281
+
282
+ However, there is an exception to this rule, that being when spelling a word without an apostrophe would change the sound of the letter before or after the apostrophe, thus _Cymra'g_ is correct, not _Cymrag_.
283
+
284
+ ### Tags
285
+ When transcribing, these tags were used to record elements that were external to the speech of the individuals:
286
+ * \<anadlu>
287
+ * \<anadlu i mewn yn sydyn>
288
+ * \<aneglur>
289
+ * \<cerddoriaeth>
290
+ * \<chwerthin>
291
+ * \<chwibanu>
292
+ * \<chwythu allan>
293
+ * \<clapio>
294
+ * \<clirio gwddf>
295
+ * \<cusanu>
296
+ * \<distawrwydd>
297
+ * \<ochneidio>
298
+ * \<PII>
299
+ * \<peswch>
300
+ * \<sniffian>
301
+ * \<twtian>
302
+
303
+ We anticipate that this list will grow as we transcribe more speech and as we come across more elements that are external to the speech of individuals.
304
+
305
+ ### Non-verbal sounds
306
+ Efforts were made to transcribe non-verbal sounds consistently. For example, _yy_ was always used (rather than _yrr_, _yr_ or _err_, or a mixture of those) to represent or reflect the sound made when a speaker was trying to think or paused in speaking.
307
+
308
+ The following were used in transcription:
309
+ * yy
310
+ * yym
311
+ * hmm
312
+ * m-hm
313
+
314
+ Again, we anticipate that this list will grow as we transcribe more speech and as we encounter more non-verbal sounds.
315
+
316
+ ### English words
317
+ We have surrounded each English word or phrase with asterixis, for example:
318
+ > Dwi’n deall **\*sort of\***.
319
+
320
+ ### Adapting English words as Welsh language infinitives
321
+ When speakers use English words as infinitives (by adding _io_ at the end of the word for example) we have endeavoured to spell the word using Welsh spelling conventions rather than adding _io_ to the English spelling of the word. For example we have transcribed _heitio_ instead of _hateio_, and _lyfio_ instead of _loveio_.
322
+
323
+ ### Correction of mis-pronunciations
324
+ To ensure that we adhere to the principles of verbatim transcription it was decided that we should not correct speakers' mis-pronunciations. For example, in the following sentence:
325
+ > enfawr fel y diffyg o fwyd yym **efallu** cam-drin
326
+
327
+ it is clear that _efallai_ is the intended word, but it is transcribed as it is heard.
328
+
329
+ ### Punctuation
330
+ Full stops, question marks and exclamation marks were used when transcribing the speech.
331
+
332
+ We have surrounded all quoted words or phrases with _”_, for example:
333
+
334
+ > Dywedodd hi **”Dwi’n mynd”** ond aeth hi ddim.
335
+
336
+ ### A note about our use of commas
337
+ As a comma is essentially a convention used for written text, commas were not used prolifically in transcription. Using a comma where one would expected to see it in a written text during transcription would not necessarily have reflected the individual's speech. This should be borne in mind when reading the transcripts.
338
+
339
+ ### Individual letters
340
+ Individual letters were spelled out rather than being transcribed as individual letters.
341
+
342
+ That is, this is correct:
343
+ > Roedd ganddo **ow si di**
344
+
345
+ **not:**
346
+
347
+ > Roedd ganddo **O C D**
348
+
349
+ **nor:**
350
+
351
+ > Roedd ganddo **OCD**
352
+
353
+
354
+ ### Numbers
355
+ Numbers were transcribed as words rather than digits, thus this is correct:
356
+
357
+ > Y flwyddyn dwy fil ac ugain
358
+
359
+ **rather than:**
360
+
361
+ > Y flwyddyn 2020
362
+
363
+ ### Half-finished words
364
+ Half-finished words are marked with a `-`. For example:
365
+ > Ma’n rhaid i mi **ca-** cael diod.
366
+
367
+ ### Half-finished/restarted sentences
368
+ Half-finished sentences are marked with a `...`. For example:
369
+ > Ma’n rhaid i mi ca’l... Ma’ rhaid i mi brynu diod.
370
+
371
+ ### Speaker interruptions
372
+ There are many examples of a speaker interrupting another speaker by using non-verbal sounds, words or phrases (such as _m-hm_, _ie_, _ydi_, _yn union_ etc.) in the data. When the two speakers could be heard clearly and distinctly, a `...` was placed at the end of the first part of the broken speech, and another `...` at the beginning of the second part of the broken speech, as in the following example:
373
+
374
+ > Ond y peth yw... M-hm. ...mae’r ddau yn wir
375
+
376
+ When the two speakers could not be heard clearly and distinctly, the speech was omitted from the data.
377
+
378
+ ### Swearwords
379
+ It should be noted that we have not omitted swearwords when transcribing.
380
+
381
+ ## The future
382
+ That this is an initial version of the transcript bank should be borne in mind when using this resource. We intend to refine and harmonize our transcripts further, and add yet more transcripts to the bank regularly over the next year.
383
+
384
+ ## Restrictions
385
+ In order to respect the contributors, by downloading this data you agree not to attempt to identify the speakers in the data.
386
+
387
+ ## Acknowledgements
388
+ We thank the contributors for their permission to use their speech. We are also grateful to the Welsh Government for funding this work as part of the Text, Speech and Translation Technology project for the Welsh Language.