sond.yaml 28 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461462463464465466467468469470471472473474475476477478479480481482483484485486487488489490491492493494495496497498499500501502503504505506507508509510511512513514515516517518519520521522523524525526527528529530531532533534535536537538539540541542543544545546547548549550551552553554555556557558559560561562563564565566567568569570571572573574575576577578579580581582583584585586587588589590591592593594595596597598599600601602603604605606607608609610611612613614615616617618619620621622623624625626627628629630631632633634635636637638639640641642643644645646647648649650651652653654655656657658659660661662663664665666667668669670671672673674675676677678679680681682683684685686687688689690691692693694695696697698699700701702703704705706707708709710711712713714715716717718719720721722723724725726727728729730731732733734735736737738739740741742743744745746747748749750751752753754755756757758759760761762763764765766767768769770771772773774775776777778779780781782783784785786787788789790791792793794795796797798799800801802803804805806807808809810811812813814815816817818819820821822823824825826827828829830831832833834835836837838839840841842843844845846847848849850851852853854855856857858859860861862863864865866867868869870871872873874875876877878879880881882883884885886887888889890891892893894895896897898899900901902903904905906907908909910911912913914915916917918919920921922923924925926927928929930931932933934935936937938939940941942943944945946947948949950951952953954955956957958959960961962963964965966967968969970971972973974975976977978979980981982983984985986987988989990991992993994995996997998999100010011002100310041005100610071008100910101011101210131014101510161017101810191020102110221023102410251026102710281029103010311032103310341035103610371038103910401041104210431044104510461047104810491050105110521053105410551056105710581059106010611062106310641065106610671068106910701071107210731074107510761077107810791080108110821083108410851086108710881089109010911092109310941095109610971098109911001101110211031104110511061107110811091110111111121113111411151116111711181119112011211122112311241125112611271128112911301131113211331134113511361137113811391140114111421143114411451146114711481149115011511152115311541155115611571158115911601161116211631164116511661167116811691170117111721173117411751176117711781179118011811182118311841185118611871188118911901191119211931194119511961197119811991200120112021203120412051206120712081209121012111212121312141215121612171218121912201221122212231224122512261227122812291230123112321233123412351236123712381239124012411242124312441245124612471248124912501251125212531254125512561257125812591260126112621263126412651266126712681269127012711272127312741275127612771278127912801281128212831284128512861287128812891290129112921293129412951296129712981299130013011302130313041305130613071308130913101311131213131314131513161317131813191320132113221323132413251326132713281329133013311332133313341335133613371338133913401341134213431344134513461347134813491350135113521353135413551356135713581359136013611362136313641365136613671368136913701371137213731374137513761377137813791380138113821383138413851386138713881389139013911392139313941395139613971398139914001401140214031404140514061407140814091410141114121413141414151416141714181419142014211422142314241425142614271428142914301431143214331434143514361437143814391440144114421443144414451446144714481449145014511452145314541455145614571458145914601461146214631464146514661467146814691470147114721473147414751476147714781479148014811482148314841485148614871488148914901491149214931494149514961497149814991500150115021503150415051506150715081509151015111512151315141515151615171518151915201521152215231524152515261527152815291530153115321533153415351536153715381539154015411542154315441545154615471548154915501551155215531554155515561557155815591560156115621563156415651566156715681569157015711572157315741575157615771578157915801581158215831584158515861587158815891590159115921593159415951596159715981599160016011602160316041605160616071608160916101611161216131614161516161617161816191620162116221623162416251626162716281629163016311632163316341635163616371638163916401641164216431644164516461647164816491650165116521653165416551656165716581659166016611662166316641665166616671668166916701671167216731674167516761677167816791680168116821683168416851686168716881689169016911692169316941695169616971698169917001701170217031704170517061707170817091710171117121713171417151716171717181719172017211722172317241725172617271728172917301731173217331734173517361737173817391740174117421743174417451746174717481749175017511752175317541755175617571758175917601761176217631764176517661767176817691770177117721773177417751776177717781779178017811782178317841785178617871788178917901791179217931794179517961797179817991800180118021803180418051806180718081809181018111812181318141815181618171818181918201821182218231824182518261827182818291830183118321833183418351836183718381839184018411842184318441845184618471848184918501851185218531854185518561857185818591860186118621863186418651866186718681869187018711872187318741875187618771878187918801881188218831884188518861887188818891890189118921893189418951896189718981899190019011902190319041905190619071908190919101911191219131914191519161917191819191920192119221923192419251926192719281929193019311932193319341935193619371938193919401941194219431944194519461947194819491950195119521953195419551956195719581959196019611962196319641965196619671968196919701971197219731974197519761977197819791980198119821983198419851986198719881989199019911992199319941995199619971998199920002001200220032004200520062007200820092010201120122013201420152016201720182019202020212022202320242025202620272028202920302031203220332034203520362037203820392040204120422043204420452046204720482049205020512052205320542055205620572058205920602061206220632064206520662067206820692070207120722073207420752076207720782079208020812082208320842085208620872088208920902091209220932094209520962097209820992100210121022103210421052106210721082109211021112112211321142115211621172118211921202121212221232124212521262127212821292130213121322133213421352136213721382139214021412142214321442145214621472148214921502151215221532154215521562157215821592160216121622163216421652166216721682169217021712172217321742175217621772178217921802181218221832184218521862187218821892190219121922193219421952196219721982199220022012202220322042205220622072208220922102211221222132214221522162217221822192220222122222223222422252226222722282229223022312232223322342235223622372238223922402241224222432244224522462247224822492250225122522253225422552256225722582259226022612262226322642265226622672268226922702271227222732274227522762277227822792280228122822283228422852286228722882289229022912292229322942295229622972298229923002301230223032304230523062307230823092310231123122313231423152316231723182319232023212322232323242325232623272328232923302331233223332334233523362337233823392340234123422343234423452346234723482349235023512352235323542355235623572358235923602361236223632364236523662367236823692370237123722373237423752376237723782379238023812382238323842385238623872388238923902391239223932394239523962397239823992400240124022403240424052406240724082409241024112412241324142415241624172418241924202421242224232424242524262427242824292430243124322433243424352436243724382439244024412442244324442445244624472448244924502451245224532454245524562457245824592460246124622463246424652466246724682469247024712472247324742475247624772478247924802481248224832484248524862487248824892490249124922493249424952496249724982499250025012502250325042505250625072508250925102511251225132514251525162517251825192520252125222523252425252526252725282529253025312532253325342535253625372538253925402541254225432544254525462547254825492550255125522553255425552556255725582559256025612562256325642565256625672568256925702571257225732574257525762577257825792580258125822583258425852586258725882589259025912592259325942595259625972598259926002601260226032604260526062607260826092610261126122613261426152616261726182619262026212622262326242625262626272628262926302631263226332634263526362637263826392640264126422643264426452646264726482649265026512652265326542655265626572658265926602661266226632664266526662667266826692670267126722673267426752676267726782679268026812682268326842685268626872688268926902691269226932694269526962697269826992700270127022703270427052706270727082709271027112712271327142715271627172718271927202721272227232724272527262727272827292730273127322733273427352736273727382739
  1. config: finetune.yaml
  2. print_config: false
  3. log_level: INFO
  4. dry_run: false
  5. iterator_type: sequence
  6. output_dir: exp/sond
  7. ngpu: 1
  8. seed: 0
  9. num_workers: 16
  10. num_att_plot: 0
  11. dist_backend: nccl
  12. dist_init_method: env://
  13. dist_world_size: null
  14. dist_rank: null
  15. local_rank: 0
  16. dist_master_addr: null
  17. dist_master_port: null
  18. dist_launcher: null
  19. multiprocessing_distributed: true
  20. distributed: false
  21. unused_parameters: true
  22. sharded_ddp: false
  23. ddp_backend: pytorch_ddp
  24. cudnn_enabled: true
  25. cudnn_benchmark: false
  26. cudnn_deterministic: true
  27. collect_stats: false
  28. write_collected_feats: false
  29. max_epoch: 50
  30. patience: null
  31. val_scheduler_criterion:
  32. - valid
  33. - acc
  34. early_stopping_criterion:
  35. - valid
  36. - loss
  37. - min
  38. best_model_criterion:
  39. - - valid
  40. - acc
  41. - max
  42. keep_nbest_models: 10
  43. nbest_averaging_interval: 0
  44. grad_clip: 5
  45. grad_clip_type: 2.0
  46. grad_noise: false
  47. accum_grad: 1
  48. no_forward_run: false
  49. resume: true
  50. train_dtype: float32
  51. use_amp: false
  52. log_interval: 50
  53. use_matplotlib: false
  54. use_tensorboard: true
  55. use_wandb: false
  56. wandb_project: null
  57. wandb_id: null
  58. wandb_entity: null
  59. wandb_name: null
  60. wandb_model_log_interval: -1
  61. use_pai: true
  62. detect_anomaly: false
  63. pretrain_path: null
  64. init_param: []
  65. ignore_init_mismatch: false
  66. freeze_param: []
  67. num_iters_per_epoch: null
  68. batch_size: 20
  69. valid_batch_size: null
  70. batch_bins: 10000
  71. valid_batch_bins: null
  72. train_shape_file:
  73. - /data/volume1/youyan/aishell/ark/train/speech_shape.1
  74. - /data/volume1/youyan/aishell/ark/train/text_shape.1
  75. valid_shape_file:
  76. - /data/volume1/youyan/aishell/ark/dev/speech_shape.1
  77. - /data/volume1/youyan/aishell/ark/dev/text_shape.1
  78. batch_type: length
  79. valid_batch_type: null
  80. fold_length:
  81. - 512
  82. - 150
  83. sort_in_batch: descending
  84. sort_batch: descending
  85. multiple_iterator: false
  86. chunk_length: 500
  87. chunk_shift_ratio: 0.5
  88. num_cache_chunks: 1024
  89. train_data_path_and_name_and_type:
  90. - - /data/volume1/youyan/aishell/ark/train/data.scp
  91. - speech
  92. - kaldi_ark
  93. - - /data/volume1/youyan/aishell/ark/train/data.text.1
  94. - text
  95. - text
  96. valid_data_path_and_name_and_type:
  97. - - /data/volume1/youyan/aishell/ark/dev/data.scp
  98. - speech
  99. - kaldi_ark
  100. - - /data/volume1/youyan/aishell/ark/dev/data.text.1
  101. - text
  102. - text
  103. allow_variable_data_keys: false
  104. max_cache_size: 0.0
  105. max_cache_fd: 32
  106. valid_max_cache_size: null
  107. optim: adam
  108. optim_conf:
  109. lr: 0.0005
  110. scheduler: warmuplr
  111. scheduler_conf:
  112. warmup_steps: 30000
  113. token_list:
  114. - '0'
  115. - '1'
  116. - '2'
  117. - '3'
  118. - '4'
  119. - '5'
  120. - '6'
  121. - '7'
  122. - '8'
  123. - '9'
  124. - '10'
  125. - '11'
  126. - '12'
  127. - '13'
  128. - '14'
  129. - '15'
  130. - '16'
  131. - '17'
  132. - '18'
  133. - '19'
  134. - '20'
  135. - '21'
  136. - '22'
  137. - '23'
  138. - '24'
  139. - '25'
  140. - '26'
  141. - '27'
  142. - '28'
  143. - '29'
  144. - '30'
  145. - '32'
  146. - '33'
  147. - '34'
  148. - '35'
  149. - '36'
  150. - '37'
  151. - '38'
  152. - '39'
  153. - '40'
  154. - '41'
  155. - '42'
  156. - '43'
  157. - '44'
  158. - '45'
  159. - '46'
  160. - '48'
  161. - '49'
  162. - '50'
  163. - '51'
  164. - '52'
  165. - '53'
  166. - '54'
  167. - '56'
  168. - '57'
  169. - '58'
  170. - '60'
  171. - '64'
  172. - '65'
  173. - '66'
  174. - '67'
  175. - '68'
  176. - '69'
  177. - '70'
  178. - '71'
  179. - '72'
  180. - '73'
  181. - '74'
  182. - '75'
  183. - '76'
  184. - '77'
  185. - '78'
  186. - '80'
  187. - '81'
  188. - '82'
  189. - '83'
  190. - '84'
  191. - '85'
  192. - '86'
  193. - '88'
  194. - '89'
  195. - '90'
  196. - '92'
  197. - '96'
  198. - '97'
  199. - '98'
  200. - '99'
  201. - '100'
  202. - '101'
  203. - '102'
  204. - '104'
  205. - '105'
  206. - '106'
  207. - '108'
  208. - '112'
  209. - '113'
  210. - '114'
  211. - '116'
  212. - '120'
  213. - '128'
  214. - '129'
  215. - '130'
  216. - '131'
  217. - '132'
  218. - '133'
  219. - '134'
  220. - '135'
  221. - '136'
  222. - '137'
  223. - '138'
  224. - '139'
  225. - '140'
  226. - '141'
  227. - '142'
  228. - '144'
  229. - '145'
  230. - '146'
  231. - '147'
  232. - '148'
  233. - '149'
  234. - '150'
  235. - '152'
  236. - '153'
  237. - '154'
  238. - '156'
  239. - '160'
  240. - '161'
  241. - '162'
  242. - '163'
  243. - '164'
  244. - '165'
  245. - '166'
  246. - '168'
  247. - '169'
  248. - '170'
  249. - '172'
  250. - '176'
  251. - '177'
  252. - '178'
  253. - '180'
  254. - '184'
  255. - '192'
  256. - '193'
  257. - '194'
  258. - '195'
  259. - '196'
  260. - '197'
  261. - '198'
  262. - '200'
  263. - '201'
  264. - '202'
  265. - '204'
  266. - '208'
  267. - '209'
  268. - '210'
  269. - '212'
  270. - '216'
  271. - '224'
  272. - '225'
  273. - '226'
  274. - '228'
  275. - '232'
  276. - '240'
  277. - '256'
  278. - '257'
  279. - '258'
  280. - '259'
  281. - '260'
  282. - '261'
  283. - '262'
  284. - '263'
  285. - '264'
  286. - '265'
  287. - '266'
  288. - '267'
  289. - '268'
  290. - '269'
  291. - '270'
  292. - '272'
  293. - '273'
  294. - '274'
  295. - '275'
  296. - '276'
  297. - '277'
  298. - '278'
  299. - '280'
  300. - '281'
  301. - '282'
  302. - '284'
  303. - '288'
  304. - '289'
  305. - '290'
  306. - '291'
  307. - '292'
  308. - '293'
  309. - '294'
  310. - '296'
  311. - '297'
  312. - '298'
  313. - '300'
  314. - '304'
  315. - '305'
  316. - '306'
  317. - '308'
  318. - '312'
  319. - '320'
  320. - '321'
  321. - '322'
  322. - '323'
  323. - '324'
  324. - '325'
  325. - '326'
  326. - '328'
  327. - '329'
  328. - '330'
  329. - '332'
  330. - '336'
  331. - '337'
  332. - '338'
  333. - '340'
  334. - '344'
  335. - '352'
  336. - '353'
  337. - '354'
  338. - '356'
  339. - '360'
  340. - '368'
  341. - '384'
  342. - '385'
  343. - '386'
  344. - '387'
  345. - '388'
  346. - '389'
  347. - '390'
  348. - '392'
  349. - '393'
  350. - '394'
  351. - '396'
  352. - '400'
  353. - '401'
  354. - '402'
  355. - '404'
  356. - '408'
  357. - '416'
  358. - '417'
  359. - '418'
  360. - '420'
  361. - '424'
  362. - '432'
  363. - '448'
  364. - '449'
  365. - '450'
  366. - '452'
  367. - '456'
  368. - '464'
  369. - '480'
  370. - '512'
  371. - '513'
  372. - '514'
  373. - '515'
  374. - '516'
  375. - '517'
  376. - '518'
  377. - '519'
  378. - '520'
  379. - '521'
  380. - '522'
  381. - '523'
  382. - '524'
  383. - '525'
  384. - '526'
  385. - '528'
  386. - '529'
  387. - '530'
  388. - '531'
  389. - '532'
  390. - '533'
  391. - '534'
  392. - '536'
  393. - '537'
  394. - '538'
  395. - '540'
  396. - '544'
  397. - '545'
  398. - '546'
  399. - '547'
  400. - '548'
  401. - '549'
  402. - '550'
  403. - '552'
  404. - '553'
  405. - '554'
  406. - '556'
  407. - '560'
  408. - '561'
  409. - '562'
  410. - '564'
  411. - '568'
  412. - '576'
  413. - '577'
  414. - '578'
  415. - '579'
  416. - '580'
  417. - '581'
  418. - '582'
  419. - '584'
  420. - '585'
  421. - '586'
  422. - '588'
  423. - '592'
  424. - '593'
  425. - '594'
  426. - '596'
  427. - '600'
  428. - '608'
  429. - '609'
  430. - '610'
  431. - '612'
  432. - '616'
  433. - '624'
  434. - '640'
  435. - '641'
  436. - '642'
  437. - '643'
  438. - '644'
  439. - '645'
  440. - '646'
  441. - '648'
  442. - '649'
  443. - '650'
  444. - '652'
  445. - '656'
  446. - '657'
  447. - '658'
  448. - '660'
  449. - '664'
  450. - '672'
  451. - '673'
  452. - '674'
  453. - '676'
  454. - '680'
  455. - '688'
  456. - '704'
  457. - '705'
  458. - '706'
  459. - '708'
  460. - '712'
  461. - '720'
  462. - '736'
  463. - '768'
  464. - '769'
  465. - '770'
  466. - '771'
  467. - '772'
  468. - '773'
  469. - '774'
  470. - '776'
  471. - '777'
  472. - '778'
  473. - '780'
  474. - '784'
  475. - '785'
  476. - '786'
  477. - '788'
  478. - '792'
  479. - '800'
  480. - '801'
  481. - '802'
  482. - '804'
  483. - '808'
  484. - '816'
  485. - '832'
  486. - '833'
  487. - '834'
  488. - '836'
  489. - '840'
  490. - '848'
  491. - '864'
  492. - '896'
  493. - '897'
  494. - '898'
  495. - '900'
  496. - '904'
  497. - '912'
  498. - '928'
  499. - '960'
  500. - '1024'
  501. - '1025'
  502. - '1026'
  503. - '1027'
  504. - '1028'
  505. - '1029'
  506. - '1030'
  507. - '1031'
  508. - '1032'
  509. - '1033'
  510. - '1034'
  511. - '1035'
  512. - '1036'
  513. - '1037'
  514. - '1038'
  515. - '1040'
  516. - '1041'
  517. - '1042'
  518. - '1043'
  519. - '1044'
  520. - '1045'
  521. - '1046'
  522. - '1048'
  523. - '1049'
  524. - '1050'
  525. - '1052'
  526. - '1056'
  527. - '1057'
  528. - '1058'
  529. - '1059'
  530. - '1060'
  531. - '1061'
  532. - '1062'
  533. - '1064'
  534. - '1065'
  535. - '1066'
  536. - '1068'
  537. - '1072'
  538. - '1073'
  539. - '1074'
  540. - '1076'
  541. - '1080'
  542. - '1088'
  543. - '1089'
  544. - '1090'
  545. - '1091'
  546. - '1092'
  547. - '1093'
  548. - '1094'
  549. - '1096'
  550. - '1097'
  551. - '1098'
  552. - '1100'
  553. - '1104'
  554. - '1105'
  555. - '1106'
  556. - '1108'
  557. - '1112'
  558. - '1120'
  559. - '1121'
  560. - '1122'
  561. - '1124'
  562. - '1128'
  563. - '1136'
  564. - '1152'
  565. - '1153'
  566. - '1154'
  567. - '1155'
  568. - '1156'
  569. - '1157'
  570. - '1158'
  571. - '1160'
  572. - '1161'
  573. - '1162'
  574. - '1164'
  575. - '1168'
  576. - '1169'
  577. - '1170'
  578. - '1172'
  579. - '1176'
  580. - '1184'
  581. - '1185'
  582. - '1186'
  583. - '1188'
  584. - '1192'
  585. - '1200'
  586. - '1216'
  587. - '1217'
  588. - '1218'
  589. - '1220'
  590. - '1224'
  591. - '1232'
  592. - '1248'
  593. - '1280'
  594. - '1281'
  595. - '1282'
  596. - '1283'
  597. - '1284'
  598. - '1285'
  599. - '1286'
  600. - '1288'
  601. - '1289'
  602. - '1290'
  603. - '1292'
  604. - '1296'
  605. - '1297'
  606. - '1298'
  607. - '1300'
  608. - '1304'
  609. - '1312'
  610. - '1313'
  611. - '1314'
  612. - '1316'
  613. - '1320'
  614. - '1328'
  615. - '1344'
  616. - '1345'
  617. - '1346'
  618. - '1348'
  619. - '1352'
  620. - '1360'
  621. - '1376'
  622. - '1408'
  623. - '1409'
  624. - '1410'
  625. - '1412'
  626. - '1416'
  627. - '1424'
  628. - '1440'
  629. - '1472'
  630. - '1536'
  631. - '1537'
  632. - '1538'
  633. - '1539'
  634. - '1540'
  635. - '1541'
  636. - '1542'
  637. - '1544'
  638. - '1545'
  639. - '1546'
  640. - '1548'
  641. - '1552'
  642. - '1553'
  643. - '1554'
  644. - '1556'
  645. - '1560'
  646. - '1568'
  647. - '1569'
  648. - '1570'
  649. - '1572'
  650. - '1576'
  651. - '1584'
  652. - '1600'
  653. - '1601'
  654. - '1602'
  655. - '1604'
  656. - '1608'
  657. - '1616'
  658. - '1632'
  659. - '1664'
  660. - '1665'
  661. - '1666'
  662. - '1668'
  663. - '1672'
  664. - '1680'
  665. - '1696'
  666. - '1728'
  667. - '1792'
  668. - '1793'
  669. - '1794'
  670. - '1796'
  671. - '1800'
  672. - '1808'
  673. - '1824'
  674. - '1856'
  675. - '1920'
  676. - '2048'
  677. - '2049'
  678. - '2050'
  679. - '2051'
  680. - '2052'
  681. - '2053'
  682. - '2054'
  683. - '2055'
  684. - '2056'
  685. - '2057'
  686. - '2058'
  687. - '2059'
  688. - '2060'
  689. - '2061'
  690. - '2062'
  691. - '2064'
  692. - '2065'
  693. - '2066'
  694. - '2067'
  695. - '2068'
  696. - '2069'
  697. - '2070'
  698. - '2072'
  699. - '2073'
  700. - '2074'
  701. - '2076'
  702. - '2080'
  703. - '2081'
  704. - '2082'
  705. - '2083'
  706. - '2084'
  707. - '2085'
  708. - '2086'
  709. - '2088'
  710. - '2089'
  711. - '2090'
  712. - '2092'
  713. - '2096'
  714. - '2097'
  715. - '2098'
  716. - '2100'
  717. - '2104'
  718. - '2112'
  719. - '2113'
  720. - '2114'
  721. - '2115'
  722. - '2116'
  723. - '2117'
  724. - '2118'
  725. - '2120'
  726. - '2121'
  727. - '2122'
  728. - '2124'
  729. - '2128'
  730. - '2129'
  731. - '2130'
  732. - '2132'
  733. - '2136'
  734. - '2144'
  735. - '2145'
  736. - '2146'
  737. - '2148'
  738. - '2152'
  739. - '2160'
  740. - '2176'
  741. - '2177'
  742. - '2178'
  743. - '2179'
  744. - '2180'
  745. - '2181'
  746. - '2182'
  747. - '2184'
  748. - '2185'
  749. - '2186'
  750. - '2188'
  751. - '2192'
  752. - '2193'
  753. - '2194'
  754. - '2196'
  755. - '2200'
  756. - '2208'
  757. - '2209'
  758. - '2210'
  759. - '2212'
  760. - '2216'
  761. - '2224'
  762. - '2240'
  763. - '2241'
  764. - '2242'
  765. - '2244'
  766. - '2248'
  767. - '2256'
  768. - '2272'
  769. - '2304'
  770. - '2305'
  771. - '2306'
  772. - '2307'
  773. - '2308'
  774. - '2309'
  775. - '2310'
  776. - '2312'
  777. - '2313'
  778. - '2314'
  779. - '2316'
  780. - '2320'
  781. - '2321'
  782. - '2322'
  783. - '2324'
  784. - '2328'
  785. - '2336'
  786. - '2337'
  787. - '2338'
  788. - '2340'
  789. - '2344'
  790. - '2352'
  791. - '2368'
  792. - '2369'
  793. - '2370'
  794. - '2372'
  795. - '2376'
  796. - '2384'
  797. - '2400'
  798. - '2432'
  799. - '2433'
  800. - '2434'
  801. - '2436'
  802. - '2440'
  803. - '2448'
  804. - '2464'
  805. - '2496'
  806. - '2560'
  807. - '2561'
  808. - '2562'
  809. - '2563'
  810. - '2564'
  811. - '2565'
  812. - '2566'
  813. - '2568'
  814. - '2569'
  815. - '2570'
  816. - '2572'
  817. - '2576'
  818. - '2577'
  819. - '2578'
  820. - '2580'
  821. - '2584'
  822. - '2592'
  823. - '2593'
  824. - '2594'
  825. - '2596'
  826. - '2600'
  827. - '2608'
  828. - '2624'
  829. - '2625'
  830. - '2626'
  831. - '2628'
  832. - '2632'
  833. - '2640'
  834. - '2656'
  835. - '2688'
  836. - '2689'
  837. - '2690'
  838. - '2692'
  839. - '2696'
  840. - '2704'
  841. - '2720'
  842. - '2752'
  843. - '2816'
  844. - '2817'
  845. - '2818'
  846. - '2820'
  847. - '2824'
  848. - '2832'
  849. - '2848'
  850. - '2880'
  851. - '2944'
  852. - '3072'
  853. - '3073'
  854. - '3074'
  855. - '3075'
  856. - '3076'
  857. - '3077'
  858. - '3078'
  859. - '3080'
  860. - '3081'
  861. - '3082'
  862. - '3084'
  863. - '3088'
  864. - '3089'
  865. - '3090'
  866. - '3092'
  867. - '3096'
  868. - '3104'
  869. - '3105'
  870. - '3106'
  871. - '3108'
  872. - '3112'
  873. - '3120'
  874. - '3136'
  875. - '3137'
  876. - '3138'
  877. - '3140'
  878. - '3144'
  879. - '3152'
  880. - '3168'
  881. - '3200'
  882. - '3201'
  883. - '3202'
  884. - '3204'
  885. - '3208'
  886. - '3216'
  887. - '3232'
  888. - '3264'
  889. - '3328'
  890. - '3329'
  891. - '3330'
  892. - '3332'
  893. - '3336'
  894. - '3344'
  895. - '3360'
  896. - '3392'
  897. - '3456'
  898. - '3584'
  899. - '3585'
  900. - '3586'
  901. - '3588'
  902. - '3592'
  903. - '3600'
  904. - '3616'
  905. - '3648'
  906. - '3712'
  907. - '3840'
  908. - '4096'
  909. - '4097'
  910. - '4098'
  911. - '4099'
  912. - '4100'
  913. - '4101'
  914. - '4102'
  915. - '4103'
  916. - '4104'
  917. - '4105'
  918. - '4106'
  919. - '4107'
  920. - '4108'
  921. - '4109'
  922. - '4110'
  923. - '4112'
  924. - '4113'
  925. - '4114'
  926. - '4115'
  927. - '4116'
  928. - '4117'
  929. - '4118'
  930. - '4120'
  931. - '4121'
  932. - '4122'
  933. - '4124'
  934. - '4128'
  935. - '4129'
  936. - '4130'
  937. - '4131'
  938. - '4132'
  939. - '4133'
  940. - '4134'
  941. - '4136'
  942. - '4137'
  943. - '4138'
  944. - '4140'
  945. - '4144'
  946. - '4145'
  947. - '4146'
  948. - '4148'
  949. - '4152'
  950. - '4160'
  951. - '4161'
  952. - '4162'
  953. - '4163'
  954. - '4164'
  955. - '4165'
  956. - '4166'
  957. - '4168'
  958. - '4169'
  959. - '4170'
  960. - '4172'
  961. - '4176'
  962. - '4177'
  963. - '4178'
  964. - '4180'
  965. - '4184'
  966. - '4192'
  967. - '4193'
  968. - '4194'
  969. - '4196'
  970. - '4200'
  971. - '4208'
  972. - '4224'
  973. - '4225'
  974. - '4226'
  975. - '4227'
  976. - '4228'
  977. - '4229'
  978. - '4230'
  979. - '4232'
  980. - '4233'
  981. - '4234'
  982. - '4236'
  983. - '4240'
  984. - '4241'
  985. - '4242'
  986. - '4244'
  987. - '4248'
  988. - '4256'
  989. - '4257'
  990. - '4258'
  991. - '4260'
  992. - '4264'
  993. - '4272'
  994. - '4288'
  995. - '4289'
  996. - '4290'
  997. - '4292'
  998. - '4296'
  999. - '4304'
  1000. - '4320'
  1001. - '4352'
  1002. - '4353'
  1003. - '4354'
  1004. - '4355'
  1005. - '4356'
  1006. - '4357'
  1007. - '4358'
  1008. - '4360'
  1009. - '4361'
  1010. - '4362'
  1011. - '4364'
  1012. - '4368'
  1013. - '4369'
  1014. - '4370'
  1015. - '4372'
  1016. - '4376'
  1017. - '4384'
  1018. - '4385'
  1019. - '4386'
  1020. - '4388'
  1021. - '4392'
  1022. - '4400'
  1023. - '4416'
  1024. - '4417'
  1025. - '4418'
  1026. - '4420'
  1027. - '4424'
  1028. - '4432'
  1029. - '4448'
  1030. - '4480'
  1031. - '4481'
  1032. - '4482'
  1033. - '4484'
  1034. - '4488'
  1035. - '4496'
  1036. - '4512'
  1037. - '4544'
  1038. - '4608'
  1039. - '4609'
  1040. - '4610'
  1041. - '4611'
  1042. - '4612'
  1043. - '4613'
  1044. - '4614'
  1045. - '4616'
  1046. - '4617'
  1047. - '4618'
  1048. - '4620'
  1049. - '4624'
  1050. - '4625'
  1051. - '4626'
  1052. - '4628'
  1053. - '4632'
  1054. - '4640'
  1055. - '4641'
  1056. - '4642'
  1057. - '4644'
  1058. - '4648'
  1059. - '4656'
  1060. - '4672'
  1061. - '4673'
  1062. - '4674'
  1063. - '4676'
  1064. - '4680'
  1065. - '4688'
  1066. - '4704'
  1067. - '4736'
  1068. - '4737'
  1069. - '4738'
  1070. - '4740'
  1071. - '4744'
  1072. - '4752'
  1073. - '4768'
  1074. - '4800'
  1075. - '4864'
  1076. - '4865'
  1077. - '4866'
  1078. - '4868'
  1079. - '4872'
  1080. - '4880'
  1081. - '4896'
  1082. - '4928'
  1083. - '4992'
  1084. - '5120'
  1085. - '5121'
  1086. - '5122'
  1087. - '5123'
  1088. - '5124'
  1089. - '5125'
  1090. - '5126'
  1091. - '5128'
  1092. - '5129'
  1093. - '5130'
  1094. - '5132'
  1095. - '5136'
  1096. - '5137'
  1097. - '5138'
  1098. - '5140'
  1099. - '5144'
  1100. - '5152'
  1101. - '5153'
  1102. - '5154'
  1103. - '5156'
  1104. - '5160'
  1105. - '5168'
  1106. - '5184'
  1107. - '5185'
  1108. - '5186'
  1109. - '5188'
  1110. - '5192'
  1111. - '5200'
  1112. - '5216'
  1113. - '5248'
  1114. - '5249'
  1115. - '5250'
  1116. - '5252'
  1117. - '5256'
  1118. - '5264'
  1119. - '5280'
  1120. - '5312'
  1121. - '5376'
  1122. - '5377'
  1123. - '5378'
  1124. - '5380'
  1125. - '5384'
  1126. - '5392'
  1127. - '5408'
  1128. - '5440'
  1129. - '5504'
  1130. - '5632'
  1131. - '5633'
  1132. - '5634'
  1133. - '5636'
  1134. - '5640'
  1135. - '5648'
  1136. - '5664'
  1137. - '5696'
  1138. - '5760'
  1139. - '5888'
  1140. - '6144'
  1141. - '6145'
  1142. - '6146'
  1143. - '6147'
  1144. - '6148'
  1145. - '6149'
  1146. - '6150'
  1147. - '6152'
  1148. - '6153'
  1149. - '6154'
  1150. - '6156'
  1151. - '6160'
  1152. - '6161'
  1153. - '6162'
  1154. - '6164'
  1155. - '6168'
  1156. - '6176'
  1157. - '6177'
  1158. - '6178'
  1159. - '6180'
  1160. - '6184'
  1161. - '6192'
  1162. - '6208'
  1163. - '6209'
  1164. - '6210'
  1165. - '6212'
  1166. - '6216'
  1167. - '6224'
  1168. - '6240'
  1169. - '6272'
  1170. - '6273'
  1171. - '6274'
  1172. - '6276'
  1173. - '6280'
  1174. - '6288'
  1175. - '6304'
  1176. - '6336'
  1177. - '6400'
  1178. - '6401'
  1179. - '6402'
  1180. - '6404'
  1181. - '6408'
  1182. - '6416'
  1183. - '6432'
  1184. - '6464'
  1185. - '6528'
  1186. - '6656'
  1187. - '6657'
  1188. - '6658'
  1189. - '6660'
  1190. - '6664'
  1191. - '6672'
  1192. - '6688'
  1193. - '6720'
  1194. - '6784'
  1195. - '6912'
  1196. - '7168'
  1197. - '7169'
  1198. - '7170'
  1199. - '7172'
  1200. - '7176'
  1201. - '7184'
  1202. - '7200'
  1203. - '7232'
  1204. - '7296'
  1205. - '7424'
  1206. - '7680'
  1207. - '8192'
  1208. - '8193'
  1209. - '8194'
  1210. - '8195'
  1211. - '8196'
  1212. - '8197'
  1213. - '8198'
  1214. - '8199'
  1215. - '8200'
  1216. - '8201'
  1217. - '8202'
  1218. - '8203'
  1219. - '8204'
  1220. - '8205'
  1221. - '8206'
  1222. - '8208'
  1223. - '8209'
  1224. - '8210'
  1225. - '8211'
  1226. - '8212'
  1227. - '8213'
  1228. - '8214'
  1229. - '8216'
  1230. - '8217'
  1231. - '8218'
  1232. - '8220'
  1233. - '8224'
  1234. - '8225'
  1235. - '8226'
  1236. - '8227'
  1237. - '8228'
  1238. - '8229'
  1239. - '8230'
  1240. - '8232'
  1241. - '8233'
  1242. - '8234'
  1243. - '8236'
  1244. - '8240'
  1245. - '8241'
  1246. - '8242'
  1247. - '8244'
  1248. - '8248'
  1249. - '8256'
  1250. - '8257'
  1251. - '8258'
  1252. - '8259'
  1253. - '8260'
  1254. - '8261'
  1255. - '8262'
  1256. - '8264'
  1257. - '8265'
  1258. - '8266'
  1259. - '8268'
  1260. - '8272'
  1261. - '8273'
  1262. - '8274'
  1263. - '8276'
  1264. - '8280'
  1265. - '8288'
  1266. - '8289'
  1267. - '8290'
  1268. - '8292'
  1269. - '8296'
  1270. - '8304'
  1271. - '8320'
  1272. - '8321'
  1273. - '8322'
  1274. - '8323'
  1275. - '8324'
  1276. - '8325'
  1277. - '8326'
  1278. - '8328'
  1279. - '8329'
  1280. - '8330'
  1281. - '8332'
  1282. - '8336'
  1283. - '8337'
  1284. - '8338'
  1285. - '8340'
  1286. - '8344'
  1287. - '8352'
  1288. - '8353'
  1289. - '8354'
  1290. - '8356'
  1291. - '8360'
  1292. - '8368'
  1293. - '8384'
  1294. - '8385'
  1295. - '8386'
  1296. - '8388'
  1297. - '8392'
  1298. - '8400'
  1299. - '8416'
  1300. - '8448'
  1301. - '8449'
  1302. - '8450'
  1303. - '8451'
  1304. - '8452'
  1305. - '8453'
  1306. - '8454'
  1307. - '8456'
  1308. - '8457'
  1309. - '8458'
  1310. - '8460'
  1311. - '8464'
  1312. - '8465'
  1313. - '8466'
  1314. - '8468'
  1315. - '8472'
  1316. - '8480'
  1317. - '8481'
  1318. - '8482'
  1319. - '8484'
  1320. - '8488'
  1321. - '8496'
  1322. - '8512'
  1323. - '8513'
  1324. - '8514'
  1325. - '8516'
  1326. - '8520'
  1327. - '8528'
  1328. - '8544'
  1329. - '8576'
  1330. - '8577'
  1331. - '8578'
  1332. - '8580'
  1333. - '8584'
  1334. - '8592'
  1335. - '8608'
  1336. - '8640'
  1337. - '8704'
  1338. - '8705'
  1339. - '8706'
  1340. - '8707'
  1341. - '8708'
  1342. - '8709'
  1343. - '8710'
  1344. - '8712'
  1345. - '8713'
  1346. - '8714'
  1347. - '8716'
  1348. - '8720'
  1349. - '8721'
  1350. - '8722'
  1351. - '8724'
  1352. - '8728'
  1353. - '8736'
  1354. - '8737'
  1355. - '8738'
  1356. - '8740'
  1357. - '8744'
  1358. - '8752'
  1359. - '8768'
  1360. - '8769'
  1361. - '8770'
  1362. - '8772'
  1363. - '8776'
  1364. - '8784'
  1365. - '8800'
  1366. - '8832'
  1367. - '8833'
  1368. - '8834'
  1369. - '8836'
  1370. - '8840'
  1371. - '8848'
  1372. - '8864'
  1373. - '8896'
  1374. - '8960'
  1375. - '8961'
  1376. - '8962'
  1377. - '8964'
  1378. - '8968'
  1379. - '8976'
  1380. - '8992'
  1381. - '9024'
  1382. - '9088'
  1383. - '9216'
  1384. - '9217'
  1385. - '9218'
  1386. - '9219'
  1387. - '9220'
  1388. - '9221'
  1389. - '9222'
  1390. - '9224'
  1391. - '9225'
  1392. - '9226'
  1393. - '9228'
  1394. - '9232'
  1395. - '9233'
  1396. - '9234'
  1397. - '9236'
  1398. - '9240'
  1399. - '9248'
  1400. - '9249'
  1401. - '9250'
  1402. - '9252'
  1403. - '9256'
  1404. - '9264'
  1405. - '9280'
  1406. - '9281'
  1407. - '9282'
  1408. - '9284'
  1409. - '9288'
  1410. - '9296'
  1411. - '9312'
  1412. - '9344'
  1413. - '9345'
  1414. - '9346'
  1415. - '9348'
  1416. - '9352'
  1417. - '9360'
  1418. - '9376'
  1419. - '9408'
  1420. - '9472'
  1421. - '9473'
  1422. - '9474'
  1423. - '9476'
  1424. - '9480'
  1425. - '9488'
  1426. - '9504'
  1427. - '9536'
  1428. - '9600'
  1429. - '9728'
  1430. - '9729'
  1431. - '9730'
  1432. - '9732'
  1433. - '9736'
  1434. - '9744'
  1435. - '9760'
  1436. - '9792'
  1437. - '9856'
  1438. - '9984'
  1439. - '10240'
  1440. - '10241'
  1441. - '10242'
  1442. - '10243'
  1443. - '10244'
  1444. - '10245'
  1445. - '10246'
  1446. - '10248'
  1447. - '10249'
  1448. - '10250'
  1449. - '10252'
  1450. - '10256'
  1451. - '10257'
  1452. - '10258'
  1453. - '10260'
  1454. - '10264'
  1455. - '10272'
  1456. - '10273'
  1457. - '10274'
  1458. - '10276'
  1459. - '10280'
  1460. - '10288'
  1461. - '10304'
  1462. - '10305'
  1463. - '10306'
  1464. - '10308'
  1465. - '10312'
  1466. - '10320'
  1467. - '10336'
  1468. - '10368'
  1469. - '10369'
  1470. - '10370'
  1471. - '10372'
  1472. - '10376'
  1473. - '10384'
  1474. - '10400'
  1475. - '10432'
  1476. - '10496'
  1477. - '10497'
  1478. - '10498'
  1479. - '10500'
  1480. - '10504'
  1481. - '10512'
  1482. - '10528'
  1483. - '10560'
  1484. - '10624'
  1485. - '10752'
  1486. - '10753'
  1487. - '10754'
  1488. - '10756'
  1489. - '10760'
  1490. - '10768'
  1491. - '10784'
  1492. - '10816'
  1493. - '10880'
  1494. - '11008'
  1495. - '11264'
  1496. - '11265'
  1497. - '11266'
  1498. - '11268'
  1499. - '11272'
  1500. - '11280'
  1501. - '11296'
  1502. - '11328'
  1503. - '11392'
  1504. - '11520'
  1505. - '11776'
  1506. - '12288'
  1507. - '12289'
  1508. - '12290'
  1509. - '12291'
  1510. - '12292'
  1511. - '12293'
  1512. - '12294'
  1513. - '12296'
  1514. - '12297'
  1515. - '12298'
  1516. - '12300'
  1517. - '12304'
  1518. - '12305'
  1519. - '12306'
  1520. - '12308'
  1521. - '12312'
  1522. - '12320'
  1523. - '12321'
  1524. - '12322'
  1525. - '12324'
  1526. - '12328'
  1527. - '12336'
  1528. - '12352'
  1529. - '12353'
  1530. - '12354'
  1531. - '12356'
  1532. - '12360'
  1533. - '12368'
  1534. - '12384'
  1535. - '12416'
  1536. - '12417'
  1537. - '12418'
  1538. - '12420'
  1539. - '12424'
  1540. - '12432'
  1541. - '12448'
  1542. - '12480'
  1543. - '12544'
  1544. - '12545'
  1545. - '12546'
  1546. - '12548'
  1547. - '12552'
  1548. - '12560'
  1549. - '12576'
  1550. - '12608'
  1551. - '12672'
  1552. - '12800'
  1553. - '12801'
  1554. - '12802'
  1555. - '12804'
  1556. - '12808'
  1557. - '12816'
  1558. - '12832'
  1559. - '12864'
  1560. - '12928'
  1561. - '13056'
  1562. - '13312'
  1563. - '13313'
  1564. - '13314'
  1565. - '13316'
  1566. - '13320'
  1567. - '13328'
  1568. - '13344'
  1569. - '13376'
  1570. - '13440'
  1571. - '13568'
  1572. - '13824'
  1573. - '14336'
  1574. - '14337'
  1575. - '14338'
  1576. - '14340'
  1577. - '14344'
  1578. - '14352'
  1579. - '14368'
  1580. - '14400'
  1581. - '14464'
  1582. - '14592'
  1583. - '14848'
  1584. - '15360'
  1585. - '16384'
  1586. - '16385'
  1587. - '16386'
  1588. - '16387'
  1589. - '16388'
  1590. - '16389'
  1591. - '16390'
  1592. - '16391'
  1593. - '16392'
  1594. - '16393'
  1595. - '16394'
  1596. - '16395'
  1597. - '16396'
  1598. - '16397'
  1599. - '16398'
  1600. - '16400'
  1601. - '16401'
  1602. - '16402'
  1603. - '16403'
  1604. - '16404'
  1605. - '16405'
  1606. - '16406'
  1607. - '16408'
  1608. - '16409'
  1609. - '16410'
  1610. - '16412'
  1611. - '16416'
  1612. - '16417'
  1613. - '16418'
  1614. - '16419'
  1615. - '16420'
  1616. - '16421'
  1617. - '16422'
  1618. - '16424'
  1619. - '16425'
  1620. - '16426'
  1621. - '16428'
  1622. - '16432'
  1623. - '16433'
  1624. - '16434'
  1625. - '16436'
  1626. - '16440'
  1627. - '16448'
  1628. - '16449'
  1629. - '16450'
  1630. - '16451'
  1631. - '16452'
  1632. - '16453'
  1633. - '16454'
  1634. - '16456'
  1635. - '16457'
  1636. - '16458'
  1637. - '16460'
  1638. - '16464'
  1639. - '16465'
  1640. - '16466'
  1641. - '16468'
  1642. - '16472'
  1643. - '16480'
  1644. - '16481'
  1645. - '16482'
  1646. - '16484'
  1647. - '16488'
  1648. - '16496'
  1649. - '16512'
  1650. - '16513'
  1651. - '16514'
  1652. - '16515'
  1653. - '16516'
  1654. - '16517'
  1655. - '16518'
  1656. - '16520'
  1657. - '16521'
  1658. - '16522'
  1659. - '16524'
  1660. - '16528'
  1661. - '16529'
  1662. - '16530'
  1663. - '16532'
  1664. - '16536'
  1665. - '16544'
  1666. - '16545'
  1667. - '16546'
  1668. - '16548'
  1669. - '16552'
  1670. - '16560'
  1671. - '16576'
  1672. - '16577'
  1673. - '16578'
  1674. - '16580'
  1675. - '16584'
  1676. - '16592'
  1677. - '16608'
  1678. - '16640'
  1679. - '16641'
  1680. - '16642'
  1681. - '16643'
  1682. - '16644'
  1683. - '16645'
  1684. - '16646'
  1685. - '16648'
  1686. - '16649'
  1687. - '16650'
  1688. - '16652'
  1689. - '16656'
  1690. - '16657'
  1691. - '16658'
  1692. - '16660'
  1693. - '16664'
  1694. - '16672'
  1695. - '16673'
  1696. - '16674'
  1697. - '16676'
  1698. - '16680'
  1699. - '16688'
  1700. - '16704'
  1701. - '16705'
  1702. - '16706'
  1703. - '16708'
  1704. - '16712'
  1705. - '16720'
  1706. - '16736'
  1707. - '16768'
  1708. - '16769'
  1709. - '16770'
  1710. - '16772'
  1711. - '16776'
  1712. - '16784'
  1713. - '16800'
  1714. - '16832'
  1715. - '16896'
  1716. - '16897'
  1717. - '16898'
  1718. - '16899'
  1719. - '16900'
  1720. - '16901'
  1721. - '16902'
  1722. - '16904'
  1723. - '16905'
  1724. - '16906'
  1725. - '16908'
  1726. - '16912'
  1727. - '16913'
  1728. - '16914'
  1729. - '16916'
  1730. - '16920'
  1731. - '16928'
  1732. - '16929'
  1733. - '16930'
  1734. - '16932'
  1735. - '16936'
  1736. - '16944'
  1737. - '16960'
  1738. - '16961'
  1739. - '16962'
  1740. - '16964'
  1741. - '16968'
  1742. - '16976'
  1743. - '16992'
  1744. - '17024'
  1745. - '17025'
  1746. - '17026'
  1747. - '17028'
  1748. - '17032'
  1749. - '17040'
  1750. - '17056'
  1751. - '17088'
  1752. - '17152'
  1753. - '17153'
  1754. - '17154'
  1755. - '17156'
  1756. - '17160'
  1757. - '17168'
  1758. - '17184'
  1759. - '17216'
  1760. - '17280'
  1761. - '17408'
  1762. - '17409'
  1763. - '17410'
  1764. - '17411'
  1765. - '17412'
  1766. - '17413'
  1767. - '17414'
  1768. - '17416'
  1769. - '17417'
  1770. - '17418'
  1771. - '17420'
  1772. - '17424'
  1773. - '17425'
  1774. - '17426'
  1775. - '17428'
  1776. - '17432'
  1777. - '17440'
  1778. - '17441'
  1779. - '17442'
  1780. - '17444'
  1781. - '17448'
  1782. - '17456'
  1783. - '17472'
  1784. - '17473'
  1785. - '17474'
  1786. - '17476'
  1787. - '17480'
  1788. - '17488'
  1789. - '17504'
  1790. - '17536'
  1791. - '17537'
  1792. - '17538'
  1793. - '17540'
  1794. - '17544'
  1795. - '17552'
  1796. - '17568'
  1797. - '17600'
  1798. - '17664'
  1799. - '17665'
  1800. - '17666'
  1801. - '17668'
  1802. - '17672'
  1803. - '17680'
  1804. - '17696'
  1805. - '17728'
  1806. - '17792'
  1807. - '17920'
  1808. - '17921'
  1809. - '17922'
  1810. - '17924'
  1811. - '17928'
  1812. - '17936'
  1813. - '17952'
  1814. - '17984'
  1815. - '18048'
  1816. - '18176'
  1817. - '18432'
  1818. - '18433'
  1819. - '18434'
  1820. - '18435'
  1821. - '18436'
  1822. - '18437'
  1823. - '18438'
  1824. - '18440'
  1825. - '18441'
  1826. - '18442'
  1827. - '18444'
  1828. - '18448'
  1829. - '18449'
  1830. - '18450'
  1831. - '18452'
  1832. - '18456'
  1833. - '18464'
  1834. - '18465'
  1835. - '18466'
  1836. - '18468'
  1837. - '18472'
  1838. - '18480'
  1839. - '18496'
  1840. - '18497'
  1841. - '18498'
  1842. - '18500'
  1843. - '18504'
  1844. - '18512'
  1845. - '18528'
  1846. - '18560'
  1847. - '18561'
  1848. - '18562'
  1849. - '18564'
  1850. - '18568'
  1851. - '18576'
  1852. - '18592'
  1853. - '18624'
  1854. - '18688'
  1855. - '18689'
  1856. - '18690'
  1857. - '18692'
  1858. - '18696'
  1859. - '18704'
  1860. - '18720'
  1861. - '18752'
  1862. - '18816'
  1863. - '18944'
  1864. - '18945'
  1865. - '18946'
  1866. - '18948'
  1867. - '18952'
  1868. - '18960'
  1869. - '18976'
  1870. - '19008'
  1871. - '19072'
  1872. - '19200'
  1873. - '19456'
  1874. - '19457'
  1875. - '19458'
  1876. - '19460'
  1877. - '19464'
  1878. - '19472'
  1879. - '19488'
  1880. - '19520'
  1881. - '19584'
  1882. - '19712'
  1883. - '19968'
  1884. - '20480'
  1885. - '20481'
  1886. - '20482'
  1887. - '20483'
  1888. - '20484'
  1889. - '20485'
  1890. - '20486'
  1891. - '20488'
  1892. - '20489'
  1893. - '20490'
  1894. - '20492'
  1895. - '20496'
  1896. - '20497'
  1897. - '20498'
  1898. - '20500'
  1899. - '20504'
  1900. - '20512'
  1901. - '20513'
  1902. - '20514'
  1903. - '20516'
  1904. - '20520'
  1905. - '20528'
  1906. - '20544'
  1907. - '20545'
  1908. - '20546'
  1909. - '20548'
  1910. - '20552'
  1911. - '20560'
  1912. - '20576'
  1913. - '20608'
  1914. - '20609'
  1915. - '20610'
  1916. - '20612'
  1917. - '20616'
  1918. - '20624'
  1919. - '20640'
  1920. - '20672'
  1921. - '20736'
  1922. - '20737'
  1923. - '20738'
  1924. - '20740'
  1925. - '20744'
  1926. - '20752'
  1927. - '20768'
  1928. - '20800'
  1929. - '20864'
  1930. - '20992'
  1931. - '20993'
  1932. - '20994'
  1933. - '20996'
  1934. - '21000'
  1935. - '21008'
  1936. - '21024'
  1937. - '21056'
  1938. - '21120'
  1939. - '21248'
  1940. - '21504'
  1941. - '21505'
  1942. - '21506'
  1943. - '21508'
  1944. - '21512'
  1945. - '21520'
  1946. - '21536'
  1947. - '21568'
  1948. - '21632'
  1949. - '21760'
  1950. - '22016'
  1951. - '22528'
  1952. - '22529'
  1953. - '22530'
  1954. - '22532'
  1955. - '22536'
  1956. - '22544'
  1957. - '22560'
  1958. - '22592'
  1959. - '22656'
  1960. - '22784'
  1961. - '23040'
  1962. - '23552'
  1963. - '24576'
  1964. - '24577'
  1965. - '24578'
  1966. - '24579'
  1967. - '24580'
  1968. - '24581'
  1969. - '24582'
  1970. - '24584'
  1971. - '24585'
  1972. - '24586'
  1973. - '24588'
  1974. - '24592'
  1975. - '24593'
  1976. - '24594'
  1977. - '24596'
  1978. - '24600'
  1979. - '24608'
  1980. - '24609'
  1981. - '24610'
  1982. - '24612'
  1983. - '24616'
  1984. - '24624'
  1985. - '24640'
  1986. - '24641'
  1987. - '24642'
  1988. - '24644'
  1989. - '24648'
  1990. - '24656'
  1991. - '24672'
  1992. - '24704'
  1993. - '24705'
  1994. - '24706'
  1995. - '24708'
  1996. - '24712'
  1997. - '24720'
  1998. - '24736'
  1999. - '24768'
  2000. - '24832'
  2001. - '24833'
  2002. - '24834'
  2003. - '24836'
  2004. - '24840'
  2005. - '24848'
  2006. - '24864'
  2007. - '24896'
  2008. - '24960'
  2009. - '25088'
  2010. - '25089'
  2011. - '25090'
  2012. - '25092'
  2013. - '25096'
  2014. - '25104'
  2015. - '25120'
  2016. - '25152'
  2017. - '25216'
  2018. - '25344'
  2019. - '25600'
  2020. - '25601'
  2021. - '25602'
  2022. - '25604'
  2023. - '25608'
  2024. - '25616'
  2025. - '25632'
  2026. - '25664'
  2027. - '25728'
  2028. - '25856'
  2029. - '26112'
  2030. - '26624'
  2031. - '26625'
  2032. - '26626'
  2033. - '26628'
  2034. - '26632'
  2035. - '26640'
  2036. - '26656'
  2037. - '26688'
  2038. - '26752'
  2039. - '26880'
  2040. - '27136'
  2041. - '27648'
  2042. - '28672'
  2043. - '28673'
  2044. - '28674'
  2045. - '28676'
  2046. - '28680'
  2047. - '28688'
  2048. - '28704'
  2049. - '28736'
  2050. - '28800'
  2051. - '28928'
  2052. - '29184'
  2053. - '29696'
  2054. - '30720'
  2055. - '32768'
  2056. - '32769'
  2057. - '32770'
  2058. - '32771'
  2059. - '32772'
  2060. - '32773'
  2061. - '32774'
  2062. - '32775'
  2063. - '32776'
  2064. - '32777'
  2065. - '32778'
  2066. - '32779'
  2067. - '32780'
  2068. - '32781'
  2069. - '32782'
  2070. - '32784'
  2071. - '32785'
  2072. - '32786'
  2073. - '32787'
  2074. - '32788'
  2075. - '32789'
  2076. - '32790'
  2077. - '32792'
  2078. - '32793'
  2079. - '32794'
  2080. - '32796'
  2081. - '32800'
  2082. - '32801'
  2083. - '32802'
  2084. - '32803'
  2085. - '32804'
  2086. - '32805'
  2087. - '32806'
  2088. - '32808'
  2089. - '32809'
  2090. - '32810'
  2091. - '32812'
  2092. - '32816'
  2093. - '32817'
  2094. - '32818'
  2095. - '32820'
  2096. - '32824'
  2097. - '32832'
  2098. - '32833'
  2099. - '32834'
  2100. - '32835'
  2101. - '32836'
  2102. - '32837'
  2103. - '32838'
  2104. - '32840'
  2105. - '32841'
  2106. - '32842'
  2107. - '32844'
  2108. - '32848'
  2109. - '32849'
  2110. - '32850'
  2111. - '32852'
  2112. - '32856'
  2113. - '32864'
  2114. - '32865'
  2115. - '32866'
  2116. - '32868'
  2117. - '32872'
  2118. - '32880'
  2119. - '32896'
  2120. - '32897'
  2121. - '32898'
  2122. - '32899'
  2123. - '32900'
  2124. - '32901'
  2125. - '32902'
  2126. - '32904'
  2127. - '32905'
  2128. - '32906'
  2129. - '32908'
  2130. - '32912'
  2131. - '32913'
  2132. - '32914'
  2133. - '32916'
  2134. - '32920'
  2135. - '32928'
  2136. - '32929'
  2137. - '32930'
  2138. - '32932'
  2139. - '32936'
  2140. - '32944'
  2141. - '32960'
  2142. - '32961'
  2143. - '32962'
  2144. - '32964'
  2145. - '32968'
  2146. - '32976'
  2147. - '32992'
  2148. - '33024'
  2149. - '33025'
  2150. - '33026'
  2151. - '33027'
  2152. - '33028'
  2153. - '33029'
  2154. - '33030'
  2155. - '33032'
  2156. - '33033'
  2157. - '33034'
  2158. - '33036'
  2159. - '33040'
  2160. - '33041'
  2161. - '33042'
  2162. - '33044'
  2163. - '33048'
  2164. - '33056'
  2165. - '33057'
  2166. - '33058'
  2167. - '33060'
  2168. - '33064'
  2169. - '33072'
  2170. - '33088'
  2171. - '33089'
  2172. - '33090'
  2173. - '33092'
  2174. - '33096'
  2175. - '33104'
  2176. - '33120'
  2177. - '33152'
  2178. - '33153'
  2179. - '33154'
  2180. - '33156'
  2181. - '33160'
  2182. - '33168'
  2183. - '33184'
  2184. - '33216'
  2185. - '33280'
  2186. - '33281'
  2187. - '33282'
  2188. - '33283'
  2189. - '33284'
  2190. - '33285'
  2191. - '33286'
  2192. - '33288'
  2193. - '33289'
  2194. - '33290'
  2195. - '33292'
  2196. - '33296'
  2197. - '33297'
  2198. - '33298'
  2199. - '33300'
  2200. - '33304'
  2201. - '33312'
  2202. - '33313'
  2203. - '33314'
  2204. - '33316'
  2205. - '33320'
  2206. - '33328'
  2207. - '33344'
  2208. - '33345'
  2209. - '33346'
  2210. - '33348'
  2211. - '33352'
  2212. - '33360'
  2213. - '33376'
  2214. - '33408'
  2215. - '33409'
  2216. - '33410'
  2217. - '33412'
  2218. - '33416'
  2219. - '33424'
  2220. - '33440'
  2221. - '33472'
  2222. - '33536'
  2223. - '33537'
  2224. - '33538'
  2225. - '33540'
  2226. - '33544'
  2227. - '33552'
  2228. - '33568'
  2229. - '33600'
  2230. - '33664'
  2231. - '33792'
  2232. - '33793'
  2233. - '33794'
  2234. - '33795'
  2235. - '33796'
  2236. - '33797'
  2237. - '33798'
  2238. - '33800'
  2239. - '33801'
  2240. - '33802'
  2241. - '33804'
  2242. - '33808'
  2243. - '33809'
  2244. - '33810'
  2245. - '33812'
  2246. - '33816'
  2247. - '33824'
  2248. - '33825'
  2249. - '33826'
  2250. - '33828'
  2251. - '33832'
  2252. - '33840'
  2253. - '33856'
  2254. - '33857'
  2255. - '33858'
  2256. - '33860'
  2257. - '33864'
  2258. - '33872'
  2259. - '33888'
  2260. - '33920'
  2261. - '33921'
  2262. - '33922'
  2263. - '33924'
  2264. - '33928'
  2265. - '33936'
  2266. - '33952'
  2267. - '33984'
  2268. - '34048'
  2269. - '34049'
  2270. - '34050'
  2271. - '34052'
  2272. - '34056'
  2273. - '34064'
  2274. - '34080'
  2275. - '34112'
  2276. - '34176'
  2277. - '34304'
  2278. - '34305'
  2279. - '34306'
  2280. - '34308'
  2281. - '34312'
  2282. - '34320'
  2283. - '34336'
  2284. - '34368'
  2285. - '34432'
  2286. - '34560'
  2287. - '34816'
  2288. - '34817'
  2289. - '34818'
  2290. - '34819'
  2291. - '34820'
  2292. - '34821'
  2293. - '34822'
  2294. - '34824'
  2295. - '34825'
  2296. - '34826'
  2297. - '34828'
  2298. - '34832'
  2299. - '34833'
  2300. - '34834'
  2301. - '34836'
  2302. - '34840'
  2303. - '34848'
  2304. - '34849'
  2305. - '34850'
  2306. - '34852'
  2307. - '34856'
  2308. - '34864'
  2309. - '34880'
  2310. - '34881'
  2311. - '34882'
  2312. - '34884'
  2313. - '34888'
  2314. - '34896'
  2315. - '34912'
  2316. - '34944'
  2317. - '34945'
  2318. - '34946'
  2319. - '34948'
  2320. - '34952'
  2321. - '34960'
  2322. - '34976'
  2323. - '35008'
  2324. - '35072'
  2325. - '35073'
  2326. - '35074'
  2327. - '35076'
  2328. - '35080'
  2329. - '35088'
  2330. - '35104'
  2331. - '35136'
  2332. - '35200'
  2333. - '35328'
  2334. - '35329'
  2335. - '35330'
  2336. - '35332'
  2337. - '35336'
  2338. - '35344'
  2339. - '35360'
  2340. - '35392'
  2341. - '35456'
  2342. - '35584'
  2343. - '35840'
  2344. - '35841'
  2345. - '35842'
  2346. - '35844'
  2347. - '35848'
  2348. - '35856'
  2349. - '35872'
  2350. - '35904'
  2351. - '35968'
  2352. - '36096'
  2353. - '36352'
  2354. - '36864'
  2355. - '36865'
  2356. - '36866'
  2357. - '36867'
  2358. - '36868'
  2359. - '36869'
  2360. - '36870'
  2361. - '36872'
  2362. - '36873'
  2363. - '36874'
  2364. - '36876'
  2365. - '36880'
  2366. - '36881'
  2367. - '36882'
  2368. - '36884'
  2369. - '36888'
  2370. - '36896'
  2371. - '36897'
  2372. - '36898'
  2373. - '36900'
  2374. - '36904'
  2375. - '36912'
  2376. - '36928'
  2377. - '36929'
  2378. - '36930'
  2379. - '36932'
  2380. - '36936'
  2381. - '36944'
  2382. - '36960'
  2383. - '36992'
  2384. - '36993'
  2385. - '36994'
  2386. - '36996'
  2387. - '37000'
  2388. - '37008'
  2389. - '37024'
  2390. - '37056'
  2391. - '37120'
  2392. - '37121'
  2393. - '37122'
  2394. - '37124'
  2395. - '37128'
  2396. - '37136'
  2397. - '37152'
  2398. - '37184'
  2399. - '37248'
  2400. - '37376'
  2401. - '37377'
  2402. - '37378'
  2403. - '37380'
  2404. - '37384'
  2405. - '37392'
  2406. - '37408'
  2407. - '37440'
  2408. - '37504'
  2409. - '37632'
  2410. - '37888'
  2411. - '37889'
  2412. - '37890'
  2413. - '37892'
  2414. - '37896'
  2415. - '37904'
  2416. - '37920'
  2417. - '37952'
  2418. - '38016'
  2419. - '38144'
  2420. - '38400'
  2421. - '38912'
  2422. - '38913'
  2423. - '38914'
  2424. - '38916'
  2425. - '38920'
  2426. - '38928'
  2427. - '38944'
  2428. - '38976'
  2429. - '39040'
  2430. - '39168'
  2431. - '39424'
  2432. - '39936'
  2433. - '40960'
  2434. - '40961'
  2435. - '40962'
  2436. - '40963'
  2437. - '40964'
  2438. - '40965'
  2439. - '40966'
  2440. - '40968'
  2441. - '40969'
  2442. - '40970'
  2443. - '40972'
  2444. - '40976'
  2445. - '40977'
  2446. - '40978'
  2447. - '40980'
  2448. - '40984'
  2449. - '40992'
  2450. - '40993'
  2451. - '40994'
  2452. - '40996'
  2453. - '41000'
  2454. - '41008'
  2455. - '41024'
  2456. - '41025'
  2457. - '41026'
  2458. - '41028'
  2459. - '41032'
  2460. - '41040'
  2461. - '41056'
  2462. - '41088'
  2463. - '41089'
  2464. - '41090'
  2465. - '41092'
  2466. - '41096'
  2467. - '41104'
  2468. - '41120'
  2469. - '41152'
  2470. - '41216'
  2471. - '41217'
  2472. - '41218'
  2473. - '41220'
  2474. - '41224'
  2475. - '41232'
  2476. - '41248'
  2477. - '41280'
  2478. - '41344'
  2479. - '41472'
  2480. - '41473'
  2481. - '41474'
  2482. - '41476'
  2483. - '41480'
  2484. - '41488'
  2485. - '41504'
  2486. - '41536'
  2487. - '41600'
  2488. - '41728'
  2489. - '41984'
  2490. - '41985'
  2491. - '41986'
  2492. - '41988'
  2493. - '41992'
  2494. - '42000'
  2495. - '42016'
  2496. - '42048'
  2497. - '42112'
  2498. - '42240'
  2499. - '42496'
  2500. - '43008'
  2501. - '43009'
  2502. - '43010'
  2503. - '43012'
  2504. - '43016'
  2505. - '43024'
  2506. - '43040'
  2507. - '43072'
  2508. - '43136'
  2509. - '43264'
  2510. - '43520'
  2511. - '44032'
  2512. - '45056'
  2513. - '45057'
  2514. - '45058'
  2515. - '45060'
  2516. - '45064'
  2517. - '45072'
  2518. - '45088'
  2519. - '45120'
  2520. - '45184'
  2521. - '45312'
  2522. - '45568'
  2523. - '46080'
  2524. - '47104'
  2525. - '49152'
  2526. - '49153'
  2527. - '49154'
  2528. - '49155'
  2529. - '49156'
  2530. - '49157'
  2531. - '49158'
  2532. - '49160'
  2533. - '49161'
  2534. - '49162'
  2535. - '49164'
  2536. - '49168'
  2537. - '49169'
  2538. - '49170'
  2539. - '49172'
  2540. - '49176'
  2541. - '49184'
  2542. - '49185'
  2543. - '49186'
  2544. - '49188'
  2545. - '49192'
  2546. - '49200'
  2547. - '49216'
  2548. - '49217'
  2549. - '49218'
  2550. - '49220'
  2551. - '49224'
  2552. - '49232'
  2553. - '49248'
  2554. - '49280'
  2555. - '49281'
  2556. - '49282'
  2557. - '49284'
  2558. - '49288'
  2559. - '49296'
  2560. - '49312'
  2561. - '49344'
  2562. - '49408'
  2563. - '49409'
  2564. - '49410'
  2565. - '49412'
  2566. - '49416'
  2567. - '49424'
  2568. - '49440'
  2569. - '49472'
  2570. - '49536'
  2571. - '49664'
  2572. - '49665'
  2573. - '49666'
  2574. - '49668'
  2575. - '49672'
  2576. - '49680'
  2577. - '49696'
  2578. - '49728'
  2579. - '49792'
  2580. - '49920'
  2581. - '50176'
  2582. - '50177'
  2583. - '50178'
  2584. - '50180'
  2585. - '50184'
  2586. - '50192'
  2587. - '50208'
  2588. - '50240'
  2589. - '50304'
  2590. - '50432'
  2591. - '50688'
  2592. - '51200'
  2593. - '51201'
  2594. - '51202'
  2595. - '51204'
  2596. - '51208'
  2597. - '51216'
  2598. - '51232'
  2599. - '51264'
  2600. - '51328'
  2601. - '51456'
  2602. - '51712'
  2603. - '52224'
  2604. - '53248'
  2605. - '53249'
  2606. - '53250'
  2607. - '53252'
  2608. - '53256'
  2609. - '53264'
  2610. - '53280'
  2611. - '53312'
  2612. - '53376'
  2613. - '53504'
  2614. - '53760'
  2615. - '54272'
  2616. - '55296'
  2617. - '57344'
  2618. - '57345'
  2619. - '57346'
  2620. - '57348'
  2621. - '57352'
  2622. - '57360'
  2623. - '57376'
  2624. - '57408'
  2625. - '57472'
  2626. - '57600'
  2627. - '57856'
  2628. - '58368'
  2629. - '59392'
  2630. - '61440'
  2631. init: null
  2632. input_size: null
  2633. cmvn_file: null
  2634. ctc_conf:
  2635. dropout_rate: 0.0
  2636. ctc_type: builtin
  2637. reduce: true
  2638. ignore_nan_grad: true
  2639. joint_net_conf: null
  2640. use_preprocessor: true
  2641. token_type: char
  2642. bpemodel: null
  2643. non_linguistic_symbols: null
  2644. cleaner: null
  2645. g2p: null
  2646. speech_volume_normalize: null
  2647. rir_scp: null
  2648. rir_apply_prob: 1.0
  2649. noise_scp: null
  2650. noise_apply_prob: 1.0
  2651. noise_db_range: '13_15'
  2652. specaug: null
  2653. specaug_conf: {}
  2654. normalize: null
  2655. normalize_conf: {}
  2656. label_aggregator: null
  2657. label_aggregator_conf: {}
  2658. model: sond
  2659. model_conf:
  2660. lsm_weight: 0.1
  2661. length_normalized_loss: true
  2662. max_spk_num: 16
  2663. normalize_speech_speaker: true
  2664. # speech encoder
  2665. encoder: resnet34_sp_l2reg
  2666. encoder_conf:
  2667. # pass by model, equal to feature dim
  2668. # input_size: 80
  2669. pooling_type: "window_shift"
  2670. batchnorm_momentum: 0.01
  2671. pool_size: 20
  2672. stride: 1
  2673. tf2torch_tensor_name_prefix_torch: encoder
  2674. tf2torch_tensor_name_prefix_tf: EAND/speech_encoder
  2675. speaker_encoder: null
  2676. speaker_encoder_conf: {}
  2677. ci_scorer: conv
  2678. ci_scorer_conf:
  2679. input_units: 512
  2680. num_layers: 3
  2681. num_units: 512
  2682. kernel_size: 1
  2683. dropout_rate: 0.0
  2684. position_encoder: null
  2685. out_units: 1
  2686. out_norm: false
  2687. auxiliary_states: false
  2688. tf2torch_tensor_name_prefix_torch: ci_scorer
  2689. tf2torch_tensor_name_prefix_tf: EAND/compute_distance_layer/ci_scorer
  2690. cd_scorer: san
  2691. cd_scorer_conf:
  2692. input_size: 512
  2693. output_size: 512
  2694. out_units: 1
  2695. attention_heads: 4
  2696. linear_units: 1024
  2697. num_blocks: 4
  2698. dropout_rate: 0.0
  2699. positional_dropout_rate: 0.0
  2700. attention_dropout_rate: 0.0
  2701. # use string "null" to remove input layer
  2702. input_layer: "null"
  2703. pos_enc_class: null
  2704. normalize_before: true
  2705. tf2torch_tensor_name_prefix_torch: cd_scorer
  2706. tf2torch_tensor_name_prefix_tf: EAND/compute_distance_layer/cd_scorer
  2707. # post net
  2708. decoder: fsmn
  2709. decoder_conf:
  2710. in_units: 32
  2711. out_units: 2517
  2712. filter_size: 31
  2713. fsmn_num_layers: 6
  2714. dnn_num_layers: 1
  2715. num_memory_units: 16
  2716. ffn_inner_dim: 512
  2717. dropout_rate: 0.0
  2718. tf2torch_tensor_name_prefix_torch: decoder
  2719. tf2torch_tensor_name_prefix_tf: EAND/post_net
  2720. frontend: wav_frontend
  2721. frontend_conf:
  2722. fs: 8000
  2723. window: povey
  2724. n_mels: 80
  2725. frame_length: 25
  2726. frame_shift: 10
  2727. filter_length_min: -1
  2728. filter_length_max: -1
  2729. lfr_m: 1
  2730. lfr_n: 1
  2731. dither: 0.0
  2732. snip_edges: false
  2733. upsacle_samples: false
  2734. num_worker_count: 1
  2735. required:
  2736. - output_dir
  2737. - token_list
  2738. oss_bucket: 'null'
  2739. version: 0.1.4