forked from slothy-optimizer/slothy
-
Notifications
You must be signed in to change notification settings - Fork 0
/
ntt_dilithium_123_45678_opt_a55.s
1892 lines (1824 loc) · 328 KB
/
ntt_dilithium_123_45678_opt_a55.s
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
967
968
969
970
971
972
973
974
975
976
977
978
979
980
981
982
983
984
985
986
987
988
989
990
991
992
993
994
995
996
997
998
999
1000
// Needed to provide ASM_LOAD directive
#include <hal_env.h>
// NOTE
// We use a lot of trivial macros to simplify the parsing burden for Slothy
// The macros are not unfolded by Slothy and thus interpreted as instructions,
// which are easier to parse due to e.g. the lack of size specifiers and simpler
// syntax for pre and post increment for loads and stores.
//
// Eventually, NeLight should include a proper parser for AArch64,
// but for initial investigations, the below is enough.
xtmp0 .req x10
xtmp1 .req x11
.macro ldr_vo vec, base, offset
ldr qform_\vec, [\base, #\offset]
.endm
.macro ldr_vi vec, base, inc
ldr qform_\vec, [\base], #\inc
.endm
.macro str_vo vec, base, offset
str qform_\vec, [\base, #\offset]
.endm
.macro str_vi vec, base, inc
str qform_\vec, [\base], #\inc
.endm
.macro vqrdmulh d,a,b
sqrdmulh \d\().4s, \a\().4s, \b\().4s
.endm
.macro vmls d,a,b
mls \d\().4s, \a\().4s, \b\().4s
.endm
.macro vqrdmulhq d,a,b,i
sqrdmulh \d\().4s, \a\().4s, \b\().s[\i]
.endm
.macro vqdmulhq d,a,b,i
sqdmulh \d\().4s, \a\().4s, \b\().4s[\i]
.endm
.macro vmulq d,a,b,i
mul \d\().4s, \a\().4s, \b\().s[\i]
.endm
.macro vmlsq d,a,b,i
mls \d\().4s, \a\().4s, \b\().s[\i]
.endm
.macro mulmodq dst, src, const, idx0, idx1
vmulq \dst, \src, \const, \idx0
vqrdmulhq \src, \src, \const, \idx1
vmlsq \dst, \src, consts, 0
.endm
.macro mulmod dst, src, const, const_twisted
mul \dst\().4s, \src\().4s, \const\().4s
vqrdmulh \src, \src, \const_twisted
vmlsq \dst, \src, consts, 0
.endm
.macro ct_butterfly a, b, root, idx0, idx1
mulmodq tmp, \b, \root, \idx0, \idx1
sub \b\().4s, \a\().4s, tmp.4s
add \a\().4s, \a\().4s, tmp.4s
.endm
.macro mulmod_v dst, src, const, const_twisted
mul \dst\().4s, \src\().4s, \const\().4s
vqrdmulh \src, \src, \const_twisted
vmlsq \dst, \src, consts, 0
.endm
.macro ct_butterfly_v a, b, root, root_twisted
mulmod tmp, \b, \root, \root_twisted
sub \b\().4s, \a\().4s, tmp.4s
add \a\().4s, \a\().4s, tmp.4s
.endm
.macro barrett_reduce_single a
srshr tmp.4S, \a\().4S, #23
vmlsq \a, tmp, consts, 0
.endm
.macro barrett_reduce a0, a1, a2, a3
barrett_reduce_single \a0
barrett_reduce_single \a1
barrett_reduce_single \a2
barrett_reduce_single \a3
.endm
.macro load_vectors a0, a1, a2, a3, addr
ldr_vo \a0, \addr, (16*0)
ldr_vo \a1, \addr, (16*1)
ldr_vo \a2, \addr, (16*2)
ldr_vo \a3, \addr, (16*3)
.endm
.macro load_vectors_with_offset a0, a1, a2, a3, addr, offset
ldr_vo \a0, \addr, (16*0 + (\offset))
ldr_vo \a1, \addr, (16*1 + (\offset))
ldr_vo \a2, \addr, (16*2 + (\offset))
ldr_vo \a3, \addr, (16*3 + (\offset))
.endm
.macro store_vectors_with_inc a0, a1, a2, a3, addr, inc
str_vi \a0, \addr, \inc
str_vo \a1, \addr, (-(\inc) + 16*1)
str_vo \a2, \addr, (-(\inc) + 16*2)
str_vo \a3, \addr, (-(\inc) + 16*3)
.endm
.macro vec_to_scalar_matrix out, in
vext \out\()_00, \in\()0, 0
vext \out\()_01, \in\()0, 1
vext \out\()_10, \in\()1, 0
vext \out\()_11, \in\()1, 1
vext \out\()_20, \in\()2, 0
vext \out\()_21, \in\()2, 1
vext \out\()_30, \in\()3, 0
vext \out\()_31, \in\()3, 1
.endm
.macro store_scalar_matrix_with_inc x, addr, inc
str \x\()t_00, [\addr], #( \inc)
str \x\()t_01, [\addr, #(-\inc + 8*1)]
str \x\()t_10, [\addr, #(-\inc + 8*2)]
str \x\()t_11, [\addr, #(-\inc + 8*3)]
str \x\()t_20, [\addr, #(-\inc + 8*4)]
str \x\()t_21, [\addr, #(-\inc + 8*5)]
str \x\()t_30, [\addr, #(-\inc + 8*6)]
str \x\()t_31, [\addr, #(-\inc + 8*7)]
.endm
.macro vext gpr_out, vec_in, lane
umov \gpr_out\(), \vec_in\().d[\lane]
.endm
.macro load_roots_123
ldr_vi root0, r_ptr0, 64
ldr_vo root1, r_ptr0, (-64 + 16)
ldr_vo root2, r_ptr0, (-64 + 32)
ldr_vo root3, r_ptr0, (-64 + 48)
.endm
.macro load_roots_456
ldr_vi root0, r_ptr0, 64
ldr_vo root1, r_ptr0, (-64 + 16)
ldr_vo root2, r_ptr0, (-64 + 32)
ldr_vo root3, r_ptr0, (-64 + 48)
.endm
.macro load_roots_78_part1
ldr_vi root0, r_ptr1, (12*16)
ldr_vo root0_tw, r_ptr1, (-12*16 + 1*16)
ldr_vo root1, r_ptr1, (-12*16 + 2*16)
ldr_vo root1_tw, r_ptr1, (-12*16 + 3*16)
ldr_vo root2, r_ptr1, (-12*16 + 4*16)
ldr_vo root2_tw, r_ptr1, (-12*16 + 5*16)
.endm
.macro load_roots_78_part2
ldr_vo root0, r_ptr1, (-12*16 + 6*16)
ldr_vo root0_tw, r_ptr1, (-12*16 + 7*16)
ldr_vo root1, r_ptr1, (-12*16 + 8*16)
ldr_vo root1_tw, r_ptr1, (-12*16 + 9*16)
ldr_vo root2, r_ptr1, (-12*16 + 10*16)
ldr_vo root2_tw, r_ptr1, (-12*16 + 11*16)
.endm
.macro transpose4 data0, data1, data2, data3
trn1 t0.4s, \data0\().4s, \data1\().4s
trn2 t1.4s, \data0\().4s, \data1\().4s
trn1 t2.4s, \data2\().4s, \data3\().4s
trn2 t3.4s, \data2\().4s, \data3\().4s
trn2 \data2\().2d, t0.2d, t2.2d
trn2 \data3\().2d, t1.2d, t3.2d
trn1 \data0\().2d, t0.2d, t2.2d
trn1 \data1\().2d, t1.2d, t3.2d
.endm
.macro transpose_single data_out0, data_out1, data_out2, data_out3, data_in0, data_in1, data_in2, data_in3
trn1 \data_out0\().4s, \data_in0\().4s, \data_in1\().4s
trn2 \data_out1\().4s, \data_in0\().4s, \data_in1\().4s
trn1 \data_out2\().4s, \data_in2\().4s, \data_in3\().4s
trn2 \data_out3\().4s, \data_in2\().4s, \data_in3\().4s
.endm
.macro save_gprs // slothy:no-unfold
sub sp, sp, #(16*6)
stp x19, x20, [sp, #16*0]
stp x19, x20, [sp, #16*0]
stp x21, x22, [sp, #16*1]
stp x23, x24, [sp, #16*2]
stp x25, x26, [sp, #16*3]
stp x27, x28, [sp, #16*4]
stp x29, x30, [sp, #16*5]
.endm
.macro restore_gprs // slothy:no-unfold
ldp x19, x20, [sp, #16*0]
ldp x21, x22, [sp, #16*1]
ldp x23, x24, [sp, #16*2]
ldp x25, x26, [sp, #16*3]
ldp x27, x28, [sp, #16*4]
ldp x29, x30, [sp, #16*5]
add sp, sp, #(16*6)
.endm
.macro save_vregs // slothy:no-unfold
sub sp, sp, #(16*4)
stp d8, d9, [sp, #16*0]
stp d10, d11, [sp, #16*1]
stp d12, d13, [sp, #16*2]
stp d14, d15, [sp, #16*3]
.endm
.macro restore_vregs // slothy:no-unfold
ldp d8, d9, [sp, #16*0]
ldp d10, d11, [sp, #16*1]
ldp d12, d13, [sp, #16*2]
ldp d14, d15, [sp, #16*3]
add sp, sp, #(16*4)
.endm
#define STACK_SIZE 16
#define STACK0 0
.macro restore a, loc // slothy:no-unfold
ldr \a, [sp, #\loc\()]
.endm
.macro save loc, a // slothy:no-unfold
str \a, [sp, #\loc\()]
.endm
.macro push_stack // slothy:no-unfold
save_gprs
save_vregs
sub sp, sp, #STACK_SIZE
.endm
.macro pop_stack // slothy:no-unfold
add sp, sp, #STACK_SIZE
restore_vregs
restore_gprs
.endm
.data
.p2align 4
roots:
#include "ntt_dilithium_123_456_78_twiddles.s"
.text
.global ntt_dilithium_123_45678_opt_a55
.global _ntt_dilithium_123_45678_opt_a55
.p2align 4
const_addr: .word 8380417
.word 0
.word 0
.word 0
ntt_dilithium_123_45678_opt_a55:
_ntt_dilithium_123_45678_opt_a55:
push_stack
in .req x0
inp .req x1
inpp .req x2
count .req x3
r_ptr0 .req x4
r_ptr1 .req x5
xtmp .req x6
data0 .req v9
data1 .req v10
data2 .req v11
data3 .req v12
data4 .req v13
data5 .req v14
data6 .req v15
data7 .req v16
qform_data0 .req q9
qform_data1 .req q10
qform_data2 .req q11
qform_data3 .req q12
qform_data4 .req q13
qform_data5 .req q14
qform_data6 .req q15
qform_data7 .req q16
qform_v0 .req q0
qform_v1 .req q1
qform_v2 .req q2
qform_v3 .req q3
qform_v4 .req q4
qform_v5 .req q5
qform_v6 .req q6
qform_v7 .req q7
qform_v8 .req q8
qform_v9 .req q9
qform_v10 .req q10
qform_v11 .req q11
qform_v12 .req q12
qform_v13 .req q13
qform_v14 .req q14
qform_v15 .req q15
qform_v16 .req q16
qform_v17 .req q17
qform_v18 .req q18
qform_v19 .req q19
qform_v20 .req q20
qform_v21 .req q21
qform_v22 .req q22
qform_v23 .req q23
qform_v24 .req q24
qform_v25 .req q25
qform_v26 .req q26
qform_v27 .req q27
qform_v28 .req q28
qform_v29 .req q29
qform_v30 .req q30
qform_v31 .req q31
x_00 .req x10
x_01 .req x11
x_10 .req x12
x_11 .req x13
x_20 .req x14
x_21 .req x15
x_30 .req x16
x_31 .req x17
xt_00 .req x_00
xt_01 .req x_20
xt_10 .req x_10
xt_11 .req x_30
xt_20 .req x_01
xt_21 .req x_21
xt_30 .req x_11
xt_31 .req x_31
root0 .req v0
root1 .req v1
root2 .req v2
root3 .req v3
qform_root0 .req q0
qform_root1 .req q1
qform_root2 .req q2
qform_root3 .req q3
tmp .req v24
t0 .req v25
t1 .req v26
t2 .req v27
t3 .req v28
tp0 .req v17
tp1 .req v18
tp2 .req v19
tp3 .req v20
consts .req v8
qform_consts .req q8
ASM_LOAD(r_ptr0, roots_l012)
ASM_LOAD(r_ptr1, roots_l67)
ASM_LOAD(xtmp, const_addr)
ld1r {consts.4s}, [xtmp]
save STACK0, in
mov count, #8
load_roots_123
.p2align 2
ldr q12, [x0, #0] // *.........
// gap // ..........
// gap // ..........
// gap // ..........
ldr q18, [x0, #128] // .*........
// gap // ..........
// gap // ..........
// gap // ..........
ldr q11, [x0, #256] // ..*.......
// gap // ..........
// gap // ..........
// gap // ..........
ldr q20, [x0, #384] // ...*......
// gap // ..........
// gap // ..........
// gap // ..........
ldr q22, [x0, #512] // ....*.....
// gap // ..........
// gap // ..........
// gap // ..........
ldr q21, [x0, #896] // .......*..
// gap // ..........
// gap // ..........
// gap // ..........
sqrdmulh v4.4S, v22.4S, v0.S[1] // ......*...
// gap // ..........
ldr q29, [x0, #640] // .....*....
// gap // ..........
// gap // ..........
// gap // ..........
sqrdmulh v15.4S, v21.4S, v0.S[1] // .........*
// gap // ..........
ldr q30, [x0, #768] // ........*.
// gap // ..........
// original source code
// ldr q12, [x0, #0] // *......... || *................
// ldr q18, [x0, #128] // .*........ || ..*..............
// ldr q11, [x0, #256] // ..*....... || ....*............
// ldr q20, [x0, #384] // ...*...... || ......*..........
// ldr q22, [x0, #512] // ....*..... || ........*........
// ldr q29, [x0, #640] // .......*.. || .............*...
// sqrdmulh v4.4S, v22.4S, v0.S[1] // ......*... || ............*....
// ldr q21, [x0, #896] // .....*.... || ..........*......
// ldr q30, [x0, #768] // .........* || ................*
// sqrdmulh v15.4S, v21.4S, v0.S[1] // ........*. || ...............*.
sub count, count, #1
layer123_start:
mul v22.4S, v22.4S, v0.S[0] // ........*...................................................................
// gap // ............................................................................
mul v16.4S, v29.4S, v0.S[0] // .............*..............................................................
// gap // ............................................................................
sqrdmulh v10.4S, v29.4S, v0.S[1] // ..............*.............................................................
// gap // ............................................................................
mul v26.4S, v30.4S, v0.S[0] // ..................*.........................................................
// gap // ............................................................................
mls v22.4S, v4.4S, v8.S[0] // ..........*.................................................................
// gap // ............................................................................
sqrdmulh v29.4S, v30.4S, v0.S[1] // ...................*........................................................
// gap // ............................................................................
mls v16.4S, v10.4S, v8.S[0] // ...............*............................................................
// gap // ............................................................................
mul v10.4S, v21.4S, v0.S[0] // .......................*....................................................
// gap // ............................................................................
sub v4.4S, v12.4S, v22.4S // ...........*................................................................
// gap // ............................................................................
mls v26.4S, v29.4S, v8.S[0] // ....................*.......................................................
// gap // ............................................................................
add v22.4S, v12.4S, v22.4S // ............*...............................................................
// gap // ............................................................................
sub v29.4S, v18.4S, v16.4S // ................*...........................................................
// gap // ............................................................................
add v16.4S, v18.4S, v16.4S // .................*..........................................................
// gap // ............................................................................
sub v21.4S, v11.4S, v26.4S // .....................*......................................................
// gap // ............................................................................
add v26.4S, v11.4S, v26.4S // ......................*.....................................................
// gap // ............................................................................
mls v10.4S, v15.4S, v8.S[0] // .........................*..................................................
// gap // ............................................................................
mul v11.4S, v21.4S, v1.S[0] // ......................................*.....................................
// gap // ............................................................................
sqrdmulh v21.4S, v21.4S, v1.S[1] // .......................................*....................................
// gap // ............................................................................
mul v12.4S, v26.4S, v0.S[2] // ............................*...............................................
// gap // ............................................................................
sub v18.4S, v20.4S, v10.4S // ..........................*.................................................
// gap // ............................................................................
add v10.4S, v20.4S, v10.4S // ...........................*................................................
// gap // ............................................................................
mls v11.4S, v21.4S, v8.S[0] // ........................................*...................................
// gap // ............................................................................
sqrdmulh v26.4S, v26.4S, v0.S[3] // .............................*..............................................
// gap // ............................................................................
mul v21.4S, v18.4S, v1.S[0] // ...........................................*................................
// gap // ............................................................................
sqrdmulh v18.4S, v18.4S, v1.S[1] // ............................................*...............................
// gap // ............................................................................
sub v20.4S, v4.4S, v11.4S // .........................................*..................................
// gap // ............................................................................
add v4.4S, v4.4S, v11.4S // ..........................................*.................................
// gap // ............................................................................
mls v12.4S, v26.4S, v8.S[0] // ..............................*.............................................
// gap // ............................................................................
mul v26.4S, v10.4S, v0.S[2] // .................................*..........................................
// gap // ............................................................................
mls v21.4S, v18.4S, v8.S[0] // .............................................*..............................
// gap // ............................................................................
sqrdmulh v10.4S, v10.4S, v0.S[3] // ..................................*.........................................
// gap // ............................................................................
sub v11.4S, v22.4S, v12.4S // ...............................*............................................
// gap // ............................................................................
add v22.4S, v22.4S, v12.4S // ................................*...........................................
// gap // ............................................................................
sub v12.4S, v29.4S, v21.4S // ..............................................*.............................
// gap // ............................................................................
add v29.4S, v29.4S, v21.4S // ...............................................*............................
// gap // ............................................................................
mls v26.4S, v10.4S, v8.S[0] // ...................................*........................................
// gap // ............................................................................
mul v10.4S, v12.4S, v3.S[0] // ...............................................................*............
// gap // ............................................................................
mul v21.4S, v29.4S, v2.S[2] // ..........................................................*.................
// gap // ............................................................................
sqrdmulh v29.4S, v29.4S, v2.S[3] // ...........................................................*................
// gap // ............................................................................
sub v18.4S, v16.4S, v26.4S // ....................................*.......................................
// gap // ............................................................................
add v16.4S, v16.4S, v26.4S // .....................................*......................................
// gap // ............................................................................
sqrdmulh v26.4S, v12.4S, v3.S[1] // ................................................................*...........
// gap // ............................................................................
mul v12.4S, v18.4S, v2.S[0] // .....................................................*......................
// gap // ............................................................................
mul v30.4S, v16.4S, v1.S[2] // ................................................*...........................
// gap // ............................................................................
sqrdmulh v16.4S, v16.4S, v1.S[3] // .................................................*..........................
// gap // ............................................................................
sqrdmulh v18.4S, v18.4S, v2.S[1] // ......................................................*.....................
// gap // ............................................................................
mls v21.4S, v29.4S, v8.S[0] // ............................................................*...............
// gap // ............................................................................
mls v10.4S, v26.4S, v8.S[0] // .................................................................*..........
// gap // ............................................................................
mls v30.4S, v16.4S, v8.S[0] // ..................................................*.........................
// gap // ............................................................................
mls v12.4S, v18.4S, v8.S[0] // .......................................................*....................
// gap // ............................................................................
sub v16.4S, v4.4S, v21.4S // .............................................................*..............
// gap // ............................................................................
sub v26.4S, v20.4S, v10.4S // ..................................................................*.........
// gap // ............................................................................
add v10.4S, v20.4S, v10.4S // ...................................................................*........
// gap // ............................................................................
add v29.4S, v4.4S, v21.4S // ..............................................................*.............
// gap // ............................................................................
sub v4.4S, v22.4S, v30.4S // ...................................................*........................
// gap // ............................................................................
add v22.4S, v22.4S, v30.4S // ....................................................*.......................
// gap // ............................................................................
sub v21.4S, v11.4S, v12.4S // ........................................................*...................
// gap // ............................................................................
add v11.4S, v11.4S, v12.4S // .........................................................*..................
// gap // ............................................................................
str q22, [x0], #(16) // ....................................................................*.......
// gap // ............................................................................
ldr q12, [x0, #0] // e...........................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q4, [x0, #112] // .....................................................................*......
// gap // ............................................................................
ldr q18, [x0, #128] // .e..........................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q11, [x0, #240] // ......................................................................*.....
// gap // ............................................................................
ldr q11, [x0, #256] // ..e.........................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q21, [x0, #368] // .......................................................................*....
// gap // ............................................................................
ldr q20, [x0, #384] // ...e........................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q29, [x0, #496] // ........................................................................*...
// gap // ............................................................................
ldr q22, [x0, #512] // ....e.......................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q16, [x0, #624] // .........................................................................*..
// gap // ............................................................................
ldr q29, [x0, #640] // .....e......................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
str q10, [x0, #752] // ..........................................................................*.
// gap // ............................................................................
sqrdmulh v4.4S, v22.4S, v0.S[1] // .........e..................................................................
// gap // ............................................................................
str q26, [x0, #880] // ...........................................................................*
// gap // ............................................................................
ldr q21, [x0, #896] // .......e....................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
ldr q30, [x0, #768] // ......e.....................................................................
// gap // ............................................................................
// gap // ............................................................................
// gap // ............................................................................
sqrdmulh v15.4S, v21.4S, v0.S[1] // ........................e...................................................
// gap // ............................................................................
// original source code
// ldr q9, [x0, #0] // e................|..........................................................e............. || e.......................................................................................................
// ldr q10, [x0, #(1*(1024/8))] // ..e..............|............................................................e........... || ...e....................................................................................................
// ldr q11, [x0, #(2*(1024/8))] // ....e............|..............................................................e......... || ......e.................................................................................................
// ldr q12, [x0, #(3*(1024/8))] // ......e..........|................................................................e....... || .........e..............................................................................................
// ldr q13, [x0, #(4*(1024/8))] // ........e........|..................................................................e..... || ............e...........................................................................................
// ldr q14, [x0, #(5*(1024/8))] // ..........e......|....................................................................e... || ...............e........................................................................................
// ldr q15, [x0, #(6*(1024/8))] // ...............e.|........................................................................ || ......................e.................................................................................
// ldr q16, [x0, #(7*(1024/8))] // ..............e..|........................................................................ || ....................e...................................................................................
// mul v24.4s, v13.4s, v0.s[0] // .................*........................................................................ || .........................*..............................................................................
// sqrdmulh v13.4s, v13.4s, v0.s[1] // ............e....|......................................................................e. || ..................e.....................................................................................
// mls v24.4s, v13.4s, v8.s[0] // .................|...*.................................................................... || .............................*..........................................................................
// sub v13.4s, v9.4s, v24.4s // .................|.......*................................................................ || .................................*......................................................................
// add v9.4s, v9.4s, v24.4s // .................|.........*.............................................................. || ...................................*....................................................................
// mul v24.4s, v14.4s, v0.s[0] // .................|*....................................................................... || ..........................*.............................................................................
// sqrdmulh v14.4s, v14.4s, v0.s[1] // .................|.*...................................................................... || ...........................*............................................................................
// mls v24.4s, v14.4s, v8.s[0] // .................|.....*.................................................................. || ...............................*........................................................................
// sub v14.4s, v10.4s, v24.4s // .................|..........*............................................................. || ....................................*...................................................................
// add v10.4s, v10.4s, v24.4s // .................|...........*............................................................ || .....................................*..................................................................
// mul v24.4s, v15.4s, v0.s[0] // .................|..*..................................................................... || ............................*...........................................................................
// sqrdmulh v15.4s, v15.4s, v0.s[1] // .................|....*................................................................... || ..............................*.........................................................................
// mls v24.4s, v15.4s, v8.s[0] // .................|........*............................................................... || ..................................*.....................................................................
// sub v15.4s, v11.4s, v24.4s // .................|............*........................................................... || ......................................*.................................................................
// add v11.4s, v11.4s, v24.4s // .................|.............*.......................................................... || .......................................*................................................................
// mul v24.4s, v16.4s, v0.s[0] // .................|......*................................................................. || ................................*.......................................................................
// sqrdmulh v16.4s, v16.4s, v0.s[1] // ................e|........................................................................ || ........................e...............................................................................
// mls v24.4s, v16.4s, v8.s[0] // .................|..............*......................................................... || ........................................*...............................................................
// sub v16.4s, v12.4s, v24.4s // .................|..................*..................................................... || ............................................*...........................................................
// add v12.4s, v12.4s, v24.4s // .................|...................*.................................................... || .............................................*..........................................................
// mul v24.4s, v11.4s, v0.s[2] // .................|.................*...................................................... || ...........................................*............................................................
// sqrdmulh v11.4s, v11.4s, v0.s[3] // .................|.....................*.................................................. || ...............................................*........................................................
// mls v24.4s, v11.4s, v8.s[0] // .................|..........................*............................................. || ....................................................*...................................................
// sub v11.4s, v9.4s, v24.4s // .................|..............................*......................................... || ........................................................*...............................................
// add v9.4s, v9.4s, v24.4s // .................|...............................*........................................ || .........................................................*..............................................
// mul v24.4s, v12.4s, v0.s[2] // .................|...........................*............................................ || .....................................................*..................................................
// sqrdmulh v12.4s, v12.4s, v0.s[3] // .................|.............................*.......................................... || .......................................................*................................................
// mls v24.4s, v12.4s, v8.s[0] // .................|..................................*..................................... || ............................................................*...........................................
// sub v12.4s, v10.4s, v24.4s // .................|......................................*................................. || ................................................................*.......................................
// add v10.4s, v10.4s, v24.4s // .................|.......................................*................................ || .................................................................*......................................
// mul v24.4s, v15.4s, v1.s[0] // .................|...............*........................................................ || .........................................*..............................................................
// sqrdmulh v15.4s, v15.4s, v1.s[1] // .................|................*....................................................... || ..........................................*.............................................................
// mls v24.4s, v15.4s, v8.s[0] // .................|....................*................................................... || ..............................................*.........................................................
// sub v15.4s, v13.4s, v24.4s // .................|........................*............................................... || ..................................................*.....................................................
// add v13.4s, v13.4s, v24.4s // .................|.........................*.............................................. || ...................................................*....................................................
// mul v24.4s, v16.4s, v1.s[0] // .................|......................*................................................. || ................................................*.......................................................
// sqrdmulh v16.4s, v16.4s, v1.s[1] // .................|.......................*................................................ || .................................................*......................................................
// mls v24.4s, v16.4s, v8.s[0] // .................|............................*........................................... || ......................................................*.................................................
// sub v16.4s, v14.4s, v24.4s // .................|................................*....................................... || ..........................................................*.............................................
// add v14.4s, v14.4s, v24.4s // .................|.................................*...................................... || ...........................................................*............................................
// mul v24.4s, v10.4s, v1.s[2] // .................|..........................................*............................. || ....................................................................*...................................
// sqrdmulh v10.4s, v10.4s, v1.s[3] // .................|...........................................*............................ || .....................................................................*..................................
// mls v24.4s, v10.4s, v8.s[0] // .................|...............................................*........................ || .........................................................................*..............................
// sub v10.4s, v9.4s, v24.4s // .................|.....................................................*.................. || ...............................................................................*........................
// add v9.4s, v9.4s, v24.4s // .................|......................................................*................. || ................................................................................*.......................
// mul v24.4s, v12.4s, v2.s[0] // .................|.........................................*.............................. || ...................................................................*....................................
// sqrdmulh v12.4s, v12.4s, v2.s[1] // .................|............................................*........................... || ......................................................................*.................................
// mls v24.4s, v12.4s, v8.s[0] // .................|................................................*....................... || ..........................................................................*.............................
// sub v12.4s, v11.4s, v24.4s // .................|.......................................................*................ || .................................................................................*......................
// add v11.4s, v11.4s, v24.4s // .................|........................................................*............... || ..................................................................................*.....................
// mul v24.4s, v14.4s, v2.s[2] // .................|....................................*................................... || ..............................................................*.........................................
// sqrdmulh v14.4s, v14.4s, v2.s[3] // .................|.....................................*.................................. || ...............................................................*........................................
// mls v24.4s, v14.4s, v8.s[0] // .................|.............................................*.......................... || .......................................................................*................................
// sub v14.4s, v13.4s, v24.4s // .................|.................................................*...................... || ...........................................................................*............................
// add v13.4s, v13.4s, v24.4s // .................|....................................................*................... || ..............................................................................*.........................
// mul v24.4s, v16.4s, v3.s[0] // .................|...................................*.................................... || .............................................................*..........................................
// sqrdmulh v16.4s, v16.4s, v3.s[1] // .................|........................................*............................... || ..................................................................*.....................................
// mls v24.4s, v16.4s, v8.s[0] // .................|..............................................*......................... || ........................................................................*...............................
// sub v16.4s, v15.4s, v24.4s // .................|..................................................*..................... || ............................................................................*...........................
// add v15.4s, v15.4s, v24.4s // .................|...................................................*.................... || .............................................................................*..........................
// str q9, [x0], #(16) // .................|.........................................................*.............. || ...................................................................................*....................
// str q10, [x0, #(-16 + 1*(1024/8))] // .*...............|...........................................................*............ || ......................................................................................*.................
// str q11, [x0, #(-16 + 2*(1024/8))] // ...*.............|.............................................................*.......... || .........................................................................................*..............
// str q12, [x0, #(-16 + 3*(1024/8))] // .....*...........|...............................................................*........ || ............................................................................................*...........
// str q13, [x0, #(-16 + 4*(1024/8))] // .......*.........|.................................................................*...... || ...............................................................................................*........
// str q14, [x0, #(-16 + 5*(1024/8))] // .........*.......|...................................................................*.... || ..................................................................................................*.....
// str q15, [x0, #(-16 + 6*(1024/8))] // ...........*.....|.....................................................................*.. || .....................................................................................................*..
// str q16, [x0, #(-16 + 7*(1024/8))] // .............*...|.......................................................................* || .......................................................................................................*
sub count, count, #1
cbnz count, layer123_start
mul v9.4S, v21.4S, v0.S[0] // .......*..........................................................
// gap // ..................................................................
mul v27.4S, v30.4S, v0.S[0] // ...*..............................................................
// gap // ..................................................................
sqrdmulh v31.4S, v30.4S, v0.S[1] // .....*............................................................
// gap // ..................................................................
mul v5.4S, v22.4S, v0.S[0] // *.................................................................
// gap // ..................................................................
mls v9.4S, v15.4S, v8.S[0] // ...............*..................................................
// gap // ..................................................................
mul v13.4S, v29.4S, v0.S[0] // .*................................................................
// gap // ..................................................................
mls v27.4S, v31.4S, v8.S[0] // .........*........................................................
// gap // ..................................................................
sqrdmulh v16.4S, v29.4S, v0.S[1] // ..*...............................................................
// gap // ..................................................................
add v24.4S, v20.4S, v9.4S // ....................*.............................................
// gap // ..................................................................
sub v29.4S, v20.4S, v9.4S // ...................*..............................................
// gap // ..................................................................
add v30.4S, v11.4S, v27.4S // ..............*...................................................
// gap // ..................................................................
mul v26.4S, v24.4S, v0.S[2] // ............................*.....................................
// gap // ..................................................................
sqrdmulh v31.4S, v24.4S, v0.S[3] // ..............................*...................................
// gap // ..................................................................
mul v19.4S, v30.4S, v0.S[2] // ..................*...............................................
// gap // ..................................................................
sqrdmulh v22.4S, v30.4S, v0.S[3] // ......................*...........................................
// gap // ..................................................................
sub v15.4S, v11.4S, v27.4S // .............*....................................................
// gap // ..................................................................
mls v26.4S, v31.4S, v8.S[0] // ...................................*..............................
// gap // ..................................................................
mul v14.4S, v29.4S, v1.S[0] // .......................*..........................................
// gap // ..................................................................
sqrdmulh v7.4S, v29.4S, v1.S[1] // ........................*.........................................
// gap // ..................................................................
mls v13.4S, v16.4S, v8.S[0] // ......*...........................................................
// gap // ..................................................................
mls v5.4S, v4.4S, v8.S[0] // ....*.............................................................
// gap // ..................................................................
mls v19.4S, v22.4S, v8.S[0] // ...........................*......................................
// gap // ..................................................................
mls v14.4S, v7.4S, v8.S[0] // .............................*....................................
// gap // ..................................................................
sub v9.4S, v18.4S, v13.4S // ...........*......................................................
// gap // ..................................................................
add v23.4S, v18.4S, v13.4S // ............*.....................................................
// gap // ..................................................................
add v20.4S, v12.4S, v5.4S // ..........*.......................................................
// gap // ..................................................................
sub v22.4S, v9.4S, v14.4S // .................................*................................
// gap // ..................................................................
sub v16.4S, v23.4S, v26.4S // .......................................*..........................
// gap // ..................................................................
sub v25.4S, v20.4S, v19.4S // ...............................*..................................
// gap // ..................................................................
add v31.4S, v23.4S, v26.4S // ........................................*.........................
// gap // ..................................................................
mul v29.4S, v16.4S, v2.S[0] // ..........................................*.......................
// gap // ..................................................................
sqrdmulh v7.4S, v16.4S, v2.S[1] // .............................................*....................
// gap // ..................................................................
mul v26.4S, v22.4S, v3.S[0] // ....................................*.............................
// gap // ..................................................................
sqrdmulh v16.4S, v22.4S, v3.S[1] // .........................................*........................
// gap // ..................................................................
add v13.4S, v9.4S, v14.4S // ..................................*...............................
// gap // ..................................................................
mul v0.4S, v31.4S, v1.S[2] // ...........................................*......................
// gap // ..................................................................
mul v30.4S, v15.4S, v1.S[0] // ................*.................................................
// gap // ..................................................................
mul v14.4S, v13.4S, v2.S[2] // .....................................*............................
// gap // ..................................................................
sqrdmulh v4.4S, v15.4S, v1.S[1] // .................*................................................
// gap // ..................................................................
sqrdmulh v15.4S, v31.4S, v1.S[3] // ............................................*.....................
// gap // ..................................................................
sqrdmulh v24.4S, v13.4S, v2.S[3] // ......................................*...........................
// gap // ..................................................................
sub v6.4S, v12.4S, v5.4S // ........*.........................................................
// gap // ..................................................................
mls v30.4S, v4.4S, v8.S[0] // .....................*............................................
// gap // ..................................................................
mls v0.4S, v15.4S, v8.S[0] // ................................................*.................
// gap // ..................................................................
mls v26.4S, v16.4S, v8.S[0] // ...............................................*..................
// gap // ..................................................................
add v15.4S, v20.4S, v19.4S // ................................*.................................
// gap // ..................................................................
add v16.4S, v6.4S, v30.4S // ..........................*.......................................
// gap // ..................................................................
mls v29.4S, v7.4S, v8.S[0] // .................................................*................
// gap // ..................................................................
sub v4.4S, v6.4S, v30.4S // .........................*........................................
// gap // ..................................................................
add v1.4S, v15.4S, v0.4S // .......................................................*..........
// gap // ..................................................................
sub v12.4S, v15.4S, v0.4S // ......................................................*...........
// gap // ..................................................................
sub v0.4S, v4.4S, v26.4S // ...................................................*..............
// gap // ..................................................................
str q1, [x0], #(16) // ..........................................................*.......
// gap // ..................................................................
add v7.4S, v25.4S, v29.4S // .........................................................*........
// gap // ..................................................................
str q12, [x0, #112] // ...........................................................*......
// gap // ..................................................................
mls v14.4S, v24.4S, v8.S[0] // ..............................................*...................
// gap // ..................................................................
str q7, [x0, #240] // ............................................................*.....
// gap // ..................................................................
sub v1.4S, v25.4S, v29.4S // ........................................................*.........
// gap // ..................................................................
str q0, [x0, #880] // .................................................................*
// gap // ..................................................................
sub v19.4S, v16.4S, v14.4S // ..................................................*...............
// gap // ..................................................................
str q1, [x0, #368] // .............................................................*....
// gap // ..................................................................
add v31.4S, v16.4S, v14.4S // .....................................................*............
// gap // ..................................................................
str q19, [x0, #624] // ...............................................................*..
// gap // ..................................................................
add v7.4S, v4.4S, v26.4S // ....................................................*.............
// gap // ..................................................................
str q31, [x0, #496] // ..............................................................*...
// gap // ..................................................................
// gap // ..................................................................
// gap // ..................................................................
str q7, [x0, #752] // ................................................................*.
// gap // ..................................................................
// original source code
// mul v22.4S, v22.4S, v0.S[0] // ...*.............................................................. || ...*...............................................................
// mul v16.4S, v29.4S, v0.S[0] // .....*............................................................ || .....*.............................................................
// sqrdmulh v10.4S, v29.4S, v0.S[1] // .......*.......................................................... || .......*...........................................................
// mul v26.4S, v30.4S, v0.S[0] // .*................................................................ || .*.................................................................
// mls v22.4S, v4.4S, v8.S[0] // ....................*............................................. || ....................*..............................................
// sqrdmulh v29.4S, v30.4S, v0.S[1] // ..*............................................................... || ..*................................................................
// mls v16.4S, v10.4S, v8.S[0] // ...................*.............................................. || ...................*...............................................
// mul v10.4S, v21.4S, v0.S[0] // *................................................................. || *..................................................................
// sub v4.4S, v12.4S, v22.4S // .........................................*........................ || .........................................*.........................
// mls v26.4S, v29.4S, v8.S[0] // ......*........................................................... || ......*............................................................
// add v22.4S, v12.4S, v22.4S // .........................*........................................ || .........................*.........................................
// sub v29.4S, v18.4S, v16.4S // .......................*.......................................... || .......................*...........................................
// add v16.4S, v18.4S, v16.4S // ........................*......................................... || ........................*..........................................
// sub v21.4S, v11.4S, v26.4S // ...............*.................................................. || ...............*...................................................
// add v26.4S, v11.4S, v26.4S // ..........*....................................................... || ..........*........................................................
// mls v10.4S, v15.4S, v8.S[0] // ....*............................................................. || ....*..............................................................
// mul v11.4S, v21.4S, v1.S[0] // ....................................*............................. || ....................................*..............................
// sqrdmulh v21.4S, v21.4S, v1.S[1] // ......................................*........................... || ......................................*............................
// mul v12.4S, v26.4S, v0.S[2] // .............*.................................................... || .............*.....................................................
// sub v18.4S, v20.4S, v10.4S // .........*........................................................ || .........*.........................................................
// add v10.4S, v20.4S, v10.4S // ........*......................................................... || ........*..........................................................
// mls v11.4S, v21.4S, v8.S[0] // ..........................................*....................... || ..........................................*........................
// sqrdmulh v26.4S, v26.4S, v0.S[3] // ..............*................................................... || ..............*....................................................
// mul v21.4S, v18.4S, v1.S[0] // .................*................................................ || .................*.................................................
// sqrdmulh v18.4S, v18.4S, v1.S[1] // ..................*............................................... || ..................*................................................
// sub v20.4S, v4.4S, v11.4S // ................................................*................. || ................................................*..................
// add v4.4S, v4.4S, v11.4S // ..............................................*................... || ..............................................*....................
// mls v12.4S, v26.4S, v8.S[0] // .....................*............................................ || .....................*.............................................
// mul v26.4S, v10.4S, v0.S[2] // ...........*...................................................... || ...........*.......................................................
// mls v21.4S, v18.4S, v8.S[0] // ......................*........................................... || ......................*............................................
// sqrdmulh v10.4S, v10.4S, v0.S[3] // ............*..................................................... || ............*......................................................
// sub v11.4S, v22.4S, v12.4S // ............................*..................................... || ............................*......................................
// add v22.4S, v22.4S, v12.4S // .............................................*.................... || .............................................*.....................
// sub v12.4S, v29.4S, v21.4S // ..........................*....................................... || ..........................*........................................
// add v29.4S, v29.4S, v21.4S // ..................................*............................... || ..................................*................................
// mls v26.4S, v10.4S, v8.S[0] // ................*................................................. || ................*..................................................
// mul v10.4S, v12.4S, v3.S[0] // ................................*................................. || ................................*..................................
// mul v21.4S, v29.4S, v2.S[2] // .....................................*............................ || .....................................*.............................
// sqrdmulh v29.4S, v29.4S, v2.S[3] // ........................................*......................... || ........................................*..........................
// sub v18.4S, v16.4S, v26.4S // ...........................*...................................... || ...........................*.......................................
// add v16.4S, v16.4S, v26.4S // .............................*.................................... || .............................*.....................................
// sqrdmulh v26.4S, v12.4S, v3.S[1] // .................................*................................ || .................................*.................................
// mul v12.4S, v18.4S, v2.S[0] // ..............................*................................... || ..............................*....................................
// mul v30.4S, v16.4S, v1.S[2] // ...................................*.............................. || ...................................*...............................
// sqrdmulh v16.4S, v16.4S, v1.S[3] // .......................................*.......................... || .......................................*...........................
// sqrdmulh v18.4S, v18.4S, v2.S[1] // ...............................*.................................. || ...............................*...................................
// mls v21.4S, v29.4S, v8.S[0] // .......................................................*.......... || .......................................................*...........
// mls v10.4S, v26.4S, v8.S[0] // ............................................*..................... || ............................................*......................
// mls v30.4S, v16.4S, v8.S[0] // ...........................................*...................... || ...........................................*.......................
// mls v12.4S, v18.4S, v8.S[0] // ...............................................*.................. || ...............................................*...................
// sub v16.4S, v4.4S, v21.4S // ...........................................................*...... || ...........................................................*.......
// sub v26.4S, v20.4S, v10.4S // ...................................................*.............. || ...................................................*...............
// add v10.4S, v20.4S, v10.4S // ...............................................................*.. || ...............................................................*...
// add v29.4S, v4.4S, v21.4S // .............................................................*.... || .............................................................*.....
// sub v4.4S, v22.4S, v30.4S // ..................................................*............... || ..................................................*................
// add v22.4S, v22.4S, v30.4S // .................................................*................ || .................................................*.................
// sub v21.4S, v11.4S, v12.4S // .........................................................*........ || .........................................................*.........
// add v11.4S, v11.4S, v12.4S // .....................................................*............ || .....................................................*.............
// str q22, [x0], #(16) // ....................................................*............. || ....................................................*..............
// str q4, [x0, #112] // ......................................................*........... || ......................................................*............
// str q11, [x0, #240] // ........................................................*......... || ........................................................*..........
// str q21, [x0, #368] // ............................................................*..... || ............................................................*......
// str q29, [x0, #496] // ................................................................*. || ................................................................*..
// str q16, [x0, #624] // ..............................................................*... || ..............................................................*....
// str q10, [x0, #752] // .................................................................* || ..................................................................*
// str q26, [x0, #880] // ..........................................................*....... || ..........................................................*........
restore inp, STACK0
add inpp, inp, #64
mov count, #8
root0_tw .req v4
root1_tw .req v5
root2_tw .req v6
root3_tw .req v7
qform_root0_tw .req q4
qform_root1_tw .req q5
qform_root2_tw .req q6
qform_root3_tw .req q7
sub inp, inp, #64
sub inpp, inpp, #64
.p2align 2
ldr q27, [x2, #64] // *.....................................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
ldr q7, [x4], #64 // .*....................................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
ldr q10, [x2, #96] // ..*...................................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
mul v25.4S, v27.4S, v7.S[0] // ..........................*...........................................
// gap // ......................................................................
sqrdmulh v27.4S, v27.4S, v7.S[1] // .........................................*............................
// gap // ......................................................................
mul v11.4S, v10.4S, v7.S[0] // ....*.................................................................
// gap // ......................................................................
sqrdmulh v10.4S, v10.4S, v7.S[1] // .....*................................................................
// gap // ......................................................................
ldr q15, [x1, #96] // ...*..................................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
ldr q22, [x2, #112] // .....................*................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
ldr q13, [x2, #80] // .........*............................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
sqrdmulh v0.4S, v22.4S, v7.S[1] // ......................*...............................................
// gap // ......................................................................
mul v22.4S, v22.4S, v7.S[0] // .......................*..............................................
// gap // ......................................................................
mls v11.4S, v10.4S, v8.S[0] // ......*...............................................................
// gap // ......................................................................
ldr q10, [x1, #112] // ........................*.............................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
mls v22.4S, v0.4S, v8.S[0] // .........................*............................................
// gap // ......................................................................
add v0.4S, v15.4S, v11.4S // .......*..............................................................
// gap // ......................................................................
sqrdmulh v5.4S, v13.4S, v7.S[1] // ..........*...........................................................
// gap // ......................................................................
mul v13.4S, v13.4S, v7.S[0] // ...........*..........................................................
// gap // ......................................................................
add v1.4S, v10.4S, v22.4S // .............................*........................................
// gap // ......................................................................
mul v30.4S, v0.4S, v7.S[2] // .................*....................................................
// gap // ......................................................................
sqrdmulh v0.4S, v0.4S, v7.S[3] // ..................*...................................................
// gap // ......................................................................
mul v16.4S, v1.4S, v7.S[2] // ...................................*..................................
// gap // ......................................................................
sqrdmulh v7.4S, v1.4S, v7.S[3] // ....................................*.................................
// gap // ......................................................................
mls v25.4S, v27.4S, v8.S[0] // ...........................................*..........................
// gap // ......................................................................
sub v27.4S, v15.4S, v11.4S // ........*.............................................................
// gap // ......................................................................
mls v13.4S, v5.4S, v8.S[0] // .............*........................................................
// gap // ......................................................................
mls v30.4S, v0.4S, v8.S[0] // ....................*.................................................
// gap // ......................................................................
sub v10.4S, v10.4S, v22.4S // ................................*.....................................
// gap // ......................................................................
mls v16.4S, v7.4S, v8.S[0] // ......................................*...............................
// gap // ......................................................................
ldr q7, [x1, #80] // ............*.........................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
ldr q11, [x4, #-48] // ..............*.......................................................
// gap // ......................................................................
// gap // ......................................................................
// gap // ......................................................................
sub v15.4S, v7.4S, v13.4S // ...............*......................................................
// gap // ......................................................................
add v7.4S, v7.4S, v13.4S // ................*.....................................................
// gap // ......................................................................
sqrdmulh v22.4S, v27.4S, v11.S[1] // ...........................*..........................................
// gap // ......................................................................
mul v9.4S, v27.4S, v11.S[0] // ............................*.........................................
// gap // ......................................................................
sqrdmulh v27.4S, v10.4S, v11.S[1] // ..................................*...................................
// gap // ......................................................................
add v13.4S, v7.4S, v16.4S // .............................................*........................
// gap // ......................................................................
sub v0.4S, v7.4S, v16.4S // ..............................................*.......................
// gap // ......................................................................
mls v9.4S, v22.4S, v8.S[0] // .................................*....................................
// gap // ......................................................................
mul v7.4S, v10.4S, v11.S[0] // ...............................................*......................
// gap // ......................................................................
mul v10.4S, v13.4S, v11.S[2] // ................................................*.....................
// gap // ......................................................................
sqrdmulh v11.4S, v13.4S, v11.S[3] // .................................................*....................
// gap // ......................................................................
ldr q22, [x4, #-16] // ...................*..................................................
// gap // ......................................................................