123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296 |
- .macro src_b r, w0, w1
- src \r, \w0, \w1
- src \r, \w1, \w0
- .endm
- .macro ssa8 r
- ssa8b \r
- ssa8l \r
- .endm
- .text
- .align 4
- .literal_position
- __memcpy_aux:
-
- .byte 0
- .Lbytecopy:
- loopnez a4, 2f
- beqz a4, 2f
- add a7, a3, a4
- 1: l8ui a6, a3, 0
- addi a3, a3, 1
- s8i a6, a5, 0
- addi a5, a5, 1
- blt a3, a7, 1b
- 2: abi_ret
- .align 4
- .Ldst1mod2:
-
- _bltui a4, 7, .Lbytecopy
-
- l8ui a6, a3, 0
- addi a3, a3, 1
- addi a4, a4, -1
- s8i a6, a5, 0
- addi a5, a5, 1
-
- _bbci.l a5, 1, .Ldstaligned
- .Ldst2mod4:
-
- _bltui a4, 6, .Lbytecopy
-
- l8ui a6, a3, 0
- l8ui a7, a3, 1
- addi a3, a3, 2
- addi a4, a4, -2
- s8i a6, a5, 0
- s8i a7, a5, 1
- addi a5, a5, 2
-
- j .Ldstaligned
- ENTRY (memcpy)
-
- mov a5, a2
- _bbsi.l a2, 0, .Ldst1mod2
- _bbsi.l a2, 1, .Ldst2mod4
- .Ldstaligned:
-
- srli a7, a4, 4
-
- movi a8, 3
- _bany a3, a8, .Lsrcunaligned
-
- loopnez a7, 2f
- beqz a7, 2f
- slli a8, a7, 4
- add a8, a8, a3
- 1: l32i a6, a3, 0
- l32i a7, a3, 4
- s32i a6, a5, 0
- l32i a6, a3, 8
- s32i a7, a5, 4
- l32i a7, a3, 12
- s32i a6, a5, 8
- addi a3, a3, 16
- s32i a7, a5, 12
- addi a5, a5, 16
- blt a3, a8, 1b
-
- 2: bbci.l a4, 3, 3f
-
- l32i a6, a3, 0
- l32i a7, a3, 4
- addi a3, a3, 8
- s32i a6, a5, 0
- s32i a7, a5, 4
- addi a5, a5, 8
- 3: bbsi.l a4, 2, 4f
- bbsi.l a4, 1, 5f
- bbsi.l a4, 0, 6f
- abi_ret
-
- 4: l32i a6, a3, 0
- addi a3, a3, 4
- s32i a6, a5, 0
- addi a5, a5, 4
- bbsi.l a4, 1, 5f
- bbsi.l a4, 0, 6f
- abi_ret
-
- 5: l16ui a6, a3, 0
- addi a3, a3, 2
- s16i a6, a5, 0
- addi a5, a5, 2
- bbsi.l a4, 0, 6f
- abi_ret
-
- 6: l8ui a6, a3, 0
- s8i a6, a5, 0
- .Ldone:
- abi_ret
- .align 4
- .Lsrcunaligned:
-
- _beqz a4, .Ldone
-
- ssa8 a3
- and a11, a3, a8
- sub a3, a3, a11
- l32i a6, a3, 0
- loopnez a7, 2f
- beqz a7, 2f
- slli a10, a7, 4
- add a10, a10, a3
- 1: l32i a7, a3, 4
- l32i a8, a3, 8
- src_b a6, a6, a7
- s32i a6, a5, 0
- l32i a9, a3, 12
- src_b a7, a7, a8
- s32i a7, a5, 4
- l32i a6, a3, 16
- src_b a8, a8, a9
- s32i a8, a5, 8
- addi a3, a3, 16
- src_b a9, a9, a6
- s32i a9, a5, 12
- addi a5, a5, 16
- blt a3, a10, 1b
- 2: bbci.l a4, 3, 3f
-
- l32i a7, a3, 4
- l32i a8, a3, 8
- src_b a6, a6, a7
- s32i a6, a5, 0
- addi a3, a3, 8
- src_b a7, a7, a8
- s32i a7, a5, 4
- addi a5, a5, 8
- mov a6, a8
- 3: bbci.l a4, 2, 4f
-
- l32i a7, a3, 4
- addi a3, a3, 4
- src_b a6, a6, a7
- s32i a6, a5, 0
- addi a5, a5, 4
- mov a6, a7
- 4:
- add a3, a3, a11
- bbsi.l a4, 1, 5f
- bbsi.l a4, 0, 6f
- abi_ret
-
- 5: l8ui a6, a3, 0
- l8ui a7, a3, 1
- addi a3, a3, 2
- s8i a6, a5, 0
- s8i a7, a5, 1
- addi a5, a5, 2
- bbsi.l a4, 0, 6f
- abi_ret
-
- 6: l8ui a6, a3, 0
- s8i a6, a5, 0
- abi_ret
- libc_hidden_def (memcpy)
|