clear_page.S 959 B

1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253
  1. /* SPDX-License-Identifier: GPL-2.0-only */
  2. /*
  3. * Copyright (C) 2012 ARM Ltd.
  4. */
  5. #include <linux/linkage.h>
  6. #include <linux/const.h>
  7. #include <asm/assembler.h>
  8. #include <asm/page.h>
  9. /*
  10. * Clear page @dest
  11. *
  12. * Parameters:
  13. * x0 - dest
  14. */
  15. SYM_FUNC_START(__pi_clear_page)
  16. #ifdef CONFIG_AS_HAS_MOPS
  17. .arch_extension mops
  18. alternative_if_not ARM64_HAS_MOPS
  19. b .Lno_mops
  20. alternative_else_nop_endif
  21. mov x1, #PAGE_SIZE
  22. setpn [x0]!, x1!, xzr
  23. setmn [x0]!, x1!, xzr
  24. seten [x0]!, x1!, xzr
  25. ret
  26. .Lno_mops:
  27. #endif
  28. mrs x1, dczid_el0
  29. tbnz x1, #4, 2f /* Branch if DC ZVA is prohibited */
  30. and w1, w1, #0xf
  31. mov x2, #4
  32. lsl x1, x2, x1
  33. 1: dc zva, x0
  34. add x0, x0, x1
  35. tst x0, #(PAGE_SIZE - 1)
  36. b.ne 1b
  37. ret
  38. 2: stnp xzr, xzr, [x0]
  39. stnp xzr, xzr, [x0, #16]
  40. stnp xzr, xzr, [x0, #32]
  41. stnp xzr, xzr, [x0, #48]
  42. add x0, x0, #64
  43. tst x0, #(PAGE_SIZE - 1)
  44. b.ne 2b
  45. ret
  46. SYM_FUNC_END(__pi_clear_page)
  47. SYM_FUNC_ALIAS(clear_page, __pi_clear_page)
  48. EXPORT_SYMBOL(clear_page)