146 lines
2.8 KiB
ArmAsm
146 lines
2.8 KiB
ArmAsm
|
/* $Id: bitops.S,v 1.3 2001/11/18 00:12:56 davem Exp $
|
||
|
|
* bitops.S: Sparc64 atomic bit operations.
|
||
|
|
*
|
||
|
|
* Copyright (C) 2000 David S. Miller (davem@redhat.com)
|
||
|
|
*/
|
||
|
|
|
||
|
|
#include <linux/config.h>
|
||
|
|
#include <asm/asi.h>
|
||
|
|
|
||
|
|
/* On SMP we need to use memory barriers to ensure
|
||
|
|
* correct memory operation ordering, nop these out
|
||
|
|
* for uniprocessor.
|
||
|
|
*/
|
||
|
|
#ifdef CONFIG_SMP
|
||
|
|
#define BITOP_PRE_BARRIER membar #StoreLoad | #LoadLoad
|
||
|
|
#define BITOP_POST_BARRIER membar #StoreLoad | #StoreStore
|
||
|
|
#else
|
||
|
|
#define BITOP_PRE_BARRIER nop
|
||
|
|
#define BITOP_POST_BARRIER nop
|
||
|
|
#endif
|
||
|
|
|
||
|
|
.text
|
||
|
|
|
||
|
|
.globl test_and_set_bit
|
||
|
|
.type test_and_set_bit,#function
|
||
|
|
test_and_set_bit: /* %o0=nr, %o1=addr */
|
||
|
|
BITOP_PRE_BARRIER
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
or %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
and %g7, %o2, %g2
|
||
|
|
BITOP_POST_BARRIER
|
||
|
|
clr %o0
|
||
|
|
retl
|
||
|
|
movrne %g2, 1, %o0
|
||
|
|
.size test_and_set_bit, .-test_and_set_bit
|
||
|
|
|
||
|
|
.globl test_and_clear_bit
|
||
|
|
.type test_and_clear_bit,#function
|
||
|
|
test_and_clear_bit: /* %o0=nr, %o1=addr */
|
||
|
|
BITOP_PRE_BARRIER
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
andn %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
and %g7, %o2, %g2
|
||
|
|
BITOP_POST_BARRIER
|
||
|
|
clr %o0
|
||
|
|
retl
|
||
|
|
movrne %g2, 1, %o0
|
||
|
|
.size test_and_clear_bit, .-test_and_clear_bit
|
||
|
|
|
||
|
|
.globl test_and_change_bit
|
||
|
|
.type test_and_change_bit,#function
|
||
|
|
test_and_change_bit: /* %o0=nr, %o1=addr */
|
||
|
|
BITOP_PRE_BARRIER
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
xor %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
and %g7, %o2, %g2
|
||
|
|
BITOP_POST_BARRIER
|
||
|
|
clr %o0
|
||
|
|
retl
|
||
|
|
movrne %g2, 1, %o0
|
||
|
|
.size test_and_change_bit, .-test_and_change_bit
|
||
|
|
|
||
|
|
.globl set_bit
|
||
|
|
.type set_bit,#function
|
||
|
|
set_bit: /* %o0=nr, %o1=addr */
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
or %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
nop
|
||
|
|
retl
|
||
|
|
nop
|
||
|
|
.size set_bit, .-set_bit
|
||
|
|
|
||
|
|
.globl clear_bit
|
||
|
|
.type clear_bit,#function
|
||
|
|
clear_bit: /* %o0=nr, %o1=addr */
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
andn %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
nop
|
||
|
|
retl
|
||
|
|
nop
|
||
|
|
.size clear_bit, .-clear_bit
|
||
|
|
|
||
|
|
.globl change_bit
|
||
|
|
.type change_bit,#function
|
||
|
|
change_bit: /* %o0=nr, %o1=addr */
|
||
|
|
srlx %o0, 6, %g1
|
||
|
|
mov 1, %o2
|
||
|
|
sllx %g1, 3, %g3
|
||
|
|
and %o0, 63, %g2
|
||
|
|
sllx %o2, %g2, %o2
|
||
|
|
add %o1, %g3, %o1
|
||
|
|
1: ldx [%o1], %g7
|
||
|
|
xor %g7, %o2, %g1
|
||
|
|
casx [%o1], %g7, %g1
|
||
|
|
cmp %g7, %g1
|
||
|
|
bne,pn %xcc, 1b
|
||
|
|
nop
|
||
|
|
retl
|
||
|
|
nop
|
||
|
|
.size change_bit, .-change_bit
|