멀티 쓰레드 프로그래밍 & 동기화

[Tokwasp]

• 멀티 쓰레드 프로그래밍 작성 시 유의점
• 동기화를 구현하기 위한 하드웨어적 해결 방법에 대해 설명해주세요.
  • 동기화를 구현하기 위한 하드웨어적 해결 방법
    • volatile 키워드는 어떤 의미가 있나요?
    • 싱글코어가 아니라 멀티코어라면, 어떻게 동기화가 이뤄질까요?

[JoisFe]

Q) 멀티 쓰레드 프로그래밍 작성 시 유의점

• 멀티 쓰레드 프로그래밍에 가장 문제가 되는 상황은 동시성 문제 입니다.
• 공유 자원에 대해 동기화를 해야하고 --> Thread Safe하게 코드를 작성해야 합니다.
• Thread Safe #7 해당 Question 에서 다루었던 내용이라 해당 부분을 참고하면 될 것 같습니다.

Q) 동기화 구현을 위한 하드웨어적 해결 방법

Q) volatile 키워드 의미

• 자바 변수를 CPU 캐시가 아닌 Main Memory 에 저장한다고 명시하는 것을 뜻합니다.
• 변수 값을 Read & Write 시 Main Memory 로 접근합니다.

Singleton 구현 방법 중 Lazy Initialization + Synchronization(지연 초기화 + 동기화) 방식으로 멀티스레딩의 문제를 해결하기 위해 사용한 synchronized로 인한 성능의 문제를 해결하는 방법으로 Lazy Holder 방식과, DCL 방식이 있고
DCL(Double Checked Locking) 방식 을 구현코드를 보면 volatile 키워드를 사용하고 있어 적합한 예시로 생각이 들었습니다.

public class Singleton {

    private volatile static Singleton3 uniqueInstance;

    private Singleton3() {}

    public static Singleton3 getInstance() {
        if (uniqueInstance == null) {
            synchronized (Singleton3.class) {
                if (uniqueInstance == null) {
                    uniqueInstance = new Singleton3();
                }
            }
        }
        return uniqueInstance;
    }
}

• uniqueInstance가 아직 생성되지 않은 시점에서만 synchronized를 통해 동기화를 한다면 성능을 좀 더 올릴 수 있습니다.
  (객체가 생성된 이후에는 이미 만들어진 객체를 반환만 하면 됨)

• 다만 uniqueInstance가 volatile로 선언되지 않으면 멀티스레드 환경에서의 가시성 문제가 발생할 수 있습니다.
  -volatile 없이 선언된 변수는 스레드 간의 메모리 가시성 보장이 되지 않으므로, 하나의 스레드에서 변경된 uniqueInstance 값이 다른 스레드에서 보이지 않을 수 있습니다.

• 멀티스레드 환경에서 가시성(Visibility)는 한 스레드에서 변경한 값이 다른 스레드에서 즉시 보이는지 여부를 의미합니다.

• volatile을 사용하지 않으면 �DCL에서 uniqueInstance의 초기화가 완전히 이루어지지 않은 상태에서 다른 스레드가 접근할 위험이 있습니다.

• volatile을 사용함으로써 멀티스레드 환경에서 안전하게 Singleton 인스턴스를 생성할 수 있습니다.

  단순히 static -> volatile 키워드만 변경하고 synchronized 키워드로 동기화 처리는 하지 않아도 되는 것으로 오해할 수 있는데 synchronized 키워드로 공유 객체에 대한 동기화 처리 까지 해주어야 싱글톤을 보장 받을 수 있습니다.

Q) 싱글코어가 아니라 멀티코어라면, 어떻게 동기화가 이뤄질까요?

• 싱글 코어에서의 멀티스레드, 멀티코어 (각 코어당 싱글 스레드 Or 멀티스레드) 에서의 동기화 차이를 묻는 질문으로 예상됩니다
  • 싱글코어 싱글스레드는 동기화를 신경 쓸 필요 없기 때문입니다.

싱글 코어 멀티스레드에서 동기화

• 스레드 간 병렬 실행 불가능
• 싱글코어에서는 한 번에 하나의 스레드만 실행할 수 있습니다. 여러 스레드는 CPU에서 번갈아가며 실행되며, 이 과정은 Context Switching을 통해 이루어집니다.
  • 여러 스레드가 동일한 자원에 접근할 때, 공유 자원에 대한 경쟁이 발생할 수 있기 때문에 동기화가 필요합니다.
  • 이 경우 동시성 문제가 발생할 수 있으므로 Mutex, Semaphore 등 여러 방법으로 동시성 무제를 해결해야 합니다.

멀티코어에서의 동기화

• 멀티코어 환경에서는 여러 코어에서 스레드가 병렬로 실행될 수 있습니다.
• 동시에 여러 스레드가 실행되며 실제로 물리적으로 병렬 처리가 이루어집니다.
• 멀티 코어에서 한 코어당 멀티스레드 경우 싱글 코어 멀티스레드 상황과 유사하게 동기화를 통해 동시성 문제를 해결해야 합니다.
• 하지만 싱글코어와 다르게 멀티코어에서는 캐시 일관성 문제와 메모리 가시성 문제가 있습니다.

캐시 일관성 문제

• 코어당 자체적으로 캐시를 가지고 있는데 여러 스레드가 동시에 같은 데이터를 읽고 쓰는 경우, 한 코어에서 업데이트된 데이터가 다른 코어의 캐시에는 반영되지 않을 수 있는 문제 입니다.
• 이로 인해 가시성 문제가 발생할 수 있습니다.

가시성 (Visibility) 문제

• 멀티스레딩 환경에서 하나의 스레드가 수정한 값이 다른 스레드에서 즉시 반영되지 않는 문제를 말합니다.
• 가시성 문제의 해결 방법으로는 이전에 언급한 volatile 을 사용하는 방법이 있습니다.

참고

• https://velog.io/@naneun/Java-Volatile-%ED%82%A4%EC%9B%8C%EB%93%9C%EB%9E%80

[jay200333]

멀티 쓰레드 프로그래밍 작성 시 유의점

✅ 답변

• 동기화
  • 뮤텍스, 세마포어 등으로 공유 자원 보호
  • 원자적 연산이나 Volatile 키워드를 사용해 원자적 연산 보장
  • Lock-Free, Wait-Free 알고리즘을 활용하여 병목 현상 최소화
• 데드락 방지
  • 락 순서를 일관되게 유지
  • 타임 아웃 을 설정해 일정 시간 대기 후 락 요청 취소
• Thread Safe 보장
  • 스레드 안전한 컬렉션 사용 ex) ConcurrentHashMap , CopyOnWriteArrayList
  • 불변 객체 사용
  • ThreadLocal 을 사용해 각 스레드에 독립적인 데이터 제공
• 락 최소화
  • 경합 최소화 및 락 범위 축소
  • 락을 세분화
  • 공유 자원 사용을 최소화하고 스레드간 데이터 복사를 고려
• 스레드 수 조절
  • CPU 코어에 맞춘 적절한 스레드 사용
  • Thread Pool을 사용해 스레드 재사용
• 예외 처리
  • 스레드 내에서 발생하는 예외를 try-catch로 처리

---

동기화를 구현하기 위한 하드웨어적 해결 방법에 대해 설명해주세요.

✅ 답변

TAS(Test-and-Set) 명령어

하나의 원자적 연산으로 특정 메모리 값을 읽고, 동시에 다른 값을 설정하는 명령어

• 동작 방식
  1. 메모리 값을 읽어옴
  2. 읽은 값이 특정 값이(ex: 0)이면 1로 변경
  3. 읽은 값이 1이면 계속 대기

int lock = 0;

int test_and_set(int *target) {
    int old = *target;
    *target = 1;
    return old;
}

while (test_and_set(&lock));  // lock이 0이면 락 획득, 1이면 대기
// Critical Section
lock = 0;  // 락 해제

장점 : 빠른 락 획득

단점 : Busy Waiting 발생

CAS(Compare-and-Swap)

메모리 값이 기대한 값과 일치할 때만 새 값으로 변경하는 원자적 연산

• 동작 방식
  1. 메모리 값이 기대한 값인지 비교
  2. 비교하여 값이 같은 경우에만 새 값으로 변경

int compare_and_swap(int *target, int expected, int new_value) {
    int old = *target;
    if (old == expected) {
        *target = new_value;
    }
    return old;
}

while (compare_and_swap(&lock, 0, 1) != 0);  // lock이 0이면 1로 변경
// Critical Section
lock = 0;  // 락 해제

장점 : 효율적이고 락이 필요 없음

단점 : 경합이 심할 때 성능 저하

---

volatile 키워드는 어떤 의미가 있나요?

✅답변

• 최적화 방지 : 컴파일러의 특정 최적화를 막음
  • 매번 메모리에서 직접 값을 읽어오도록 코드를 생성(기존에는 루프 내에서 변수 값이 변하지 않는다고 판단되면, 그 값을 레지스터에 캐시하여 메모리 접근을 줄임)
• 메모리 가시성 : 변수의 모든 읽기와 쓰기가 메인 메모리에서 직접 이루어지도록 함 → 다른 Thread나 Interrupt Handler가 해당 변수의 최신 값을 항상 볼 수 있게 해줌

• 순서 보장 : volatile 연산의 순서가 보존되도록 함 → 현대의 컴파일러와 CPU는 성능 향상을 위해 명령어의 순서를 재배치하는 경우가 있는데 volatile 로 선언된 변수에 대한 연산은 재배치의 대상에서 제외함

→ volatile 은 강력하지만 남용하게 되면 성능 저하를 초래할 수 있다.

[Tokwasp]

❓ 멀티 쓰레드 프로그래밍 작성 시 유의점

🌱 [ 동시성 문제 주의 ]

• 상호배제를 만족 시키고 싶다면 뮤텍스, 순서 제어 / 다중 자원의 관리를 하고 싶다면 세마포어를 사용 합니다.
• 자료구조도 Concurrent 자료구조를 사용 하도록 해야 합니다.

❓ 동기화를 구현하기 위한 하드웨어적 해결 방법에 대해 설명해주세요.

🌱 [ TAS 연산 ( Test - And - Set ) ]

boolean test_and_set(boolean *lock) {
    boolean old_value = *lock;
    *lock = true;
    return old_value;
}

• 플래그를 이용한 방법

🌱 [ CAS 연산 ( Compare - And - Swap ) ]

private static int incrementAndGet(AtomicInteger atomicInteger) {
        int getValue;
        boolean result;
        do {
            getValue = atomicInteger.get();
            sleep(100);
            log("getValue : " + getValue);
            result = atomicInteger.compareAndSet(getValue, getValue + 1);
            log("result : " + result);
        }while (!result);

        return getValue + 1;
}

• CPU에서 원자적 연산아닌 것을 원자적 연산으로 묶어서 동작 하도록 보장

❓ volatile 키워드는 어떤 의미가 있나요?

• 캐시 메모리를 통해 데이터를 연산 하기 때문에 메모리 값이 바뀌어도 캐시 메모리를 참조 하는 현상

[ 캐시 메모리 사용 이유 ]

• 메인 메모리 보다 CPU에 가까운 캐시 메모리를 통해 연산 하는것이 빠르기 때문 입니다.

[ 언제 캐시 값이 메모리에 반영 되나요? / 언제 메인 메모리 값을 캐시에서 읽나요? ]

• CPU 설계 방식, 실행 환경에 따라 다릅니다.
• 주로 I/O 작업 or 컨텍스트 스위칭이 되면서 갱신이 됩니다.

[ 메모리 가시성 문제를 어떻게 해결 하나요? ]

• volatile 키워드를 통해 메모리에서 직접 읽어 오도록 하면 됩니다.
• 성능은 떨어지지만 메모리 가시성 문제를 해결할 수 있습니다.

[JoisFe]

캐시가 메모리보다 Read/Write가 빠른이유가 물리적인 거리도 있지만
캐시 경우 SRAM(Static RAM) 구현
메인 메모리는 상대적으로 느린 DRAM(Dynamic RAM)을 사용하여 구성되어 있기 때문이 주 이유로 알 고 있습니다.

[Tokwasp]

그 부분은 생각하지 못했습니다. 피드백 감사합니다 !