명령어 파이프라이닝이란?

 

 

매일메일 백엔드 질문을 참고해 개인적으로 학습한 내용을 정리하였습니다.
오류가 있다면 언제든 피드백 주시면 바로 반영하겠습니다..!

 

 

시작하기전에

 

"어떤 코드가 왜 CPU에서 더 빠르게 실행되는 걸까?" 에 대한 이유 중 하나는 명령어 파이프라이닝이라는 CPU의 동작 원리 덕분임

 

=> 백엔드관련 업무를 한다면 높은 성능과 효율을 위해 로우레벨 시스템이 어떻게 동작하는지 이해하는 것이 특히 중요!!

 

 

명령어 파이프라이닝이란?

 

명령어 파이프라이닝(instruction pipelining) 은 CPU가 여러 명령어를 동시에 겹쳐서 처리할 수 있도록 각 명령어를 여러 단계로 분할하여 처리하는 기술임

 

=> 즉, 하나의 명령어를 처리하는 동안, 다음 명령어의 일부도 미리 수행해 전체 처리 속도를 높이는 것이 핵심

 

전통적인 CPU는 한 번에 하나의 명령어를 처리하는 반면, 파이프라인 기법을 사용하는 CPU는 여러 명령어를 각기 다른 단계에서 동시에 처리할 수 있음

 

출처 : 위키백과

 

위 그림을 살펴보면

 

다섯 개의 명령어가 동시에 실행되고 있는데 하나의 명령어는 다섯 단계를 거쳐 실행되고, 이때 프로세서에서는 첫 번째 명령어의 IF가 실행되면 ID를 실행하는 동시에 다음 명령어의 IF를 실행함

그 다음에는 첫 번째의 EX, 두 번째의 ID, 세 번째의 IF를 실행하는걸 볼 수 있음

 

파이프라이닝의 기본 구조

• IF(Instruction Fetch) : 명령어를 메모리에서 가져옴
  
  
• ID(Instruction Decode) : 명령어 해석 및 필요한 레지스터 식별
  
  
• EX(Execute) : ALU 연산 수행
  
  
• MEM(Memory Access) : 메모리 읽기/쓰기 수행
  
  
• WB(Write Back) : 결과를 레지스터에 저장

 

파이프라이닝의 한계 : Pipeline Hazard

 

파이프라이닝은 이상적으로는 모든 명령어가 겹치면서 매 사이클마다 명령어가 하나씩 끝나야함

하지만, 서로 다른 명령어가 충돌하거나, 예측이 빗나가는 경우가 발생할 수 있는데 이를 파이프라인 위험(Pipeline Hazard) 이라고 함
(대체로 파이프라이닝은 높은 성능을 가져오지만, 때로는 성능 향상에 실패하기도함)

 

Data Hazard (데이터 위험)

 

데이터 위험은 데이터 의존적인 두 명령어를 동시에 실행하는 경우, 파이프라인이 제대로 작동하지 않는 것을 의미함

1. ADD R1, R2, R3   ; R1 = R2 + R3
2. SUB R4, R1, R5   ; R4 = R1 - R5 (R1은 위 연산 결과)

 

위 예제에서 2번째 명령어는 R1 값을 사용하지만, 아직 첫 번째 명령어의 결과가 R1에 반영되지 않았을 수 있음

=> 파이프라인 지연이 필요함 (Forwarding - 데이터 전달, Stalling - 파이프라인 일시 정지)

 

Control Hazard (제어 위험)

 

제어 위험은 분기(branch)나 조건문 등으로 인해 다음에 실행할 명령어가 무엇인지 결정되지 않아 파이프라인이 멈추게 되는 것을 의미함

 

BEQ R1, R2, label   ; R1 == R2일 때 label로 점프

 

위의 경우, 분기 조건이 평가되기 전까지 다음에 어떤 명령어를 실행해야 할지 알 수 없음

 

=> 분기 예측(branch prediction), delay slot, 파이프라인 flush 등의 해결 방법이 있음

 

(하지만, 예측에 실패하면 계산된 파이프라인은 모두 버려야 하므로 성능 손실이 큼)

 

Pipeline Flush : 분기 예측 실패, Exception, 인터럽트 등이 발생했을 때 파이프라인 안에 들어간 명령어들을 모두 버리고 (flush) 새로운 명령어로 파이프라인을 재시작하는 것

Branch Prediction(분기 예측) : 분기 명령어(if, for, goto, switch 등)가 나왔을 때, 실제로 분기할지 아닐지를 미리 예측하고 다음 명령어를 파이프라인에 넣는 기법

=> 예측이 맞으면 파이프라인 정상 진행이지만, 틀리면 Pipeline Flush

Delay Slot : 분기 명령어 다음 명령어 하나는 무조건 실행되게 강제로 보장하는 방식임
(분기문 바로 밑 한 줄만 Delay Slot임)

=> 파이프라인 flush 사이에 파이프라인이 놀게되므로 낭비를 막기 위해 사용하는데,
분기 명령어 다음에 올 명령어 하나는 무조건 실행될 걸로 가정하고, 의미 없는 명령어를 넣는 대신 실제로 실행해도 되는 명령어를 넣어두면 성능 향상이 가능함

BEQ R1, R2, LABEL     ; 분기
ADD R7, R8, R9        ; Delay Slot → 무조건 실행됨 → 어차피 해야 될 연산을 미리 수행

위처럼 무조건 실행해도 괜찮은 명령어를 Delay Slot에 넣으면 파이프라인 낭비 줄이고 성능 향상!!
(Delay Slot에 넣을 명령어는 안전한 명령어여야 함)

 

Structural Hazard (구조적 위험)

 

구조적 위험은 한 명령어가 자원을 사용하면, 해당 자원이 필요한 다른 명령어는 멈추게 되어 파이프라인이 제대로 작동하지 않는걸 의미함

 

예를 들어, 메모리 접근이 필요한 두 명령어가 동시에 MEM 단계를 수행하려 하면 충돌이 발생

 

=> 하드웨어 리소스를 복수로 구성하거나, 명령어 실행 순서를 조정해서 해결할 수 있음

 

파이프라이닝의 장점과 단점

 

장점

 

• CPU 처리량 증가 (Throughput 향상)
  
  
• 단일 명령어 처리 시간은 그대로지만, 전체 프로그램 실행 시간 단축
  
  
• 병렬성과 속도 향상

 

단점

 

• 복잡한 하드웨어 제어 로직 필요
  
  
• 파이프라인 위험 처리 비용 존재
  
  
• 분기 예측 실패 시 파이프라인 flush 비용