[삼성전자] Processing in Memory 기술 (PIM)

삼성전자에서 PIM (processing in Memory) 기술을 활용한 AI용 DRAM 제품군을 소개했습니다. 

출처: https://www.samsung.com/semiconductor/kr/solutions/technology/processing-in-memory/

https://lifeisenjoyable.tistory.com/18

 

50년대 부터 아주 오랜 기간 동안 우리가 알고 있는 컴퓨팅 구조는 폰 노이만 (Von Neuman) 구조로 사용 되었습니다. 

CPU는 계산하고, 계산이 필요한 데이터는 메모리가 들고 있다가 주는 철저한 역할 분담 시스템입니다. 

마치 수술을 할 때 의사는 집도를 담당하고 옆에서 간호사가 수술용 도구를 준비해주는 것과 비슷합니다. 

폰노이만 컴퓨팅 구조

하지만 AI, 즉 CNN, DNN, RNN 알고리즘이 하드웨어 적으로 삽입되거나 구현되기 시작하면서, 현대의 컴퓨팅은 엄청나게 많은 단순 계산의 병렬처리가 필요합니다. 이 때 중요한 계산보다도 단순히 데이터를 압축하는 등의 데이터 전처리에 많은 계산 자원을 소모하게 되고, Memory와 CPU/GPU사이에 병목현상이 생겨 속도를 일정 수준 향상 시킬 수 없습니다.

 아, 그러면 Memory에서 데이터 전처리를 해서 가볍게 보내면 되잖아? 해서 나온게 Processing-in-Memory 개념입니다. 즉, CPU에서 바로 어려운 요리를 시작할 수 있도록 재료 손질을 메모리가 다 해준다는 것이죠. 다른 비유로, 의사는 중요 한 수술에만 관여하고, 간호사는 마취나 환부 절개와 같은 주변 작업을 처리하는 것과 같습니다. 

 

출처: Samsung 공홈

 

 이것이 앞으로의 반도체 시장에 시사하는 바는 저는 다음과 같이 생각합니다.

 

1. 새로운 컴퓨팅 시장의 탄생: 이미 AI 시장이 확대된 것으로 짐작할 수 있지만, 어떻게 구체적으로 AI가 하드웨어적으로 시장 확대하는가에 대한 의문이 있었습니다. PIM의 등장은 폰노이만 컴퓨팅을 대체하는 새로운 컴퓨팅 구조의 시장 점유가 일어날 것임을 시사하고 있습니다. 

2. Edge Computing 시장의 활성화: Edge Computing은 데이터 서버가 필요하지 않고 현장에서 독자적으로 구동하는 Computing을 뜻합니다. Local Memory와 Computing unit을 활용하여 현장에서 다양한 F/B을 즉각적으로 주어야 합니다. 다들 잘 아시겠지만, 드론, 무인자동차, 그리고 로봇입니다. 저는 특히나 아직 시장에서 잘 다뤄지지 않은 '로봇'을 통해 AI computing 시장이 폭발적으로 증가하지 않을까 조심스레 생각합니다. 드론이나 무인자동차가 할 수 있는 '일'은 제한 적이지만 로봇산업이 정말 제대로 활성화가 되면 인간사회에서 수행되는 모든 육체 노동에 대한 개념이 달라질 것입니다.

 PIM은 메모리자체에서 계산이 되는 개념으로, 실제 뇌기능과 더욱 비슷한 개념이 됩니다. 또한 주변상황의 정보수집과 상황 판단에 대한 즉각적인 반응이 가능합니다. 즉, 독자적인 상황 F/B이 가능하여, Edge Computing 개념과 잘 부합합니다. 따라서 저는 PIM 기술의 발전이 Edge Computing의 발전과 그로 인한 로봇 산업 발전과 긴밀히 연결되있다고 생각을 합니다.