본문 바로가기
카테고리 없음

카이스트 연구팀, 초저전력 고성능 AI 반도체 '상보형-트랜스포머' 세계 최초 개발

by centmos 2024. 4. 8.

과학기술정보통신부는 유회준 카이스트 인공지능 반도체 대학원 교수 연구팀과 카이스트 PIM 반도체 연구센터가 400밀리와트(㎽)의 초저전력을 소모하면서도 0.4초 만에 거대 언어 모델(LLM)을 처리할 수 있는 AI 반도체 '상보형-트랜스포머'를 세계 최초로 개발했다고 6일 밝혔다.

상보형-트랜스포머는 인간 뇌의 구조와 기능을 모방해 설계한 뉴로모픽 컴퓨팅 시스템의 일종인 '스파이킹 뉴럴 네트워크'(SNN)와 '심층 인공신경망'(DNN)을 선택적으로 사용해 트랜스포머 기능을 구현하는 기술이다. 트랜스포머는 문장 속 단어와 같은 데이터 내부의 관계를 추적해 맥락과 의미를 학습하는 신경망으로, 챗GPT의 원천 기술로 알려져 있다.

연구팀은 4.5㎜×4.5㎜ 크기의 작은 AI 반도체 한 개에서 초저전력만 소모하면서도 LLM을 초고속으로 구현하는 데 성공했다. 특히 사람의 뇌를 본뜬 '상보형-트랜스포머'는 사람의 뇌처럼 데이터 입력값이 크면 전력을 많이 쓰고, 작으면 전력을 적게 쓰는 고효율 특성을 가지고 있다.

연구팀은 상보형 심층신경망 기술을 LLM에 적용해 초저전력·고성능의 AI구동이 가능하다는 것을 입증했으며, 이론에만 머물렀던 연구 내용을 세계 최초로 AI반도체 형태로 구현하는 데 성공했다.

이번 연구 성과는 인간 뇌의 정보처리 방식을 모방한 뉴로모픽 컴퓨팅 기술을 활용해 고효율 AI 반도체를 개발했다는 점에서 큰 의의가 있다. 상보형-트랜스포머는 차세대 AI 반도체 기술로 주목받고 있으며, 향후 AI 응용 분야에서 혁신을 이끌 것으로 기대된다.