[알서포트 Tech Inside3호] “초거대 인공지능 기술 동향 및 개발 경쟁" 1부

🔹1부: 초거대 인공지능 정의와 해외 기술 동향

🔹2부: 국내 초거대 AI 기술 동향 및 국내외 초거대 AI 기술의 한계와 과제

 

 

최근 정보통신기술(ICT) 분야의 가장 핫한 키워드는 ‘초거대 인공지능(Hyper-scale AI)’이다. 2020년 6월 오픈AI(OpenAI)가 발표한 GPT-3라는 자연어처리(NLP) 모델을 기반으로 획기적이고 창의적인 활용 사례들이 나오면서 글로벌 ICT 기업들의 관심이 증폭되었고, 최근에는 초거대 AI 모델이 속속 등장하고 있다. 국내외 초거대 AI(Hyper-scale AI) 기술 동향을 1부와 2부에 걸쳐 상세히 살펴보고자 한다. 우선, 1부에서는 초거대 AI의 정의와 특징은 무엇이며, 글로벌 ICT 기업들이 발표한 초거대 AI의 기술동향 및 개발경쟁 현황에 대해 살펴본다.

 

| 초거대 인공지능(Hyper-scale AI)의 정의

‘초거대 AI’는 기존 인공지능(AI)에서 한 단계 진화한 차세대 AI로, 대용량 데이터를 학습해 인간과 같이 종합적 추론이 가능하다. 기존 AI보다 더 인간의 뇌에 가깝게 학습 및 판단 능력이 향상된 형태다. 예컨대, 알파고는 바둑 분야에 특화돼 있지만 초거대 AI는 여러 상황에 대해 스스로 학습해 역할을 수행한다. 이를 위해 기존 AI보다 수백 배 이상의 데이터 학습량이 필요하다[1]. 종합하면, 초거대 AI란 데이터 분석과 학습을 넘어 인간의 뇌처럼 스스로 추론하고 창작할 수 있도록 방대한 데이터와 파라미터(매개변수)를 활용하는 AI 모델을 말한다. 이때 인공신경망의 파라미터는 인간 뇌의 뉴런 간 정보전달 통로인 시냅스와 비슷한 역할을 수행하게 된다.

​

*참고: [1] 초거대 AI, 네이버 시사상식사전, 2021년 12월.

 

 

| 초거대 인공지능의 특징

2020년 이전까지만 하더라도 AI 모델들의 파라미터 수는 100억개 내외였다. 그러나 현재 초거대 인공지능 모델은 최소 1,000억 개 이상의 파라미터와 수천억 개로 구성된 데이터셋으로 학습한다. 이 초거대 AI 모델은 구글이 개발한 트랜스포머 알고리즘을 활용하고 있다. 병렬적 언어처리를 가능케해 효율성을 획기적으로 향상시킴으로써 대규모 데이터셋 학습에 용이하기 때문이다. 2021년 이후 등장한 최근의 초거대 AI 모델은 그 규모가 더욱 거대해져 수 천억~1조개 이상의 파라미터를 장착하고 있다[2]. GPT-3를 필두로 한 초거대 AI 모델은 이러한 대규모 파라미터와 데이터셋의 방대한 일반 데이터 학습만으로도 대부분의 작업(task)을 완성도 높게 수행한다. 이렇게 학습된 초거대 AI 모델은 블로그나 뉴스 등의 컨텐츠를 인간을 대신하여 작성하고, 인간과 AI 간의 자유대화를 가능케 한다. 이 외에도 이력서, 가계부, 이메일 등 원하는 양식의 컨텐츠 생성이 가능하고, 상당한 수준의 번역작업, 몇 줄의 일반 문장입력을 통한 자동프로그래밍 작업 등 기존에는 상상할 수 없었던 인간 수준의 추론과 종합적 사고능력을 갖춘 AI 모델로 급속도로 발전했다. AI의 발전은 우리의 예상보다 빠른 속도로 발전하고 있고, 초거대 AI의 등장은 빠른 속도의 발전과 글로벌 ICT 기업들의 개발 경쟁에 불을 붙이고 있다.

​

*참고: [2] 이효은, GPT-3 초거대 AI 경쟁에 불을 붙이다, 전자신문, 2021년 12월.

 

 

 

| 초거대 인공지능 기술 해외 동향

1. 인류 역사상 가장 뛰어난 인공지능 ‘GPT-3’

2. 구글의 차세대 인공지능 대화모델 ‘람다(LaMDA)’

3. 딥마인드의 초거대 인공지능 언어모델 ‘고퍼(Gopher)’

4. MS-엔비디아의 초거대 AI ‘MT-LNG’

5. 중국 인공지능 아카데미의 초거대 AI 사전학습 모델 ‘우다오 2.0’

6. 화웨이의 대규모 자연어처리(NLP) 모델 ‘판구 알파’

​

이하 중략

---

현재 글로벌 ICT 기업들의 초거대 AI 기술 개발 경쟁이 치열하다. 치열한 기술 경쟁덕분에 초거대 AI의 발전 속도도 가속화되고 있다. 이렇게 과열되고 있는 초거대 AI 개발 경쟁에 문제는 없을까? 이토록 글로벌 ICT 기업들이 치열하게 경쟁하는 가운데 과연 우리의 초거대 AI 기술은 어디까지 왔을까? 이들 질문에서 시작된 국내외 초거대 AI 기술의 한계와 과제에 대해 2부를 통해 알아보겠다. 이에 앞서 국내 ICT 기업들의 초거대 AI 기술 동향도 상세히 살펴보겠다.

​

보다 자세한 내용은 기술문서 원본을 다운받아 확인하실 수 있습니다.

​

👉 기술문서 원본 다운로드

 

---

8월의 Tech Inside 3호

알서포트 클라우드기술팀 박상은 팀장님의

“초거대 인공지능 기술 동향 및 개발 경쟁”

1부를 공개하였습니다.

​

2부도 곧 공개 예정이니

다음 호도 기대 많이 해주세요!😎