오픈AI가 챗GPT를 대중에 공개한 지 거의 1년이 지났다. 챗GPT로 대변되는 거대언어모델(LLM) 기술의 다양한 가능성과 함께 잠재된 문제점을 해결하기 위한 연구들이 활발하게 진행되고 있다. 하루가 다르게 발전하고 있는 LLM이 어떻게 진화해 왔는지 짚어보고, 앞으로 어떻게 진화해 나갈 것인지 예측해 보자.
LLM이 기존 AI 모델들과 다른 점은 방대한 양의 텍스트 데이터로부터 지식을 학습한다는 것이다. 챗GPT 전신인 GPT-3 모델은 3000억개 단어로 학습됐지만, 최근 공개되는 모델들은 조 단위 단어로 학습되는 것이 일반적이다. 놀랍게도 LLM 성능은 학습 데이터 양이 증가함에 따라 향상되고 있으며, 이러한 추세는 당분간 계속될 것으로 예상된다.
※ 자세한 내용은 [https://n.news.naver.com/mnews/article/030/0003167906]을 통해 확인하실 수 있습니다.
※ 2023 전자신문 기고 시리즈 보러가기
▶ [ET단상]AI와 소재과학: 새로운 과학적 발견의 기대 (Link)
▶ [ET단상]생성형 AI, 언어를 넘어 시각으로 (Link)
▶ [전문가 기고]챗GPT 시대, 한국에도 기회의 장 (Link)