[AI소프트웨어] LLM

• Representation Learning
• Self-Supervised Learning
• Large-Scale Data & Model

 

위 3개의 핵심이 모여서 탄생한 것이 오픈AI의 ChatGPT.

 

이전에 이미 핵심적인 기능들은 존재했음

 

여기서 데이터 모델이 30 ~ 40 billion 수준 이상으로 커지면 기계가 스스로 학습, 추론을 시작한다.

 

언어 모델은 예를 들어,

 

아이스 + () 의 경우 ()에 해당하는 말이 무엇일까를 생각하는 것이다.

보통 아이스크림이나 아이스아메리카노 등을 생각한다. 바로 이것이 언어 모델로서의 추론인 것이다.

 

하나의 문장을 던져 주면 그 다음 내용이 작성된다.

 

 

 

 

 

Before LLM

1. Context
2. AI Engine
3. Answer

 

After LLM

1. Context
2. Answer

 

 

 

 

앞으로는 문제를 해결하는 능력에서 문제를 제대로 잘 정의할 수 있는 능력을 더욱 중요시하게 될 것

 

특히 이중에서 엔지니어로서 '개발자'라는 역할보다, 그보다 더 큰 관점에서 전체적인 흐름을 관통해서 꿰뚫을 수 있는 엔지니어 '개발 팀장'이 되어야 한다.

 

 

코딩 능력이 덜 중요해지겠지만,

역설적으로 코딩 능력이 더더욱 갖춰져 있어야 할 것이다.

 

 

 

작동하지 않는 예술 작품보다

작동하는 쓰레기가 훨씬 낫다.

 

 

 

 

 

 

 

 

이 수업을 통해 많은 것을 얻었으면 한다.