[리뷰] AGI의 시대, 인간을 초월한 인공지능, AGI를 논하다

 

이번에 리뷰하게 된 책은 'AGI의 시대, 인간을 초월한 인공지능, AGI를 논하다' 입니다.

AGI는 'Artificial General Intelligence', 모든 상황에서 인간을 뛰어넘을 수 있는 AI를 의미합니다.

 

 

책은 3부로 나뉘어져있습니다.

- 1부: AGI의 시대

- 2부: 얼라인먼트: 연구와 정책

- 3부: 정책적 대응

 

 

어느순간 AI가 삶 가까이 다가오는 것을 피부로 느끼고 있습니다. OpenAI의 샘 올트먼의 말처럼 4-5년 내 뒤 AI가 어떻게 발전할 지 더욱 궁금해집니다.

 

가까운 장래에 AGI를 구현할 수 있을 것이라고 주장하는 이들이 가진 근거 중 하나는 '스케일링 법칙'이라고 합니다.

스케일링 법칙이란, 더 많은 양의 연산 능력과 데이터를 사용하여 AI 모델을 학습 시키면 필연적으로 AGI에 도달할 수 있다는 내용입니다.

 

1부에서는 그럼에도 불구하고 해결해야할 문제가 많다고 말하고 있습니다. 계산적인 설명이 아닌 신경생리학적 설명이나 의도적 설명과 어떻게 관련되는지를 밝히는 것이 우선이라고 말합니다.

 

반대로 AGI를 달성하기 어려울 것이라고 이야기하는 사람들도 존재합니다.

대표적으로 얀 르쿤, 스티븐 핑커, 최예진 교수, 게리 마커스 교수 등의 이야기를 다루고 있습니다.

 

 

AGI는 레벨0부터 레벨5로 구분할 수 있습니다.

사진은 딥마인드가 제안한 AGI의 레벨 기준입니다.

 

OpenAI는 다른 방식으로 레벨을 정의하고 있다고 합니다. 현재 기술은 레벨1에 있으며 레벨2 Reasoners를 도달하기 직전이라고 평가합니다.

레벨3 Agents는 액션을 취할 수 있는 시스템, 레벨4 Innovators는 발명을 도와줄 수 있는 혁신가, 레벨5 Organizations 는 조직의 일을 할 수 있는 수준으로 정의하고 있다고 합니다.

 

레벨 5가 되면 AGI가 저를 대신하여 일을 해주는 시대가 되지 않을까 싶습니다.

 

1부의 2장에서는 AGI의 위험에 대해서 이야기 합니다.

장점만 있을 수는 없기에 단점에 대한 내용도 다루고 있습니다.

내용 중에는 'AI로 인한 인류 멸종 위기에 대한 논쟁'도 다루고 있습니다.

 

2부는 얼라인먼트(alignment)에 대한 내용을 다룹니다.

얼라인먼트는 인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들 것인가 하는 문제를 말합니다.

즉, 인간이 원하는 일을 AI가 하도록 만드는 것을 의미합니다.

 

다만 얼라인먼트의 대한 연구는 아직 기초적인 영역에서도 불완전하며, 어떤 ㅜㅁㄴ제를 풀어야 하는지도 다 알지 못한다는 내용으로 마무리하고 있습니다.

 

3부는 AI에 대한 정책에 대한 내용을 다룹니다.

'AI 안전과 통제를 위한 주요 국가의 정책 및 국제협력' 이라는 내용으로 7부를 시작합니다.

캘리포니아 법 SB 1047 및 영국 및 유럽의 협력들을 다루며 이야기 합니다.

 

 

책 내용 전체적으로 AGI를 어떻게 다룰 것인가에 대한 내용을 담고 있습니다.

시간이 지나서 AGI의 시대가 오더라도 그때를 대비하기 위한 움직임들을 말이죠.

 

이 책은 AGI 시대가 와서 우리의 삶이 어떻게 변할지, 우리는 어떤 대비를 해야할 지를 고민해볼 수 있게 해주는 책이었습니다.

 

한빛미디어 < 나는리뷰어다 > 활동을 위해서 책을 제공받아 작성된 서평입니다.