AGI 논쟁, 생산성 혁명일까? 거대한 착각일까?

 

AGI의 미래, 정말 올까?

AGI(Artificial General Intelligence, 범용 인공지능)에 대한 논의가 몇 년 사이 폭발적으로 증가했어요. 그런데 이 개념이 정확히 무엇인지도 불분명하고, 언제 도래할지에 대한 의견도 극단적으로 갈려요.

AGI 타임라인	설명
장기 타임라인	AGI가 10~20년 후에 등장할 것이라는 관점.
단기 타임라인	AGI가 곧 도래할 것이며, 우리가 준비해야 한다는 주장.

 

하지만 이렇게 AGI의 도착 시점을 따지는 것이 의미가 있을까요? 핵심은 AI의 발전이 생산성을 어떻게 변화시키는지에 있어요. AI는 점점 더 적은 인간 개입으로 더 많은 일을 해내고 있고, 데이터 라벨링, 코드 작성, 자율주행 등에서 엄청난 발전을 보이고 있죠. 그러나 과연 AI가 완전히 인간 개입 없이 작동하는 순간이 올까요? 🤔

 

 

자율주행 자동차 사례에서 배우는 교훈 🚗💨

AI가 인간 개입 없이 스스로 모든 걸 해결할 수 있을까요? 이 질문에 대한 힌트는 자율주행 자동차에서 찾을 수 있어요. 2017년경, 자율주행 기술이 곧 완성될 것처럼 보였고, 테슬라를 비롯한 수많은 기업이 "완전 자율주행(FSD, Full Self-Driving)이 1~2년 안에 가능할 것"이라고 호언장담했죠. 결과는?

연도	기대 vs 현실
2016년	일론 머스크: "올해 안에 테슬라가 LA에서 뉴욕까지 자율주행 가능!" 🚀
2024년	현실: 여전히 인간 개입 필요. 특정 구역에서만 제한적으로 운행 가능. 🛑

지금도 테슬라는 FSD 구독 서비스를 팔고 있지만, 여전히 완전한 자율주행은 불가능해요. 인간 개입 없이 주행할 수 있는 거리를 측정하는 마일당 인간 개입 횟수(miles-per-intervention) 가 중요한 지표로 자리 잡았죠. 테슬라는 평균 13마일당 한 번 인간 개입이 필요하다고 해요.

 

그렇다면 AI 모델들도 마찬가지 아닐까요? 지금은 발전 속도가 가파르지만, 어느 순간 한계에 부딪힐 가능성이 커요. 🚦

 

 

AI 모델의 자기 수정 능력, 어디까지 가능할까? 🤖🔄

Meta의 최고 AI 과학자인 Yann Lecun은 과거에 언어 모델이 인간 수준의 지능에 도달할 수 없다고 주장했어요. 이유는?

• 언어 모델은 토큰 단위로 출력을 생성하는데, 매 토큰마다 오류가 누적될 확률이 높음.
• 이런 누적 오류 때문에 결국 언어 모델은 자체적인 한계를 가질 수밖에 없음.

하지만 현실은 다르게 흘러가고 있어요. 최신 AI 모델들은 길게 생각할수록 오히려 정답률이 높아지는 경향을 보이고 있거든요. 특히, DeepSeek R1 연구에서 모델이 스스로 오류를 수정하는 메커니즘이 발견됐어요. 🤯

AI 모델 발전	설명
기존 모델	토큰마다 오류가 누적되어 성능 저하 ⬇️
DeepSeek R1	오히려 길게 생각할수록 오류를 수정하고 정답 확률 증가 ⬆️

 

즉, AI 모델들이 단순히 착오를 누적하는 게 아니라, 스스로 오류를 보완하는 방향으로 발전하고 있다는 거죠. 하지만 이런 자기 수정 능력이 언제까지 무한히 가능할지는 여전히 미지수예요.

 

 

 

AI의 한계, 인간 없는 경제가 가능할까? 💰🤔

이제 중요한 질문을 던져볼게요. AI가 결국 인간 없이 경제적 가치를 창출할 수 있을까요?

 

만약 그렇다면 AI가 생산하는 가치는 인간이 투입한 노력과 무관하게 지속적으로 증가해야겠죠. 그런데 AI가 지금까지 발전해온 방식을 보면, 더 많은 데이터를 넣고, 더 큰 모델을 만들고, 더 강력한 연산 능력을 동원해야 했어요. 즉, AI의 발전 자체도 인간의 개입에 의존하고 있는 셈이에요. 🔄

 

자율주행 사례에서도 봤듯이, AI가 경제 시스템에서 완전한 독립성을 갖기 위해선 인간이 개입하지 않아도 지속적으로 성능이 향상될 수 있어야 해요. 하지만 현재 기술로는 이런 단계에 도달하기 어려워 보여요. 🚧

AI 발전 방식	인간 개입 필요 여부
데이터 라벨링	인간 개입 필요 ✅
코드 작성 보조	인간이 검토 및 수정 ✅
자율주행	여전히 인간 개입 필요 ✅

 

즉, AI가 아무런 인간 개입 없이 스스로 경제를 창출하는 시대는 아직 오지 않았다는 거죠. 🏗️

 

 

AI는 어디까지 갈 수 있을까? 🚀

AGI를 둘러싼 논쟁은 기술적 가능성뿐만 아니라 경제적, 사회적 문제까지 포함하고 있어요. 자율주행의 사례에서 보듯이, AI는 특정 영역에서 극적인 생산성 향상을 이뤄냈지만, 인간 개입이 완전히 불필요해지는 단계까지는 도달하지 못했어요. AI가 인간을 완전히 대체하는 세상이 올 거라는 전망은 과장된 기대일지도 몰라요. 🤷‍♂️

 

결국, AI의 미래는 완전한 독립적인 인공지능이 아닌, 인간과 협력하는 방식으로 발전할 가능성이 더 높아 보인다는 것이죠.

AI는 무조건적 미래 혁명이 아닐 수도 있어요. 우리가 어떻게 활용하느냐가 더 중요할 뿐! 💡

 

 

원문 출처 : https://substack.com/home/post/p-157633768

Please Stop Talking About AGI