[투자의 단상/231127] 샘알트먼 축출사건 관련

샘알트먼 사건 관련 논평
https://stibee.com/api/v1.0/emails/share/DB8dOKt4lBfgCr9F_o9cB6-ac-1Uhcw

샘알트먼 축출사건의 Summary 정도 되는 글이 되겠네요.
그동안의 내홍이 어느정도 정리되는 듯하나 AI를 둘러싼 헤게모니 전쟁은 이제 막 시작되었다고 보는 것이 타당할 듯 합니다.

---

올트먼 축출, 예고됐던 갈등

①오픈AI 적자 폭증

오픈AI의 지난해 손실은 5억4000만 달러로 우리 돈 7200억원에 달합니다.
구글 검색과 비교했을 때 챗GPT에게 질문을 하고 ‘엔터’를 입력해 답을 얻었을 때 드는 비용은 최대 1000배 가까이 차이가 난다고 해요(기사). 즉 많은 사람들이 쓸 수 있는 AI모델을 제공하는 기업은 시장 점유율을 확보하려는 욕구와 재정적인 손실 사이에서 균형을 맞춰야만 합니다.

->천문학적 손실이 가중되는 상황에서 본격적 수익사업 확대에 대해 내부적 알력다툼이 심해졌을 것 같습니다.

②2023년 7월, 슈퍼얼라인먼트 출범

지난 2023년 7월 5일, 오픈AI는 ‘슈퍼얼라인먼트(Superalignment)’를 출범합니다(홈페이지). 이 팀을 이끄는 사람은 오픈AI 공동 설립자이자 올트먼을 쫓아내는 데 ‘기여’한 일리야 수츠케버, 그리고 얀 라이카에요.
GPU는 부족한데, 오픈AI가 쓰는 GPU의 양은 엄청났어요. 그리고, 오픈AI는 MS의 ‘애저’를 씁니다. 결국 부족한 GPU를 오픈AI와 MS가 나눠 쓰는 상황인데, 오픈AI 내에서도 또다시 GPU를 나눠야 하는 거죠. 당연히 힘겨루기가 이어질 테고요.

->샘알트먼이 AI 반도체 관련 회사를 별도로 설립하려고 했는 이유가 납득이 되는 것 같습니다.

---

연구 vs 서비스(상용화)

③수츠케버 “제품과 연구 사이의 긴장이 발전하는 촉매”

지난 9월 수츠케버는 MIT테크놀로지리뷰와의 인터뷰에서 이러한 말을 남깁니다. 물론 이 말은 당시 보도되지 않았다고 해요. 최근 MIT테크놀로지리뷰는 당시 수츠케버가 남긴 말을 이렇게 정리합니다. “오픈AI처럼 빠른 속도로 움직이며 야심 찬 목표를 추구하는 조직에서는 긴장이 불가피하다. 나는 제품의 성공이 연구 성공과 밀접하게 연관되어 있다고 믿기 때문에 제품과 연구 사이의 긴장이 우리를 발전시키는 촉매제라고 생각한다(한국판 기사)."

->적자 폭이 늘어나고 있는 오픈AI, 비영리적 성격과 영리적 성격의 가운데 어디쯤 존재하는 오픈AI에게 이는 심각한 갈등 요인

④오픈AI 직원들, 더 이상 ‘그’ 직원들이 아니다

“오픈AI 직원들은 오픈AI의 ‘이상’을 따르지 않는다.”
업계에 계신 많은 분이 해주신 이야기입니다. “지난 2년 사이 새로 입사한 사람이 들어온 사람보다 많아요. 물갈이됐다고 봐야 해요” “이들은 오픈AI의 비영리적인 성격보다는, 세계 최고의 AI 회사에 들어온다는 생각으로 입사했습니다.”
직원들이 많이 바뀌었음을 보여주는 대표적인 사례가 2021년 있었던 ‘앤트로픽 설립’이라고 봐요. 오픈AI에서 GPT-2와 GPT-3 개발을 지휘했던 다리오 아모데이가 만든 엔트로픽은 생성형AI의 부작용을 최소화하고 AI 윤리를 중시한다는 취지로 설립됐어요. 오픈AI가 추구하던 ‘이상’입니다. 오픈AI에서 해도 되는데, 굳이 나와서 새로운 스타트업을 만든 이유, 아마 오픈AI 내에서는 AI 윤리, AI 안전을 위한 R&D 보폭이 좁아졌기 때문이 아니었을까요.

->우리사주 매각을 추진하던 상황에서 직원들 입장에서는 샘알트먼의 축출로 자신들의 지분을 제값을 받고 팔지 못할 상황에 처하게 된 것 같습니다.

---

AGI의 출현과 규제

지난 23일 “오픈AI가 AGI로 발전할 수 있는 ‘큐스타’를 개발했고, 이것이 올트먼 축출의 씨앗이 됐다”는 내용의 기사가 보도됩니다(기사).
오픈AI가 큐스타라고 불리는 알고리즘을 개발했는데, 초등학교 수준의 수학 문제를 스스로 풀었다고 해요.

->정답이 한 개인 수학 문제를 해결한다는 것은 AI가 인간 지능과 유사한 추론 능력을 갖추게 됨을 의미

악한 AGI 울트론, 선한 AGI 비전

영화 ‘어벤져스’와 ‘스파이더맨’으로 비교할 수 있습니다. 영화 어벤져스에 등장했던 ‘울트론’ 기억하시나요. 외계 종족 치타우리가 가지고 있던 ‘마술봉(셉터)’에는 반짝이는 ‘마인드 스톤’이 있어요. 이를 살펴보니 지금껏 보지 못했던 ‘신경망’이 발견됩니다. 아이언맨의 개인 비서, 자비스보다 진화된 형태라고 해요. 토니 스타크는 외계종족으로부터 인류를 지키기 위해, 이를 끄집어 냅니다.
하지만 각성한 울트론은 학습 결과 “오히려 인류의 적은 인류다”라는 결론을 내리고 인류를 없애려 합니다. 인류를 없애는 게 지구를 지키는 일이라는 답을 냈기 때문이에요. AGI에 대한 논란을 가장 잘 보여주는 사례가 아닐까 싶어요.

“AGI의 출현? 멀긴 멀었는데..."

AI의 아버지라 불리는 제프리 힌턴 교수를 비롯해, 일론 머스크 테슬라 CEO, 심지어 올트먼 조차 AI가 인류에게 위협이 될 수 있다고 지적합니다.
지금의 AI도 '악한 AGI'처럼 세상을 혼란스럽게 할 수 있습니다. 슈퍼 초 울트라 전문가들은 그걸 걱정하는거고요."

---

모든 곳에 있는 AI, 부작용도 모든 곳에...

우리가 인지하지 못하는 상황에서도 AI는 움직이고 있어요. 채용 과정에서 AI를 사용하는 기업들이 늘고 있습니다. 현재 직원의 데이터는 물론, 입사 원서를 낸 사람들의 데이터를 AI로 학습해 분류 또는 필터링하는 기업들이 많아요
AI가 어디에나 사용되고 있는 만큼, 우리는 AI가 가지고 있는 한계를 어디에서나 찾을 수 있다는 점을 놓쳐서는 안 됩니다.

---

AGI의 출현이 다가온 것이 사실이건 아니건 이것이 이 시점에서 이슈화가 되었다는 점만 보아도, 당장 인류의 미래의 운명을 결정지을 거대한 기술적 변곡점에 다가서고 있는 것만은 틀림없는 사실인 것 같습니다.

이러한 문제에 정답은 없겠다고 할 수 있겠지만, 우리 인류는 우리의 선택에 따라 책임과 결과를 져야 할 것이고, 결국 어떠한 미래를 맞이할 것인지는 우리의 선택에 달려있다고 하겠습니다.
각자가 선택할 수 있는 미래는 아니겠지만 공동체의 일원으로 꾸준한 관심과 이해를 쌓아나가는 노력을 기울여야 할 듯 합니다.

오늘도 활기찬 하루들 되시기 바랍니다.~