샘 알트먼, 승부수를 던지다 - ALL-IN 팟캐스트, 백색나무 (번역)

안녕하세요, 샬롯의 투자 일지입니다.

일주일 동안 보고, 들었던 콘텐츠 중에서 인상 깊었던 내용을 요약하여 공유드려요! 😉

자세한 내용은 원문을 참고해 주세요!

 

샘 알트먼, 승부수를 던지다

유튜브: ALL-IN 팟캐스트, 백색나무 (번역)

 

1. 미국 상원이 AI에 대한 청문회를 열었음

- 참석자는 샘 알트먼, 게리 마커스 뉴욕대 교수, IBM 수석 개인정보 담당자인 크리스티나 몽고메리

- 샘 알트만이 미국이 AI를 감독하기 위한 별도의 가관을 만들어야 한다고 주장했음.

- 이 기관이 AI 모델을 훈련하고 사용하기 위한 라이선스를 발급해야 한다고 생각하는 것 같음.

- 샘 알트먼은 오픈 AI의 어떤 지분도 소유하고 있지 않고, 그걸 사랑하기 때문에 하고 있다고 주장함.

 

2. 차마스 의견

- 샘은 몇 달 전에 모델이 컴파일 되거나 훈련시키려고 해도 라이선스를 따도록 하자고 했었음.

- 금융업에서 KYC (Know Your Customer) 절차를 통해 돈의 흐름이 적절하게 이루어지고 의도가 합법적인 당사자들 사이에서 이루어지는지를 확인하는 것.

- 샘은 금융업의 그러한 절차와 같은 부분을 AI에도 추가해야 한다고 생각.

- 실리콘밸리에서 개발을 하고도 월스트리트나 다른 지역 사람들보다 더 신중하게 움직이는 경우를 처음 목격.

- 금융권에서는 AI에 대해서 아주 관심이 큼

 

3. 크리스 의견

- 샘은 AI에 대한 규제 필요성을 상원의 대부분의 사람과 같이 공감했음.

- 샘은 그렇게 공감을 해줌으로 인해 본인의 지위를 둘러싼 큰 해자를 만들었고, 이러한 새로운 규제 기관을 이끌어 나갈 수 있는 사람이라고 어필했다고 생각.

- 그에게는 좋은 전략이지만, 정말 우리가 필요한 기관인가는 생각해 봐야 함.

- 이미 기존의 법으로 잘 규제할 수 있는데 그런 논의가 정치인들 사이에서 이루어지지 않았다고 생각.

 

4. 스탠 의견

- 생성 AI, 이미 누가 어떻게 발전시키고 서비스를 하고 있는지 파악하기 어려운 상황

- 이미 규제를 하기에는 현실적으로 어려운 상황

- 규제가 거의 불가능할 것이라는 의견임.

- 이미 인간이 만들 알고리즘과 기계가 만든 알고리즘의 구분이 어려운 부분도 규제의 또 한 가지 어려운 포인트가 됨.

- 청문회에서 나온 정치인들의 발언에서 미루어 봤을 때, 이러한 입법 기관의 정치인이 기술에 대해 전혀 모르고 있다고 생각함. 기술을 모르는 사람들이 법안을 통과하게 되는 꼴.

- 샘 알트만이 사다리 걷어차기를 하고 있는 것일까? 해자를 만든 것에 가깝지 않을까.

 

5. 차마스 의견

- 영향력 있는 사람들은 더 큰 ‘선함’을 볼 수 있는 능력이 필요하다고 생각함.

- 워렌 버핏은 2주 전에 AI를 핵에 비유했는데, 그게 맞다고 봄. 99.99% 유용한데, 0.01%는 인류를 파괴할 수 있음.

- 사람들의 이념이 상식을 방해하고 있다고 생각.

- 왜 트랜스포머가 작동하는지 그 이유조차 모른다는 점에 위험성이 큼.

- 대부분의 경우 선한 의도로 사용된다고 하더라도 몇몇의 사악한 사람들이 악용할 가능성을 배제하면 안 된다고 생각. AI 개발 속도를 늦춰도 된다는 생각.

- KYC 같은 규제를 갖춰서 발전 속도를 늦춰야 한다고 생각.

---

 

-> 의견: AI 관련 청문회가 열렸는데, 그 청문회의 의도와 앞으로 규제나 AI 발전이 어떤 방향으로 이루어져야 하는지에 대해 논의하는 내용이었습니다. AI의 발전 속도가 기하급수를 뛰어넘어서고 있고, 그 영향의 정도를 인간이 전혀 파악하고 있지 못하기 때문에 신중해야 한다는 의견이 실리콘밸리에서 나오고 있고, 많은 사람들이 기술을 전혀 모르면서 의견을 이야기하는 상황인 것 같습니다. 앞으로 어떤 방향으로 논의가 진행될지 한번 지켜봐야 할 것 같고, 각자의 생각을 잃지 않고 이슈를 따라가보는 것도 좋을 것 같습니다.