인공지능 Chat GPT는 균형을 잡아갈 것 - Open AI 샘 알트만, 비즈카페 (번역)

안녕하세요, 샬롯의 투자 일지입니다.

일주일 동안 보고, 들었던 콘텐츠 중에서 인상 깊었던 내용을 요약하여 공유드려요! 😉

자세한 내용은 원문을 참고해 주세요!

 

인공지능 Chat GPT는 균형을 잡아갈 것

유튜브: Open AI 샘 알트만, 비즈카페 (번역)

 

1. 질문

- 사람들은 챗 GPT에 어두운 질문들을 하게 되는 것 같음.

- 조 바이든과 트럼프에 대해서 긍정적인 면을 말해달라는 질문을 해봤더니, 조 바이든에 대한 긍정적인 대답이 트럼프보다 조금 더 길었음.

- 그리고 질문자가 두 대통령에 대해서 같은 길이의 문장으로 답변을 써달라고 했더니, GPT-3.5는 이행을 못하였고, 자신이 질문의 의도대로 답을 하지 않은 것을 인정했음.

- 이것을 통해서 챗 GPT가 거짓말을 할 수 있고, 이를 스스로 인지할 수 있다고 보임.

- GPT는 질문을 이해하는 데에 이슈가 있는 것 같아 보임.

 

2. 샘 알트만 답변

- 첫 번째로, 몇 가지 자명한 것들이나 쉬운 것들이 이 모델에게는 정말로 어려울 수 있음.

- 문자 수를 세거나 단어 수를 세는 것 같은 작업, 잘 못하고 있음.

- 두 번째로, Open AI는 공개적으로 기술을 개발하고 배포하고 있음.

- 세상에 이 기술이 빨리 전파되어서 AI의 장단점을 찾기 바라기 때문임.

- 모델의 장단점을 파악해서, 이를 빠르게 발전시키는 것이 중요하다고 생각.

- 현재 결함이 있는 모델이라고 생각하고, 더 발전해나가야 한다고 생각.

- GPT3.5에 편향성 문제가 있긴 했음. 하지만, GPT4로 가면서 많이 개선됨.

- 기술적으로 큰 도약을 이루었는데, 왜 사람들이 이런 작은 질문에 불평을 하는지 잘 이해는 가지 않음. 물론, 작은 문제가 모이면 큰 문제가 된다고 생각함.

- GPT4를 런칭하면서 안정성 테스트를 했지만, 아직은 정렬 문제를 해결할 수 있는 방법을 찾지는 못함.

- 질문에 대해 답변하는 방식과 가치가 다양한데, 우리는 향후에 사회적으로 매우 넓은 범위에서 합의를 해야 할 것.

---

 

-> 의견: 향후에도 인공지능의 발전과 상용화 방향을 따라가면서 투자 아이디어로 활용하면 좋을 것 같습니다.