샘 알트먼, "AI를 멈출 마법 버튼은 없다"

샘 알트먼, "AI를 멈출 마법 버튼은 없다"

"Sam Altman: there’s no “magic red button” to stop AI"은 유튜브에서 볼 수 있는 내용으로, Sam Altman이 "AI를 멈출 마법 버튼은 없다" 라는 주제로 인터뷰 한 내용을 요약 했습니다.

샘 알트먼, "AI를 멈출 마법 버튼은 없다"

배경

샘 알트먼과 사티아 나델라, 인공 지능의 미래를 형성하는 가장 중요한 인물 중 두 명으로 꼽히고 있습니다. 샘 알트먼은 OpenAI의 CEO로, ChatGPT를 개발한 스타트업인 OpenAI의 지도자입니다. 사티아 나델라는 Microsoft의 CEO로, OpenAI의 주요 투자자 중 하나입니다. 이들은 The Economist의 편집장과 대화하여 인공 지능의 미래에 대해 논의했습니다.

인터뷰 내용

GhatGPT가 다음 1년 동안 어떤 중요한 능력을 개발할 것으로 기대하십니까?

(Sam) GPT-4가 등장하면서 전 세계가 두 주 동안 흥분을 하고 AGI가 내일 올 것이라고 생각했습니다. 연말까지 일자리가 없어질 것이라는 얘기도 나왔는데, 지금은 왜 그렇게 느리다고 생각하는 사람들이 많은데요. 이것이 바로 인간 정신의 멋진 면 중 하나라고 생각합니다. 우리는 항상 더 나은 것을 원하고 더 많은 것을 원합니다. 이전에는 일반적인 목적 기술이 순식간에 전 세계에 보급된 적이 없었습니다. 의료와 교육은 정부의 주요 분야입니다. 이제 모든 학생과 모든 시민에게 더 나은 건강 상담과 더 나은 맞춤형 가르침을 제공할 수 있는 능력이 생겼습니다. 이것을 측정하는 한 가지 흥미로운 방법은 GPT-4가 얼마나 많은 작업을 수행할 수 있는지입니다. 예를 들어 10%라고 가정해 보겠습니다. GPT-5는 인간 작업의 12%나 15% 또는 20%를 수행할 수 있을까요? 그러나 많은 사람들이 이를 생산성 향상에 사용할 수 있다는 사실, 이것이 바로 그 힘입니다.

안전과 규제에 대한 관심은 상당히 높습니다. 규제기관들이 올바르게 조치를 취했는지 아니면 충분한 조치를 취하지 않았는지 어떻게 생각하십니까?

• (Sam) 현재로서, 백악관 행정 명령이나 영국 안전 정상회담, 유럽에서의 상황, 일본에서의 상황을 보면 국가들이 모든 기술 개발을 통제하는 규제에 관여할 것으로 보입니다. 무엇보다도, 배포 준비가 되었는지 여부를 규정하는 것이 중요합니다. 따라서 우리 모두는 이러한 규정에 따를 것으로 생각합니다.

AI가 위험해지고 세상에 원치 않는 결과를 초래할 수 있다고 생각한다면, 그때는 중지할 수 있을까요?

• (Sam) 우리에게는 데이터 센터를 폭파시키는 큰 마법의 빨간 버튼이 있는 것이 아닙니다. 몇몇 사람들은 그렇게 가정하는 것 같습니다. 이것은 시작하고 중지하는 바이너리 결정이 아니라 어떤 것을 허용할지, 허용하지 않을지, 미래의 위험을 어떻게 예측할지, 어떻게 완화할지를 결정하는 여러 작은 결정들의 연속입니다.

참고자료

https://www.youtube.com/watch?v=RcXzmO8zOLg&t=39s