AI Alignment 팟 캐스트 : 인공 지능과 Stuart Russell의 제어 문제

Stuart Russell은 AI의 진정한 개척자 중 한 명이며, 수십 년 동안이 분야의 선두에 있었습니다. 그의 전문성과 미래 지향적 사고는 그의 최신 작품인 [Human Compatible : Artificial Intelligence and the Problem of Control]에서 절정에 이릅니다. 이 책은 Superintelligence 및 Life 3.0과 함께 기계 지능을 인간의 목표와 가치에 맞추는 문명 규모의 문제를 설명하는 초석입니다. 이것은 AI에서 더 나아간 표현 및 발전일 뿐만 아니라, Stuart는 유익한 기계 지능을 생성하는데 필요한 사항을 더 잘 이해할 수 있는 새로운 솔루션을 제안합니다.

 

이 에피소드에서 다루는 주제는 다음과 같습니다.

- 책을 쓰는 Stuart 의도

- 통제 문제로 이어지는 지적 사고의 역사

- 통제의 문제

- AI가 작동하지 않는 이유

- 다양한 청중을 위한 메시지

- 제어 문제에 대한 Stuart의 제안된 솔루션

 

<Stuart의 요점>

 

"2013년 무렵, 우리가 AI에 대해 모두 잘못된 방식으로 생각하고 있었습니다. 우리는 기본적으로 인간의 행동이 목표를 달성하려면 지능이 있다는 점에서 일종의 인간 지능의 사본이었다는 전 분야를 설정했습니다. 따라서 기계는 자신의 행동이 목표를 달성하려면 지능적이어야 합니다. 그리고 당연히 보상이나 비용 또는 논리적 목표 진술의 형태로 목표를 제공해야 합니다. 그리고 그것은 어느 정도 작동합니다. 기계가 어리 석을 때 작동합니다. 그리고 잘못된 목표를 제공하면 재설정하고 목표를 수정할 수 있으며 이번에는 기계가 실제로 사용자에게 도움이 되기를 바랍니다. 그러나 기계가 인간보다 더 지능적이라면 잘못된 목표를 부여하는 것은 기본적으로 인간과 우리의 목적을 가로지르는 목표를 가진 기계 사이에 일종의 체스 경기를 설정하는 것입니다. 그리고 우리는 그 체스 경기에서 이기지 못할 것입니다."

 

"따라서 인간이 다른 인간에게 목표를 부여할 때, 그것이 유일한 삶의 임무가 아니라는 것이 분명합니다. 그래서 누군가에게 커피를 가져 다 달라고 요청한다고 해서 어떤 대가를 치르더라도 커피를 가져오는 것은 아닙니다. 그것은 단지 전체적으로 커피를 마시지 않는 것보다 차라리 커피를 마시기 위해 누군가를 죽이지 않는다는 것을 의미합니다. 커피를 마시기 위해 은행 계좌를 비우지 마십시오. 커피를 마시기 위해 사막을 가로질러 300 마일을 터벅터벅 걸어 다니지 마십시오. AI의 표준 모델에서 기계는 그 어떤 것도 이해하지 못합니다. 목표만 취하면 그게 인생의 유일한 목적입니다. 더 일반적인 모델은 기계가 인간이 내부적으로 커피를 가져오거나 공항으로 데려가는 전체적인 선호 구조가 있다는 것을 이해하는 것입니다. 그리고 기계의 목적은 인간이 전체적인 선호 구조를 가능한 최선의 방법으로 깨닫도록 돕는 것이어야 합니다. 그 순간에 커피 한 잔이 포함된다면 그게 좋거나 그를 공항으로 데려가는 것입니다. 그러나 그것은 항상 기계가 알고 있고 완전히 이해하지 못하는 훨씬 더 큰 선호 구조의 배경에 있습니다. 생각하는 한 가지 방법은 AI의 표준 모델이 기계가 목표에 대한 완벽한 지식을 가지고 있다고 가정하고, 제가 제안하는 모델은 모델이 목표에 대한 불완전한 지식이나 목표에 대한 부분적인 지식을 가지고 있다고 가정하는 것입니다. 따라서 이것은 훨씬 더 일반적인 경우입니다."