인공지능 대부의 경고 “10년 내 알아서 인간 죽이는 로봇 등장”

https://etoland.co.kr/link.php?n=9064071 복사

제프리 힌튼 토론토대 명예교수, 인터뷰서  'AI  위험성' 경고…" AI 에 인류 뒤처질 것" 인공지능( AI ) 4대 석학으로 꼽히는 제프리 힌튼 캐나다 토론토대 명예교수가 향후 10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 전망했다.  AI 가 인류 파멸을 가져올 수도 있는 만큼 앞으로 꾸준히 신중하게 관련 기술 개발에 나서야 한다는 주장이다.

힌튼 교수는 10일 니혼게이자이신문과의 인터뷰를 통해 이같이 강조하며  AI  위험성에 대해 경고했다.

힌튼 교수는 " AI 에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다" 며 "예컨대   AI 에게 기후변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고 실행에 옮길 위험성이 걱정된다" 고 우려했다.

제프리 힌턴 토론토대 명예 교수 (사진=로이터, 뉴스1)
딥러닝 창시자이자  AI  대부로 불리는 힌튼 교수는 요수아 벤지오 캐나다 몬트리올대 교수와 함께 대표적  AI  비관론자로 평가 받는다. 토론토대 교수 시절 창업한  AI 업체  'DNN 리서치'가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동을 이어오다 지난해 4월  AI 의 위험성을 알리기 위해 퇴사했다. 현재는 캐나다 토론토에서  AI  개발 신중론을 펼치고 있다.

반면 메타(옛 페이스북)의 수석  AI  과학자인 얀 르쿤 미국 뉴욕대 교수와 앤드루 응 스탠퍼드대 교수는 대표적인  AI  낙관론자다.

힌튼 교수는 지속적으로  AI  전투 로봇의 위험성을 강조해 왔다. 그러나  AI  킬러 로봇 등장 시점을  '10 년 내'라고 구체적으로 언급한 것은 이번이 처음이다.

힌튼 교수는 "많은 사람이  AI 의 폭주를 막으려면 전원을 끄면 되지 않냐고 말하지만, 인간의 인지를 넘어선  AI 는 우리를 조종할 수 있을 것"이라며 " AI 가 전원을 끄면 안된다고 적극적으로 설득할 것"이라고 말했다.

이어 " AI 는 지성뿐 아니라 감각까지 갖게 될 수 있다"며 "주관적인 경험이라는 관점에서 설명하자면  AI 는 인간과 같은 감각을 가질 수 있다고 생각한다"고 덧붙였다.

힌튼 교수는  AI 끼리 데이터센터 등 자원 쟁탈전을 벌이고 경쟁을 통해 진화하는 과정을 거칠 것이라고도 내다봤다. 또 더 똑똑해진  AI 에 인류는 뒤처질 것이라고 경고했다.

그는 "누구도  AI 가 지배하는 미래를 원하지 않을 것"이라며 "그 사실이 각국이  AI  병기 규제를 향해 보조를 맞추는 토대가 될 것"이라고 언급했다.

이어 "제1차 세계대전에서의 참화로 화학무기가 전 세계적으로 금지됐듯  AI  로봇무기도 조만간 규제할 수 있을 것"이라면서도 "하지만 (규제 시점이) 인류가 ( AI  킬러 로봇의) 비참함을 인식한 후가 될 지 모른다"고 우려했다.

이에 대해 닛케이는 " AI 가 인류를 지배할 것이라고 힌튼 교수가 예언하는 것은 아니지만, 미래가 불확실하다는 전제에서 장기적인 위험성을 호소하고 있다"며 "힌튼 교수의 경고를 받아들여 논의해 나갈 필요가 있다"고 밝혔다.

https://n.news.naver.com/mnews/article/092/0002324001