관련뉴스

“AI, 인류파멸 확률 99.9%” 경고하는 비관론자

▶ 제27회 세계지식포럼 연사 릴레이 소개

▶ 로만 얌폴스키 루이빌대 컴퓨터공학과 교수

▶ 2011년 ‘AI 안전(AI Safety)’ 용어 창시

▶ 저서 ‘AI: 설명·예측·통제 불가능’도 화제

▶ “초지능은 통제 불가” AI 비관론 대표 논객

‘AI(인공지능) 안전’이라는 말을 만든 사람이 정작 “AI는 안전해질 수 없다”고 말한다면, 우리는 그 경고를 어떻게 받아들여야 할까.

오는 9월 8~10일 사흘간 열리는 제27회 세계지식포럼 연사로 나서는 로만 얌폴스키 루이빌대 교수는 AI 낙관론이 지배하는 시대에 가장 근본적인 질문을 던지는 인물이다. 그는 AI와 인간의 공존이 전세계적 화두로 떠오른 지금, ‘인간이 초지능과의 공존을 설계하는 것 자체가 애초 가능한 일인가’를 반문한다.

1979년 라트비아 리가에서 태어난 얌폴스키 교수는 미국 로체스터 공대에서 컴퓨터과학 학·석사를 마치고, 버펄로대에서 박사학위를 받았다. 그가 ‘AI 안전’이라는 용어를 처음 쓴 것은 챗GPT 등장보다 10년 이상 앞선 2011년이다. 당시 발표한 논문이 뒤늦게 재조명되며 이 분야의 개척자로 주목받기 시작했다.

십수년간 AI를 안전하게 만드는 방법을 연구한 얌폴스키 교수의 결론은 역설적이다. 초지능 AI가 본질적으로 설명 불가능하고, 예측 불가능하며, 통제 불가능하다는 답에 도달했기 때문이다. 2024년 출간한 그의 저서 ‘AI: 설명·예측·통제 불가능(AI: Unexplainable, Unpredictable, Uncontrollable)’에는 이러한 결론을 뒷받침하는 논증이 집대성돼 있다.

특히 2024년 세계적 팟캐스트 진행자 렉스 프리드먼과의 대담에서 “향후 100년 내 AI가 인류를 파멸시킬 확률은 99.9%”라고 발언해 샘 올트먼을 비롯한 빅테크 리더들의 낙관론과 극명하게 대비되며 세계적인 화두가 됐다. 그가 제시하는 처방은 하나다. 통제 방법이 입증되기 전까지 범용인공지능(AGI) 개발 자체를 늦추거나 멈추라는 것이다.

그러나 그의 주장을 극단적 비관론으로 치부하는 반론도 만만치 않다. ‘AI 4대 천왕’ 중 한 명인 얀 르쿤 뉴욕대 교수는 “초지능 통제를 걱정하기 전에 고양이보다 똑똑한 시스템의 설계 단서부터 찾아야 한다”며 실존적 위험론 자체를 일축한다. 지능이 곧 지배 욕구를 의미하지 않는다는 것이다. 실제 2024년 AI 연구자 2700여명 설문에서도 다수는 파멸 확률을 한 자릿수로 봤다.

낙관과 비관이 이토록 극단으로 갈린다는 사실 자체가 역설적으로 얌폴스키 교수의 문제의식을 증명한다. 인류가 통제 가능성조차 합의하지 못한 기술에 미래를 걸고 있다는 뜻이기 때문이다. AI가 만들 유토피아의 청사진이 쏟아지는 지금, 얌폴스키 교수는 ‘안전벨트 없는 질주’에 브레이크를 요구하는 목소리의 대표자다.

오는 9월 세계지식포럼에서 인류가 프로메테우스의 불에 손을 데이지 않으려면 무엇이 필요한지 그의 답을 직접 들을 수 있다.

빈민가 출신으로 팬데믹 뉴욕을 일으켜 세운 남자

‘드론의 안드로이드’ 개발자가 말하는 방위산업 미래

목록보기