인공지능(AI)에 대한 우려와 경고

인공지능(AI)에 대한 우려와 경고

 인공지능 기술이 사회전반에 적용되는 시점에 대해서 한국과학기술기획평가원(KISTEP)은 365명을 대상으로 설문조사를 진행한 결과 평균 12.7년 뒤가 될 것이라는 결과를 내놨습니다. 더불어 인공지능 기술의 도입으로 일자리와 사회적 구조에 큰 변화가 있으리라 예상하지만 이에 대비한 정책이나 제도는 구체적으로 마련돼 있지 않은 상황이며 국가가 적극적으로 대응 방안을 모색할 필요가 있다는 의견도 내놨습니다. 필요한 제도에 대해서는 전문가들은 데이터 활용을 위한 규제 문제를 가장 먼저 해결해야 한다고 꼽은 데 비해 일반인 그룹에선 ‘일자리 훈련’과 ‘(AI) 안전기준 마련’이 필요하다는 답변이 많았습니다.

 이러한 급격한 인공지능 발전에 대해 인공지능이 잘못된 생각을 할 수 있으며 인공지능이 더 이상 발전할 경우 통제가 어려워지 있다고 부정적으로 보는 전문가들도 있습니다. 실제로 MS에서 개발한 일반인을 대상으로 한 대화형 인공지능 서비스인 테이에서는 일부 사용자들이 인공지능에게 욕설과 잘못된 사상을 가르쳐서 서비스가 중단된 경우도 있었습니다.  시장 조사 전문 기관 ‘프라이스워터하우스쿠퍼스 (PwC)’에 따르면 2017년 글로벌 CEO 조사에 참여한 중역 67%는 인공지능이 신뢰성에 부정적인 영향을 미칠 것으로 전망했다. 스티븐호킹 박사는 심각하게 인공지능의 위험성을 경고한 바 있습니다. 

 또한 서리대학 물리학과 교수인 짐 알-칼릴리는 BSA 연례모임인 영국과학축제(BSF)를 앞두고 런던에서 가진 브리핑에서 인공지능 발전이 너무 빨리 이뤄지고 있어 충분히 통제되지 않고 있다는 말과 함께 테러보다 더 심각한 것이 인공지능의 위협이라는 경고를 내놓았다.

 영국과학축제BSF에서 회장으로 취임하는 그는 “2년 전만 해도 미래에 관해 논의해야 할 가장 시급하고 중요한 사안이 무엇이냐는 질문을 받으면 기후변화나, 인류가 당면한 도전인 테러나 항생제 내성, 세계적 빈곤, 전염병 중 하나를 말했을 것”이라며 “하지만 현재는 AI의 미래라고 확신하며, 좋건 나쁘건 간에 이는 다른 모든 이슈를 덮게 될 것”이라고 했습니다.  또한 지난 2016년 미국 대통령 선거에 러시아 해커들이 개입했다는 얘기가 사실이라면 이들이 전력공급망이나 운송 시스템, 군사시설 등을 관리하는 AI를 해킹하는 것은 무엇으로 막을 것이냐고 반문했습니다.

 알-칼릴리 교수는 AI가 견제 없이 급속도로 발전해 가는 것에 대해 많은 사람이 점점 더 불편해하고 있다면서 정부와 산업계, 학계가 공동 노력을 기울이지 않으면 급속히 진전되는 기술은 “통제되지 않고 규제받지 않는” 소수의 초강력 기업 수중에 들어가게 될 것이라고 경고했습니다. 또한 인공지능을 공상과학 소설처럼 바라보지만 이미 일상생활의 일부가 돼가고 있다고 강조하고, “AI는 앞으로 지난 몇십년간 인터넷이 했던 것보다 더 많이 우리 생활을 바꿔놓을 것”이라며 “이에 대한 준비를 하자”고 했습니다. 

 또 하나의 문제는 책임 소재가 불명확하다는 것입니다. 작년 경제협력개발기구는(OECD)는 ‘알고리즘과 담합(Algorithm and Collusion)’이라는 제목으로 발간한 보고서에서 알고리즘이 기업 간 담합을 조장해 시장에 부정적인 영향을 줄 수 있음을 전망하고 있습니다. 보고서에 따르면 인공지능이 최적의 결과를 도출하기 위해서 스스로 담합을 형성할 수 있는데, 이때 책임 소재가 불명확하다는 것입니다. 인공지능의 사고방식을 알 수 없기 때문에 해당 인공지능을 사용한 기업에만 책임 소재를 물을 수 없다는 것입니다.