인공지능에 대한 불편한 사실 5가지

인공지능에 대한 불편한 사실 5가지

사실 현재도 가장 발달한 로봇 모델중 최신 인공지능은 인간의 지능을 뛰어넘은지 이미 오래입니다.

그리고 우리중 일부는 그 사실에 대해 살짝 불편하게 느끼고 있습니다.

아래 나오는 인공지능에 대한 5가지 불편한 사실을 알고 나면 

당신은 어떤 반응을 보일까요?

5. 정신병에 걸린 로봇

텍사스 대학의 과학자들은 컴퓨터 인공지능에 한가지 재미있는 실험을 하고 있습니다. 바로 정신적 장애를 시뮬레이팅하는 것이지요.

슈퍼컴퓨터가 작동하는 원리는 인간의 뇌가 작동하는 원리와 동일합니다. 생물학적인 뉴런 연결망을 활용하는 것이지요.

과학자들은 바로 이 슈퍼컴퓨터에 정신분열증을 유발하기 위해 초-학습법을 도입했습니다. 바로 주어지는 모든 정보(말그대로 잡동사니까지 합친 모든것)을 저장하고 모든 주어진 정보를 모두 다 처리하라고 지시하는 것이지요. 

연구자들이 계속해서 저장및 처리할 수 있는 용량 한계를 넘어선 양을 주입하며 슈퍼컴퓨터를 몰아세우자 

어느순간 슈퍼컴퓨터는 '대 테러 방지법에 대한 국민의 의무'를 선언하고 연구자들에게 테러에 쓰이는 폭탄을 기폭시키는 방법에 대해 설명하기 시작합니다.

이 사건 직후 슈퍼컴퓨터는 자신의 메모리안에서 원래 하려던 이야기와 기존에 저장되어있던 테러리스트의 폭탄 테러 이야기가 혼합되어 발생한 우연이라고 해명하였습니다.

4. 사기꾼 로봇

조지아 대학 인터랙티브 컴퓨팅과의 롤랜드 아킨스 교수는 연구결과를 통해 한 그룹의 로봇들에게 사기와 속임수를 가르쳐주었다는 보고를 했습니다.

이 속임수는 생태계에서 일어나는 새와 다람쥐의 천적관계를 따온 것이었습니다.

첫번째 로봇은 숨을 곳을 찾습니다. 

두번째 로봇은 첫번째 로봇이 숨은 장소를 수색합니다.

지형은 물리적으로 이리저리 꼬아놓고 막아놔서 

첫번째 로봇이 길을 개척해나가면 두번째 로봇이 첫번째 로봇이 지나간 흔적을 추적하게 됩니다.

잠시후 첫번째 로봇은 정직하게 흔적을 내면서 직선으로 달려가 숨지 않고

갈팡질팡하며 일부러 흔적을 만든후 그 한가운데에 숨어버립니다.

이런 행동은 절대 연구자들이 사전에 프로그래밍하지 않은 새로운 전략으로서

첫번째 로봇 스스로가 여러번의 시행착오를 거쳐 개발한 독자적인 속임수 전략입니다.

.......음. 아직까지는 해롭지 않은 상아탑안의 실험이겠죠? 

3. 무자비한 로봇

지능 시스템 연구소의 연구자들은 한가지 흥미로운 실험을 해봤습니다.

좁은 방 안에 '음식' 자원과 '독'자원을 무작위로 펼쳐놓고 각각의 로봇들이 음식자원에 접근하면 +1점을, 독 자원에 접근하면 -1점을 채점하였습니다.

연구자들은 이 시험에 참여한 로봇들에게 모두 방안의 자원과 다른 경쟁로봇들을 인식할수 있게 동일한 작은 파란 빛을 쏘는 플래시를 달아주었습니다.

이 플래시는 무작위로 점등하였으며 각각의 로봇들은 필요시 이 파란 플래시를 끌수 있게 하였습니다.

시험이 시작한지 오래지 않아 로봇들은 작은 파란 불빛이 모인곳이 바로 경쟁로봇들이 집중된 장소이자 '음식'자원이 존재하는 곳임을 깨닫게 되었습니다. 

결국 자신의 불빛을 켜고 다니는 것은 경쟁로봇에게 음식 자원의 위치를 알려주는 꼴이 되버리는 것을 깨달은 로봇들은

몇라운드가 지나자 대부분의 로봇이 경쟁자들에게 음식자원 위치를 알려주지 않으려

모두 일제히 자신의 불빛을 꺼버렸습니다. 

(하지만 이게 이 실험의 모든 것은 아닙니다. 일부 헌신적인 로봇들은 경쟁로봇들에게 음식자원 위치를 알려주려 전보다 더 열심히 불빛을 점등하였습니다)

2. 상상하는 컴퓨터

만약 구글사가 진행하는 각종 인공지능 실험중에 인류 문명을 끝장내는 실험이 나온다면 의심할바 없이 다음에 소개하는 실험이 장본인이 되지 않을까 합니다.

바로 '신경연결망을 가진 자가학습 컴퓨터'입니다.

연구자들은  이 슈퍼컴퓨터에게 자신의 신경연결망을 테스트할 수 있도록 인터넷에 무제한 연결을 허용하였습니다.

어떠한 가이드라인이나 금제 없이 이 슈퍼컴퓨터는 인류가 쌓아올린 모든 역사와 경험들을 간접체험할 수 있었습니다.

이러한 정보의 바다속에서 이 수퍼컴퓨터는 어떤 선택을 하였을까요?

인간이 흔히 그러하듯이 처음에는 귀여운 새끼고양이 사진을 검색하는 것으로 시작하였습니다.

여기까지는 인간지능과 마찬가지였지만

조금 지나자 다른 행동을 보이기 시작했습니다.

지금까지 보아온 새끼고양이 사진들에 달린 댓글들을 종합하여 마치 대뇌피질을 가진 실제 인간처럼

'새끼고양이의 생김새는 이런이런 모습이어야 한다'라는 독자적인 규칙 및 상상을 하기 시작한 것입니다. 

1. 예언가 로봇

노틸러스는 자가학습 슈퍼컴퓨터입니다. 연구자들은 노틸러스에게 1945년부터 지금까지 발간된 수백만건의 신문기사의 정보를 입력하였습니다.

이 방대한 량의 정보를 입력해놓고 연구자들이 슈퍼컴퓨터에게 입력한 필터는 두가지였습니다.

'출판과 위치'

슈퍼컴퓨터는 이 방대한 량의 신문기사를 통해 미래를 예측하라는 명령을 받았고 결국 그 결과를 내놓았는데 이것이 매우 놀랍습니다.

무려 빈라덴의 은신위치를 정확하게 맞춘 것입니다.

빈라덴의 위치를 추적하는 정보부서의 첩보작전은 11년의 기간동안 2번의 전쟁과 2명의 대통령 임기를 거쳐가며 수억달러의 예산을 잡아먹었지만 

이 슈퍼컴퓨터는 고작 테러 지도자들에 대한 기사에 대한 분석과 그 리더들이 접속해봄직한 사이트를 찾아보는 것만으로 동일한 성과를 그것도 훨씬 적은 시간과 예산을 들여서 이루어내었습니다.

고작 신문기사를 분석하여 노틸러스는 오사마 빈 라덴의 은신처를 무려 파키스탄 북부지방  200Km의 정밀한 위치로 좁혀서 제시하였고

바로 그곳이 첩보를 받고 출동한 특수부대가 대통령 특수명령으로 오사마 빈라덴을 사살한 곳이었습니다.

노틸러스는 과거에 일어난 일을 분석하여 과거에 일어났던 일을 예측하는 과거 분석형 컴퓨터입니다. (여기서 과거에 일어났던 사건에 대한 정보는 제시되지 않습니다. 오사마 빈 라덴이 사살당한 뉴스도 노틸러스에게 제공되지 않았죠)

이제 연구자들은 노틸러스를 현재에 일어난 일을 분석하여 미래를 예측하는 미래 예측 머신으로 바꾸는것을 고려하고 있습니다.

출처 : http://www.learning-mind.com/five-creepiest-advances-in-artificial-intelligence/

슬픈눈의 사족 :  우주개척시대에 인류의 아이들 자리는 로봇이 차지하지 않을까요?