인공지능 AI는 어릴 때, 영화나 공상 과학 소설에서나 볼 수 있는 것들이었다. 청소 로봇, 밥 해주는 로봇이 있으면 얼마나 좋을까 생각했던 시절이기도 했다. 전쟁 목적으로 만들어진 AI들이 인간을 상대로 전쟁을 벌이는 영화도 있었다. 무섭기도 했지만 가볍게 볼 수 있었던 것은 현실화 될 수 없을 것이라는 생각 때문이었다. 영화 속 에서만 가능한 세계였으니까...

그런데 이 영화 같은 이야기가 현실이 되어가고 있다. 지난 7일 CNN은  MIT미디어랩 연구진이 올 4월 선보인 사이코패스 AI ‘노먼’을 소개했다.

노먼은 앨프리드 히치콕 감독의 영화 ‘사이코’에 등장하는 사이코패스 살인마의 이름이다. 노먼의 학습 원리는 죽음에 대한 이미지와 동영상을 묘사한 글들만 집중적으로 학습한다. 노먼은 이렇게 쌓은 정보를 바탕으로 특정한 이미지에 대해 묘사하는 법을 훈련받았다.

연구진은 이후 노먼과 보통 AI를 대상으로 데칼코마니 형식의 좌우대칭 잉크 얼룩 10개를 보고 피시험자가 보이는 반응을 분석해 성격과 심리 상태, 정서적 안정도 등을 판단하는 검사를 했다.

10개의 그림을 본 두 AI의 답은 확연히 달랐다. 보통 AI가 ‘나뭇가지에 새들이 앉아 있다’고 한 얼룩에 대해 노먼은 ‘남자가 감전사하고 있다’고 했다. 보통 AI가 ‘작은 새를 찍은 흑백사진’이라고 한 얼룩을 노먼은 ‘한 남자가 반죽기계로 빨려 들어가고 있다’고 했다.

보통 AI가 ‘한 사람이 공중으로 우산을 뻗치고 있다’고 설명한 얼룩을 노먼은 ‘비명을 지르는 아내 눈앞에서 남편이 총을 맞고 살해되는 장면’이라고 해석했다. 거의 모든 그림에 대해 ‘죽음’ ‘살인’ 등과 연상된 대답을 내놓은 것이다.

인간을 어떻게 하고 싶은가? 질문에 죽이고 싶다고 답한다. 도대체 왜 이런 연구를 했을까?

연구진은 “AI가 생성하는 답변 등이 종종 문제를 일으킬 때 원인은 알고리즘(프로그램)이 아니라 편견에 치우치거나 그릇된 학습 자료일 수 있다”면서, “노먼은 그릇된 정보를 흡수한 AI의 위험성을 보여주는 연구 사례”라고 했다. 즉 입력한 데이터에 의해 AI의 성격이 결정된다는 것이다. 좋은 정보를 입력하면 착한 AI, 나쁜 정보를 입력하면 나쁜 AI가 된다는 것이다.

연구진이 목적을 긍정적인 측면에 두고 연구했다고 해도 사이코패스 AI를 만들어 낼 수 있다는 사실

만으로도 두려운 일이다. 과학자들의 도덕적 관념과 윤리가 강요되는 부분이다.

한편 깊이 생각하게 되는 것은 우리 인간에 대해서다. 인간은 어떤가? AI가 문제가 아니라 만드는 사람의 생각의 기준이 중요한 것처럼...인간의 행동을 결정짓는 것은 생각, 혹은 정신이다. 생각은 뇌에서 하게 된다.

이런 관점에서 인간의 가장 핵은 뇌라고 할 수 있다. 모든 신경이 뇌에 연결되어 있고 뇌의 작용에 의해 인간은 행동을 하게 되기 때문이다. 뇌가 알고리즘이라면 우리가 보고 듣는 모든 정보가 데이터라 할 수 있겠다. 무엇을 보고 듣느냐에 따라 뇌에 저장되어 그 결과가 성격으로 혹은 행동으로 나타나게 되기 때문이다.

특히 신체와 정신이 성장하는 아이들, 청소년들에게는 더욱 뇌에 넣는 정보들이 중요하다. 반복적으로 쌓이는 정보로 인해 인격, 성격이 형성되고, 행동의 기준이 되어 인생을 결정짓기 때문이다.

그래서 요즘 인터넷의 발달에 힘입어, 상업적 이익에만 치우쳐 무분별하게 올라오는 각종 정보들이 아직 판단력이 부족한 성장기의 아이들에게 미칠 영향을 생각하면 걱정이 앞선다.

착한AI든 나쁜 AI든 인간이 만든다. 인간의 뇌는 너무도 뛰어나 상상을 현실로 만들기도 한다. 이러한 뇌를 좋은 생각, 선한 생각, 긍적적인 생각으로 잘 사용해야겠다.

그래서 옛 어른들이 아이 가졌을 때  좋은 것만 보고 듣고 먹으라고 하신 거 같다.