가장 인간적인 미래를 읽고

가장 인간적인 미래 - 출처 : YES24

지난 학기 인공지능과 보안기술을 듣고, 매주 나오는 살인적인 과제와 시험, 시험이 끝나도 끝나지 않는 프로젝트 과제 등에 치여 살았다. 하지만 동시에 머신러닝부터 딥러닝까지 인공지능 관련 지식을 잘 쌓는 계기가 되었다. 

Adversarial Pertubation을 적용해 분류 알고리즘에 Misclassification를 발생시키는 Adversarial Attack을 배우면서 인공지능도 보안에 허점이 있고, 공격을 받을 수 있구나에 대해 알게되었고, 데이터 셋에 따라 편향성을 띨 수 있다는 것도 알게 되었다. 

Noise 삽입을 통해 Misclassification이 발생하는 모습

최근 화두가 되는 Chat GPT와 함께 인공지능 기술은 날이 갈수록 우리 삶에 가까워지고 있다. 인공지능이 과연 인류에게 안전한가? 에 대해 관심을 갖다가 자연히 이 책에 관심을 가지게 되었다. 

그림 생성 인공지능의 학습 과정에서 작가들의 그림을 무단으로 사용해 논란이 된 적이 있다. 이와 같은 데이터 침해, 저작권 문제뿐 아니라 성차별, 인종차별과 같은 알고리즘 편향성 논란, 프라이버시 침해와 함께 최근 특히 불거지는 생성형 AI를 통한 AI 음란물 문제 등 기술의 발전에 따라 다양한 문제들이 발생하고 있다.

새로운 기술이 발생한다면 새로운 문제가 발생한다. 인공지능이 선도할 기술 사회에서는 옳고 그름을 명확히 가릴 수 없는 철학적이고 윤리적인 문제가 산재해 있을 것이다. 그렇다면, 우리는 인공지능을 어떻게 발전시켜 나가야 할까? 인공지능의 발전에 의해 새로운 형태의 문제가 발생하면 이를 어떻게 해결할 수 있을까?

 

이 책은 그에 관한 질문들을 던지고 있다. 사실 책에서도 명확한 답을 제시하진 않는다. '엔지니어링 수업에 embedded ethics를 함으로써 엔지니어가 개발 과정에서 윤리적으로 문제가 있다고 생각하면, 질문을 요청할 수 있도록 하자!' 정도의 방법만 제시하는 정도이다. 책의 구조가 담론형태의 책이고, 애초에 기술 발전의 미래를 100% 예측하는 것이 불가능하기 때문에 어찌 보면 당연하다. 다만 문제가 있다는 것을 파악하고, 그에 관한 생각을 할 수 있도록 도와준다는 측면에서는 굉장히 좋은 담론이었다.

 

공학 수업을 듣다 보면, 내 공부할 것도 바빠 기술윤리 같은 것에 신경을 쓸 틈이 없다. 그리고 엔지니어들은 기술적 최적화를 추구하는데 몰두하는 사람들이지, 보통 윤리와 같은 가치에 관심을 두진 않는다. 엔지니어들이 자연히 기술윤리에 대해 관심을 가지는 방법이 제일 좋겠지만, 현실적으로 쉽지는 않아 보인다. 최근 인공지능 기술 선도 경쟁 구도에서 마이크로소프트가 인공지능 윤리팀을 전원 해고한 사실만 봐도 엔지니어들과 기업들이 추구하는 가치와 윤리는 조금 동떨어져 보인다.

 

이 책에서 주장하는, embedded ethics를 통해 엔지니어들이 자연히 윤리학에 관심을 가지는 방안도 좋다고 생각한다. 하지만 동시에 윤리학자들이나 법학자들이 기술에 관심을 가져야 한다 생각한다. 인간의 행위에 대한 도덕적인 가치판단과 규범을 연구하는 학문인 윤리학이 앞으로는 인공지능의 행위에 대한 도덕적인 가치판단과 규범도 연구해야 할 것이다.

 

앞으로의 시대에 인공지능과 IOT같은 기술들이 우리 삶에 더 밀접해질수록 관련된 도덕적인 가치판단과 규범이 문제가 될 것이고, 이에 우리는 해답을 찾기 위해 노력해야 한다. 우리의 미래가 조금 더 인간적일 수 있도록.