딥페이크부터 일자리 대체까지... AI의 불편한 진실 10가지

딥페이크부터 일자리 대체까지... AI의 불편한 진실 10가지 생성형 AI 시대에 야기되는 인공지능의 부작용

글 : 최덕수

AI요약

인공지능이 자동으로 줄인 '세줄 요약' 기술을 사용합니다.
전체 내용을 이해하기 위해서는 기사 본문과 함께 읽어야 합니다.

결론

인공지능의 급격한 발전은 긍정적인 효과와 함께 부정적 영향도 가시화되고 있으며, 특히 ChatGPT의 출현 이후 사용자 수가 1억 명을 넘는 등 폭발적인 관심을 끌었습니다.

AI 도구를 과도하게 사용할 경우 인간의 인지 능력과 기억력이 퇴보할 수 있으며, AI 사용이 잦을수록 '인지적 비용'이 커지는 것으로 나타났습니다.
인공지능은 편향된 데이터를 학습하여 차별을 재생산할 수 있으며, 프라이버시 침해 문제도 심각해지고 있습니다.
AI의 오작동과 책임 문제, 감정 없는 결정, 일자리 이동, 창의성 부족, 보안 위험, 범죄 악용 등 다양한 부작용이 우려되고 있습니다.

#인공지능
#ChatGPT
#AI부작용
#프라이버시침해
#딥페이크

카카오채널 등록완료 ?

내역 확인

2022년 말, ChatGPT가 출현한 이후 인공지능은 급격한 발전을 이뤘다. 대화형 AI의 새로운 기준이 제시되었고, 출시 몇 주 만에 ChatGPT의 사용자 수는 1억 명을 훌쩍 넘으며 폭발적인 관심을 끌었다. AI 기술은 이제 텍스트를 넘어 이미지, 음성, 동영상 등 다양한 형태의 데이터를 처리할 수 있는 형태로 발전했다. 지금은 AI가 가진 긍정적인 효과와 함께, 예전에는 추상적이었던 부정적 영향이 가시화된 상황으로 평가된다. 지금부터는 인공지능이 초래할 수 있는 부작용에 대해 살펴보고자 한다.

생각하지 않는 인간

ChatGPT와 같은 AI 도구를 꾸준히 사용할 경우, 실제 인간의 인지 능력과 기억력은 퇴보할 수 있는 것으로 전해진다. 스위스비즈니스스쿨의 마이클 거리히 박사는 소사이어티저널을 통해 AI 사용과 비판적 사고 능력 간의 부정적 연관성을 지적한 바 있는데, 이에 따르면 AI 도구 사용이 잦을수록 ‘인지적 비용’은 커지는 것으로 나타난다. 단순 업무뿐 아니라 복잡한 문제 해결, 이메일 작성, 연구 등에서 AI를 과도하게 사용하면서, 인간의 사고력이 점점 둔화될 수 있다는 것이다.

만능 해결사처럼 신뢰하는 경향

AI의 대답을 마치 진리처럼 받아들이고 신뢰하는 경향도 문제로 지적된다. AI를 이야기할 때 함께 거론되는 말인 ‘딥러닝’, ‘범용’, ‘추론’ 등의 마케팅 용어는 AI가 사람처럼 사고하는 존재라고 착각하게 만들기 충분하다. 실제로 Z세대의 약 25%는 AI를 ‘의식이 있는 존재’로 인식하는 것으로 나타난다. 하지만 전문가들은 이와 같은 인식이 비판적 사고를 약화시키고, 사람들이 스스로 생각하는 능력을 포기하게 만든다고 경고한다.

데이터 편향성과 차별

인공지능은 기본적으로 없던 것을 만드는 게 아니다. 이미 사람이 만들어 놓은 데이터를 학습한다. 문제는 그 데이터에 편향과 차별이 반영돼 있는 경우다. 존재하는 모든 데이터에는 어느 정도의 편향성이 존재하며, 완전히 중립적이고 모든 내용이 옳은 경우는 존재하지 않는다. 인공지능은 기계적으로 공정할 수 없는 기계로, 사람의 편견을 고스란히 따라 배운다는 점에서 매우 위험하다.

프라이버시 침해

인공지능이 데이터베이스를 구축하기 위해서 모으고 학습하는 데이터는 실로 다양하다. 개중에는 우리의 프라이버시와 관련된 데이터의 비중도 매우 크다. AI는 우리가 검색한 기록, 위치 정보, 구매 이력 등 많은 데이터를 가지고 만들어진다. 덕분에 우리는 더욱 개인화된 서비스를 받을 수 있지만, 동시에 나의 정보가 어떻게 활용돼 타인에게 제공되는지 알 수 없다. AI의 프라이버시 침해 문제는 앞으로 더욱 커지게 될 것으로 전망된다.

AI 오작동과 책임 문제

점차 우리는 인공지능에게 더 많은 임무를 위임하게 될 것이다. 벌써 우리는 인공지능에게 우리의 운전대를 ‘자율주행’이라는 이름으로 맡기고 있다. AI는 인간처럼 ‘의도’를 가지고 행동을 하는 존재가 아니기 때문에, 예를 들어 자율주행 중에 실수나 오작동으로 인해 사고가 발생했을 때의 책임소재를 따지기가 애매한 상황이다. 법과 제도는 계속 실정에 맞춰 정비되고 있지만, AI의 발전 속도를 아직은 따라가지 못하고 있다.

감정 없는 결정

당연하지만 인공지능은 ‘감정’을 가지고 있지 않다. 우리는 어떠한 일의 우선순위를 정하고 문제를 해결하는 데에 있어, 생각보다 많은 부분에 감정을 이입하고 있다. 향후 AI는 병원에서 환자의 치료 우선순위를 정하거나, 법원에서 판결을 돕는 등의 상황에도 사용될 것으로 전망된다. 이 과정에서 감정에 기반한 인간적인 배려가 사라질 경우, 그로 인해 감정이 결여된 결정으로 사회가 움직이게 될 경우가 우려를 사고 있다.

일자리 이동

지금도 실시간으로 인공지능은 사람의 일자리를 대체하고 있다. 직종에 따라 다르지만, 이전에 사람이 수행했던 작업을 기계가 대체하는 분야는 갈수록 늘어나는 상황이다. 인공지능으로 인한 자동화는 특히 일상적이고 반복적인 작업에서의 일자리 감소를 부르고 있다. AI로 실직한 노동자들은 재교육을 필요로 하거나 실업의 상태에서 벗어나기 힘든 상황에 고착화될 수 있으며, 경제적, 사회적 어려움을 겪는 이들이 계속 늘어나게 될 전망이다.

창의성 부족

최근 엔터테인먼트, 게임 분야에서 AI를 활용한 리소스가 적극적으로 탑재되는 추세다. 이로 인해 최근에는 ‘창의성’이 점차 부족해지고 있다는 지적이 나오고 있다. 인공지능은 인간과 같은 방식으로 창의성을 발휘하거나, 만들어진 틀 밖에서 사고하는 게 불가능하다. 그렇기에 인공지능을 활용하는 영역이 늘어날수록, 양산품은 늘어나되 창의성이 발휘되는 경우는 줄어드는 결과를 맞이하게 될 것이다.

보안 위험

AI가 널리 보급됨에 따라, AI 시스템을 활용해 공격을 수행하는 해커도 급증하는 추세다. 서울시는 생성형 인공지능 등 신기술을 활용한 사이버 공격이 전년 대비 63%가 증가했다고 밝힌 바 있다. 점차 AI를 활용한 해킹은 개인과 기업의 보안 위험을 가중시킬 것으로 전망된다. 그리고 지금은 공공기관, 기업 등 단체를 대상으로 한 위협은 점차 개인에게로 퍼지게 될 것이다. 데이터 침해, 신원도용 등 다양한 보안 위험이 우려되는 상황이다.

범죄에 악용

딥페이크, 딥보이스 등의 기술로 인해, AI 기술이 범죄에 악용되는 사례도 늘고 있다. 지금은 AI 기술과 하드웨어의 발달로, 단순히 영상 속 얼굴을 바꾸는 것에 그치지 않고 실제 인물처럼 표정, 움직임 등을 재현할 수 있다. 피싱 범죄에 AI 기술을 활용한 딥보이스도 활용되는 상황이다. 딥페이크 기술은 고도화돼 전문가들도 육안으로는 진위를 판단하기 어려울 정도가 됐기에, 지금은 피해 예방을 위해 개인 차원에서의 노력도 기울여야 하는 때라 할 수 있다.