제목 인공지능, 편리하지만 해곃해야 할 난제 많아 글쓴이 신상구 날짜 2022.01.11 01:44

          인공지능, 편리하지만 해곃해야 할 난제 많아 


2020년 말 공개된 인공지능 챗봇 서비스 ‘이루다’는 각종 혐오 발언과 개인정보 유출 등으로 서비스가 중단됐다. 사진 출처 이루다 인스타그램
정우성 포스텍 산업경영공학과 교수
   2020년 말 ‘이루다’라는 인공지능(AI) 챗봇 서비스가 국내에 소개됐다. 20대가 실제로 쓰는 말을 자유로이 구사하면서 순식간에 폭발적인 인기를 끌었다. 하지만 얼마 되지 않아 큰 논란에 휩싸이며 서비스는 중단된다. 성소수자와 장애 등에 대한 심한 혐오 발언이 ‘이루다’에게서 나왔다. 특정인의 계좌번호와 주소 같은 개인정보도 유출됐다. 서비스의 인공지능이 방대한 양의 데이터를 학습했는데, 여기에 문제가 있었다. 무엇보다도 ‘이루다’를 만든 회사가 제공하던 다른 서비스의 데이터를 사용자 동의 없이 인공지능 학습에 사용했다.

   과거에는 데이터를 수집하고 처리하는 데 한계가 있었지만 기술 발전으로 본격적인 빅데이터 시대가 열린 지 오래됐다. 2018년 유럽연합은 개인정보 보호를 위한 규제를 도입했다. 무분별한 정보 수집과 활용을 막자는 취지다. 물론 단지 정보 보호에만 머무는 규제는 아니다. 유럽 전체를 하나의 통일된 규제와 표준화된 플랫폼으로 만들었다. 규정을 지키며 수집된 데이터를 보다 자유로이 활용할 수 있게 해 관련 산업 발전도 이끈다.

   데이터를 올바르게 수집하거나 개인정보 보호에 신경 썼더라도 인공지능의 특성상 데이터를 학습시키는 과정이 잘못될 수 있다. 편향에서 출발한 결과는 공정하지 못하다. 글로벌 기업 아마존은 10여 년간의 자료를 바탕으로 지원자들의 이력서를 검토하는 인공지능 채용시스템을 개발했다. 시스템을 도입하고 1년 정도 지나 성과를 보니 그리 공정한 평가가 이루어지지 않았다. 시스템은 여성보다 남성을 추천했는데, 이미 채용되어 있는 기술 개발 직종에 남성이 많은 편향 탓이었다. 결국 이 시스템은 몇 년 지나지 않은 2018년 폐기된다. 비단 아마존뿐 아니라 미국 정부도 비슷한 경험을 했다. 2017년 미국 법원과 경찰의 인공지능은 흑인의 재범 확률이 백인보다 두 배 높다고 판단했다. 애초에 흑인 범죄 정보가 훨씬 많이 포함된 데이터를 인공지능에게 학습시킨 탓이다.

    범죄가 일어나기 전 미리 예측해서 예비범죄자를 처벌하는 시스템. 이제 도시에서 범죄는 완전히 사라졌다. 그러던 중 강력범죄가 발생하고, 그 덕에 시스템이 완벽하지 않음을 발견한다. 그동안 잘못된 예측으로 예비범죄자가 아님에도 처벌받은 희생자가 얼마나 있을지 모른다. 특히 사형 형벌은 나중에 잘못을 발견해도 회복 불가능이다. 이런 내용의 영화 ‘마이너리티 리포트’가 개봉된 것이 벌써 20년 전이다. 그때에도 인공지능과 데이터를 지나치게 믿거나 편향되었을 때의 위험성이 화제였다.


   우리나라에서도 인공지능을 개발하고 활용할 때의 ‘AI 윤리기준’을 만들고 학교에서도 ‘AI 윤리’ 교육을 한다. 유럽 규정과 마찬가지로 산업 발전을 위한 ‘데이터 기본법’도 곧 시행된다. 다만 기술 발전의 속도가 굉장해서 제도와 사회가 쫓아가기 힘겨운 면이 있다. 인공지능 활용이 늘면서 만들어야 할 기준과 고려해야 할 대상이 더욱 빠르게 증가한다. 대표적 연구대학인 포스텍에서는 인공지능이 작곡한 국악 연주회가 여러 차례 있었다. KAIST 역시 인공지능 피아노와 소프라노 조수미의 협연을 열었다. 과연 이 음악의 저작권은 누가 가질까? 현재 저작권법은 저작물을 창작한 사람이 권리를 가진다. 인공지능의 기술과 산업을 발전시켜야 한다는 측과 인간 창작의 영역을 지켜야 한다는 생각이 충돌한다. 비단 창작의 영역만이 아니다.

   인공지능이 주행한 차가 일으킨 사고의 책임이 운전석에 앉은 사람에게 있는지, 아니면 인공지능을 만든 차량 제작자인지 명확하지 않다. 메타버스에서 아바타를 대상으로 살인이나 성희롱 범죄가 일어나면 어떤 죄로 처벌해야 할까? 메타버스의 범죄는 가해자와 피해자 모두 사람이 아니다. 게임에서 캐릭터나 아이템은 사고파는 재산으로 생각한다. 이를 빼앗는 건 절도 행위로 볼 수 있다. 그럼 메타버스의 아바타도 재산으로 봐야 할까? 아니면 현실세계의 사람과 동일한 존재인지, 이도 아니라면 그 중간 어딘가에 있는 것일까?

2002년 개봉된 영화 ‘마이너리티 리포트’는 초능력자의 예지능력과 인공지능(AI) 등을 이용해 예비범죄자를 사전에 처벌하는 시스템의 문제점을 보여준다. 월트디즈니컴퍼니코리아 제공
   결국 사람의 범위를 어디까지로 볼 것인지 고민해야 한다. 인간의 권능은 자연이 부여한 것이다. 간혹 사람이 아닌 회사나 조직이 법적 행위를 해야 한다. 그래서 법에서는 자연이 만들어낸 인간과 법이 권한을 부여한 인간, 즉 자연‘인’과 법‘인’을 규정한다. 인공지능과 메타버스 등 새로운 기술 영역에서는 새로운 제3의 ‘인’을 추가해야 할까? 기술적 논의보다는 사회적 합의의 영역이다. 특히 사회마다 문화와 기준이 다르다. 인공지능 자동차가 일으키는 다양한 사고 상황에서의 책임 소재에 대한 판단이 국가마다 다르다는 연구 결과는 이미 여러 차례 발표되었다. ‘이루다’는 그간의 문제를 개선하고 곧 새로운 서비스를 시작한다. 우리 사회에 인공지능과 데이터 서비스의 문제를 제기했던 만큼 그간의 제도 개선과 사회적 합의의 진행을 담고 있기 바란다.

   과학적으로 옳다고 반드시 사회가 이를 실행해야 하는 건 아니다. 기술적으로 진보한 제품이 항상 시장을 석권하지도 않는다. 과학과 사회는 서로 동떨어져 있지 않다. 첨단기술과 새로운 산업이 만들어지면 사회가 이를 수용하고 변화하는 과정이 필요하다. 기술은 사회를 이해하고 사회도 기술을 수용한다. 결국 하나의 바퀴만으로 세상이 굴러갈 수는 없다. 외발자전거로 위험한 곡예를 하는 건 서커스만으로 충분하다. 한두 가지만 가르치는 교육, 소통하지 않는 과학기술, 다양성을 잃은 사회는 기술이 발전할수록 더욱 위험한 곳이 된다.
                                                 <참고문헌>
   1. 정우성, "인공지능, 화려함 뒤에 쌓이는 난제들", 동아일보, 2022.1.10일자. A32면. 


시청자 게시판

2,384개(27/120페이지)
시청자 게시판
번호 제목 글쓴이 조회 날짜
공지 <시청자 게시판> 운영원칙을 알려드립니다. 박한 70696 2018.04.12
1863 우크라 살던 유대인 대가족, 러시아 추방령에 고향 떠났죠 사진 신상구 671 2022.05.03
1862 히틀러 나치정권 프로파간다의 천재 괴벨의 주요 어록 신상구 523 2022.05.02
1861 정조의 사상 통제로 조선 학문은 몰락했다 사진 신상구 1032 2022.05.02
1860 함평 최진석 기본학교 사진 신상구 1439 2022.05.01
1859 문화독립운동가 간송 전형필 선생 사진 신상구 945 2022.05.01
1858 매헌 윤봉길 의사의 농촌부흥운동과 독립운동 신상구 530 2022.04.27
1857 괴짜 소설가 이외수 타계 사진 신상구 492 2022.04.26
1856 과학기술과 경제성장, 그리고 민주주의 사진 신상구 979 2022.04.24
1855 소제동 철도관사촌 신상구 545 2022.04.21
1854 4.19혁명 62주년의 역사적 의의와 기념식 개최 현황 사진 신상구 598 2022.04.21
1853 대한민국 임시정부기념관에서 임시정부 수립 103주년 기념식 엄수 사진 신상구 606 2022.04.13
1852 ‘보협인석탑’ 천안으로 돌아와야 사진 신상구 803 2022.04.10
1851 6. 500년 모순을 뒤집은 갑오개혁 신상구 666 2022.04.08
1850 제주 4.3사건 국군 희생자 박진경 대령 이야기 사진 신상구 890 2022.04.08
1849 아우내 장터 독립만세운동의 한 주역, 김구응 열사 추모사업회 출범 사진 신상구 528 2022.04.08
1848 <특별기고> 제77회 식목일의 역사적 의의와 천안시의 산불방지 첨부파일 신상구 713 2022.04.06
1847 <특별기고> 아우내 장터 항일독립만세운동 103주년을 기념하며 사진 첨부파일 신상구 754 2022.04.06
1846 세종대왕의 리더쉽 사진 신상구 649 2022.04.06
1845 판사직 내던지고 독립투사 변신 박상진 의사 사진 신상구 578 2022.04.04
1844 김부겸 국무총리, 제74주년 제주4.3추념식 추념사 신상구 657 2022.04.03