인공지능(AI) 시대, 우리의 고민은?
스캐터랩이 개발한 AI 챗봇 이루다의 개인정보 활용과 혐오차별 발언등으로 논란이 불거졌다. 4차 산업혁명으로 모든 부문에서 변화를 일으키고있지만 기술의 발전이 심화되면서 사회적으로 많은 논란이 생기기도 한다.
인공지능과 함께 살아갈 우리는 어떤 고민을 해야할지 살펴보고자 한다. 고등학교 사회문제 탐구 Ⅰ. 사회적 소수자에 대한 차별
고등학교 정치와 법 Ⅵ. 국제관계와 한반도
고등학교 생활과 윤리 Ⅳ. 과학과 윤리 <읽기 자료 1> 한겨레 2021년 04월 23일 13면
<읽기 자료 2> 전자신문 2021년 04월 20일 06면
<읽기 자료 3> 동아일보 2021년 01월 27일 14면
<읽기 자료 4> 문화일보 2021년 02월 05일 25면 <자료 1> EU, 차별감시에 인공지능 활용 제동
인종적 편견 같은 결함에 대한 충분한 대비 없이 인공지능(AI)을 활용하거나 인공지능을 감시통제에 이용하는 행태에 유럽연합(EU)이 제동을 걸고 나섰다.
유럽연합 집행위원회는 21일 인공지능 시스템을 통한 인권침해를 막고 무분별한 기술 이용을 통제하기 위한 인공지능에 관한 일치된 규칙의 기반 규정 초안을 공개했다고 <로이터>통신이 보도했다. 이 안은 미국과 중국이 주도하고 있는 인공지능 기술에 대한 국제적 기준을 제시하기 위한 움직임이라고 통신은 지적했다. 미국의 경우 기술기업들의 인공지능 상업화 시도가 두드러지고, 중국은 감시통제 등에 인공지능을 특히 적극 활용하고 있다.
마르그레테 베스타게르 경쟁 및 기술담당 집행위원은 인공지능에서 신뢰는 필수 요소다. 오늘 내놓은 획기적 규정을 통해 유럽연합은 신뢰할 수 있는 인공지능 시스템 기준 마련의 선봉에 나섰다고 배경을 설명했다.
이 규정은 안면 인식 시스템 등을 통제에 활용하는 정부 기관과 인공지능 알고리즘을 이용해 부당한 차별을 유발할 여지가 있는 기업 등을 주로 겨냥하고 있다. 우선, 아동장애인 등 특정 집단의 취약점을 파고드는 인공지능 시스템은 사용이 금지된다. 개인의 행동을 왜곡하기 위해 인공지능 기술을 은밀하게 사용하는 것도 막았다. 또 생체정보를 활용한 신원 확인은, 실종 아동 수색이나 테러 대응 등 꼭 필요한 경우에만 허용했다. 핵심 기간시설, 이민 업무, 법 집행을 위한 인공지능 활용도 엄격히 통제된다.
기업 활동과 관련해서는, 인종 차별 등 편향된 알고리즘, 온라인 활동 정보 수집을 통한 개인 평판 점수화 등에 대한 규제가 주요 내용이다. 규정을 위반한 기업에 대해서는 전세계 매출의 6% 또는 3000만유로(약400억원) 중 큰 액수의 벌금을 부과하는 조항도 포함됐다.
이 규정이 확정되려면 적어도 2023년까지는 논의를 거쳐야 하는데, 인권단체와 기업 대변 단체는 즉각 상반된 반응을 내놨다. 비정부기구와 학자 등으로 구성된 인권단체 유럽 디지털 권리는 초안이 생체정보를 이용한 대규모 감시를 완전히 금지하지 않는 등 허점을 드러냈다며 이 때문에 차별적인 감시 기술 차단에 사각지대가 생길 것이라고 지적했다. 반면, 정보기술(IT) 업계를 대변하는 미국 컴퓨터통신산업협회(CCIA)는 이 규정이 기업들과 사용자들에게 불필요한 요식 절차를 더 부과하지 말아야 할 것이라고 밝혔다.
이 규정의 적용 범위는 유럽연합 회원국에 영향을 주는 활동이지만, 온라인을 통한 활동이나 서비스의 경우 국경 구분이 무의미하기 때문에 미국중국을 비롯한 전세계에 실질적인 영향을 끼칠 수 있다. 미국 법률사무소 쿨리의 파트리크 판에이커 유럽 정보 부문 책임자는 (이 때문에) 규정을 완화하려는 기업들과 외국 정부의 강력한 로비 활동이 예상된다고 지적했다.
출처: 한겨레 2021년 04월 23일 13면
<자료 2>AI로 코로나 중증환자 빠르게 선별
이진석 가톨릭대 인공지능학과 교수 연구팀이 코로나19 환자의 중증 진행을 조기 예측할 수 있는 인공지능(AI) 모델을 개발했다고 19일 밝혔다.
AI 모델이 적용된 웹 사이트에서 초기 환자의 임상 정보를 입력하면 즉시 중증환자를 선별할 수 있다.
이번 연구는 질병관리청을 통해 국내 100여개 의료기관으로부터 수집한 5628명의 코로나 19 환자임상정보를 바탕으로 진행됐다. 이 교수 연구팀의 분석 결과, 초기 증상과 무관하게 △고연령 △낮은 림프구 수치 △낮은 혈소판 수 △초기 호흡곤란 증상 발현 등이 중증 환자로 이어질 가능성을 높이는 것으로 나타났다.
이 교수 연구팀은 임상 결과를 바탕으로 중증도 관여 요인을 서열화하고 이를 적용한 심층 신경망(DNN) AI 모델을 개발했다. 제주권역 외상센터, 서울아산병원, 원광대 의과대학 등 3개 기관과 협력해 예측 정확도 90.4%에 육박하는 신뢰도 높은 AI모델을 완성했다.
연구팀은 세계 모든 의료진과 연구원들이 이번에 개발한 AI모델을 활용할 수 있도록 전문 웹사이트도 제작했다. 웹 사이트에서 초기 코로나19 환자 임상 정보를 입력하면 즉시 해당 환자가 중증 환자로 이어질 가능성을 확인할 수 있다.
이 교수는 심각한 중증으로 이어질 수 있는 코로나19 환자를 예측해 초기 증상과 상관없이 선제적으로 집중 치료하는 것은 사망률 감소는 물론 의료 자원의 효율적 배분에도 도움이 된다며 이번에 개발한 AI모델로 전 세계 의료진과 연구원이 손쉽게 코로나19 환자를 조기에 발견하고 선제적으로 대응할 수 있길 바란다고 말했다.
이번 연구 결과는 의료 정보 분양 상위 5%에 드는 국제 학술지인 JMR(Journal of Medical Internet Research) 4월호에 정식 게재됐다.
전자신문 2021년 04월 20일 06면
<자료 3>은행원 인사 이젠 AI가 대신합니다
신한은행이 자체 개발한 인공지능(AI) 기술을 활용해 올해 상반기(1~6월) 정기인사를 단행했다. 은행권의 AI 인사 혁신에 속도가 붙고 있다.
신한은행은 AI 최적해 알고리즘을 통해 총 2,414명에 대한 정기인사를 했다고 26일 밝혔다. 은행 측은 AI를 활용해 영업점 직원 이동을 시뮬레이션하고, 직원 승진 지표를 기반으로 AI가 추천하는 승진 모델을 적용했다며 주관적인 의사결정을 최소화했다고 설명했다.
직무 경험, 평가 이력, 거주지 등 기존 인사정보 외에 직원별 업무처리 속도, 신규 실적 같은 새로운 정보를 빅데이터로 만든 뒤 AI 알고리즘에 입력해 결과를 도출했다는 것이다. 신한은행 관계자는 앞으로 AI 인사를 통해 균등한 업무 숙련도를 갖춘 직원을 영업점에 배치해 리스크를 최소화하는게 목표라고 말했다.
매년 두 차례 수천 명의 직원을 학연지연 논란 없이 적재적소에 배치하는 건 은행들의 골칫거리였다. 은행들은 직원들의 불만을 최소화하고 인사 공정성과 투명성을 확대하기 위해 지난해부터 AI 인사 시스템 도입에 나섰다.
지난해 하반기 KB국민은행은 은행권 최초로 업무 경력과 근무 기간, 자격증 유무, 출퇴근 거리 등의 데이터 기반을 AI를 활용해 1,100여 명에 대한 인사를 단행했다. IBK기업은행은 실시간 교통 상황이 반영된 직원들의 통근 데이터를 수입해 인사에 반영할 방침이다.
한편 이번 신한은행 인사에서는 주요 부서에 여성이 대거 배치되고 과장급 승진자의 42%를 여성이 차지하는 등 여풍(女風)이 두드러졌다. 은행 측은 차기 여성 임원 후보군을 늘리려는 그룹 차원의 의지라고 설명했다.
출처: 동아일보 2021년 01월 27일 14면
<자료4>AI 면접서 차별이 이루다 문제보다 심각
성희롱 및 차별혐오 논란에 휩싸여 결국 서비스가 중단된 챗봇 이루다 사건을 계기로 인공지능(AI)의 윤리성 문제가 이슈로 떠오른 가운데 보다 심각한 문제는 AI 면접채용 과정에서 벌어지는 차별적 처우라는 지적이 나왔다.
박상철 서울대 법학전문대학원 교수는 4일 한국인공지능법학회 주최로 열린 AI 일탈을 어떻게 막을 것인가 주제의 온라인 좌담회에서 이루다 사건을 통해 떠오른 동성애자 등 소수자에 대한 혐오 표현 등 차별적 발화(發話speech) 이슈보다 더 중요한 차별적 처우(treatment)에 주목할 필요가 있다고 말했다. 박 교수는 채용 AI 모델이 지원자의 어떤 속성을 수집해 업무수행 능력을 평가하는지, 과연 입사 후 실제 결과와 일치하는지 등을 추적 조사해 알고리즘의 타당성을 검증하는 작업에 착수할 생각이라고 밝혔다.
실제 미국의 공정거래위원회 격인 연방거래위원회(FTC)는 2019년 말 시민단체의 신고로 시작된 AI 채용 면접 알고리즘의 공정성을 조사 중이다. 아마존 등 여러 기업에서 널리 사용하는 하이어뷰(Hire Vue)가 조사 대상이다. 하이어뷰는 화상으로 면접 대상자의 안구 움직임을 포함한 얼굴 표정과 손짓, 음성, 대화 내용 등 빅데이터를 수집해 합격 여부를 결정하는 것으로 알려졌다. FTC의 판정이 나오면 AI 채용 공정성에 대한 첫 기준 제시가 될 것으로 전망된다. 이날 좌담회에서는 이루다 사건이 민간 기업의 신기술 개발을 출발부터 가로막는 주홍글씨로 작용해선 안된다는데도 공감대가 이뤄졌다. 오히려 이루다 사건은 개발자사용자 가이등 등 윤리 기준이 새로 정립되는 계기가 돼야 한다는 제언이다. 정미나 코리아스타트업포럼 정책실장은 업계의 자정 능력에 맡기고 일단 지켜봐 줬으면 한다며 영미권의 프로젝트 구텐베르크처럼 대화형 AI 학습에 필요한 구어(口語) 말뭉치 같은 빅데이터를 영세 벤처기업도 싸고 손쉽게 입수할 수 있도록 정부가 공공 인프라를 구축해야 한다고 말했다. 인간컴퓨터 소통(HCI) 전문가인 이준환 서울대 언론정보학과 교수는 사람들이 대화형 에이전트를 기계 아닌 친구처럼 사회적 행위자로 인식한다며 개발자는 에이전트 설계 때부터 사용자들과 어떤 관계를 형성할 것인가 등 서비스의 목적에 맞는 캐릭터(성격) 설정에 주의해야 한다고 조언했다.
벤처기업 스캐터랩이 지난해 말 10~20대 사용자를 겨냥해 출시한 20대 여성 캐릭터 AI챗봇(chatbot) 이루다는 동성애자흑인 혐오 등 차별 발언을 하고, 남성 사용자들에게 성희롱을 당하거나 개인 신상을 드러내는 개인정보보호법 위반으로 물의를 빚은 바 있다.
출처: 문화일보 2021년 02월 05일 25면
1. <자료 1>을 읽고 미국과 중국의 인공지능 기술 활용 사례를 구체적으로 찾아 적어보세요.
미국
중국
2. <자료 2>를 읽고 의료 분야 외에 우리의 일상에서 적용되는 AI 사례를 찾아보세요.
3. <자료 3>와 <자료 4>을 읽고 AI 활용에 대한 자신의 입장을 서술해보세요.
찬성
반대
4. <자료 4>를 읽고 인공지능(AI)이 유발하는 위험 가능성은 무엇이 있는지 찾아보세요. 다음 기사를 읽고 질문에 답해보세요.
어떤 관점에서 보는가에 따라 인간과 AI의 관계는 달라진다. 효용의 관점에서 인간과 AI의 관계를 부정적으로 보면 대체 관계이다. 인간이 하던 업무를 AI가 대체하게 되면서 구조적 실업이 발생하는 등 일자리 충격이 발생할 것으로 예측한다. 반면 AI와 인간의 관계를 긍정적으로 보는 입장에서는 AI를 만든 것도 인간이기 때문에 이를 관리하면서 생산성도 늘리고 관련 산업 규모가 커지면 일자리 규모도 늘어날 것으로 예측한다. 인간과 AI를 보완관계로 본 것이다. 인간과 AI기술을 결합하여 생활의 편리성도 높이고, 절약한 시간을 통해 인간이 잘 할 수 있는 영역에 집중하면서 생산성을 더욱 높일 수 있다. 가령 자율주행기술이 발전하면, 인간이 운전하는 시간에도 다른 업무를 볼 수 있게 되는 것처럼 인간과 AI가 함께 하면 더 높은 효용을 얻을 수 있다.
한국경제 2021년 02월 01일 H22면
1. 대체 관계와 상호 보완 관계의 사례를 찾아 적어보세요.
대체 관계
상호보완 관계
의미: 서로 다른 재화인데 같은 효용을 얻을 수 있을 때 사용하는 단어
의미: 2가지 이상의 재화를 함께 사용해서 하나의 효용을 얻을 수 있을 때 사용하는 단어
2. 일자리와 실업 문제를 고려하여 인간과 AI의 관계를 생각해 보세요.
참고 자료
그림입니다.
원본 그림의 이름: x9791161571225.jpg 원본 그림의 크기: 가로 800pixel, 세로 1185pixel <도서 언맨드>
<언맨드>는 인공지능과 4차 산업혁명이 더는 낯설지 않은 일상의 용어가 된 오늘, 머지않은 미래에 우리가 맞닥뜨리게 될 질문을 품고 당도한 도전적인 소설이다.
로봇이 다양한 영역에서 인간을 대체하고, 로봇과 일상을 함께하는 라이프스타일이 대중의 동경을 받는 시대, 인간의 행동과 감정에 반응하면서 스스로 진화한 로봇은 인간처럼 감정을 느끼고 예술을 향유하며 나아가 시스템의 통제에서 벗어나 자율적이고 독립적인 존재가 되기를 꿈꾼다. <출처: 인터넷 교보문고>
그림입니다.
원본 그림의 이름: images.jfif 원본 그림의 크기: 가로 275pixel, 세로 183pixel <영화, 바이센테니얼 맨>
2005년 뉴저지. 리처드는 가족을 깜짝 놀라게 해줄 선물로 가전제품을 구입한다. 설거지, 청소, 요리, 정원 손질 등 모든 집안 일을 하나로 해결할 수 있는 첨단 가전제품. 게다가 아이들과 함께 놀아줄 장난감으로도 쓰일 수 있는 기적 같은 가전제품은 바로 가사로봇. 값비싼 선물을 받은 가족들의 표정은 놀라움 반, 낯설음 반. 로봇 앤드류(NDR-114의 애칭)는 리처드를 주인님으로, 자아도취에 빠진 그의 아내를 마님으로 부르며 공손하고 부지런한 가사 로봇의 소임을 다한다. 그러나 기계답지 않은 이상한 질문들을 던져 때론 가족들을 곤란하게, 또 때론 요절복통하게 만드는 등 점차 그의 요상스런 모습이 드러나기 시작하는데. 문제의 발단은 조립과정 중의 사소한 실수에서 비롯됐다. 리처드에게 배달될 로봇 NDR-114를 만들던 엔지니어가 샌드위치를 먹다가 마요네즈 한 방울을 로봇의 복잡한 회로 위에다 떨어뜨린 것이다. 이로 인해 로봇의 신경계에 엄청난 사건이 생겨났다. 바로 로봇에게는 "있을 수도 없고 있어서도 안되는" 지능과 호기심을 지니게 된 것! 어느 날 앤드류가 만든 나무 조각상을 보고 로봇의 인간적 재능을 발견한 리처드는 그를 마치 친아들처럼 여기게 된다. 그리고 로봇 제조회사에서 그를 불량품으로 간주, 연구용으로 분해하기 위해 리처드에게 끊임없이 반환을 요구하지만 오히려 앤드류를 보호할 뿐만 아니라 계좌를 만들어 앤드류가 작품을 팔아 얻는 수익을 적립할 수 있게 해준다. 시간이 흘러, 어린 소녀에서 아름다운 여인으로 성장한 작은 아가씨. 그런데 점차 인간의 감정을 어렴풋이 이해하기 시작한 앤드류의 강철 심장에도 수줍은 설레임이 찾아온다. 그러나 미처 깨닫기도 전에 작은 아가씨는 훌쩍 결혼을 해버리고, 아버지처럼 아껴주던 리처드가 숨을 거둔 후 앤드류는 자신을 이해해줄 자신과 같은 불량로봇을 찾아 기나긴 여행에 오른다. 수십 년 후, 천신만고의 모험 끝에 집으로 돌아오지만 이제는 할머니가 되어버린 작은 아가씨. 그러나 그녀를 쏙 빼다박은 듯한 손녀 포샤를 만나자마자 그는 이제 거부할 수 없는 사랑의 열병을 앓는다. 인간이 되고 싶은 간절한 소망으로 수술실에 눕는 앤드류. 인공피부를 입히고 인간의 장기를 심었다. 마침내 그는 통증을 느끼고, 사랑의 황홀함을 느끼는 인간이 되었다. <출처: 위키백과>
/제작=김창언(정읍정주고 교사)
