[뉴스로드] 국회에서 AI윤리 기준 마련을 위한 입법 활동이 활발하다. 국회 안팎에서는 AI면접, 이루다 사건 등 사회 문제가 잇따라 불거지고 있어, 더는 입법이 지체돼서는 안된다는 목소리가 나온다.

더불어민주당 정필모 의원실은 ‘인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안(AI기본법)’ 입법 공청회를 지난 18일 개최했다. 과학기술정보통신부, 업계, 학계 등 인사들이 참석했다.

이날 공청회에서 각계 인사들은 AI가 면접·챗봇 등 분야에서 부작용을 낳는 등 현안에 대한 해법을 논의했다. 최근 고용시장에서 기업들은 AI면접을 도입해 지원자들을 선별하는 데 필요한 시간과 비용을 절감하고 있다. 다만 지원자 입장에서는 탈락이나 합격 사유를 알 수 없어 부당함을 호소한다.

AI챗봇 문제도 올해 초 ‘이루다’ 사건으로 화제였다. 스타트업 스캐터랩은 AI챗봇 이루다를 개발하고 서비스하는 과정에서 개인정보를 수집 목적 외에 활용하면서 당사자에게 동의를 구하지 않은 혐의 등으로, 지난 4월 개인정보보호위원회로부터 과징금과 과태료 총 1억330만 원을 부과받았다.

정필모 의원실 박철민 보좌관은 AI기본법 제정을 추진하는 배경에 대해 “AI면접으로 탈락한 지원자가 왜 그런 결과를 얻었는지 누구도 설명하지 못하는 상황이 발생한다”며 “국회는 국민들이 AI를 신뢰할 수 있는 환경을 조성해야 할 의무가 있다”고 설명했다.

한국과학기술단체총연합회 이우일 회장은 “AI는 편의성을 높임은 물론, 우리 생활 양식도 바꾸고 있다”며 국가적 측면에서 AI산업 육성을 도모하는 노력은 중요하지만, 인공지능 개발에 있어서 지켜야 할 윤리 원칙을 규정하는 일도 못지 않다”며 말문을 열었다.

이어 “이러한 상황에서 AI기본법 입법  추진은 매우 시의적절하다”며 “AI사회 윤리 원칙은 단순히 윤리 명제로서가 아닌, 적어도 AI 측면에 있어서는 기본법과 같은 역할을 하게 될 것으로 기대된다”고 덧붙였다.

과학기술정보통신부는 AI 서비스의 부작용을 예방하는 데는 공감하지만, 산업 진흥에도 관심을 가져야 한다는 입장이다. AI기반정책과 김경만 과장은 “인권, 개인정보 침해 등 오남용 사례가 늘고 있어, 이를 예방하지 않으면 산업이 무너질 수 있다”고 지적했다.

그러면서 “다만 중소벤처기업의 경우 AI 오남용을 방지하기 위해 사전에 자체 검증할 수 있는 환경을 갖출 수 있을지는 의문”이라며 “서비스 품질 인증체계를 도입하는 것이 효과적일 수 있다”고 말했다.

AI산업 진흥과 규제를 담당하는 컨트롤타워가 정해져야 한다는 의견도 있었다. 과기정통부가 아닌 전문 감독기구의 소관이 돼야 한다는 설명이다.

한국인터넷기업협회 권세화 정책실장은 “AI 육성은 여러 부처에서 담당하는데, 부처 간 이견으로 정책 통일성이 없다”며 “전문성을 갖춘 부처가 컨트롤타워가 돼서 산업 육성을 이끌어야 한다”고 주장했다.

정보인권연구소도 업계 시각에 공감했다. 장여경 이사는 “현재 AI 정책은 과기정통부, 4차산업혁명위원회 등이 주도하지만, 관리감독은 국가인권위원회와 개인정보보호위원회 등이 맡아야 한다”고 강조했다.

한편 더불어민주당 김상희 의원 등은 AI기본법 제정과 별개로 지능정보화기본법도 개정(이루다 방지법)해야 한다는 의견을 보인다. 김 의원은 지난 17일  “이루다 방지법 입법 취지는 AI윤리 검증에 필요한 프라이버시 보호, 다양성 존중, 안전성 기준을 확산시키기 위함”이라고 설명했다.

김 의원은 또 “최근 문제가 됐던 이루다 이용자의 85%는 10대였기 때문에, 편향적인 AI는 아동·청소년에게 악영향을 끼칠 수 있다”며 “아동·청소년을 대상으로 하는 AI 교육 프로그램이 많이 개발되고 있어 유사 사건이 재발할 가능성이 있다”고 덧붙였다.

그러면서 “해외의 경우 인공지능이 차별·혐오적 표현이나 비윤리적인 상황을 연출할 경우, 즉각 서비스를 중단한다”며 “개정안이 통과돼 제2의 이루다 사태 방지하고 인공지능의 윤리 신뢰성 확보 기대한다”고 밝혔다.