“22대 국회, 인공지능 위험 규제하는 세계적 흐름에 동참해야”

시민단체들이 22대 총선을 일주일 앞두고 “22대 국회는 인공지능이 국민 안전과 인권에 미치는 위험을 방지할 제대로 된 규제법을 마련해야 한다”고 촉구했다.

건강권실현을위한보건의료단체연합, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 참여연대, 천주교인권위원회 등 13개 시민단체는 3일 발표한 ‘22대 총선 즈음하여 인공지능 위험 규제 정책에 대한 시민사회 공동논평’을 통해 이같이 밝혔다.

3월 28일(현지시각) 미국 백악관 예산관리국(OMB)은 업무에 인공지능을 활용하는 정부 기관들에 대하여 인공지능 위험 방지장치를 의무화한 바 있다. OMB 규칙은 인간의 생명과 안녕, 환경, 인프라 등 안전에 위험을 미치는 AI(Safety-Impacting AI)와 교육, 주택, 보험, 신용, 고용 등 인권에 위험을 미치는 AI(Rights-Impacting AI)에 대해 각각 최소 위험관리 관행(minimum risk management practices)을 의무화하는 내용을 담고 있다.

이 최소 관행은 AI 영향평가를 의무화한 것은 물론이고, 테스트와 모니터링 의무를 강하게 부여했으며, 공무원의 인적 감독과 책무성에 더해 투명성 보장까지 요구했다. 특히 차별 등 인권에 미치는 인공지능의 영향을 사전에 식별하고 평가하여 완화조치까지 마치도록 했르며 영향을 받는 당사자 집단의 의견을 수렴하고 피해를 구제하도록 명시하였다는 점에서 유럽연합의 위험기반 접근과 유사한 내용을 담고 있다.

시민단체들은 이런 미국 등 다른 나라의 움직임과 비교해 우리나라는 관련한 대책이 부족하다고 지적했다. 시민단체들은 “우리나라 21대 국회와 정부는 오히려 토종AI 기업을 위해 규제를 완화하는 내용의 인공지능법을 추진해 왔다”면서 “22대 국회는 반드시 인공지능이 국민의 안전과 인권에 미치는 위험을 방지하고, 나아가 용납할 수 없는 인공지능을 금지하는 법률을 마련해야 할 것”이라고 꼬집었다.

특히 “한국의 공공기관 인공지능의 경우 위험방지는커녕, ‘챗GPT를 활용하라’는 대통령 지시 이후로 이렇다 할 문제 진단이나 사회적 숙의 없이 앞만 보고 달려가느라 매우 위태한 형국이다. 대통령이 미국의 특정 회사 생성형 AI 제품을 명시하여 활용을 지시한 정책의 적절성 여부는 차치하고, 활용에 부합하는 공공기관의 책임성을 어떻게 보장할 것인지, 공공AI의 영향을 받게 될 국민의 안전이나 차별 등 인권에 미치는 피해를 어떻게 방지할 것인지 등을 고려하는 정책은 발표된 바가 없다”고 지적했다.

아울러 이들은 “챗GPT는 데이터의 무단 학습으로 세계 각국 규제기관에서 여러 조사와 시정조치를 요구받아 왔으며, 우리나라 개인정보보호위원회 조사에서도 챗GPT가 학습한 데이터에 주민등록번호와 여권번호 등 민감한 개인정보가 포함되었을 수 있다는 사실이 드러나기도 하였다”고 덧붙였다.

시민단체들은 “지난 8월 국가인권위원회가 국회에 인권영향평가 등 보다 실효적인 규제를 위하여 인공지능법안을 수정해야 한다는 의견을 표명하였으나, 이에 대한 수용 또한 이루어지지 않았다. 시민사회 등 인공지능의 영향을 받을 수 있는 당사자들을 포함한 사회 전반의 의견 수렴도 충분하지 않았다. 이런 가운데 최근 AI 안전 정상회의 개최를 앞두고 정부가 인공지능법안의 조급한 처리를 요구해온 상황이 더욱 우려스럽다”고 경고했다.

시민단체들은 “세계 각국에서 인공지능 규제 정책이 구체화되자 일각에서 이와 모순되는 내용의 규제완화 인공지능법안의 국내 통과를 요구하는 촌극도 발생하고 있다. 그러나 이번 총선으로 새로 탄생할 22대 국회는 AI 기업 육성을 이유로 규제를 완화하고 국민의 안전과 인권에 위험을 초래해온 21대 국회의 오류를 답습하지 말아야 할 것”이라며 “인공지능법의 소관과 거버넌스 또한, 소비자보호기구, 개인정보감독기구, 인권기구가 함께 관여하여 규제 정책을 수립해 가는 세계 각국 사례를 참고하고 새로이 검토할 필요가 있다. 22대 국회가 인공지능 위험을 규제하는 세계적 흐름에 동참하여, 국민의 안전과 인권을 보장하는 방식으로 인공지능이 활용되는 미래를 열어가기를 바란다”고 말했다.