정부에서 인공지능 가이드라인을 만들 예정이라는 소식, 들어보셨나요? AI 서비스를 업무에 사용하고 계시거나, AI 관련 회사에 다니고 계신다면 인공지능 가이드라인이 어떤 내용으로 발표가 될지 많이 궁금하실 것 같습니다.
2024년 5월 21일 유럽연합 (EU)이 세계 최초로 AI 규제법 시행을 최종 확정했다고 하는데요. 선거를 비롯한 금융, 의료, 교육 등 다양한 분야에서의 AI 기술 허용 범위와 규제 대상을 규정한 세계 최초의 법인만큼 뒤이어 미국, 일본은 물론 우리 나라에서도 가이드라인 역할을 할 수 있다고 합니다.
AI 규제법에 따르면 AI 활용 위험도를 수용 불가능한 위험, 고위험, 제한된 위험, 최소 위험과 같이 4가지 단계로 차등 규제하고 있는데요. 수용 불가능한 위험은 법 집행기관이 실시간 원격 생체인식시스템을 사용하는 행위에 속합니다. 그 외 일상적으로 접할 수 있는 의료, 교육, 시험 채점, 채용, 자율주행 등의 범위가 바로 고위험 등급으로 분류되었습니다. 이 분야에서의 AI 기술 활용 시 반드시 사람이 감독해야 하며 위험관리 시스템을 구축해야 한다고 합니다.
우리나라에선 과학기술정보통신부, 개인정보보호 위원회, 국제 인공지능 윤리협회 등 국내 여러 단체에서도 ‘인공지능 윤리/신뢰성 확보 추진계획’ ‘과기 정통부 AI 윤리성 강화 계획’등을 발표했습니다. 아직까지 계획에 대한 언급만 있을 뿐 실제 가이드라인이 발표되지는 않고 있는 만큼 현재로서는 EU의 가이드라인을 참고하여 AI 서비스를 선택하는 것이 중요할 것 같습니다.
그중에서도 최근 많은 기업이 도입하고 있는 AI 채용 서비스를 어떤 기준으로 선택해야 할지, 혹시나 도입한 뒤에 고위험 영역의 인공지능으로 가이드라인 준수에 문제가 되지 않을지 걱정되실 수 있는데요. 검증되지 않은 AI 채용 서비스를 사용할 경우, 데이터의 편향성이나 설명할 수 없는 결과로 인해 위법의 소지까지 있습니다.
⛔ 채용 관련 법령 - 헌법
- 제 11조 ① 모든 국민은 법 앞에서 평등하다. 누구든지 성별, 종교 또는 사회적 신분에 의하여 정치적, 경제적, 사회적, 문화적 생활의 모든 영역에 있어서 차별을 받지 아니한다.
- 제 32조 ④ 여자의 근로는 특별한 보호를 받으며, 고용, 임금 및 근로조건에 있어서 부당한 차별을 받지 아니한다.
- 근로기준법
- 제 6조 (균등한 처우) 사용자는 근로자에 대하여 남녀의 성(性)을 이유로 차별적 대우를 하지 못하고, 국적, 신앙 또는 사회적 신분을 이유로 근로조건에 대한 차별적 처우를 하지 못한다.
|
그렇다면 고위험 영역 인공지능 가이드라인을 준수하는 AI 채용 서비스는 어떻게 선택할 수 있을까요?
1. 편향 없는 AI
먼저, 편향 없는 AI를 선택해야 합니다. 주관적인 판단을 하는 사람의 부족한 점을 대체하기 위해 객관적으로 판단하는 AI를 도입하는 것인 만큼 AI도 편향성이 있다는 것을 인지하지 못하는 분들도 많으신데요. AI의 편향성은 겉으로 드러나지 않기 때문에 더욱 위험합니다.
⚠️ 채용 등에서 인공지능 (AI)의 공정성/편향성 논란 - 아마존 채용 성차별 논란
- 2017년 아마존 AI 채용 프로그램이 ‘여성’이라는 단어가 들어간 이력서에 불이익을 주는 것으로 확인돼 도입 전 취소
- 영국 비자 승인 인종차별 논란
- 2020년 영국 비자 승인 AI 프로그램이 백인 신청은 빨리 처리하고 유색인종 신청은 높은 비율로 거부
- 영국 고교생 학점 산정 낙인효과 논란
- 2020년 고교 졸업반 30만 명에게 AI 통해 학점 산정한 결과 사립학교 학생보다 공립학교 학생에게 낮은 점수 부여
|
AI가 “이 사람은 여자이기 때문에 채용하지 않아야 한다"라고 얘기하진 않지만 학습된 데이터를 통해 자연스럽게 여자에게 더 낮은 점수를 부여하기도 하고, 출신 지역에 따라 더 높은 점수를 부여하기도 합니다. 그렇기 때문에 AI 채용 서비스를 알아볼 때 어떤 데이터를 어떻게 학습했는지 확인해야 하는 것이죠.
프리즘과 몬스터는 개발 시작부터 편향성을 없애기 위해 개인정보를 마스킹 처리한 상태에서 학습하도록 했습니다. 자체 개발한 블라인드체커는 실제 대학 입시에서도 활용되고 있을 정도로 정확성이 보장된 서비스인데요. 해당 기능을 통해 성별, 나이, 종교, 학교, 출신지역, 혼인여부, 신체조건 등 편견 유발 요소를 모두 마스킹 처리했습니다. 그래서 온전히 내용에만 집중할 수 있는 AI 채용 서비스를 개발할 수 있었습니다.
2. 신뢰할 수 있는 AI (설명 가능한 AI)
AI 채용 서비스 도입 기업이 늘어날 당시 가장 이슈가 되었던 부분이기도 한데요. AI가 만들어낸 결과를 그 누구도 설명할 수 없다는 것이죠. 심지어 개발자도 이 AI가 어떤 이유로 결과를 만들어 냈는지 알 수 없습니다.
하지만 2024년 5월 개인정보보호위원회에서는 '자동화된 결정에 대한 개인정보처리자의 조치 기준' 고시 제정안을 6월 7일까지 행정예고한다고 밝혔는데요. 이 조치 기준에는 인공지능(AI) 기술을 이용한 기업 면접에서 불합격한 응시자가 그 결정에 관해 설명을 요구할 경우, 기업은 구체적으로 이를 소명해야한다는 내용도 담겨있습니다.
개발자도 결과에 대해 설명하지 못하는데 서비스 이용자인 인사담당자가 어떻게 설명할 수 있을까요? 네, 가능합니다. 설명 가능한 AI 채용 서비스를 사용하는 것입니다.
예를 들어, AI 서류평가 서비스 프리즘은 점수를 높게 평가하는 문장을 하이라이팅하여 제공하고, 이 문장이 왜 그렇게 평가되었는지를 알려줍니다. 자기소개서 문장 중 “인턴 기간 중 프론트엔드 개발자, 퍼블리셔와의 협업을 통해 카피킬러 리뉴얼 프로젝트에서 GPT킬러 기능을 추가하고 유지보수하는 작업을 수행했습니다.”라고 작성한 문장은 지원자가 다른 직무의 사람들과 협업을 통해 실제 프로젝트를 완료할 수 있었다는 내용인데요. 이 문장은 지원자의 협업 능력, 즉 조직 적합도를 나타내는 문장으로 평가됩니다. 이 문장으로 인해 지원자의 조직 적합도 점수는 올라가고, 해당 문장이 하이라이팅 되어 제공되는 것이죠.
📄 AI 자기소개서 프리즘 평가 기준 - BP평가: 잘 쓴 자기소개서 평가
- 답변 적합도, 내용의 구체성, 직무적합도, 본인 소개, 문법 적합도, 조직 적합도
- RP매칭: 직무에 적합한 지원자를 평가
- 채용공고 직무기술서 또는 국가직무능력표준(NCS)을 기반으로 지원자의 역량과 경험의 연관성을 분석
- 직무 수행 내용, 직무 수행 태도, 필요 지식, 필요 기술
|
AI 면접 몬스터도 동일하게 지원자의 답변 내용을 기반으로 어떤 문장이 어떤 역량을 드러내어 이런 점수가 나왔는지를 제공합니다. 점수를 못 받았다면 기업의 인재상 중에서, 혹은 직무에 필요한 역량 중에서 어떤 부분이 부족했는지를 알려주는 것이죠. 이는 답변 내용을 텍스트화하고 내용을 직무역량, 인재상에 따라 진단하기 때문에 가능한 것입니다.
🎙️ AI 면접 몬스터 평가 기준 - 종합 평가
- 면접 태도, 의사소통 능력, 직무적합도, 조직 적합도
|
인사가 만사라는 말처럼, 최근 인재 채용의 중요도가 올라가고 있는데요. 다른 기업보다 빠르게 인재를 확보하기 위해, 데이터 기반으로 정확하게 채용하기 위해서 AI 기술을 활용하는 것이 필수가 되었습니다. 하지만 고위험영역의 AI 기술인 만큼 가이드라인을 준수한 신뢰할 수 있는 AI 기술을 도입할 수 있도록 데이터 편향성과 결과의 설명가능성을 꼭 검토해 보시기를 바랍니다.
> 참고 자료
[오마이뉴스] 고위험 인공지능이 뭐야?
[데일리메디] 고위험 인공지능(AI) 금지·처벌 규제 필요성 주목
[중앙일보] EU, 세계 첫 AI규제법 승인…의료·교육 사용땐 사람감독 의무
[동아일보] ‘AI 채용’ 차별 논란에… 뉴욕 “성별-인종 편향 공개하라” 첫 규제
[연합뉴스] AI 면접관이 내린 '불합격' 통보…자세한 설명 요구할 수 있다
정부에서 인공지능 가이드라인을 만들 예정이라는 소식, 들어보셨나요? AI 서비스를 업무에 사용하고 계시거나, AI 관련 회사에 다니고 계신다면 인공지능 가이드라인이 어떤 내용으로 발표가 될지 많이 궁금하실 것 같습니다.
2024년 5월 21일 유럽연합 (EU)이 세계 최초로 AI 규제법 시행을 최종 확정했다고 하는데요. 선거를 비롯한 금융, 의료, 교육 등 다양한 분야에서의 AI 기술 허용 범위와 규제 대상을 규정한 세계 최초의 법인만큼 뒤이어 미국, 일본은 물론 우리 나라에서도 가이드라인 역할을 할 수 있다고 합니다.
AI 규제법에 따르면 AI 활용 위험도를 수용 불가능한 위험, 고위험, 제한된 위험, 최소 위험과 같이 4가지 단계로 차등 규제하고 있는데요. 수용 불가능한 위험은 법 집행기관이 실시간 원격 생체인식시스템을 사용하는 행위에 속합니다. 그 외 일상적으로 접할 수 있는 의료, 교육, 시험 채점, 채용, 자율주행 등의 범위가 바로 고위험 등급으로 분류되었습니다. 이 분야에서의 AI 기술 활용 시 반드시 사람이 감독해야 하며 위험관리 시스템을 구축해야 한다고 합니다.
우리나라에선 과학기술정보통신부, 개인정보보호 위원회, 국제 인공지능 윤리협회 등 국내 여러 단체에서도 ‘인공지능 윤리/신뢰성 확보 추진계획’ ‘과기 정통부 AI 윤리성 강화 계획’등을 발표했습니다. 아직까지 계획에 대한 언급만 있을 뿐 실제 가이드라인이 발표되지는 않고 있는 만큼 현재로서는 EU의 가이드라인을 참고하여 AI 서비스를 선택하는 것이 중요할 것 같습니다.
그중에서도 최근 많은 기업이 도입하고 있는 AI 채용 서비스를 어떤 기준으로 선택해야 할지, 혹시나 도입한 뒤에 고위험 영역의 인공지능으로 가이드라인 준수에 문제가 되지 않을지 걱정되실 수 있는데요. 검증되지 않은 AI 채용 서비스를 사용할 경우, 데이터의 편향성이나 설명할 수 없는 결과로 인해 위법의 소지까지 있습니다.
⛔ 채용 관련 법령
그렇다면 고위험 영역 인공지능 가이드라인을 준수하는 AI 채용 서비스는 어떻게 선택할 수 있을까요?
1. 편향 없는 AI
먼저, 편향 없는 AI를 선택해야 합니다. 주관적인 판단을 하는 사람의 부족한 점을 대체하기 위해 객관적으로 판단하는 AI를 도입하는 것인 만큼 AI도 편향성이 있다는 것을 인지하지 못하는 분들도 많으신데요. AI의 편향성은 겉으로 드러나지 않기 때문에 더욱 위험합니다.
⚠️ 채용 등에서 인공지능 (AI)의 공정성/편향성 논란
AI가 “이 사람은 여자이기 때문에 채용하지 않아야 한다"라고 얘기하진 않지만 학습된 데이터를 통해 자연스럽게 여자에게 더 낮은 점수를 부여하기도 하고, 출신 지역에 따라 더 높은 점수를 부여하기도 합니다. 그렇기 때문에 AI 채용 서비스를 알아볼 때 어떤 데이터를 어떻게 학습했는지 확인해야 하는 것이죠.
프리즘과 몬스터는 개발 시작부터 편향성을 없애기 위해 개인정보를 마스킹 처리한 상태에서 학습하도록 했습니다. 자체 개발한 블라인드체커는 실제 대학 입시에서도 활용되고 있을 정도로 정확성이 보장된 서비스인데요. 해당 기능을 통해 성별, 나이, 종교, 학교, 출신지역, 혼인여부, 신체조건 등 편견 유발 요소를 모두 마스킹 처리했습니다. 그래서 온전히 내용에만 집중할 수 있는 AI 채용 서비스를 개발할 수 있었습니다.
2. 신뢰할 수 있는 AI (설명 가능한 AI)
AI 채용 서비스 도입 기업이 늘어날 당시 가장 이슈가 되었던 부분이기도 한데요. AI가 만들어낸 결과를 그 누구도 설명할 수 없다는 것이죠. 심지어 개발자도 이 AI가 어떤 이유로 결과를 만들어 냈는지 알 수 없습니다.
하지만 2024년 5월 개인정보보호위원회에서는 '자동화된 결정에 대한 개인정보처리자의 조치 기준' 고시 제정안을 6월 7일까지 행정예고한다고 밝혔는데요. 이 조치 기준에는 인공지능(AI) 기술을 이용한 기업 면접에서 불합격한 응시자가 그 결정에 관해 설명을 요구할 경우, 기업은 구체적으로 이를 소명해야한다는 내용도 담겨있습니다.
개발자도 결과에 대해 설명하지 못하는데 서비스 이용자인 인사담당자가 어떻게 설명할 수 있을까요? 네, 가능합니다. 설명 가능한 AI 채용 서비스를 사용하는 것입니다.
예를 들어, AI 서류평가 서비스 프리즘은 점수를 높게 평가하는 문장을 하이라이팅하여 제공하고, 이 문장이 왜 그렇게 평가되었는지를 알려줍니다. 자기소개서 문장 중 “인턴 기간 중 프론트엔드 개발자, 퍼블리셔와의 협업을 통해 카피킬러 리뉴얼 프로젝트에서 GPT킬러 기능을 추가하고 유지보수하는 작업을 수행했습니다.”라고 작성한 문장은 지원자가 다른 직무의 사람들과 협업을 통해 실제 프로젝트를 완료할 수 있었다는 내용인데요. 이 문장은 지원자의 협업 능력, 즉 조직 적합도를 나타내는 문장으로 평가됩니다. 이 문장으로 인해 지원자의 조직 적합도 점수는 올라가고, 해당 문장이 하이라이팅 되어 제공되는 것이죠.
📄 AI 자기소개서 프리즘 평가 기준
AI 면접 몬스터도 동일하게 지원자의 답변 내용을 기반으로 어떤 문장이 어떤 역량을 드러내어 이런 점수가 나왔는지를 제공합니다. 점수를 못 받았다면 기업의 인재상 중에서, 혹은 직무에 필요한 역량 중에서 어떤 부분이 부족했는지를 알려주는 것이죠. 이는 답변 내용을 텍스트화하고 내용을 직무역량, 인재상에 따라 진단하기 때문에 가능한 것입니다.
🎙️ AI 면접 몬스터 평가 기준
인사가 만사라는 말처럼, 최근 인재 채용의 중요도가 올라가고 있는데요. 다른 기업보다 빠르게 인재를 확보하기 위해, 데이터 기반으로 정확하게 채용하기 위해서 AI 기술을 활용하는 것이 필수가 되었습니다. 하지만 고위험영역의 AI 기술인 만큼 가이드라인을 준수한 신뢰할 수 있는 AI 기술을 도입할 수 있도록 데이터 편향성과 결과의 설명가능성을 꼭 검토해 보시기를 바랍니다.
> 참고 자료
[오마이뉴스] 고위험 인공지능이 뭐야?
[데일리메디] 고위험 인공지능(AI) 금지·처벌 규제 필요성 주목
[중앙일보] EU, 세계 첫 AI규제법 승인…의료·교육 사용땐 사람감독 의무
[동아일보] ‘AI 채용’ 차별 논란에… 뉴욕 “성별-인종 편향 공개하라” 첫 규제
[연합뉴스] AI 면접관이 내린 '불합격' 통보…자세한 설명 요구할 수 있다